Kuva 1: Dense Wavelength Division Multiplexing Co{1}}Packaged Optics (DWDMCPO) tärkeimmät edut. (Kuvan luotto: Scintil Photonics)
Palvelinkeskusten suunnittelualalla on sanonta: "Käytä kuparikaapeleita aina kun mahdollista ja turvaudu optiseen tekniikkaan vain, kun kuitu on ehdottoman välttämätöntä." Alan pragmaattinen lähestymistapa on ollut vuosien ajan priorisoida edullisia-kuparikaapeleita, kunnes fysiikan lait pakottavat teknologisen päivityksen. Mutta nykyään, kun tekoälyn (AI) laskentaklusterit ovat siirtymässä kohti "laskentatehotehtaita", jotka käyttävät miljoonia grafiikkasuoritusyksiköitä (GPU) ja palvelinkeskusten kustannus-tehokkuuteen kohdistuu valtavia paineita, ihmiset huomaavat, että tämä "ei{4}}optiikan{5}}vastaava vaihtoehto on pian saapunut."
Verkkoarkkitehdit ovat pitkään tienneet, että kuparikaapeleilla on merkittäviä rajoituksia siirtoetäisyydelle suurissa{0}}nopeuksissa, mutta harvat ovat analysoineet taustalla olevia syitä fyysisestä perustavanlaatuisesta näkökulmasta. Vaikka verkkoinsinöörit ovat työntäneet kuparikaapelin siirtoetäisyyden ja kaistanleveyden rajat äärimmäisyyksiin asiantuntijuutensa avulla, fysiikan lakien rajoituksia ei voida voittaa; Jopa kaikkein nerokkaimmilla teknisillä suunnitelmilla on vaikeuksia voittaa kuparikaapeleiden luontaiset rajoitukset. Tämän ymmärtäminen selittää, miksi ala on siirtymässä nopeasti Co-Packaged Optics (CPO) -teknologiaan.
Mitä korkeampi on kuparikaapeleiden kautta lähetettyjen sähköisten signaalien taajuus, sitä suurempi symbolinopeus ja kaistanleveys sekä sitä enemmän informaatiota ne voivat kuljettaa. Ongelmana on, että signaalitaajuuden kasvaessa lähetysetäisyys pienenee merkittävästi. Signaalin katoamiseen on kaksi pääasiallista syytä: iho-ilmiö ja dielektrisyyshäviö.
Ihovaikutus: Virran "pintapitoisuus".
Kun vaihtovirtasignaali kulkee kuparikaapelin läpi, muuttuva magneettikenttä indusoi pyörrevirtoja johtimeen. Näiden pyörrevirtojen synnyttämä magneettikenttä kumoaa signaalin magneettikentän kaapelin keskellä. Mitä nopeammin signaalin magneettikenttä muuttuu-eli mitä korkeampi taajuus-sitä voimakkaampi tämä kumoamisvaikutus tulee.
Suora tulos on, että virta "puristuu" johtimen erittäin ohueen pintakerrokseen; tämän kerroksen paksuus tunnetaan ihon syvyyteenä. Nykyinen signaalinsiirto AI-palvelinkeskuksissa käyttää yleensä noin 53 GHz:n taajuuksia. Tällä taajuudella kuparikaapeleiden pintasyvyys on vain 0,3 μm. Tällainen ohut siirtokerros käyttää alle 1 % johtimen poikki-pinta-alasta, jolloin kaapelin resistanssi nousee pilviin-jopa yli 100-kertaisesti ylittää tasavirtaresistanssin.
Dielektrinen häviö: "Energian hajoaminen" eristekerroksessa
Toinen suuri syyllinen kuparikaapeleiden signaalin vaimenemiseen on dielektrinen häviö. Gigahertsitason korkean Sähkökentän nopeiden vaihteluiden ja molekyylien viivevasteen välinen viive muuttaa signaalin sähkömagneettisen energian lämpöenergiaksi, mikä johtaa energiahäviöön.
Kaksoistappiot: Kuparikaapeleiden kohtalokas heikkous
Kun skin-ilmiö ja dielektrinen häviö toimivat yhdessä, kuparikaapeleiden signaalihäviö kasvaa eksponentiaalisesti taajuuden noustessa.
Tämän havainnollistamiseksi: 50 GHz:n taajuudella, jopa korkealaatuisilla-kuparikaapeleilla, näiden kahden efektin yhteishäviö kuluttaa yli 90 % signaalin tehobudjetista 2 metrin lähetysetäisyydellä. Kuparikaapeleiden fyysiset ominaisuudet sanelevat sovittamattoman ydinristiriidan: kaistanleveyttä ja siirtoetäisyyttä ei voida saavuttaa samanaikaisesti.
Dense Wavelength Division Multiplexing Co{0}}Packaged Optics (DWDMCPO)
Tänä päivänä tekoälyharjoitteluklustereiden suorituskyvyn pullonkaula on siirtynyt kelluvan{0}}pisteen operaatioista sekunnissa (FLOPS) kaistanleveysvaatimuksiin.
Skaalattavissa verkoissa, joissa on yhtenäinen muisti, tarvitaan uuden sukupolven verkkotekniikkaa, joka täyttää useat vaatimukset:
|Koska virrankulutuksesta tulee rajoittava tekijä datakeskusten käyttöönotoissa, tarvitaan pienempi virrankulutus bittiä kohden.
| Koska liukuluku{0}}operaatiot eivät enää ole pullonkaula, jokaiselle prosessorille on tarjottava suurempi kaistanleveys.
| Kun fyysinen tila kuitujen käyttöönotolle tulee rajalliseksi, on saavutettava suurempi integraatiotiheys;
| Risti{0}}telineen vaakasuora skaalaus edellyttää pidempiä lähetysetäisyyksiä.
| Muistin verkkotunnuksen johdonmukaisuuden ylläpitäminen ja grafiikkasuorittimen käytön parantaminen edellyttää erittäin-alhaista viivettä.
| Myös korkea luotettavuus ja huollon helppous ovat tärkeitä.
Kun häntäviiveestä tulee keskeinen rajoitus, yllä olevien vaatimusten täyttäminen lisää merkittävästi grafiikkasuorittimen käyttöastetta (jotkin malliarviot osoittavat, että käyttö voi yli kaksinkertaistua), vähentää merkittävästi verkon virrankulutusta ja parantaa mallin -päähän{1}} suorituskykyä. Tällä hetkellä DWDMCPO on ainoa tekninen lähestymistapa, joka pystyy samanaikaisesti täyttämään nämä tiukat vaatimukset, ja se tuo kauaskantoisia-kustannus-hyötymuutoksia hyperskaalauksen palvelinkeskusten operaattoreille.
Lähettämällä useita valon aallonpituuksia yhden kuidun yli, DWDMCPO-tekniikka tarjoaa jokaiselle GPU:lle useita leveitä, hitaita{0}}kanavia. Skaalaamalla lähetettyjen aallonpituuksien määrän 1:stä 8:een, 16:een tai jopa enemmän, tämä geometrinen skaalauskuvio on valmis mullistamaan tekoälyverkot, aivan kuten DWDM-tekniikka mullisti Internetin runkoverkon 25 vuotta sitten.
DWDM:n yksikanavainen-siirtonopeus on noin 50–64 Gbit/s, mikä kuuluu alhaisen-nopeuden lähetysluokkaan. Tämän ominaisuuden ansiosta suunnittelijat voivat yksinkertaistaa datan koodausmenettelyä PAM4:stä NRZ:hen. Tämä yksinkertaistaminen eliminoi useita kalliita ja{7}}tehokkaita signaalinkäsittelyvaiheita, mikä vähentää virrankulutusta ja latenssia kaksinkertaisesti virtaviivaistamalla signaalin lähetyspolkua.
Hännän latenssi on "hiljainen tappaja", joka heikentää datakeskuksen ROI:ta. Kun GPU-klusterit käsittelevät datatunnisteita, ne vaativat jatkuvan, ennustettavan bittivirran tulon. Jos yksittäinen bitti kokee lähetysviiveen, muu klusterin osa tulee käyttämättömäksi, mikä vähentää merkittävästi prosessorin käyttöä. Kun klusterin prosessorien määrä kasvaa, p999-tason loppubittiviiveen todennäköisyys kasvaa merkittävästi ja prosessorien käyttöaste laskee vastaavasti.
Ilman alhaista-viivettä, vähätehoista, pitkän kantaman-DWDMCPO-tekniikkaa verkkojen skaalautuvuus olisi rajoitettua, ja suurten kielimallien (LLM) suorituskyky olisi näin ollen rajoitettu. Suuremmat-mittakaavaiset, tasaisemmat, matalan-viiveen skaalautuvat verkot voivat tukea suurempia avain-arvovälimuistia, mikä lisää suoraan mallin kontekstiikkunan kokoa ja sisällön relevanssia, mikä laajentaa tehokkaasti LLM:n tehokasta työmuistia. Lisääntynyt alhaisen-viiveen kaistanleveys tarjoaa myös mahdollisuuden lisätä muuntajakerrosten määrää, mikä mahdollistaa mallien syvemmän ajattelu- ja päättelykyvyn. Lyhyesti sanottuna: sirujen välisten kommunikaatiorajoitusten rikkominen antaa LLM:ille mahdollisuuden tallentaa enemmän tietoa työmuistiin ja suorittaa enemmän päättelyvaiheita ilman pätkimistä.
Kuparikaapelointi oli epäilemättä loistava tekniikka aikanaan, mutta sen luontaiset fyysiset rajoitukset ovat luoneet kiireellisen tarpeen kehittyneemmille verkkoteknologioille, jotka parantavat merkittävästi hypermittakaavaisten datakeskusten sijoitetun pääoman tuottoa ja laajentavat LLM-yritysten ominaisuuksia.
Muutaman vuoden kuluttua kokonaan kuparikaapelointiin rakennetuista tekoälyn palvelinkeskuksista tulee yhtä käsittämättömiä kuin kauko{0}}internet-yhteydet, jotka perustuvat pelkästään kupariin.
Hypermittakaavaisten palvelinkeskusten toimijoiden, sijoittajien, LLM-kehittäjien ja muiden tekoälyinfrastruktuurin sidosryhmien on otettava tämä teknologinen suuntaus vakavasti: se ei ainoastaan muokkaa perusteellisesti palvelinkeskusten kustannustehokkuutta{0}}, vaan myös laajentaa jatkuvasti tekoälyn ominaisuuksien rajoja. Yritykset, jotka ottavat käyttöön DWDMCPO-teknologian ensin, saavuttavat arkkitehtonisia etuja kustannusten, virrankulutuksen ja suorituskyvyn suhteen. nämä edut vahvistuvat edelleen, kun tekoälyinfrastruktuuri laajenee.
