1. ábra: A sűrű hullámhossz-osztásos multiplexelés Co{1}}csomagolt optika (DWDMCPO) fő előnyei. (Kép jóváírása: Scintil Photonics)
Van egy mondás az adatközpontok tervezése terén: "Használjon rézkábelt, ahol csak lehetséges, és csak akkor folyamodjon optikai technológiához, ha az üvegszál feltétlenül szükséges." Az iparág gyakorlatias megközelítése évek óta az alacsony költségű rézkábelek előtérbe helyezése volt, amíg a fizika törvényei ki nem kényszerítik a technológiai fejlesztést. De manapság, amikor a mesterséges intelligencia (AI) számítástechnikai klaszterei a grafikus feldolgozóegységek (GPU) millióit telepítő „számítási teljesítménygyárak” léptéke felé haladnak, és az adatközpontok költséghatékonysága óriási nyomással szembesül, az emberek rájönnek, hogy ez az „optikai{5} technológiai alternatíva nem hamarabb megérkezett.
A hálózattervezők már régóta tisztában vannak azzal, hogy a rézkábelek átviteli távolsága jelentős mértékben korlátozza a nagy sebességű{0}}forgatókönyveket, de kevesen elemezték alapvető fizikai szempontból a mögöttes okokat. Bár a hálózatmérnökök szakértelmükkel a végletekig kitágították a rézkábeles átviteli távolság és sávszélesség határait, a fizika törvényeinek korlátait nem lehet leküzdeni; még a legzseniálisabb mérnöki tervek is küzdenek a rézkábelek eredendő korlátainak leküzdéséért. Ennek megértése megmagyarázza, miért tér át az iparág sürgősen a Co-Packaged Optics (CPO) technológia felé.
Minél nagyobb a rézkábeleken keresztül továbbított elektromos jelek frekvenciája, annál nagyobb a szimbólumsebesség és a sávszélesség, és annál több információt tudnak továbbítani. A probléma az, hogy a jelfrekvencia növekedésével az átviteli távolság jelentősen csökken. A jelvesztésnek két fő oka van: a bőrhatás és a dielektromos veszteség.
Bőrhatás: Az áram "felületi koncentrációja".
Amikor a váltakozó áramú jel áthalad egy rézkábelen, a változó mágneses tér örvényáramot indukál a vezetőben. Az örvényáramok által generált mágneses mező kioltja a jel mágneses terét a kábel közepén. Minél gyorsabban változik a jel mágneses tere,-azaz minél magasabb a frekvencia,-annál erősebb lesz ez a kioltó hatás.
Ennek közvetlen eredménye az, hogy az áram a vezető rendkívül vékony felületi rétegébe "beszorul"; ennek a rétegnek a vastagságát bőrmélységnek nevezzük. A mesterséges intelligencia adatközpontjaiban a jelenlegi jelátvitel általában 53 GHz körüli frekvenciát használ. Ezen a frekvencián a rézkábelek héjmélysége mindössze 0,3 μm. Egy ilyen vékony átviteli réteg a vezető keresztmetszeti területének kevesebb, mint 1%-át használja-, aminek következtében a kábel ellenállása az egekbe szökik,{7}}még az egyenáramú ellenállást is több mint 100-szorosan meghaladja.
Dielektromos veszteség: "Energia disszipáció" a szigetelőrétegben
A rézkábelek jelgyengülésének másik fő oka a dielektromos veszteség. Nagy-frekvenciás forgatókönyvek esetén gigahertzes szinten a kábel szigetelő dielektrikumában lévő molekulák nem tudnak lépést tartani az elektromos tér gyors ingadozásaival. Az elektromos tér gyors ingadozása és a molekulák késleltetett reakciója közötti késleltetés a jel elektromágneses energiáját hőenergiává alakítja, ami energiaveszteséget eredményez.
Kettős veszteségek: A rézkábelek végzetes gyengesége
Ha a skin-effektus és a dielektromos veszteség összehangoltan hat, a rézkábelek jelvesztesége a frekvencia növekedésével exponenciálisan növekszik.
Ennek világos szemléltetésére: 50 GHz-es frekvencián, még jó minőségű rézkábelek esetén is, e két hatás együttes vesztesége 2 méteres átviteli távolságon belül a jelteljesítmény-költségvetés több mint 90%-át fogja felemészteni. A rézkábelek fizikai tulajdonságai egy kibékíthetetlen magellentmondást diktálnak: a sávszélesség és az átviteli távolság nem érhető el egyszerre.
Sűrű hullámhossz-osztásos multiplexelési társ{0}}csomagolt optika (DWDMCPO)
Mára az AI-oktatófürtök teljesítményének szűk keresztmetszete a lebegőpontos{0}}pontos műveletek másodpercenkénti (FLOPS) helyett a sávszélesség-követelmények felé tolódott el.
A konzisztens memóriával rendelkező, méretezhető hálózatokban a hálózati technológia új generációjára van szükség ahhoz, hogy többféle igényt kielégítsen:
|Mivel az energiafogyasztás korlátozó tényezővé válik az adatközpontok telepítésében, alacsonyabb bitenkénti energiafogyasztásra van szükség;
| Mivel a lebegőpontos{0}}műveletek már nem jelentik a szűk keresztmetszetet, nagyobb sávszélességet kell biztosítani minden processzor számára;
| Mivel az üvegszálas telepítéshez szükséges fizikai tér korlátozottá válik, nagyobb integrációs sűrűséget kell elérni;
| A cross{0}}rack vízszintes skálázás engedélyezéséhez támogatni kell a hosszabb átviteli távolságokat;
| A memóriatartomány konzisztenciájának megőrzéséhez és a GPU kihasználtságának javításához ultra-alacsony késleltetés szükséges;
| A nagy megbízhatóság és a könnyű karbantartás szintén elengedhetetlen.
Amikor a késleltetési idő alapvető megszorítássá válik, a fenti követelmények teljesítése jelentősen megnöveli a GPU-kihasználást (egyes modellbecslések szerint a kihasználtság több mint kétszeresére nőhet), jelentősen csökkenti a hálózati energiafogyasztást, és javítja a modellek végpontjait{0}}végig{1}. Jelenleg a DWDMCPO az egyetlen olyan technikai megközelítés, amely egyidejűleg képes megfelelni ezeknek a szigorú követelményeknek, és messzemenő költség-haszon átalakításokat fog hozni a hiperskálás adatközpontok üzemeltetői számára.
Azáltal, hogy több hullámhosszú fényt továbbít egyetlen szálon, a DWDMCPO technológia minden GPU-t több széles,{0}}alacsony sebességű csatornával lát el. Az átvitt hullámhosszok számának 1-ről 8-ra, 16-ra vagy még többre skálázásával ez a geometriai skálázási minta készen áll arra, hogy forradalmasítsa az AI-hálózatokat, ahogyan a DWDM technológia forradalmasította az internet gerincét 25 évvel ezelőtt.
A DWDM egycsatornás{0}}átviteli sebessége hozzávetőlegesen 50–64 Gbit/s, ami az alacsony-sebességű átviteli kategóriába tartozik. Ez a jellemző lehetővé teszi a mérnökök számára, hogy egyszerűsítsék az adatkódolási sémát PAM4-ről NRZ-re. Ez az egyszerűsítés kiküszöböli a több költséges és energiaigényes jelfeldolgozási lépést, és a jelátviteli útvonal egyszerűsítésével kettős csökkenést ér el az energiafogyasztásban és a késleltetésben.
A farok késleltetése a "néma gyilkos" erodáló adatközpont ROI-ja. Amikor a GPU-fürtök adattokeneket dolgoznak fel, folyamatos, kiszámítható bitfolyam-bemenetre van szükségük. Ha egyetlen bit átviteli késleltetést tapasztal, a fürt többi része tétlen lesz, ami jelentősen csökkenti a processzor kihasználtságát. A fürtben lévő processzorok számának növekedésével jelentősen megnő a p999-szintű végbitek késésének valószínűsége, és ennek megfelelően csökken a processzorok kihasználtsága.
Alacsony-késleltetésű, kis-teljesítményű, nagy-hatótávú DWDMCPO technológia nélkül a hálózatok méretezhetősége korlátozott lenne, és ennek következtében a nagy nyelvi modellek (LLM) teljesítménye korlátozott lenne. A nagyobb-léptékű, laposabb, alacsony-késleltetésű skálázható hálózatok támogathatják a nagyobb kulcs-értékű gyorsítótárakat, közvetlenül növelve a modell kontextusablak méretét és a tartalom relevanciáját, ezáltal hatékonyan bővítve az LLM hatékony munkamemóriáját. A megnövelt alacsony-késleltetésű sávszélesség a transzformátorrétegek számának növelését is magában rejti, lehetővé téve a modellek számára, hogy mélyebb gondolkodási és érvelési képességekkel rendelkezzenek. Röviden: a chipek közötti kommunikációs korlátok áttörése lehetővé teszi az LLM-ek számára, hogy több információt tároljanak a munkamemóriában, és több érvelési lépést hajtsanak végre akadozás nélkül.
A rézkábelezés kétségtelenül nagyszerű technológia volt a maga korában, de eredendő fizikai korlátai sürgős igényt teremtettek a fejlettebb hálózati technológiák iránt, amelyek jelentősen javítják a befektetések megtérülését a hiperméretű adatközpontok esetében, és bővítik az LLM-ek képességeit.
Néhány éven belül a teljesen rézkábelre épülő mesterséges intelligencia-adatközpontok olyan elképzelhetetlenek lesznek, mint a kizárólag rézre támaszkodó, távolsági{0}}internetkapcsolatok.
A hiperméretű adatközpontok üzemeltetőinek, befektetőknek, LLM-fejlesztőknek és az AI-infrastruktúrában érdekelt feleknek komolyan kell venniük ezt a technológiai trendet: ez nemcsak az adatközpontok költséghatékonysági{0}}környezetét fogja alapjaiban átformálni, hanem az AI-képességek határait is folyamatosan bővíti. Azok a vállalatok, amelyek először alkalmazzák a DWDMCPO technológiát, építészeti előnyöket teremtenek a költségek, az energiafogyasztás és a teljesítmény tekintetében; ezek az előnyök tovább erősödnek, ahogy az AI-infrastruktúra bővül.
