Obrovské energetické potreby systémov AI upozorňujú na udržateľnosť v polovodičovom ekosystéme. Čipový priemysel musí byť schopný vyrábať efektívnejšie polovodiče s nižším výkonom. Požiadavky na vyššiu rýchlosť spracovania však stúpajú s rozšíreným používaním veľkých jazykových modelov a celkovým nárastom množstva údajov, ktoré je potrebné spracovať. Gartner odhaduje, že 50 % organizácií prijme do roku 2026 monitorovanie s podporou udržateľnosti na riadenie spotreby energie a metrík uhlíkovej stopy pre ich hybridné cloudové prostredia. Je to nevyhnutné vzhľadom na to, že do roku 2027 bude pravdepodobne 40 % dátových centier podľa spoločnosti energeticky obmedzených.
Polovodiče môžu pomôcť s udržateľnosťou, ak sú správne navrhnuté. To platí aj pre čipy AI/ML navrhnuté pre maximálny výkon, za predpokladu, že dokážu rýchlejšie vykonávať výpočty pomocou redších algoritmov. To má za následok celkové zníženie množstva spotrebovanej energie. Tu prichádzajú na rad vlastné urýchľovače. Môžu poskytnúť významné vylepšenia v porovnaní s univerzálnymi procesormi, ktoré často pracujú v tandeme.
AI rastie
Výpočtová technika sa deje všade a všetko musí byť efektívnejšie. Inteligentné mestá, inteligentná infraštruktúra a inteligentná doprava nie sú možné bez inteligentnej technológie a čoraz viac to umožňuje AI. Ako sa AI stáva viac zakorenenou, polovodičový ekosystém sa snaží minimalizovať svoj vplyv na zdroje.
Dnešné dátové centrá už spotrebúvajú obrovské množstvo energie. Celosvetovo je ročne potrebných 460 terawatthodín (TWh) elektriny. To sa rovná celému množstvu energie vyrobenej v Nemecku. V Spojených štátoch bola spotreba elektrickej energie dátových centier v roku 2022 2,5 % z celkovej spotreby USA (~130 TWh) a podľa Boston Consulting Group sa očakáva, že sa do roku 2030 strojnásobí na 7,5 % (~390 TWh). To je ekvivalent elektrickej energie, ktorú spotrebuje asi 40 miliónov amerických domov alebo takmer tretina celkového počtu domácností v USA.
„AI má potenciál prekonať všetky transformačné inovácie vytvorené v minulom storočí,“ povedal Imran Yusuf, riaditeľ hardvérových ekosystémov v skupine Arm's Infrastructure Group. „Požiadavky na výkon výpočtovej techniky AI sú však značné, a keďže sa spoločnosti ponáhľajú s budovaním svojich schopností umelej inteligencie, riskujú, že prekročia svoje vlastné ciele v oblasti udržateľnosti. Budúce modely umelej inteligencie sa budú aj naďalej zväčšovať a inteligentnejšie, čo povedie k potrebe väčšieho množstva výpočtov, čo narastá. dopyt po energii ako súčasť účinného cyklu Jednoducho povedané, žiadna elektrina, žiadna umelá inteligencia Výpočtové systémy AI."
Iní súhlasia. „Ide o to, aby bol dizajn efektívnejší,“ povedal Neil Hand, riaditeľ marketingu spoločnosti Siemens EDA. "Môžete sa pozrieť na akýkoľvek algoritmus. Existujú rady efektívnosti. Najneefektívnejší prístup z hľadiska výkonu je spustiť nespracovaný kód na univerzálnom procesore a nechať ho naštartovať - a opekať pár marshmallow nad CPU, pretože to ide aby sa veľmi zahrialo."
Rack serverov založený na GPU NVIDIA Grace Blackwell vyžaduje 120 kilowattov. Ale sú tiež 1,{2}}-krát schopnejšie ako predchádzajúce generácie, čo sa rovná 500-krát väčšiemu počtu výpočtov na jednotku výkonu, tvrdí Rich Goldman, riaditeľ spoločnosti Ansys. "Ak staviate dátové centrum CPU a chcete robiť veľa výpočtov, môžete nahradiť CPU najnovšími GPU a znížiť výkon pre rovnaké výpočtové schopnosti. Stále budeme mať obrovské problémy s napájaním." pretože s AI robíme viac výpočtovej techniky, ale to pomôže."
Hand vidí špecializovaný účelový hardvér pre AI typu Grace Blackwell ako ďalší krok vo vývoji, ale dodáva, že sa dá urobiť oveľa viac, pretože stále ide o čipy na všeobecné použitie. Povedal, že je možné vytvoriť efektívnejšie čipy AI, ktoré sú určené na klasifikáciu a prácu so širokou klasifikáciou.
„Toto vidíme robiť NVIDIA, toto vidíme robiť Google a mnoho cloudových poskytovateľov,“ poznamenal Hand. "Existujú úrovne efektivity, ktoré môžeme urobiť, aby sme umožnili výrobu týchto čipov efektívnejšie a umožnili všetko okolo udržateľnosti, ktorá s tým súvisí. Potom môžete ísť o krok ďalej s novými technológiami, ktoré využívajú plne vyškolený model AI." a premeniť ho na hardvér, ktorý bude najefektívnejší, a bude spotrebovávať zlomok výkonu, v ktorom ste zamknutý, takže potom musíte čeliť výzve, ktorá sa zrýchľuje a ako rýchlo sa to dá zamknúť akákoľvek neurónová sieť, ktorú chcete mať na čipe, a tam bude len to kontinuum."
Steve Roddy, marketingový riaditeľ spoločnosti Quadric, súhlasil. „Sily, ktoré poháňajú explóziu modelov AI/ML, majú obrovský rozsah. Vlna generatívnej AI mení spôsob, akým jednotlivci a korporácie pracujú; môže mať vplyv na milióny pracovných miest na celom svete. Polovodičový/EDA/IP ekosystém nedokáže primerane ohnúť krivku pokrok vo vývoji masívnych modelov AI, ktorý je každoročne poháňaný investíciami v stovkách miliárd dolárov od technologických titánov, ale priemysel polovodičov a IP môže pomôcť ukázať cestu k radikálnemu zníženiu spotreby energie pri každodennom prevádzkovaní týchto modelov GenAI. -bežné používanie odvodzovania."
Najväčšou výzvou udržateľnosti pre odvodenie GenAI je konverzia režimov na celočíselné kvantované formáty s nižšou spotrebou energie. „Tímy dátovej vedy, ktoré vytvárajú modely GenAI, zdanlivo zabúdajú na skutočnosť, že referenčné modely, ktoré publikujú vo formáte s pohyblivou rádovou čiarkou, spotrebujú 10-násobok energie na odvodenie v porovnaní s rovnakým modelom prevedeným do celočíselných formátov (v porovnaní 32b s pohyblivou rádovou čiarkou s multiakumuláciou a 8 x 8 alebo 4 x 8 celé číslo MAC),“ povedal Roddy. "Nezáleží na tom, či k dedukcii dôjde v dátovom centre alebo na zariadení, úspora energie - az toho vyplývajúce výhody pre udržateľnosť - z prevodu na formáty s nižším výkonom celočíselných údajov sú značné. Táto medzera dnes existuje, pretože vedci v oblasti údajov, ktorí vytvárajú nové modely GenAI, sú matematici, nie vnorení. inžinieri."
Technológia napreduje
Keď sa dizajnérsky tím rozhodne, že je čas prejsť na hardvér, aj keď algoritmy AI napredujú tak rýchlo, bude existovať určitá stabilita, povedal Hand. "Je to trochu, ako keď sme išli do evolúcie TPU, NPU, XPU. Vo všeobecnosti neboli nejaký čas veľmi životaschopné, pretože základné stavebné bloky sa menili pravidelnejšie. Ale za posledných pár rokov tieto základné funkcie sa stabilizovali, takže teraz môžete vyrábať energeticky efektívnejší hardvér. Bude to rovnaké, ako sa veci začnú stabilizovať. Vždy budú existovať oveľa výkonnejšie algoritmy, ktoré potrebujú nový hardvér. Pravdepodobne vždy použijeme viac, ako hovoríme, pretože dátové centrá sú obrovským spotrebiteľom energie, ale čo kompenzujú z hľadiska produktivity, umožňujú nám robiť veci, ktoré by sme inak nedokázali? Veľa z toho je, či ide o komplexný čip AI alebo o komplexný čip akéhokoľvek druhu. Aspekty EDA sú približne rovnaké.
Ďalšou úvahou je, ako generovať dostatok energie pre dátové centrum. Ako umiestnite tieto dátové centrá na miesta, kde nie je dostatok energie? "Dátové centrá uvidíte častejšie na miestach, ktoré majú prebytok energie, a krajiny, ktoré majú prebytok energie, sa stanú centrami dátových centier," povedal Goldman. "Nájdu tam dátové centrum a potom vydajú informácie, ktoré získate z tejto sily."
To bude sprevádzané novými a novými zdrojmi sily. „Počuli sme reči o mini jadrových elektrárňach na napájanie jednotlivých dátových centier a aplikáciách, ako je ich umiestnenie na vrch ropných vrtov, takže metán, ktorý sa teraz dostáva do ovzdušia a znečisťuje ovzdušie, ho môžeme spáliť a vyrobiť z neho energiu. tých, ktorí budú prevádzkovať dátové centrá,“ povedal Goldman. "Musíme získať niečo také nové, aby sme mohli poháňať tieto dátové centrá."
Neoddeliteľnou súčasťou diskusie o udržateľnosti AI je efektívnosť dátového centra, kde pretrváva konflikt medzi silou potrebnou na presun údajov a tým, ako ďaleko sa tieto údaje skutočne musia presunúť. „Vidíme ľudí, ktorí stavajú veľmi veľké procesory z čipov, a to čiastočne preto, lebo vedia, že dokážu postaviť ekvivalentný systém z dvoch čipov, ktoré sú prepojené cez zbernicu, ale presúvanie údajov medzi nimi bude stáť veľa. sily,“ vysvetlil Steven Woo, kolega a významný vynálezca v Rambuse. "Čím viac vecí spájate, tým menšiu vzdialenosť musia dáta prekonať, tým menej energie miniete na presun dát. Ale potom je problém, že hustota energie stúpa. Musíte dodať viac energie a musíte ochladiť vec Takže, ako môžem ochladiť túto vec, ušetrím energiu tým, že čipy nebudú od seba vzdialené, ale teraz to musí dodať viac energie a vy? "Musím to ochladiť." To je ťah, ktorému teraz čelia architekti na systémovej úrovni."
Na úrovni dátových centier sa v serveroch čoraz viac využívajú pokročilé techniky chladenia. "Viac ľudí hovorí o kvapalinovom chladení, vrátane studených platní," povedal Woo. "Google to robil a NVIDIA o tom hovorila pre Grace Blackwell. To je technológia, ktorú dnes používajú niektoré superpočítače, a nie je to cudzia ani nová technológia. Je len otázkou času, kedy to uvidíme ako V dohľadnej budúcnosti budú pravdepodobne niektoré systémy chladené vzduchom, ale uvidíte viac systémov, ktoré využívajú nejaký druh čerpanej kvapaliny s dvojfázovým systémom chladenia."
Na extrémnom konci tohto prístupu je chladenie ponorom. "Toto nemusí byť v dohľadnej dobe životaschopné riešenie chladenia serverov dátového centra, ale mohlo by to tak byť, ak nám dôjde pristávacia dráha na potrubných kvapalinách," dodal. "Akonáhle budete schopní riadiť teplo kvapalinou alebo niečím podobným, potom môžete obmedziť rozsah teplôt, ktorými čip prechádza, čo znamená, že ak sa tepelne cykluje, nemusí zasiahnuť extrémne teploty. To je dobré." , pretože potom nemáte tepelnú rozťažnosť a kontrakciu v tomto väčšom rozsahu a niektoré ďalšie zlyhania súvisiace so spoľahlivosťou sa trochu zmiernia."
Analýza veľkých dát tiež zohráva úlohu v udržateľnosti tým, že identifikuje trendy v dizajne čipov na základe používania dátových centier. "Je tu celý vlak sily," povedal Adam Cron, uznávaný architekt spoločnosti Synopsys. "Obavy sú na úrovni kociek. Potom máte dosku, na ktorej je, stojan, v ktorom sa nachádza, farmu, v ktorej sa nachádza, a potom sa to vráti späť k prenosovým linkám. A to, čo manažéri dátových centier radi vidia, je pekný rovnomerný kýl, nerozkývaj loď príliš, pretože ak chceš veľa tu, možno budeš musieť klesnúť tam, alebo naopak."
V ideálnom prípade by sa výkon znížil všade. „Dátové centrá využívajú 1 až 2 % svetovej elektriny a sú na rýchlom kurze, aby ju využili celú,“ povedal Cron.
Výnos, prepojenia na vyrobiteľnosť
Existuje zaujímavé prepojenie medzi snahou vyrábať udržateľné polovodiče a výnosom a vyrobiteľnosťou, poznamenal Siemens' Hand. "Tieto čipy sa zväčšujú. Výnos sa preto stáva väčším problémom. Čím viac môžeme urobiť s výnosom, tým lepšie môžeme dosiahnuť udržateľnosť, pretože mŕtva kocka je plytvanie zdrojmi. Dobrá kocka je vždy lepšia vec Čo tam môžeme robiť V ekosystéme polovodičov EDA je iróniou, že niektoré z nich využívajú AI na dosiahnutie lepšieho výnosu náklady na udržateľnosť AI a možnosti udržateľnosti AI a ako spolu fungujú Vo všeobecnosti je to čisté pozitívum, neviem, pretože je ťažké nájsť tieto nespracované údaje hovorí, koľko stojí trénovanie týchto modelov, je však nákladné ich používať, ale ako potom zmerať poznatky? a technológie AI tu možno využiť. Je to len EDA robí svoju EDA vec."
Tepelná analýza a starnutie tiež zohrávajú úlohu v udržateľnosti dátového centra AI. Toto samozrejme nie je jedinečné pre AI. Platí to pre všetky žetóny,“ povedal Hand. „Môžete začať chápať, aké sú termiky na úrovni kociek, na úrovni pomocných kociek, aby ste pochopili dôsledky. Môžem teraz zostaviť 3D stoh a zabezpečiť, aby bol spoľahlivý? Môžem tieto veci spustiť na dostatočnej úrovni výkonu, aby som neurýchľoval ich zánik? Tieto schopnosti nám umožnia ísť ešte ďalej. Keď začneme rozširovať definíciu digitálneho dvojčaťa a začneme rozširovať to, čo je v ňom zahrnuté, môžete začať vidieť vplyvy na úrovni systému. A hoci to nie je špecifické pre AI a udržateľnosť, práve tu začneme vidieť veľké skoky v efektívnosti, pretože koľko je v súčasnosti pretechnizované? Koľko má v sebe príliš veľa odpadu? Keď začneme mať konzistentnejší dizajn na úrovni produktu a na úrovni problémov, sú tu aj výhody. Aby sme to konkrétne vrátili späť k AI, aby sme sa dostali k skutočným komplexným digitálnym dvojčatám s viacerými doménami, AI bude potrebná, pretože AI bude za vás robiť analýzu viacerých domén a extrakciu náhradného modelu a automatickú adaptáciu vernosti. Tie budú všetky. Čím viac AI potrebujeme, tým viac AI používame.“
Záver
Udržateľnosť nie je nová téma, ale vždy bola témou na diskusiu do budúcnosti. To už neplatí.
„Dodávatelia hardvéru a softvéru už roky chápu, že škálovanie výpočtov a udržateľnosť môžu byť v rozpore s realitou, ale nemusia byť, ak priemysel využíva svoje ekosystémové schopnosti,“ povedal Yusuf zo spoločnosti Arm. „Vezmime si napríklad Arm Total Design, čo je ekosystém popredných spoločností z celého polovodičového priemyslu, ktorí sa venujú umožňovaniu efektívnych, zákazkových silikónových riešení pre prípady použitia AI/ML. Ako taký poskytuje partnerom preferenčný prístup k výpočtovým subsystémom Arm Neoverse. (CSS), predintegrované nástroje IP a EDA, dizajnové služby, podpora zlievarne a podpora komerčného softvéru Predstavuje tiež nový spôsob myslenia, ktorý podporuje spoluprácu, flexibilitu a inovácie, pričom chápe, že vek AI musí koexistovať. s globálnymi cieľmi udržateľnosti“.
Zmenilo sa to, že udržateľnosť sa posunula z „pekného mať“ na „musíte mať“. Z pohľadu lídra v tomto odvetví spoločnosť Intel vytvorila Sedem tipov na používanie AI bez vysokých environmentálnych nákladov. Okrem toho je spoločnosť Intel presvedčená, že kľúčom k dosiahnutiu cieľov trvalej udržateľnosti je zámernosť implementácie AI do dizajnu. So zámerom môžu tí, ktorí vykonávajú iniciatívy AI, využívať výhody optimalizovaného pracovného zaťaženia (ďalšie informácie nájdete tu) a proaktívny prístup k návrhu projektu a správe IT je rozhodujúci pre maximalizáciu vplyvu iniciatív AI a minimalizáciu uhlíkovej stopy (ďalšie informácie nájdete tu prípady použitia).
Zníženie vplyvu umelej inteligencie na udržateľnosť sa v zásade prejaví na samotnej technológii. Roddy zo spoločnosti Quadric povedal, že polovodičový ekosystém môže pomôcť „zvýšením všeobecného povedomia o potrebe používania menej presných dátových formátov, ako aj vybudovaním automatizovanejších nástrojov na preklenutie priepasti medzi matematikom a zabudovaným inžinierom“.
