Ha a mesterséges intelligencia által generált kód meghibásodik, kinek kell a legnagyobb felelősséget kitennie?
Az Nvidia Hopper grafikus processzorára épülő H100 NVL-t arra szabták, hogy nagy mennyiségű következtetési feladatot kezeljen, és előrejelzéseket készítsen nagyszabású természetes nyelvi modellekkel.
A H100 NVL, amelyet Jensen Huang vezérigazgató kedden mutatott be az Nvidia GTC konferenciájának vitaindítójában, a nagy nyelvi modellek, például a ChatGPT előrejelzéseinek kezelésére specializálódott.
Az OpenAI ChatGPT-jéről, mint a mesterséges intelligencia világának „iPhone-pillanatáról” szóló hírre utalva, az Nvidia társalapítója és vezérigazgatója, Jensen Huang kedden nyitotta meg a vállalat tavaszi GTC-konferenciáját, amelyben két új chipet mutattak be az ilyen alkalmazások működtetésére.
Az egyik, az NVIDIA H100 NVL for Large Language Model Deployment, az úgynevezett nagy nyelvi modelleken végzett „következtetési” feladatok kezelésére lett kialakítva, amelyekre a ChatGPT példa a természetes nyelvű programokra.
A következtetés a gépi tanulási program bevezetésének második szakasza, amikor egy betanított programot futtatnak, hogy előrejelzésekkel válaszoljon a kérdésekre.
A H100 NVL 94 gigabájt kísérő memóriával rendelkezik, mondta az Nvidia. A Transformer Engine gyorsítása "akár 12-szer gyorsabb következtetési teljesítményt biztosít a GPT-3-on, mint az előző generációs A100 adatközponti léptékű" - mondta a vállalat.
Az Nvidia kínálata részben úgy tekinthető, mint az Intel leállítására szolgáló játéknak, amelynek szerver-CPU-i, a Xeon család már régóta uralja a következtetési feladatokat, míg az Nvidia a „képzés” területét irányítja, azt a fázist, amikor egy gépi tanulási program, például a ChatGPT. először fejlődött ki.
A H100 NVL várhatóan az idei év második felében lesz kereskedelmi forgalomban, mondta az Nvidia.
A második, kedden bemutatott chip az L4 for AI Video, amely a cég szerint "120-szor nagyobb AI-alapú videoteljesítményt tud nyújtani, mint a CPU-k, 99%-kal jobb energiahatékonyság mellett."
Az Nvidia szerint a Google az első felhőszolgáltató, amely G2 virtuális gépekkel kínálja az L4-es videochipet, amelyek jelenleg privát előzetes kiadásban vannak. Az Nvidia szerint az L4 beépül a Google Vertex AI modellboltjába.
Az Nvidia által kedden bemutatott új következtetési chipek közé tartozik az L4 az AI-videóhoz balra és a H100 NVL LLM-ekhez, jobbról a második. Mellettük a meglévő chipek, az L40 a képgeneráláshoz, balról a második, és a Grace-Hopper, jobbra, az Nvidia kombinált CPU és GPU chipje.
Az Nvidia szerint a Google kínálata mellett az L4-et több mint 30 számítógépgyártó rendszerében teszik elérhetővé, köztük az Advantech, az ASUS, az Atos, a Cisco, a Dell Technologies, a Fujitsu, a GIGABYTE, a Hewlett Packard Enterprise, a Lenovo, a QCT és a Supermicro.
Huang vitaindítójában számos utalás volt a ChatGPT alkotójára, az induló OpenAI-ra. A Huang 2016-ban kézzel szállította a vállalatnak az első Nvidia DGX rendszert. Az OpenAI pedig a Hopper GPU-kat fogja használni a programjait futtató Azure-számítógépeken - közölte az Nvidia.
Ezen a héten a konferencia részeként Huang "tűz melletti csevegést" folytat az OpenAI társalapítójával, Ilya Sutskeverrel, a ChatGPT egyik vezető szerzőjével.
Az új chipek mellett Huang egy új szoftverkönyvtárról beszélt, amelyet a cuLitho néven a chipgyártásban fognak bevezetni.
A program célja, hogy felgyorsítsa a fotomaszkok készítését, vagyis azokat a képernyőket, amelyek alakítják a fényt a szilícium ostyára vetítve áramkörök készítéséhez.
Az Nvidia társalapítója és vezérigazgatója, Jensen Huang tartja vitaindító beszédét a négynapos GTC konferencia megnyitóján.
Az Nvidia azt állítja, hogy a szoftver "a jelenleg elérhetőnél kisebb tranzisztorokkal és vezetékekkel rendelkező chipeket tesz lehetővé". A program emellett felgyorsítja a teljes tervezési időt, és "növeli az energiahatékonyságot" a tervezési folyamatban.
Az Nvidia szerint 500 DGX számítógépe, amelyen a H100 GPU-ja fut, 500 NVIDIA DGX H100 rendszer munkáját képes elvégezni, 40 000 CPU munkáját, "a számítási litográfiai folyamat minden részét párhuzamosan futtatva, segítve az energiaszükségletek és a lehetséges környezeti hatások csökkentését ."
A szoftvert a világ legnagyobb szerződéses chipgyártója, a Taiwan Semiconductor Manufacturing tervezési rendszerébe integrálják - mondta Huang. A Synopsys tervezőszoftverébe is integrálni fogják, amely azon maroknyi vállalat egyike, amelynek szoftvereszközeit új chipek padlólemezeinek készítésére használják.
A Synopsys vezérigazgatója, Aart de Geus korábban azt mondta a ZDNET-nek, hogy a mesterséges intelligenciát olyan tervezési kompromisszumok feltárására fogják használni a chipgyártásban, amelyekre az emberek még csak gondolni sem hajlandók.
A keddi bejelentések összefoglalója az Nvidia hivatalos blogbejegyzésében érhető el.