2025 legjobb Dell laptopjai: Szakértői tesztelés és véleményezés
Az Nvidia GTC vitaindítója az egészségügy, a robotika, az ipari automatizálás és az autóipari alkalmazások új számítógépes platformjairól, valamint több hosztolt szolgáltatásról is beszélt.
Az Nvidia társalapítója és vezérigazgatója, Jensen Huang nyitotta meg a vállalat őszi GTC konferenciáját azzal, hogy bejelentette, hogy a jövő hónapban általánosan elérhető lesz a vállalat új "Hopper" GPU-ja a Dell és mások rendszereiben. A vitaindító előadáson az egészségügyi, robotikai, ipari automatizálási és autóipari felhasználásra szánt számítógépek, valamint számos felhőszolgáltatás is szerepelt, köztük az Nvidia által üzemeltetett felhőszolgáltatás a mélytanulási nyelvmodellekhez, például a GPT-3-hoz.
Az Nvidia vezérigazgatója, Jensen Huang kedden nyitotta meg a vállalat őszi GTC konferenciáját azzal, hogy bejelentette, hogy a vállalat "Hopper" grafikus feldolgozó egysége (GPU) sorozatgyártásban van, és a jövő hónapban olyan partnerek kezdik el szállítani, mint a Dell, a Hewlett Packard és a Cisco Systems. A GPU-t hordozó Nvidia rendszerek a jövő év első negyedévében lesznek elérhetők - jelentette be Huang.
A Hopper chip, más néven "H100", az adatközpont feladataira, például a mesterséges intelligenciára irányul. Az Nvidia szerint a H100 "drámaian" csökkentheti az AI-programok telepítésének költségeit. Például a korábbi csúcskategóriás GPU, az A100 320 munkája mindössze 64 H100 chippel elvégezhető, amihez csak a szerverszámítógépek számának ötödére lenne szükség, és 3,5-szeresére csökkentené az energiafelhasználást.
A Hoppert először márciusban mutatta be az Nvidia. A vállalat ebben a hónapban bemutatott néhány benchmark pontszámot a chiphez az MLPerf gépi tanulási feladatok csomagjában.
A Hopper elérhetősége mellett Huang megvitatta az új "szolgáltatásként" kínált felhőajánlatot, az Nvidia NeMo LLM-et a "nagy nyelvi modellekhez", amely lehetővé teszi az ügyfelek számára, hogy könnyen telepítsenek nagyon nagy természetes nyelvi feldolgozási modelleket, például az OpenAI GPT-3-at és a Megatron-Turing NLG 530B-t, az Nvidia által a Microsofttal közösen kifejlesztett nyelvi modellt.
A jövő hónaptól "korai hozzáférésű" módon elérhető NeMo szolgáltatás a GPT-3-at és más modelleket előre betanított módon biztosítja, és egy fejlesztő hangolhatja az Nvidia által "azonnali tanulásnak" nevezett módszerrel, amelyet az Nvidia a Google tudósai által tavaly bevezetett technikából adaptált.
A NeMo egy változatát kifejezetten a nagy nyelvi modellek, például a gyógyszerkutatás orvosbiológiai felhasználására fogják üzemeltetni, az úgynevezett NVIDIA BioNeMo szolgáltatást.
Az Nvidia szerint a Hopper GPU négyötödével csökkentheti a nagy AI-feladatok futtatásához szükséges számítógépes csomópontokat az előd adatközpont GPU-jához, az A100-hoz képest.
A bejelentésről szóló sajtótájékoztatón a ZDNet megkérdezte az Nvidia gyorsított számítástechnikai vezetőjét, Ian Buckot, hogy a vállalat milyen korlátokat vezet be a mesterséges intelligencia etikájáról szóló szakirodalomban jól dokumentált nagy nyelvi modellekkel való visszaélések megelőzése érdekében.
"Igen, jó kérdés, ez a szolgáltatás a jövő hónaptól kezdődő EA-ba [korai hozzáférés] kerül, és közvetlenül a vállalathoz érkezik, és valójában azért tesszük, hogy különböző vállalatokkal, különböző vállalatokkal együttműködjünk a munkafolyamataik fejlesztése érdekében" - mondta Buck.
Hozzáadta Buck,
Nyilvánvalóan bármit megtesznek az Nvidia-val együtt, és minden felhasználó hozzáférést kér a szolgáltatáshoz, így egy kicsit többet fogunk megérteni arról, hogy mit csinálnak, szemben egy általános, nyílt ajánlattal. Ismét arra próbálunk összpontosítani, hogy nagy nyelvi modelleket hozzunk el a vállalatok számára, és ez az ügyfeleink piacra lépése.
A ZDNet ezt követően megjegyezte Bucknak, hogy a nagy nyelvi modellek szakirodalmában előforduló visszaélések közé tartoznak a képzési adatokba ágyazott torzítások, nem feltétlenül rosszindulatú használat.
"Az Ön állítása, hogy ha korlátozott a hozzáférés a vállalati partnerekhez, akkor nem lesznek olyan dokumentált visszaélések, mint például az elfogultság a képzési anyagokban és a kimeneti termékben?" - kérdezte a ZDNet.
Buck válaszolt:
igen. Úgy értem, az ügyfelek saját adatkészleteiket fogják behozni a tartományi képzésbe, tehát minden bizonnyal nekik kell viselniük ennek a felelősségnek egy részét, és mindannyiunknak, mint közösségnek, felelősséget kell vállalnunk. Ezt a cuccot az interneten képezték ki. Meg kell érteni, és meg kell határozni, hogy mi a jelenlegi tartományspecifikus megoldásokhoz. A probléma egy kicsit korlátozottabb, mert egyetlen szolgáltatást próbálunk nyújtani egy adott felhasználási esethez. Ez az elfogultság létezni fog. Az embereknek vannak elfogultságai, és sajnos ezt természetesen az emberek hozzájárulására képezték ki.
A prezentáció számos dedikált számítógépes platformot is tartalmazott számos iparág számára, beleértve az egészségügyet és az OmniVerse-t, az Nvidia metaverzum szoftverplatformját.
A platformok közé tartozik az IGX az egészségügyi alkalmazásokhoz, az IGX a gyárakhoz, az OVX számítástechnikai rendszerek új verziója, amelyet az OmniVerse fejlesztésére szántak, és az Nvidia DRIVE számítástechnikai platformjának új verziója autókhoz, a DRIVE Thor, amely a Hopper GPU-t az Nvidia közelgő CPU-jával, a "Grace"- vel kombinálja.