Milliárdossá tehet a mesterséges intelligencia 2025-ben?
Számos új chipfunkció, beleértve az analóg számítást is, hatékonyabb, megbízhatóbb és biztonságosabb mesterséges intelligencia processzort biztosít több piac számára - állítja Venkat Mattel vezérigazgató.
A számítógépipar megváltoztatásáért folytatott harc, hogy a gépek jobban ki tudják számítani a mesterséges intelligencia feladatait, különösen a mély tanulást, továbbra is új és érdekes potenciális jövőbeli sztárokat szül.
Hétfőn a kaliforniai San Jose-i Ceremorphic hivatalosan is debütált a két éve lopakodó módban tartott chipekkel kapcsolatos erőfeszítésekkel, és megvitatja azt a chipet, amely a vállalat állítása szerint forradalmasítja az AI számítástechnika hatékonyságát az energiafogyasztás szempontjából.
"Ma ellentmondásos, de a nagyobb teljesítmény alacsonyabb teljesítményt jelent" - mondta Venkat Mattela, a cég alapítója és vezérigazgatója a ZDNetnek adott interjúban a Zoomon keresztül.
A Mattela úgy véli, hogy az alacsony fogyasztású működésre vonatkozó számos szabadalom lehetővé teszi, hogy cége chipje ugyanazt a pontosságot produkálja a gépi tanulás aláírási feladataiban, sokkal kevesebb számítási erőfeszítéssel.
"Amit megpróbálok tenni, az nem csak egy félvezető chip felépítése, hanem a matematika és az algoritmusok is, hogy csökkentsem a munkaterhelést" - mondta. "Ha egy munkaterhelés száz műveletet igényel, akkor ötven műveletre akarom csökkenteni, és ha ötven művelet kevesebb energiába kerül, mint száz, akkor azt akarom mondani, hogy az enyém egy nagyobb teljesítményű rendszer."
"Nagyon türelmes vagyok [...] Nem csinálok fokozatos dolgokat" - mondja Venkat Mattela alapító és vezérigazgató a mérnöki és üzleti megközelítéséről. Utolsó cégét, a Redpine Signals-t 2020-ban adta el a Silicon Labs-nek 314 millió dollárért.
A Mattela egy erősen versenyképes piacra gázol, ahol az olyan startupok, mint a Cerebras Systems, a Graphcore és a SambaNova hatalmas összegeket kaptak, és ahol minden eredményük ellenére még mindig küzdenek az iparág nehézsúlyú Nvidia megdöntéséért.
A Mattela hajlamos a hosszú távú szemléletre. Utolsó startupja, a Redpine Signals tizennégy év alatt épült fel, 2006-tól kezdődően. Ezt a céget 2020 márciusában adták el a Silicon Labs chipgyártónak 314 millió dollárért az alacsony fogyasztású Bluetooth és Wi-Fi chip technológiáért. (A chipet most a nemrégiben bemutatott Garmin Fenix 7 okosórában használják.)
A Redpine-nél és most a Ceremorphicnál tett tizenhét éves erőfeszítés tanulsága kettős: "Nagyon türelmem van" - jegyezte meg kuncogva. És "nem csinálok fokozatos dolgokat."
A Mattela azt állítja, hogy amikor a chiptervezés egy területén felmerülő problémával foglalkozik, az olyan módon történik, hogy érdemben megelőzze a technika állását. A Silicon Labs által megvásárolt Redpine vezeték nélküli chip technológia ellensúlyozta az óriásvállalatok, a Qualcomm és a Broadcom ajánlatait a Bluetooth és a Wi-Fi terén.
"Nagy kihívást vállaltam, szembementem velük, de csak egy mérőszámmal, ultraalacsony energiafogyasztású vezeték nélküli, huszonhatszor kevesebb energiával, mint az iparág legjobbjai" - mondta Mattela.
Most a Mattela úgy véli, hogy hasonlóan nyerő hangsúlyt fektet a teljesítményre, valamint három másik tulajdonságra, amelyeket egyedülállónak tart az AI chipek piacán, és elengedhetetlennek tartja a tudományág számára: megbízhatóság, kvantumbiztonságos biztonság és több piacon való működés képessége.
Hogy mindez lehetséges legyen, a Mattela megtartotta a Redpine-nél kifejlesztett mikroprocesszoros eszközöket, amelyek a Ceremorphic alapját képezték, és tizennyolc alkalmazottat tartott meg ebből az erőfeszítésből, akiket további 131 emberrel egészített ki. A cégnek irodái vannak San Joséban, a hivatalos központban, és egy csillogó új irodaházban az indiai Hyderabadban.
A Mattela érdekes listával rendelkezik 26 amerikai szabadalommal, amelyeken az ő neve szerepel, és egy hasonlóan érdekes lista 14 amerikai szabadalmi bejelentést az elmúlt néhány évből.
Amit a Mattela "hierarchikus tanulási processzornak" vagy HLP-nek nevez, az egy 2 gigahertzesen futó gépi tanulási elemből áll; egyedi lebegőpontos egység ugyanazon az órajelfrekvencián; egyedi tervezésű, többszálas számítási feladatok ütemezési megközelítése; és speciálisan kialakított 16 sávos PCIe gen-6 áramkör, amely a processzort a rendszer gazdaprocesszorához, például x86 chiphez csatlakoztatja.
Ezek közül az utolsó, a PCIe rész szinte saját cég lehetne, állítja Mattela.
"Jelenleg a PCIe-4 gyártásban van, a domináns, és a PCIe-5 csak tavaly indult" - magyarázta a MattelA. "Velünk együtt a PCIe-6 2024-ben lesz gyártásban - ez a technológia az enyém."
"Ez 12 millió dollár, ha ezt licencelni kellene" - mondta a PCIe-6-ról. "Ez önmagában is jelentős dolog a tervezéshez." A PCIe kapcsolat lehetővé teszi a Mattela számára, hogy tovább finomítsa a teljes rendszer energiafogyasztását - mondta.
A chip előnyének középpontjában a digitális alatt nyugvó analóg áramkörök állnak. Egyes vállalatok széles körben használtak analóg áramköröket az AI feldolgozásához, a legismertebb a Mythic startup, amely 2020-ban felfedett egy chipet, amely képes megsokszorozni a vektorokat és mátrixokat - a gépi tanulás szívét - nem digitális szorzásként, hanem folyamatos energiahullámformák kombinációjaként az Ohm-törvénynek megfelelően, amit a vállalat analóg számítástechnikának nevez.
A Ceremorphic HLP chip szelektívebben fogja használni az analóg számítástechnikát, mint a Mythic, mondta a Mattela a ZDNetnek.
A chip funkcionalitásának hierarchiájának legalacsonyabb szintjén "analóg számításokat végzek" - magyarázta Mattela. "De magasabb szinten nem csinálok analógot, mert szeretném megkönnyíteni a programozási modellt."
Ez "huszonhárom mintát" jelent a szorzáshoz-felhalmozáshoz analógban a HLP mikroarchitektúráján keresztül. Az analóg szorzás hatékonyabb feszültségfelhasználást jelent, mint a digitális, érvelt.
"Magasabb szinten úgy néz ki, mint egy vektorfeldolgozás és adatút-feldolgozás kombinációja."
A különböző chipfunkciók hozzájárulnak a Mattela által támogatott négy tulajdonság lehetővé tételéhez.
Az energiatakarékos működés mellett megbízhatóság is van. Az AI szilíciumnak ma megbízhatósági problémája van - állította Mattela.
A gépi tanulási chipek jelentősen nagyobbak lettek, mint a hagyományos mikroprocesszorok. Az Nvidia "A100" GPU-ja már klasszikus mércével mérve meglehetősen vaskos, 826 négyzetmilliméteres. De a startupok új chipjei sokkal nagyobbak lehetnek, mint például a Crebras WSE-2 chipje, amely 45 225 négyzetmilliméteres, egy nyolc hüvelykes szilícium ostya szinte teljes felülete.
"Ha több szilícium van, nagyobb a meghibásodás esélye, mert vannak alfa-részecskék, neutronbombázás" - jegyezte meg Mattela. "Az elmúlt két évben az emberek már azt mondták, hogy a rendszereim meghibásodnak az adatközpontban."
A Mattela azt állítja, hogy az egyedülálló hardver-szoftver kombináció lehetővé teszi chipje számára, hogy "megjósolja a hibákat és kijavítsa azokat".
"A megbízható teljesítményű számítástechnika a legfontosabb hozzájárulásunk" - mondta.
A Mattela által hangsúlyozott harmadik minőség a biztonság, beleértve a jövőbeni kvantumrendszerek elleni védelmet, amelyek elképzelhetően megsérthetik a hagyományos adatbiztonságot.
"Eddig a biztonsági rendszereket úgy tervezték, hogy megakadályozzák az emberek általi hackelést" - magyarázza Mattela. "De a jövőben nem feltételezheti, hogy a számítási teljesítmény korlátozott lesz, és hogy két napba telik, amíg megtöri [egy rendszert], jobb, ha feltételezzük, hogy talán két perc!"
A Ceremorphic chip "kvantumrezisztens véletlenszám-generálással rendelkezik" - mondta Mattela, amelyet "egy nagyon nagy teljesítményű számítógép nem tud feltörni". Mattela szerint a gyakorlatban ez azt jelenti, hogy egy ilyen rendszer feltörése talán egy hónapot vesz igénybe, így az ügyfélnek ideje lenne megváltoztatni a biztonsági kulcsot a támadás meghiúsításához.
A negyedik tulajdonság az, amit a Mattela skálázásnak nevez. A Mattela ez alatt azt érti, hogy több piacot is megszólít egy chippel. A chip képes lesz működni a mély tanulásban, az autóipari alkalmazásokban, a robotikában, az élettudományokban és valamilyen jövőbeli Metaverse alkalmazásban.
Ugyanaz a HLP szolgál a betanításra és a következtetésre, a gépi tanulás két aspektusára.
Mattela szerint a több piacra való skálázás relevánsabbá teszi a chipjét, mint a versenytársaké. Azzal érvel, hogy az olyan startupok, mint a Cerebras, lenyűgözőek, de végső soron nem annyira relevánsak.
"Ez nagyon finom mérnöki munka, igen, és mindig csinálhatsz valamit, amit senki más nem tud megtenni, de a célod nem az, hogy olyasmit csinálj, amit senki sem csinál" - mondta Mattela.
"Az Ön célja, hogy olyan eredményt hozzon létre, amely mindenki pénzt keres, és ennek hatása van, van némi értéke a piac számára."
Természetesen a Cerebras és a többiek szállítanak termékeket, míg a Mattela még nem is gyártott mintákat.
Ahhoz, hogy a Ceremorphic terve nyerő legyen, a Mattela zsebében van egy ásznak tűnő dolog: a Taiwan Semi 5 nanométeres chipeljárása, amely a gyártó óriás egyik "fejlett technológiája", egy olyan chipeljárás, amelyhez nem minden vásárló fér hozzá.
"Amikor azt mondom az embereknek, hogy 5 nanométert csinálok, azt mondják: Hogyan lehetne 5 nanométert elérni" - mondta Mattela nyilvánvaló örömmel. "A több százmilliós finanszírozású vállalatok némelyike nem 5 nm-ben van; 7 nm-ben vannak."
Ennek egyik oka a Mattela és a TSM közötti szoros kapcsolat évekkel ezelőtt, amikor az analóg chipóriásnál, az Analog Devices-nél dolgozott. Ennél is fontosabb, hogy a Redpine eladása a Silicon Labs-nek növelte hitelességét. A TSM-nek azt mondja, hinnie kellett, hogy képes megvalósítani a termékét, mert csak akkor kapja meg a TSM teljes kifizetését.
"Sok-sok évet vesz igénybe" - mondta Mattela a gyártási folyamatra utalva. "200 millió dollárt kell költenem, le kell állítanom egy chipet, a chipnek működnie kell, és ha működik, akkor [a TSM] akkor kap fizetést."
Mattela csapata prototípusként tervezte meg a chipet, kezdetben az úgynevezett shuttle futásban, egy kis tétel chipben, a valamivel kevésbé kifinomult 7 nanométeres eljárásban. A vállalat idén 5 nanométerre bővíti transzfertételeit.
Míg a Ceremorphic arra számít, hogy jövőre adja meg az első vásárlói mintákat chipjéből, az 5 nanométeres teljes körű gyártás valószínűleg csak 2024-ben fog megtörténni. "Ezek nagyon agresszív dátumok" a tervezéshez egy olyan élvonalbeli folyamatban, mint az 5-nano, jegyezte meg a Mattela az idővonalról.
A kaputényező költség. Rámutat, hogy az űrsiklóról az ostya teljes használatára való áttérés - az úgynevezett teljes maszk - a különbség 2 millió és több mint 10 millió dollár között.
Ehhez a Ceremorphicnak további tőkét kell bevonnia. Eddig a Ceremorphic önfinanszírozó, a Mattela és barátai és családja 50 millió dollárt gyűjtött össze egy A sorozatú körben, ami rendkívül kis összeg az olyan mesterséges intelligencia chip startupokhoz képest, mint a SambaNova, amelyek milliárdos kockázati tőkét kaptak.
A Mattela által a jövőbeni finanszírozáshoz előnyben részesített út a partnerségeken keresztül történik, bár 2023-ban egy hivatalos B sorozatú befektetési forduló is lehetséges.
A HLP első példánya PCI-kártyaként lesz, amely összefoglalja azt, amire a chipnek szüksége van a számítógépes rendszerben való működéshez. "A tipikus rendszer-OEM-ek a célpont" - mondta. Úgy véli, hogy ez a piacra jutás szélesebb körben elérhetővé teszi gépét.
"Minden vállalatnak szüksége van egy oktató szuperszámítógépre" - mondta. "Olyan képzési szuperszámítógépet akarok biztosítani, amely minden vállalkozás számára megfizethető lehet."
Ellentétben valami olyan mamuttal, mint a Facebook
Research SuperComputer for AI - 6,080 GPU és 175 petabájt flash tároló - a Ceremorphic PCI blade célja a technológia hozzáférhetőbbé tétele.
"Ha egy épület méretű számítógép egytizedét egy dobozban tudok biztosítani, az az édes hely."
Bár az ő része még nem kerül szállításra, a Mattela már gyors megrázkódtatást jósol az AI chip startup piacon. Az olyan kihívók, mint a Graphcore, sok pénzt gyűjtöttek és nagyon kevés bevételre tettek szert; azt feltételezi, hogy csak töredéke annak, amit az Nvidia az AI negyedével keres.
"Ma négy-öt vállalat van; ma közel ötmilliárd tőke van, ez sok pénz" - mondta Mattela. De "az első számú vállalat minden negyedévben kétmilliárd dollárt keres", utalva az Nvidia adatközpont-bevételeire.
"Ha még az első számú vállalat 1%-át sem keresi, és pénzt veszít, az nem üzlet" - mondta Mattela.
A megrázkódtatás inkább előbb, mint utóbb bekövetkezik, Mattela megjósolja a pazarlás miatt. "A mai forró piacon elmentek és pénzt kaptak, ami jó nekik, de bármilyen pénzt is kaptak, nem hiszem, hogy igazán rájöttek, hogyan költsék el a pénzt, mert az elköltött összeg egyszerűen abnormális" - mondta.
A fiatal mérnökök hatalmas összegeket kapnak az AI startupoknál - állítja. "Ha egy friss 200 ezer dollárt kap [éves fizetésként], az nem fenntartható" - mondta, a technológiai ipar zsargonját használva a legfiatalabb pozícióra -, "mert a srác két év után produktív lesz, de addigra a pénz már elfogyott."