Mi az a ChatGPT? Milyen előnyökkel járhat a világ legnépszerűbb AI chatbotja
A DigitalOcean mesterséges intelligenciáért felelős alelnöke feltárja, hogyan tudnak a startupok gyorsabban és olcsóbban mesterségesintelligencia-megoldásokat készíteni a korlátok lebontására egy olyan területen, amelyet a nagyvállalatok és a hiperskálázók uralnak.
Évek óta a DigitalOcean ügyfele vagyok. Amikor 2016-ban először találkoztam a céggel, egy nagyon könnyen felpörgethető Linux-szervert kínált különféle disztribúciókkal. Azzal különböztette meg magát a webtárhely-szolgáltatóktól, hogy infrastruktúrát - nem pedig szoftvert - kínált szolgáltatásként.
Dillon Erb, a DigitalOcean alelnöke
A legtöbb webtárhely-szolgáltató vezérlőpultot ad Önnek, amellyel navigálhat webhelye webtárhely-élményében. Nincs irányítása a virtuális gép felett. A DigitalOcean egy virtuális csupasz fém szervert ad, amivel bármit megtehetsz, amit csak akarsz. Ez nagyon vonzott engem.
A DigitalOcean lényegében az Amazon Web Services (AWS) volt, de sokkal érthetőbb árstruktúrával. Amikor először elkezdtem kiszolgálókat futtatni rajta, lényegesen olcsóbb volt, mint az AWS az általam végzett munkához képest. A DigitalOcean azóta kibővítette szolgáltatási kínálatát, hogy infrastruktúra-képességek széles skáláját kínálja, mindezt a felhőben.
A puszta fém virtuális Linux-szervereken túl nem használtam a további képességeit, de továbbra is nagyra értékelem, hogy gyorsan és egyszerűen, bármilyen célból fel-le lehet pörgetni egy Linuxos gépet, ráadásul nagyon kedvező áron. Ezt a rendszerek tesztelésére, néhány alacsony forgalmú szerver futtatására teszem, és általában a kiterjesztett infrastruktúra részeként.
A mesterséges intelligencia (Al) felé tett nagy előretöréssel logikus, hogy a DigitalOcean az Al-műveletek számára is infrastruktúrát kezd biztosítani. Ezt vizsgáljuk meg ma Dillon Erb-lel, a vállalat mesterséges intelligencia támogatásáért és partnerkapcsolataiért felelős alelnökével. Vágjunk bele.
ZDNET: Tudna rövid áttekintést adni a DigitalOceannél betöltött szerepéről?
Dillon Erb: Társalapítója és vezérigazgatója voltam az első, dedikált GPU-felhőalapú számítástechnikai vállalatnak, a Paperspace-nek. 2023 júliusában a DigitalOcean megvásárolta a Paperspace-t, hogy az AI-eszközöket és a GPU-infrastruktúrát a hobbibarátok, fejlesztők és vállalkozások teljesen új közönsége elé tárja.
Jelenleg az AI-stratégia alelnöke vagyok, ahol izgalmas termékajánlatokon, valamint kulcsfontosságú ökoszisztéma-partnerségeken dolgozom annak biztosítására, hogy a DigitalOcean továbbra is a fejlesztők legjobb felhője legyen.
ZDNET: Melyek a legizgalmasabb AI-projektek, amelyeken jelenleg dolgozik a DigitalOceannél?
DE: GPU-felhőnk sokkal nagyobb léptékű bővítése a mesterséges intelligencia jövőjét megteremtő szoftverfejlesztők új generációjának gyors bevezetésének támogatása érdekében.
Az AI-eszközök mélyreható integrációja a teljes DigitalOcean Platformon keresztül, hogy lehetővé tegye az AI-natív felhőalapú számítástechnikai platform egyszerűsítését.
A GPU-számítások és az LLM-ek teljes erejét elhozzuk meglévő ügyfélbázisunkba, hogy folyamatosan több értéket tudjanak nyújtani ügyfeleiknek.
ZDNET: Milyen történelmi tényezők járultak hozzá a nagyvállalatok dominanciájához a mesterséges intelligencia fejlesztésében?
DE: A GPU-k költsége a legtöbbet emlegetett oka annak, hogy a mesterséges intelligencia miért volt nehéz a kisebb csapatok és fejlesztők számára versenyképes mesterségesintelligencia-termékek létrehozása. Egy nagy nyelvi modell (LLM) előképzésének költsége csillagászati lehet, és több ezer, ha nem százezer GPU-t igényel.
Azonban egy szerszámhiány is megnehezítette a fejlesztők számára a GPU-k használatát még akkor is, ha hozzáférnek. A Paperspace-nél teljes körű platformot építettünk ki az AI-modellek betanításához és bevezetéséhez.
A DigitalOceannél továbbra is az egyszerűségre, a fejlesztői tapasztalatokra és a költségek átláthatóságára összpontosítunk, ahol jelentősen bővítjük termékkínálatunkat, és mélyreható integrációkat építünk ki a teljes DigitalOcean termékcsomaggal.
ZDNET: Meg tudná beszélni azokat a kihívásokat, amelyekkel az induló vállalkozások szembesülnek, amikor megpróbálnak belépni az AI-térbe?
DE: Az erőforrásokhoz, a tehetséghez és a tőkéhez való hozzáférés gyakori kihívások az induló vállalkozások számára, amikor belépnek az AI-arénába.
Jelenleg az AI-fejlesztők túl sok idejüket (akár 75%-ot) töltik az alkalmazások készítéséhez szükséges „szerszámokkal”. Hacsak nem rendelkeznek olyan technológiával, amellyel kevesebb időt kell eltölteni a szerszámozással, ezek a vállalatok nem fogják tudni skálázni AI-alkalmazásaikat. A technikai kihívások fokozása érdekében szinte minden MI-induló vállalkozás az NVIDIA GPU-ra támaszkodik a mesterséges intelligencia modellek betanításához és futtatásához, különösen nagy méretekben.
A hardverszállítókkal vagy felhőszolgáltatókkal, például a Paperspace-nel való jó kapcsolat kialakítása segíthet az induló vállalkozásoknak, de ezeknek a gépeknek a beszerzési vagy bérbeadási költsége gyorsan a legnagyobb költségté válik, amellyel bármely kisebb vállalatnak szembe kell néznie.
Ezenkívül jelenleg harc folyik az AI tehetségek felvételéért és megtartásáért. A közelmúltban láthattuk, hogy az OpenAI-hoz hasonló cégek hogyan próbálnak tehetségeket elcsípni más olyan nagy ütősöktől, mint a Google, ami sokkal megnehezíti a tehetségek bevonásának folyamatát a kisebb cégeknél.
ZDNET: Milyen konkrét akadályok akadályozzák a kisebb vállalkozásokat a fejlett mesterséges intelligencia-technológiák elérésében?
DE: Jelenleg az AI/ML alkalmazások fejlesztése szempontjából kulcsfontosságú GPU-ajánlatok széles körben csak a nagyvállalatok számára elérhetőek. Miközben mindenki megpróbálta átvenni a mesterséges intelligencia kínálatát, vagy versenyképesebbé tenni jelenlegi AI-kínálatát, az NVIDIA 100 GPU-k iránti kereslet megnőtt.
Ezek az adatközponti GPU-k jelentősen javultak az új GPU mikroarchitektúra minden további, féléves kiadásával. Ezek az új GPU-k olyan gyorsítók, amelyek jelentősen csökkentik a betanítási periódusokat és modellkövetkeztetési válaszidőket. Viszont nagyszabású AI-modell képzést tudnak lebonyolítani minden olyan cégnek, akinek erre szüksége van.
Azonban ezeknek a GPU-ajánlatoknak a költségei sokak számára elérhetetlenek lehetnek, ami akadályt jelent a mesterséges intelligencia kihasználására törekvő kisebb játékosok belépése előtt.
Most, hogy a Deep Learning forradalom kezdeti hullámai beindultak, kezdjük látni, hogy a sikeres vállalkozások megnövekedett kapitalizációja és a technológiák megtartása. Ezek közül a legfigyelemreméltóbb az OpenAI, amely a GPT 3.5 modelljének a rendkívül sikeres ChatGPT API-vá és webalkalmazásokká való átalakításával érte el hatalmas piaci részesedését.
Ahogy egyre több vállalat igyekszik utánozni az olyan vállalatok sikerét, mint az OpenAI, előfordulhat, hogy a Deep Learning egyre fejlettebb technológiáit nem adják ki a nyílt forráskódú közösségnek. Ez hatással lehet az induló vállalkozásokra, ha a kereskedelmi és a kutatási modellek hatékonysága közötti szakadék áthidalhatatlanná válik.
A technológiák javulásával lehet, hogy bizonyos modellek, például az LLM-ek korszerű eredményeit csak valóban hatalmas erőforrás-allokációval lehet elérni.
ZDNET: Hogyan törekszik a DigitalOcean arra, hogy egyenlő feltételeket biztosítson az induló vállalkozások és a kisebb vállalkozások számára a mesterséges intelligencia fejlesztésében?
DE: Az egyenlő versenyfeltételek megteremtése a mesterséges intelligencia fejlesztésében olyan dolog, amit már korán felismertünk, hogy kritikus fontosságú az iparág egészének növekedése szempontjából. Míg a legjobb kutatók bármely területen meg tudják indokolni a nagy kiadásokat, a feltörekvő technológiákat kihasználni kívánó új startupok ritkán rendelkeznek ezzel a luxussal.
Az AI-ban ez a hatás még nyilvánvalóbbnak tűnik. A Deep Learning modell betanítása szinte mindig rendkívül költséges. Ez magának a hardvernek, az adatgyűjtésnek és az alkalmazottaknak az erőforrásköltségek együttes függvénye.
Annak érdekében, hogy orvosoljuk ezt a problémát, amellyel az iparág legújabb szereplői szembesülnek, több célt is szeretnénk elérni felhasználóinknak: Könnyen használható környezet létrehozása, termékeinkben rejlő reprodukálhatóság bevezetése, valamint a lehető legalacsonyabb költségek melletti hozzáférés biztosítása.
Az egyszerű felület létrehozásával az induló vállalkozásoknak nem kell időt és pénzt égetniük a platformunkon való képzésükkel. Egyszerűen be kell dugniuk a kódjukat, és menni kell! Ez jól illeszkedik a DigitalOcean-en végzett munka megismételhetőségéhez: könnyű megosztani és kísérletezni a kóddal minden termékünkben. Ezek együttesen segítik a végső célt, a költségek csökkentését.
Végső soron a legkedvezőbb árú élmény biztosítása az összes szükséges funkcióval a legjobb módja az induló vállalkozások igényeinek.
ZDNET: Mennyire fontos, hogy a mesterséges intelligencia fejlesztése bevonja a kisebb szereplőket, és milyen lehetséges következményei lehetnek, ha nem?
DE: Az igazság az, hogy a mesterséges intelligencia fejlesztése hihetetlenül erőforrás-igényes. A Deep Learning adatkészletek és modellek méretének és összetettségének folyamatos, gyakorlatilag exponenciális növekedése azt jelenti, hogy a kisebb szereplők nem tudják megszerezni a szükséges tőkét ahhoz, hogy lépést tartsanak a nagyobb szereplőkkel, például a FAANG-cégekkel [Facebook/Meta, Apple, Amazon, Netflix , Google/ábécé].
Ezenkívül az NVIDIA GPU-k túlnyomó többségét olyan hiperskálázóknak adják el, mint az AWS vagy a Google Cloud Platform. Ez jelentősen megnehezíti a kisebb cégek számára, hogy megfizethető áron juthassanak hozzá ezekhez a gépekhez, a GPU-ellátási lánc realitásai miatt.
Ezek a gyakorlatok hatékonyan csökkentik a különböző kutatási projektek számát, amelyek potenciálisan finanszírozáshoz juthatnak, és a startupok akadályozhatják munkájuk végzését a gépek egyszerű rendelkezésre állása miatt. Hosszú távon ez stagnáláshoz vezethet, vagy akár veszélyes torzításokat is bevezethet a mesterséges intelligencia fejlesztésébe a jövőben.
A DigitalOceannél hiszünk abban, hogy az emelkedő dagály minden hajót felemel, és a független fejlesztők, startupok és kis startupok támogatásával az iparág egészét támogatjuk. Azáltal, hogy megfizethető hozzáférést biztosítunk minimális többletköltséggel, GPU-gépeink lehetőséget kínálnak az AI felhőben történő fejlesztésének nagyobb demokratizálására.
Ezáltal arra törekszünk, hogy lehetőséget adjunk a kisebb cégeknek, hogy olyan nagy teljesítményű gépeket használhassanak, amelyekre szükségük van az AI forradalmának továbbviteléhez.
ZDNET: Melyek a fő tévhitek a kezdő és kisvállalkozások mesterséges intelligenciájának fejlesztésével kapcsolatban?
DE: A prioritást mindig egyenlően kell megosztani az infrastruktúra optimalizálása és a szoftverfejlesztés terén. Végső soron a Deep Learning technológiák teljes mértékben azon gépek teljesítményétől függenek, amelyeken betanították őket, vagy amelyeken következtetéseket levonnak.
Gyakori, hogy fantasztikus ötletekkel rendelkező emberekkel találkozunk, de egy tévhit arról, hogy mennyi munkát kell fektetni bármelyik területre. A startupok ezt széleskörű munkaerő-felvételi gyakorlatokkal kompenzálhatják, hogy ne kerüljenek egy bizonyos irányú fejlődés hiányába.
ZDNET: Hogyan tudják a kisebb vállalatok leküzdeni a mesterséges intelligencia technológiája és fejlesztése terén meglévő tudásbeli hiányosságokat?
DE: A nyílt forráskódú technológiát népszerűsítő fiatal vállalkozók és rajongók felvétele nagyszerű módja annak, hogy lépést tartson a sikerhez szükséges tudással. Természetesen mindig a PhD szintű vezető fejlesztők és gépi tanulási mérnökök alkalmazása fogja a legnagyobb lökést adni, de az ezeket a technológiákat népszerűsítő fiatal vállalkozók selejtes operátorok.
Az olyan népszerű technológiák területén, mint a Stable Diffusion és a Llama LLM, ezt ma már valós időben láthatjuk. Rengeteg különféle nyílt forráskódú projekt van, mint például a ComfyUI vagy a LangChain, amelyek viharral sodorják a világot. Úgy gondolom, hogy a startupok garantálhatják a jövőjüket a felsőbb szintű, tapasztalt mérnökök és a vállalkozó szellemű, de nyílt forráskódú projektek újabb fejlesztőinek felhasználása.
ZDNET: Milyen tanácsot adna azoknak a vállalkozóknak, akik az AI-t szeretnék integrálni üzleti modelljeikbe?
DE: Először fontolja meg a nyílt forráskódú lehetőségeket. Nagyon sok új vállalkozás létezik, amelyek lényegében átcsomagolnak egy meglévő, népszerű nyílt forráskódú erőforrást, különösen az LLM-ek. Ez azt jelenti, hogy viszonylag egyszerűen megvalósítható egy kis gyakorlással. Minden vállalkozónak meg kell tanulnia az alapvető Python-követelményeket, amelyek az alapvető LLM-ek futtatásához szükségesek.
ZDNET: Milyen jövőbeli előrelépéseket lát az AI-ban, amelyek különösen előnyösek lesznek az induló vállalkozásoknak és a növekvő digitális vállalkozásoknak?
DE: Az LLM-ek költsége (különösen a következtetésekhez) gyorsan csökken. Ezenkívül a nyílt forráskódú modellfejlesztés eszközparkja és ökoszisztémája gyorsan bővül. Ezek együttesen a mesterséges intelligencia minden méretű startup számára elérhetővé teszik, költségvetéstől függetlenül.
ZDNET: Van valami utolsó gondolata vagy javaslata azoknak az induló vállalkozásoknak, amelyek AI útjára indulnak?
DE: Az LLM-ek, például a GPT megjelenése jelentős ugrást jelentett az AI-képességek terén. Ezek a modellek nemcsak a meglévő alkalmazásokat fejlesztették tovább; ajtókat nyitottak új lehetőségek előtt, átformálták az AI fejlesztési környezetét és annak lehetőségeit.
A tudósok felépítettek valamit, amivel a mérnökök most már futhatnak. A mesterséges intelligencia „API” pillanatot él át, és ezúttal az egész fejlesztési folyamatot felborították.
Még mindig vannak nyitott kérdések [például]: "Hogyan kezeljük a nem determinisztikus API-kat? Milyen típusú programozási nyelveket használjunk, hogy beszéljünk ezzel az új intelligenciával? Használunk viselkedésvezérelt fejlesztést, tesztvezérelt fejlesztést, vagy AI-vezérelt fejlesztés?" És még több.
A lehetőség azonban hatalmas, és a kategória-meghatározó startupok teljesen új hulláma jön létre.
mit gondolsz?
mit gondolsz? Adott-e Dillon megbeszélése ötletet arra vonatkozóan, hogyan haladjon tovább AI-projektjeivel? Tudassa velünk az alábbi megjegyzésekben.