A Red Hat felszabadítja az Enterprise Linux AI-t - és ez valóban hasznos
Sok mesterséges intelligencia program a nagy felhajtás ellenére nem olyan hasznos. Másrészt a Red Hat Enterprise Linux AI segítséget nyújt a rendszergazdáknak és a fejlesztőknek egyaránt.
A Red Hathas hivatalosan is általánosan elérhetővé tette a Red Hat Enterprise Linux (RHEL) AI-t. Ez nem csak egy újabb termékkiadás; ez egy igazán hasznos mesterséges intelligencia megközelítés, amelyet az RHEL rendszergazdái és programozói rendkívül hasznosnak találnak.
Az RHEL AI célja, hogy leegyszerűsítse a vállalati szintű alkalmazást azáltal, hogy egy teljesen optimalizált, rendszerindító RHEL-képet kínál a szerverek hibrid felhőkörnyezetekben történő telepítéséhez. Ezek az optimalizált rendszerindító modell futásidejű példányai Granite modellekkel és InstructLab eszközcsomagokkal működnek. Ide tartoznak az optimalizált Pytorch futásidejű könyvtárak és GPU-gyorsítók az AMD Instinct MI300X-hez, az Inteland NVIDIA GPU-khoz és a NeMo keretrendszerekhez.
Ez a Red Hat alapvető mesterséges intelligencia platformja. A program célja a generatív AI (gen AI) modellek fejlesztésének, tesztelésének és telepítésének egyszerűsítése. Ez az új platform egyesíti az IBM Research nyílt forráskódú licenccel rendelkező Granite nagy nyelvi modellje (LLM) családját, a LAB módszertanon alapuló InstructLab igazító eszközöket és az InstructLab projekten keresztüli modellfejlesztés együttműködésen alapuló megközelítését.
Az IBM Research úttörő szerepet játszott a LAB módszertanban, amely szintetikus adatgenerálást és többfázisú hangolást alkalmaz az AI/ML modellek költséges manuális erőfeszítések nélküli összehangolására. Az InstructLab közösségen keresztül finomított LAB-megközelítés lehetővé teszi a fejlesztők számára, hogy LLM-eket építsenek és hozzájáruljanak azokhoz, akárcsak bármely nyílt forráskódú projekthez.
Az InstructLab elindításával az IBM egyes Granite angol nyelvű és kódmodelleket is kiadott Apache licenc alatt, átlátható adatkészleteket biztosítva a képzéshez és a közösségi hozzájárulásokhoz. A Granite 7B angol nyelvű modell immár integrálva van az InstructLab-ba, ahol a felhasználók közösen fejleszthetik képességeit.
Az RHEL AI az OpenShift AI-ba, a Red Hat gépi tanulási műveletek (MLOps) platformjába is integrálva van. Ez lehetővé teszi a nagy léptékű modell megvalósítását elosztott Kubernetes-fürtökben.
Valljuk be: az AI nem olcsó. A vezető nagy nyelvi modellek (LLM) képzése több tízmillióba kerül. Ez még azelőtt van, hogy elkezdene gondolkodni a konkrét használati esetekre történő finomhangoláson. Az RHEL AI a Red Hat kísérlete arra, hogy ezeket a csillagászati költségeket visszahozza a földre.
A Red Hat ezt részben a Retrieval-Augmented Generation (RAG) használatával teszi meg. A RAG lehetővé teszi az LLM-ek számára, hogy hozzáférjenek az adatbázisokban, dokumentumokban és más adatforrásokban tárolt jóváhagyott külső tudáshoz. Ez javítja az RHEL AI azon képességét, hogy a megfelelő választ adjon, nem pedig egy egyszerűen jól hangzó választ.
Ez azt is jelenti, hogy RHEL AI-példányait vállalata szakértőitől oktathatja anélkül, hogy doktori fokozatra lenne szüksége. a gépi tanulásban. Ez sokkal hasznosabbá teszi a RHEL AI-t, mint az általános célú mesterséges intelligencia a Csillagok háborúja rajongói regények írása helyett a szükséges munka elvégzésében.
Joe Fernandes, a Red Hat Foundation Model Platform alelnöke nyilatkozatában kijelentette: "Az RHEL AI lehetővé teszi a tartományi szakértők számára, nem csak az adatkutatók számára, hogy hozzájáruljanak a célnak megfelelő mesterséges intelligencia-modellhez a hibrid felhőn keresztül. lehetővé téve az informatikai szervezetek számára, hogy ezeket a modelleket a Red Hat OpenShift AI-n keresztül gyártásra méretezzék."
Az RHEL AI nincs egyetlen környezethez sem kötve. Úgy tervezték, hogy bárhol fusson, ahol az adatok élnek - legyen szó a helyszínről, a széléről vagy a nyilvános felhőben. Ez a rugalmasság kulcsfontosságú az AI-stratégiák megvalósítása során anélkül, hogy a meglévő infrastruktúrát teljesen át kellene alakítani.
A program már elérhető az Amazon Web Services (AWS) és az IBM Cloud oldalakon, mint "hozd el saját (BYO)" előfizetéses ajánlatként. A következő néhány hónapban szolgáltatásként elérhető lesz az AWS-en, a Google Cloud Platformon (GCP), az IBM Cloudon és a Microsoft Azure-on.
A Dell Technologies bejelentette, hogy együttműködik az RHEL AI-val a Dell PowerEdge szervereken. Ennek a partnerségnek az a célja, hogy leegyszerűsítse a mesterséges intelligencia bevezetését validált hardvermegoldások biztosításával, beleértve az NVIDIA gyorsított számítástechnikát, amely az RHEL AI-ra van optimalizálva.
Mint valaki, aki évtizedek óta foglalkozik nyílt forráskódú szoftverekkel, és aki a mesterséges intelligenciával játszott, amikor Lisp a legmodernebb technikának számított, úgy gondolom, hogy az RHEL AI jelentős változást kínál a vállalatok mesterséges intelligencia megközelítésében. A nyílt forráskód erejét a vállalati szintű támogatással kombinálva a Red Hat az AI-forradalom élére helyezi magát.
Az igazi próbatétel természetesen az örökbefogadásban és a valós alkalmazásokban lesz. De ha a Red Hat eddigi eredményeit tekintjük, az RHEL AI lehet az a platform, amely kihozza az AI-t a technológiai óriások birodalmából, és bármilyen méretű vállalkozás kezébe kerül.