Az Nvidia szerint ez megakadályozhatja a chatbotok hallucinációját

Az AI chatbotok gyakran a címlapokra kerülnek furcsa viselkedésük miatt. Az Nvidia új szoftvere megoldhatja ezt.

Az Nvidia, az első GPU feltalálásáért felelős technológiai óriás - a generatív mesterségesintelligencia-modellek ma már kulcsfontosságú technológiája - kedden bemutatott egy új szoftvert, amely képes megoldani a mesterséges intelligencia chatbotjaival kapcsolatos nagy problémát.

Az Nvidia szerint a NeMo Guardrails nevű szoftvernek biztosítania kell, hogy a nagy nyelvi modellekkel (LLM) működő intelligens alkalmazások, például az AI chatbotok "pontosak, megfelelőek, a témához igazodva és biztonságosak legyenek".

Továbbá: Egy szakértő szerint a generatív AI 5 legnagyobb kockázata

A nyílt forráskódú szoftvert a mesterséges intelligencia fejlesztői használhatják háromféle határvonal beállítására az AI-modellek számára: helyi, biztonsági és biztonsági védőkorlátok.

A helyi védőkorlátok megakadályozzák, hogy a mesterséges intelligencia alkalmazás olyan területeken tárjon fel témákat, amelyek nem szükségesek vagy nem kívánatosak a tervezett felhasználáshoz. Az Nvidia azt a példát hozza fel, amikor egy ügyfélszolgálati asszisztens nem válaszol az időjárással kapcsolatos kérdésekre.

Ez a típusú védőkorlát hasznos lett volna a Bing Chat számára, amikor először megjelent, és elkezdte felfedni a vállalati titkokat.

A biztonsági korlátok a félretájékoztatás és a hallucinációk problémájának kezelésére tesznek kísérletet.

Alkalmazása esetén biztosítja, hogy az AI-alkalmazások pontos és megfelelő információkkal válaszoljanak. A szoftver használatával például megerősíthető a nem megfelelő nyelvezet és a hiteles forráshivatkozás tilalma.

A biztonsági korlátok egyszerűen korlátoznák az alkalmazásokat abban, hogy elérjék a nem biztonságosnak ítélt külső alkalmazásokat.

Továbbá: E tanulmány szerint a generatív mesterséges intelligencia egyes dolgozókat sokkal termelékenyebbé teheti

Az Nvidia azt állítja, hogy gyakorlatilag minden szoftverfejlesztő képes lesz használni a NeMo Guardrails-t, mivel azok egyszerűen használhatók, LLM-kompatibilis alkalmazások széles skálájával dolgoznak, és minden olyan eszközzel, amelyet a vállalati alkalmazásfejlesztők használnak, mint például a LangChain.

A cég beépíti a NeMo Guardrails-t az Nvidia NeMo keretrendszerébe, amely már többnyire nyílt forráskódú kódként érhető el a GitHubon.

Az Nvidia AI Enterprise szoftverplatform részeként és az Nvidia AI Foundations szolgáltatásként is elérhető lesz.