Az OpenAI vörös teaming hálózatot épít ki az AI biztonságának megoldására - és Ön jelentkezhet
Az OpenAI Red Teaming Network tagjai kompenzációt kapnak idejükért, és nincs szükség előzetes nyelvi modellekkel kapcsolatos tapasztalatra.
Az OpenAI ChatGPT-je világszerte több mint 100 millió felhasználót gyűjtött össze, ami rávilágít az AI pozitív felhasználási eseteire és a további szabályozás szükségességére. Az OpenAI most egy csapatot állít össze, hogy segítsen biztonságosabb és robusztusabb modelleket építeni.
Kedden az OpenAI bejelentette, hogy elindítja OpenAI Red Teaming Network-ét, amely szakértőkből áll, akik segíthetnek betekintést nyújtani a vállalat kockázatértékelési és -csökkentési stratégiáinak megismerésében a biztonságosabb modellek bevezetése érdekében.
Ez a hálózat az OpenAI kockázatértékelési módját formálisabb folyamattá alakítja, amely magában foglalja a modell és a termékfejlesztési ciklus különböző szakaszait, szemben az "egyszeri kötelezettségvállalásokkal és kiválasztási folyamatokkal a nagyobb modellbevezetések előtt" az OpenAI szerint.
Az OpenAI különféle hátterű szakértőket keres a csapatba, beleértve az oktatás, a közgazdaságtan, a jog, a nyelvek, a politikatudomány és a pszichológia területén jártas szakértőket, hogy csak néhányat említsünk.
Az OpenAI azonban azt állítja, hogy nincs szükség AI-rendszerekkel vagy nyelvi modellekkel kapcsolatos előzetes tapasztalatra.
A tagok idejükért díjazást kapnak, és a titoktartási megállapodások (NDA) hatálya alá tartoznak. Mivel nem vesznek részt minden új modellben vagy projektben, a vörös csapatban való szereplés olyan csekély összeget jelenthet, mint egy évi öt órás munkaidő. Jelentkezni az OpenAI oldalán keresztül lehet a hálózatba.
A blogbejegyzés szerint az OpenAI red teaming kampányai mellett a szakértők az általános "vörös csapatmunka gyakorlatairól és megállapításairól" beszélgethetnek egymással.
"Ez a hálózat egyedülálló lehetőséget kínál a biztonságosabb mesterségesintelligencia-technológiák és -irányelvek fejlesztésének alakítására, valamint arra, hogy az AI milyen hatással lehet az életünkre, munkánkra és interakciónkra" - mondja az OpenAI.
A Red teaming elengedhetetlen folyamat az újabb technológia hatékonyságának teszteléséhez és biztonságának biztosításához. Más technológiai óriáscégek, köztük a Google és a Microsoft, külön vörös csapatokat állítottak fel AI modelljeikhez.