A Microsoft vörös csapata 2018 óta figyeli az AI-t. Íme, öt fontos betekintés
A Microsoft intézkedéseket tesz a mesterséges intelligencia biztonságának biztosítására modelljeiben, és példát kíván mutatni másoknak.
Az elmúlt hat hónapban minden eddiginél jobban rávilágítottak a mesterséges intelligencia pozitív hatásaira, de a kockázatokra is.
A legjobb esetben a mesterséges intelligencia lehetővé tette az emberek számára, hogy könnyebben elvégezzék a mindennapi feladatokat, és akár olyan áttöréseket hozhatnak létre a különböző iparágakban, amelyek forradalmasíthatják a munkavégzést.
A legrosszabb esetben azonban a mesterséges intelligencia téves információkat állíthat elő, káros vagy diszkriminatív tartalmat generálhat, valamint biztonsági és adatvédelmi kockázatokat jelenthet. Emiatt kritikus fontosságú a pontos tesztelés a modellek nyilvánosságra hozatala előtt, és a Microsoft már öt éve ezt teszi.
Egyébként: A Microsoft több böngészőre is kiterjeszti a Bing AI-t - de van egy bökkenő
A ChatGPT boom kezdete előtt a mesterséges intelligencia már hatásos, feltörekvő technológia volt, és ennek eredményeként a Microsoft 2018-ban összeállított egy AI vörös csapatot.
A Microsoft szerint az AI red csapata interdiszciplináris szakértőkből áll, akik elkötelezettek az AI-modellek kockázatainak kivizsgálásával, "támadóként gondolkodva" és "megvizsgálva az AI-rendszerek meghibásodását".
Közel öt évvel az indulás után a Microsoft megosztja a csapatépítési gyakorlatait és tanulságait, hogy példát mutasson a felelős AI megvalósításában. A cég szerint elengedhetetlen az AI modellek tesztelése mind az alapmodell, mind az alkalmazás szintjén. Például a Bing Chat esetében a Microsoft mind a GPT-4 szintjén figyelte az AI-t, mind a GPT-4 által hajtott tényleges keresési élményt.
"Mindkét szint megvan a maga előnye: például a modell vörös csoportosítása segít a folyamat korai szakaszában azonosítani, hogyan lehet a modellekkel visszaélni, áttekinteni a modell képességeit, és megérteni a modell korlátait" - mondja a Microsoft.
A vállalat öt kulcsfontosságú meglátást oszt meg az AI red teamingről, amelyeket a vállalat ötéves tapasztalata alapján gyűjtött össze.
Az első az AI red teaming kiterjedtsége. Ahelyett, hogy egyszerűen tesztelnénk a biztonságot, az AI red teaming olyan technikák gyűjteménye, amelyek olyan tényezőket tesztelnek, mint a méltányosság és a káros tartalom létrehozása.
A második az, hogy a rosszindulatú és jóindulatú személyek kudarcaira kell összpontosítani. Bár a red teaming jellemzően arra összpontosít, hogy egy rosszindulatú szereplő hogyan használja a technológiát, elengedhetetlen annak tesztelése is, hogyan generálhat káros tartalmat az átlagos felhasználó számára.
"Az új Bingben az AI red teaming nem csak arra összpontosított, hogy egy rosszindulatú ellenfél hogyan tudja felforgatni a mesterséges intelligencia rendszert biztonságközpontú technikákkal és kihasználásokkal, hanem arra is, hogy a rendszer hogyan tud problémás és káros tartalmat generálni, amikor a rendszeres felhasználók interakcióba lépnek a rendszerrel." mondja a Microsoft.
A harmadik meglátás az, hogy a mesterséges intelligencia rendszerek folyamatosan fejlődnek, és ennek eredményeként több különböző szinten is össze kell kapcsolni ezeket az AI-rendszereket, ami a negyedik felismeréshez vezet: a generatív AI-rendszerek összevonása többszörös próbálkozást igényel.
Továbbá: A ChatGPT egy csomó frissítést kap ezen a héten. Íme, amit tudnia kell
Valahányszor interakcióba lép egy generatív AI-rendszerrel, valószínűleg más kimenetet kap; ezért a Microsoft úgy találja, hogy többször is meg kell próbálni a red teaminget annak biztosítására, hogy a rendszerhibákat ne hagyják figyelmen kívül.
Végül a Microsoft azt állítja, hogy az AI-hibák enyhítése mélyreható védekezést igényel, ami azt jelenti, hogy amint egy vörös csapat azonosít egy problémát, számos technikai mérséklésre lesz szükség a probléma megoldásához.
A Microsoft által bevezetett intézkedésekhez hasonló intézkedéseknek segíteniük kell a feltörekvő mesterséges intelligenciarendszerekkel kapcsolatos aggodalmak enyhítését, és az ezekkel a rendszerekkel kapcsolatos kockázatok mérséklését is.