A ChatGPT működésének megismerése segített jobban használni

Kulcs elvitelek

• A ChatGPT egy transzformátormodell a chat-alapú interakciókhoz.
• A GPT hatalmas internetes adatokra van előképzett a válaszok generálásához.
• A ChatGPT-t kontextusban gazdag promptokhoz, írási stílusokhoz és kreatív ötleteléshez használhatja.

Vannak, akik a Google-hoz hasonlóan használják a ChatGPT-t, míg mások azt várják tőle, hogy támogatási képviselőként vagy digitális asszisztensként működjön. A ChatGPT azonban nem keresőmotor és nem is ember, ami kiábrándító válaszokat eredményez. Az AI-eszköz működésének megértése segíthet abban, hogy jobb válaszokat kapjon.

A ChatGPT-t működtető GPT-modell megértése

Van egy olyan hiedelem, hogy valaki (vagy valami) nevének ismerete hatalmat adhat felette, és meglep, hogy ez mennyire igaz a ChatGPT-re. Abban a pillanatban, amikor megértettem, mit jelent a ChatGPT, mélyebb betekintést nyertem az eszköz belső működésébe, ami lehetővé tette, hogy jobban használhassam.

Tájékoztatásul a ChatGPT a Chat Generative Pre-Train Transformer rövidítése. Ez azt jelenti, hogy alapvetően a GPT (Generative Pre-train Transformer) architektúra alkalmazásáról van szó, amelyet társalgási (azaz chat-alapú) interakciókra szabtak. Most röviden leírjuk, mit jelentenek ezek a szavak, így jobban megértheti.

Mi a "Transformer" a GPT-ben?

A „Transformer” modell egy neurális hálózati architektúra, amelyet természetes nyelvi feldolgozásra használnak. Ez egy forradalmi eszköz a mesterséges intelligencia terén, amely a ChatGPT gerincét képezi, a mai népszerű AI chatbotokkal együtt.

A transzformátormodellek mögött meghúzódó alapkoncepció az, hogy egyszerre (azaz párhuzamosan) sokféle bemenetet kell elemezni, hogy meghatározzák, mely elemek a legrelevánsabbak. Ez éles ellentétben áll a korábbi modellekkel, amelyek szekvenciálisan elemezték a szöveget, megnehezítve a szövegrész fontosabb vagy relevánsabb részei megtalálását.

A szöveg egészének elemzésének ezt a folyamatát „önfigyelemnek” nevezik, és először a Google Brain AI-kutatóinak egy csoportja fogalmazta meg 2017-es „A figyelem minden, amire szüksége van” című tanulmányában. ”

Az „önfigyelem” használatával a Transformer modellek egy teljes szósorozatot tudnak egyszerre nézni. Ez lehetővé teszi a kontextus és a szavak közötti kapcsolatok sokkal hatékonyabb megértését. Ennek eredményeként a transzformátormodellek képesek rögzíteni a kontextust az ember által biztosított bemenetből, majd létrehozni egy kontextus szempontjából releváns kimenetet, amely valóban értelmes.

Hogyan történik a GPT "előképzése"?

A GPT „előképzett” egy hatalmas adathalmazon - a nyílt internet szinte teljes egészén. Ennek a hatalmas mennyiségű szövegnek a feldolgozásával a GPT megtanulja a nyelvi mintákat, kapcsolatokat és struktúrákat. Különféle tényeket és információkat is megismer, amelyek igazak vagy nem igazak, de ezek eltárolódnak az adatkészletében, amelyet a válasz generálásakor használhat fel.

Az (internetes adatokból várható) téves információ jelenléte a betanítási adatkészletben az egyik fő oka annak, hogy a ChatGPT hibás információkat adhat ki, amikor feltesz neki egy kérdést - ezt a jelenséget hallucinációnak nevezik.

Ennek a problémának a enyhítése érdekében emberi annotátorok és adatkurátorok kerülnek a képbe. Feladatuk a képzési adatok szűrése és a rossz minőségű vagy nem megfelelő tartalom eltávolítása. Ezenkívül olyan technikákat alkalmaznak, mint az RLHF (Reforcement Learning from Human Feedback) a modell finomhangolására, javítva a tények pontosságát és a felhasználói elvárásokhoz való igazodást.

Ennek a kurátoros képzési megközelítésnek köszönhetően a GPT-modellek gyakran következetesen pontos információkat adnak adott lekérdezésekhez, még akkor is, ha az internet rengeteg téves információt tartalmaz.

A modell megtanulja megkülönböztetni a megbízható információkat a minták és a képzési adatok konzisztenciája alapján. Ha egy információ gyakran és következetesen megjelenik jó hírű forrásokból, a modell nagyobb valószínűséggel tekinti azt megbízhatónak.

Hogyan "generál" tartalmat a GPT?

Mostanra már alaposan meg kell értenie, hogy a ChatGPT hogyan tudja, amit tud - az előképzését, és hogyan értelmezi a bevitt szöveget - a transzformátormodellt. A fejtörő utolsó darabja annak megértése, hogyan képes kontextus szempontjából releváns válaszokat generálni!

Míg a ChatGPT önfigyelmet használ a bevitel egyszerre történő feldolgozásához, egy-egy szót generál válaszokat. Minden szó előrejelzése az előző szavak kontextusa és az Ön által megadott adatok alapján történik - ezt a folyamatot autoregresszív generálásnak nevezik.

Képzeld el, hogy egy szójátékot játszol, ahol az előző szavakat nézed, és kitalálod, melyik szó következzen. Egyenként találgatja a következő szót, amíg be nem fejezi a mondatot, és végül az egész gondolatot! A GPT alapvetően így generál választ - csak ezt emberfeletti sebességgel teszi, és hatalmas „szókincs” áll a rendelkezésére.

Tegyük fel például, hogy megkérdezi a ChatGPT-től: „Mi Franciaország fővárosa? ”

Ezután szóról szóra választ generál, így:

The
The capital
The capital of
The capital of France
The capital of France is
The capital of France is Paris.

Az ok, amiért pontosan azt tudta mondani, hogy „Párizs” a „New York” helyett, a sokrétű és hatalmas adathalmazokon végzett kiterjedt előképzés és az általa elvégzett Human Reforcement Learning kombinációja. Ez a képzés segít a modellnek a tényszerű információk megértésében és a pontos válaszok rangsorolásában.

Tehát, amint látja, a GPT nem kér előre megírt válaszokat egy adatbázisból, amikor feltesz egy kérdést. Ehelyett minden alkalommal új szöveget generál, amikor feltesz neki egy kérdést a betanítási adatai alapján.

Hogyan segített ennek megtanulása jobban használni a ChatGPT-t?

A ChatGPT belső működésének megértése jelentősen javította a képességemet ennek a hatékony eszköznek a kihasználására. Íme néhány kulcsfontosságú betekintés és tipp, amelyek közvetlenül a ChatGPT működésének ismeretéből fakadnak:

Használhatom a kontextuális megértését

A GPT-modell egyik legjobb része, hogy kiválóan tud kontextust levezetni a bemeneti adatokból. Ellentétben a Google-keresésekkel, ahol a rövidség ideális, a ChatGPT-vel jobban jár, ha bőbeszédű felszólításokat ír be. Még ha a végén redundáns információkat is tartalmaz, biztos lehet benne, hogy az eszköz elég okos ahhoz, hogy átnézzen a szükségtelen biteken, és a fontos részekre zónázzon, hogy alaposabb és hasznosabb választ adjon.

Sőt, további kérdéseket is feltehet. Ez azt jelenti, hogy ha egy adott válasz nem tetszett a formázása vagy az információhiány miatt, akkor a következő bemenetben hivatkozhat rá. A ChatGPT most megvizsgálja az összes korábbi csevegési előzményt, amely magában foglalja az összes bemenetet és a korábbi generációkat is, hogy jobb választ hozzon létre, amely jobban megfelel az Ön elvárásainak.

Például kérdezés helyett:

Tell me about renewable energy.

Próbáld ki a promptot:

I'm interested in renewable energy sources, particularly solar and wind power. Can you provide detailed information on how these technologies work, their benefits, and their impact on the environment?

Kihasználom a hatalmas előképzését

A GPT előre kiképzett egy hatalmas adatgyűjteményre. Ez azt jelenti, hogy ismeri a különféle írási stílusokat, hangokat és hangokat. Ezt potenciálisan felhasználhatja saját írásának bővítésére, és extra stílust és stílust ad neki. Például írhatok egy unalmas régi e-mailt, majd megkérhetem a ChatGPT-t, hogy tegye vonzóbbá vagy professzionálisabbá, vagy akár úgy olvassa el, mintha Seth Godin írta volna.

A hatalmas képzési készlet azt is jelenti, hogy a ChatGPT sok különböző témával és koncepcióval ismerkedik. Használhatja ezt saját előnyére, hogy néhány aktuális feltárást vagy ötletelést végezzen. Úgy értem, mi a kreativitás, ha nem találunk kapcsolatot A és B téma között? A ChatGPT segítségével gyorsan lépkedhet a kapcsolódó témák különböző permutációi és kombinációi között, és új, új ötletekbe csöppenhet. Ez egy nagyszerű módja annak, hogy felszabadítsa az agyát, különösen akkor, ha egy kreatív hanyatlásban ragadsz.

Fikcióra használom, nem tényekre

Noha az RLHF-nek köszönhetően a ChatGPT pontosabb válaszokat ad, mint korábban, még mindig nem immunis a hallucinációkkal szemben, és a világ teljes magabiztosságával téves információkat jeleníthet meg. Most már könnyű elkapni ezeket a hallucinációkat, ha jól ismeri a ChatGPT-vel vizsgált témát. Ha azonban olyan dolgokat fedez fel, amelyekről keveset tud, akkor nehéz megbízni a ChatGPT-ben, különösen akkor, ha ismeri a ChatGPT működését.

Ez az oka annak, hogy soha nem használom a ChatGPT-t tényszerű válaszok megszerzésére. Ehelyett arra használom, hogy feltárjam azokat a témákat, amelyekben már ismerem, és érthetőbb nyelven fejezzem ki azokat. Például saját szavaimmal leírhatom, hogyan kell differenciálegyenleteket megoldani, majd a ChatGPT segítségével könnyebben megérthetem a módszeremet egy 10 éves gyerek számára.

Ha szem előtt tartja ezeket a tippeket, és megérti a ChatGPT mögöttes mechanizmusait, hatékonyabb felszólításokat készíthet, produktívabb beszélgetéseket folytathat, és végső soron több értéket nyerhet ki ebből a hatékony AI-eszközből.