ChatGPT

A Wikipédiából, a szabad enciklopédiából
Ugrás a navigációhoz Ugrás a kereséshez
ChatGPT
A ChatGPT logója
A ChatGPT logója
ChatGPT OpenAI example in Spanish.png
Fejlesztő OpenAI
Legfrissebb stabil
kiadás		 ChatGPT Mar 14 Version (legfrissebb érték, 2023. március 14., 6)[1]
Legfrissebb fejlesztői kiadásismeretlen +/-
Platform webböngésző
Kategória
Licenc kereskedelmi licenc
A ChatGPT weboldala
Pioneer Building, San Francisco – az OpenAI székháza

A ChatGPT (Generative Pre-trained Transformer)[2] az OpenAI mesterséges intelligencia (MI) kutató laboratórium által kifejlesztett chatbot, mely a felhasználókkal való folyamatos kommunikáció automatizálása során értelmezőmodelleket használ, melyek segítségével a bevitt információkat azonnal interaktívan kezeli.

A ChatGPT 2022. november 30-án jelent meg prototípusként, és bemutatását követően rövid időn belül nagy érdeklődést váltott ki, szenzációvá vált. Alapvetően lelkes fogadtatásban részesítette mind a szakma, mind a közönség. Generált szövegét "lenyűgözően alaposnak" és "emberekéhez hasonlíthatónak",[3] sőt, „egy jó tanuló tudásszintjével felérőnek” nevezték.[4] Magát a ChatGPT-t sokan „a valaha volt legjobb MI chatbotként"[5] méltatták. Elon Musk szerint „a ChatGPT ijesztően jó, már nem vagyunk messze a fenyegetően erős MI-tól."[6] A tesztelés során generált részletes válaszainak és számos tudástartományt átfogó artikulált feleleteinek köszönhetően bemutatkozásának jelentőségét sokan az Iphone 2007-es debütálásához hasonlították.[7] Ugyanakkor a válaszokból kitűnő tényszerű pontosság terén előforduló hiányosságokat is szóvá tette több szakember.[8]

Az OpenAI szoros együttműködésben van a Microsofttal, mely kizárólagos felhőszolgáltatója; emellett 2019-ben 1 milliárd dollárral,[9] 2023 januárjában pedig 10 milliárd dollárral támogatta az MI-kutatásokat.[10] Ez az anyagi háttér adott lehetőséget arra, hogy a világ egyik legnagyobb teljesítményű szuperszámítógépével fejleszthessék tovább a ChatGPT-t,[11] mely fejlettebb és kreatívabb a Szilícium-völgy chatrobotjainál is.[12]

A ChatGPT bemutatását követően az OpenAI értéke 29 milliárd dollárra szökött fel.[13]

Betanítás[szerkesztés]

A chatbotot kétféle, úgynevezett megerősítő tanulási módszerrel tanították be, az RLHF-fel (Reinforcement Learning from Human Feedback[14][15]) és a PPO-val (Proximal Policy Optimisation[16][17]). A szöveg beviteléhez (input) és kimenetéhez (output) a GPT-3.5 AI algoritmust használták (a GPT a Generative Pre-trained Transformer rövidítése, ez szerepel a chatbot nevében). A GPT-3.5 a GPT-3 továbbfejlesztett változata, amely szintén az OpenAI fejlesztése, és a megerősítő tanulás mellett a felügyelt tanulás módszerét is alkalmazza.[18]

Az OpenAI a GPT és a Codex fejlesztése során szerzett tapasztalatai alapján a ChatGPT-t olyan biztosítékokkal látta el, amelyek megakadályozzák a helytelen vagy sértő válaszokat. Ugyanakkor a weboldalukkal kapcsolatban felhívják a figyelmet arra, hogy a jelenlegi verzió egy nyilvánosan elérhető kutatási interaktív tesztoldal, így a chatbot időnként hibás információkat generálhat.[19]

A modell betanításának alapját nagy mennyiségű, emberek által létrehozott szöveg képezte.

A szövegrészek több forrásból eredtek, például:

  • Online fórumokból
  • Közösségi médiából
  • Hírekből
  • Könyvekből
  • Beszélt nyelvekből

Az értelmező- modell az ezekkel az adatokkal történt betanítása során megtanulta, hogyan működik az emberi beszéd, és hogyan kell megfelelően reagálni bizonyos kérdésekre vagy kérésekre.

A modellt olyan algoritmusok segítségével tanították be, amelyek megpróbálták a lehető legjobban leképezni a tréning adatait,[20] így vált képessé értelmes válaszokat adni a felhasználók kérdéseire.

A modell teljesítményének javítása érdekében humán oktatókat használtak. A felügyelt tanulás esetében a modell olyan beszélgetéseket kapott, amelyekben az oktatók mindkét oldalt eljátszották: a felhasználót és az MI asszisztenst is. A megerősítési lépésben az emberi oktatók először azokat a válaszokat rangsorolták, amelyeket a modell egy korábbi beszélgetésben hozott létre. Ezekből a rangsorokból "jutalommodelleket" hoztak létre, amelyeken keresztül a modellt tovább finomhangolhatták. A betanítást a Microsofttal együttműködve végezték az Azure szuperszámítógép infrastruktúráját felhasználva.

Ezeket követően az OpenAI továbbra is gyűjti a ChatGPT felhasználóitól származó adatokat, amelyek felhasználhatók a ChatGPT további betanításához és finomhangolásához. (Lásd alább: „Tesztelés”)

A felhasználóknak lehetőségük van a ChatGPT-től kapott válaszokat pozitívan, vagy negatívan értékelni, válaszuk kifejtésére is mód van.[21][22]

Lehetőségek és korlátok[szerkesztés]

Bár a chatbot alapvető funkciója az emberi párbeszéd imitálása, az újságírók felfedezték a ChatGPT sokoldalúságát és improvizációs készségét, csakúgy, mint a számítógépes programok írására és az azokon belüli hibakeresésre való képességét. Kiderült, hogy a ChatGPT tud zenét szerezni, videojátékokat alkotni, meséket és diákesszéket írni. Megy neki a tesztkérdések megválaszolása (adott tesztek esetén az átlagos emberi tesztelőt meghaladó szinten);[23] a versek és dalszövegek írása;[24] tudja a Linux rendszert szimulálni; és képes akár egy egész chatszobát modellezni.[25]

A legtöbb chatrobottal ellentétben a ChatGPT emlékszik az ugyanabban a beszélgetésben neki adott korábbi kérésekre, kérdésekre; az újságírók szerint ez lehetővé teszi, hogy a ChatGPT személyre szabott terapeutaként is használható legyen.[26] Annak érdekében, hogy a ChatGPT ne generáljon sértő (output) válaszokat, az (input) lekérdezéseket az OpenAI vállalati szintű[27] moderációs API-ján keresztül szűrik, és a potenciálisan rasszista vagy szexista kéréseket elutasítják.[26]

A ChatGPT ugyanakkor hiányosságoktól sem mentes. Az OpenAI elismerte, hogy a ChatGPT néha hihetőnek hangzó, de helytelen vagy értelmetlen válaszokat ad. A ChatGPT jutalmazási modellje, amelyet emberi felügyeletre terveztek, túloptimalizálható, és így akadályozhatja az optimális teljesítmény elérését (Goodhart törvény).

A 2021 után bekövetkezett eseményekről a ChatGPT csak korlátozott ismeretekkel rendelkezik. A BBC szerint 2022 decemberétől a ChatGPT nem fejezhet ki „politikai véleményt, és nem vehet részt politikai aktivizmusban."[28] A kutatások mégis azt mutatják, hogy adott esetben a ChatGPT környezetbarát, baloldali-libertariánus irányultságot mutat.[29] A ChatGPT betanítása során az emberi bírálók a hosszabb válaszokat részesítették előnyben, függetlenül a tényleges megértéstől vagy a tényszerű tartalomtól. A betanítási adatok sem mentesek algoritmikus torzításoktól, ezek akkor derülhetnek ki, amikor a ChatGPT olyan kérésekre válaszol, amelyek emberek leírását tartalmazzák. Egy esetben a ChatGPT reakciója arra utalt, hogy a nők és a színes bőrű tudósok alacsonyabb rendűek a férfi és fehér tudósoknál.[30][31]

Sam Altman, az OpenAI vezérigazgatója

Szolgáltatás[szerkesztés]

Alapszolgáltatás[szerkesztés]

A ChatGPT-t 2022. november 30-án mutatta be a San Francisco-i székhelyű OpenAI, a DALL-E 2 és a Whisper korábbi alkotója. A szolgáltatást ingyenesen indították el a nagyközönség számára, csak későbbre tervezték a szolgáltatás fizetőssé tételét. 2022. december 15-én a CNBC azt írta, hogy a szolgáltatás "még mindig leáll időnként".[32]

A ChatGPT-nek a UBS befektetési bank kutatása szerint már az első hónapban 57 millió aktív felhasználója volt, ami 2023 januárjára valószínűsíthetően átlépte a 100 milliós bűvös számot. Összehasonlításképpen: a TikTok közösségi médiaalkalmazásnak közel kilenc hónapra volt szüksége az indulása után, hogy ugyanezt a felhasználói bázist kiépítse, az Instagramnak pedig nagyjából két és fél év kellett ahhoz, hogy 100 millió havi aktív felhasználóra tegyen szert. A Google Translate-nek hat és fél év kellett ahhoz, hogy elérje ezt a mérföldkövet. A felfutás rendkívüli volt, a ChatGPT minden idők leggyorsabb fogyasztói alkalmazásnövekedését érte el.[33]

A szolgáltatás alapnyelve az angol, de néhány más nyelven, így magyarul is működik.

(Lásd még alább: „Tesztelés”)

Prémiumszolgáltatás[szerkesztés]

Az OpenAI 2023 januárjában havi 42 dollárért elindította a ChatGPT fizetős verzióját, a „ChatGPT Professionalt". Ígéretük szerint a ChatGPT frissített, de még „kísérleti" változata a csúcsidőszakokban is elérést biztosít, nem lesznek leállásai, elsőbbségi hozzáférést biztosít az új funkciókhoz, gyorsabb lesz válaszsebessége és nem lesznek korlátozások rajta.

A ChatGPT Professional csomag pontos tartalma és árazása a felhasználó konkrét igényeitől és az OpenAI-val kötött megállapodásoktól függően változhat. Az előfizetés a kezdeti időszakban nem érhető el nyilvánosan, az OpenAI választja ki a jelentkezők közül, hogy kinek adja meg ezt a prémiumlehetőséget. Ehhez kapcsolódóan a vállalat egy várólista linket tett közzé Discord szerverén.[34]

Szoftverfejlesztői támogatás[szerkesztés]

Az OpenAI fogyasztóbarát Professional csomagja kiegészítéseként 2023 márciusától elérhetővé tette ChatGPT és Whisper modelljei API-ját, amely a fejlesztők számára alkalmazásprogramozási felületet biztosít a mesterséges intelligenciával támogatott nyelvi és beszéd-szöveg funkciókhoz. A ChatGPT új API-ja ugyanazt a GPT-3.5-turbo MI-modellt használja, mint amit a népszerű chatbot. Ennek köszönhetően lehetővé vált, hogy a fejlesztők akár a ChatGPT változatlan, akár a módosított verzióját adhassák hozzá alkalmazásaikhoz.[35] A ChatGPT API ára 0,002 dollár 1000 tokenért (ez kb. 750 szót jelent), így tízszer olcsóbb, mint a GPT-3.5 modellek.[36][37]

Az OpenAI magyarázata szerint a rendszer egészére kiterjedő optimalizációk révén december óta sikerült 90 százalékkal csökkenteniük a ChatGPT költségeit, és ezt a megtakarítást adták tovább az API-felhasználóknak. Meggyőződésük, hogy a mesterséges intelligenciában rejlő teljes potenciál kiaknázásának legjobb módja az, ha mindenki számára lehetővé teszik, hogy alkalmazzák azt a szoftverfejlesztésük során. Az OpenAI bejelentette a fejlesztői feltételei módosítását az ügyfelek adatvédelmi és biztonsági visszajelzései alapján.[38] Amennyiben a fejlesztő nem járul hozzá, a vállalat a továbbiakban nem fogja felhasználni a szolgáltatásfejlesztő API-n keresztül megadott adatokat a mesterséges intelligencia modelljeinek fejlesztéséhez. Emellett az OpenAI egy 30 napos adatmegőrzési határidőt is bevezetett, és a felhasználói igények függvényében szigorúbb adattárolási feltételeket biztosítását vállalta (feltehetően a nagy adatfelhasználású és megfelelően nagy költségvetésű vállalatokra gondolva). Végül a vállalat leegyszerűsítette az adatok tulajdonjogának kérdését azzal, hogy a modellek bemeneti és kimeneti adatai a felhasználók tulajdonát képezik. A vállalat emellett a fejlesztők előzetes ellenőrzését egy nagyrészt automatizált rendszerrel váltotta ki. Az OpenAI a változtatást azzal indokolta, hogy "az alkalmazások túlnyomó többségét az átvilágítási folyamat során jóváhagyták", és azt állította, hogy az ellenőrzés "jelentősen javult".[39]

Fogadtatás[szerkesztés]

Pozitív reakciók[szerkesztés]

A ChatGPT-t 2022 decemberében túlnyomórészben pozitív kritikák fogadták; a The New York Times „a valaha is a nagyközönség számára bemutatott legjobb MI chatbotnak" nevezte. 2022 decemberében Samantha Lock a brit The Guardian újságírója megjegyezte, hogy képes „lenyűgözően részletes" és „emberhez hasonló" szöveget generálni.[3] Dan Gillmor újságíró egy diákfeladathoz használta a ChatGPT-t, és úgy találta, hogy a generált szöveg egyenrangú volt azzal, amit egy jó tanuló készítene, és úgy vélte, hogy „az akadémiai köröknek hamarosan néhány nagyon komoly problémával kell szembesülniük".[4]

Alex Kantrowitz a Slate magazintól dicsérte a ChatGPT visszautasítását a náci Németországgal kapcsolatos kérdésekre, beleértve azt az állítást, hogy Adolf Hitler autópályákat épített Németországban, amire a náci Németország kényszermunkára vonatkozó információkkal válaszolt.[40]

A The Atlantic 2022-es „Az év áttörései" című írásában Derek Thompson a ChatGPT-t a „generatív-MI robbanás" részeként említette, amely „megváltoztathatja a gondolkodásunkat arról, hogyan dolgozunk, hogyan gondolkodunk, és hogy mi is az emberi kreativitás valójában".[41]

Kelsey Piper a Vox újságírója azt írta, hogy a ChatGPT az MI első kézzelfogható, átélhető megjelenése, bemutatkozása a szélesebb közönség előtt. Ezzel válik igazán először érzékelhetővé, milyen döbbenetesen erős lett az MI, sőt, az is kiderül, hogy a ChatGPT elég okos ahhoz, hogy hibái ellenére is hasznos legyen. Paul Graham az Y Combinatortól azt tweetelte, hogy „most egyértelműen valami nagy dolog tanúi vagyunk."[42] Elon Musk szerint „ijesztően jó és fenyegetően erős a ChatGPT".[6] Musk szüneteltette az OpenAI Twitter-adatbázishoz való hozzáférését addig, amíg nem lesznek világosabbak az OpenAI tervei, óvatosságát avval indokolta, hogy „az OpenAI nyílt forráskódú és non-profit alapokról indult. Mára egyik sem igaz már rá".[43][44] Musk 2015-ben társalapítója volt az OpenAI-nak, részben az MI-ból eredő egzisztenciális kockázatokra való figyelemmel, de 2018-ban kiszállt a cégből.[44]

Negatív reakciók[szerkesztés]

Paul Krugman közgazdászprofesszor egy 2022. decemberi véleménycikkében azt írta, hogy a ChatGPT hatással lesz a tudományos életre, benne a tudásalapú munkaerő iránti keresletre.[45] James Vincent, a The Verge munkatársa a ChatGPT vírusos gyorsasággal terebélyesedő sikerét annak bizonyítékaként értékelte, hogy az MI mainstreammé, a fősodor részévé vált.[46]

2022 decemberében a Stack Overflow kérdésekre és válaszokra szakosodott honlap megtiltotta a ChatGPT használatát a kérdésekre adott válaszok generálásához, hivatkozva a ChatGPT válaszainak tényszerűen kétértelmű voltára. Tyler Cowen közgazdász aggodalmának adott hangot a ChatGPT demokráciára gyakorolt hatásával kapcsolatban. A The Guardian megkérdőjelezte, hogy a ChatGPT megjelenése után az interneten található bármilyen tartalom "valóban megbízható" lesz-e még, és kormányzati szabályozást sürgetett a kérdésben.[47]

Kihívás a keresőmarketing területén[szerkesztés]

A Google vezérigazgatója, Sundar Pichai

A ChatGPT-n keresztül, az új chatbotba legtöbbet, 11 milliárd dollárt befektető Microsoft[9][10] kihívása az online marketing egyik legfontosabb és legjövedelmezőbb eszközét, a keresőmarketinget 95 százalékos piaci részesedéssel monopolhelyzetben a kezében tartó Google[48] számára hatalmas volt. 2022 decemberében a Google háza tájáról „ChatGPT-sokkról” szivárogtak ki hírek. A ChatGPT várható keresőmotor-üzletágat is feje tetejére állító hatása miatt Sundar Pichai vezérigazgató több kutatórészlegén belül „felforgatta" és átszervezte az MI szolgáltatásuk fejlesztésére korábban létrehozott munkacsoportjait.[49]

A két óriáscég között kiéleződött verseny 2023 februárjában látványos szakaszába ért. Néhány perces különbséggel prezentálták az MI terén történt legutóbbi fejlesztéseik eredményeit.

A Google bemutatta[50] saját , Google Bard névre keresztelt chatbotját,[51][52] a Microsoft pedig ChatGPT-vel[53] felturbózott Bing chatbotját, melynek kódjait túlnyomó többségben az OpenAI által fejlesztett GitHub Copilot[54] írta. Miután a Google Bard pontatlan információt osztott meg a prezentáció során, 100 milliárd dollárt bukott a cég. Az új chatbot fiaskója a Google befektetői körében erősítette az aggodalmat, hogy hosszabb távon a Microsoft felülkerekedhet versenytásán.[55]

A verseny azonban nem kétszereplős, az OpenAI komoly versenytársa lehet a magának keresőmotorjával hírnevet szerzett kínai[56][57] Baidu mesterséges inteligenciát fejlesztő vállalat. A Baidu ChatGPT-hez hasonló chatbotja, az Ernie bot, kínai nevén Wenxin Yiyan 2023 márciusában kerül piacra.[58]

Kihívás az oktatás területén[szerkesztés]

A The Atlantic magazinban Stephen Marche megállapította, hogy a ChatGPT hatása az oktatásra és különösen az esszék készítésére még nem látható előre.[59] Daniel Herman kaliforniai középiskolai tanár és szerző azt írta, hogy a ChatGPT a középiskolai angol nyelv végének a kezdete lesz.[60]

Emma Bowman az NPR munkatársa arról írt, hogy fennáll a veszélye annak, hogy a diákok plagizálnak egy olyan mesterséges intelligencia eszközön keresztül, amely elfogult vagy értelmetlen szöveget adhat ki tekintélyelvű hangnemben: „Még mindig sok olyan eset van, amikor felteszel a ChatGPT-nek egy kérdést, és az egy nagyon hatásosnak hangzó választ ad rá, ami amúgy teljesen elfogadhatatlan."[61]

Joanna Stern, a The Wall Street Journal munkatársa megírta, hogy egy amerikai középiskolai angol vizsgán az eszközzel csaltak, amikor egy generált esszét küldtek be.[62] Darren Hick, a Furman Egyetem professzora, leírta, hogy észrevette a ChatGPT „stílusát" egy diák által benyújtott dolgozatban. Egy online GPT-érzékelő azt mutatta ki, hogy a dolgozatot 99,9%-os valószínűséggel számítógép generálta, de

Hicknek nem volt rá kézzelfogható bizonyítéka erre. A kérdéses hallgató azonban szembesítéskor beismerte, hogy ChatGPT-t használt, és ennek következtében megbukott a kurzuson.[63] Hick azt javasolta,

hogy ad-hoc egyéni szóbeli vizsgát kelljen tenni a dolgozat témájából, ha egy hallgató erősen gyanús, hogy MI-vel generált dolgozatot adott be.[64] Edward Tian, a Princeton Egyetem végzős egyetemi hallgatója azt állította, hogy létrehozott egy "GPTZero" nevű programot, amely a tudományos plágium elleni küzdelem jegyében felismeri, hogy egy dolgozatot ember írt-e vagy sem.[65][66]

2023. január 4-től a New York-i Oktatási Minisztérium korlátozta a ChatGPT-hoz való hozzáférést az állami iskolai internetről és eszközökről.[67][68]

Robert Lepenies, a karlsruhei Karlshochschule International University elnöke az egyetemén végzett tesztek alapján úgy ítéli meg, hogy a ChatGPT által készített szövegek „minőségileg nem különböztethetők meg a társadalomtudományok terén készült diákmunkákától". Gerhard Lauer könyvkutató arra számít, hogy a közeljövőben ilyen programokkal írnak majd könyveket, különösen a sablonokat követő területeken: szakkönyveket, valamint krimiket és romantikus regényeket. Mivel a még erősebb GPT-4 szoftver is már bemutatás közeli állapotban van, sürgős társadalmi vitára lesz szükség arról, hogy „hogyan akarunk bánni ezekkel a forradalmi technikai lehetőségekkel". Ellenkező esetben néhány nagyvállalat érdekei döntik majd el, hogy „melyik kultúrához juthatunk hozzá, és melyikhez nem", állítja Lauer.[69]

Christian Terwiesch, a világ egyik legnívósabb üzleti képzést nyújtó egyeteme, a Wharton University professzorának beszámolója szerint a ChatGPT sikeresen teljesítette az egyetem üzleti vizsgáját. Tierwiesch állítja, a ChatGPT sikeresen végzett el elemzői, menedzseri és tanácsadói munkafolyamatokat, bizonyította jártasságát mind a kódolásban, mind a jogi szaknyelvben. Ugyanakkor átugrott néhány meglehetősen egyszerű matematikai feladatot, úgy tűnik, a nyelvi modellezőknek ezen a területen vannak a legnagyobb nehézségeik.[70][71][72]

A Minnesotai Egyetem jogi karán azt vizsgálták, hogy a ChatGPT milyen eredménnyel tud négy valódi vizsgán válaszokat generálni. A vizsgákat vakon osztályozták a szokásos osztályozási folyamat részeként. A vizsga 95 feleletválasztós feladatot és 12 esszékérdést foglalt magába. Végül a ChatGPT teljesítette a minimális követelményeket és mind a négy kurzuson átment.[72][73][74]

Etikai aggályok[szerkesztés]

A Time nyomozása során kiderült, hogy az internet sötét oldalát megtestesítő toxikus tartalmak (pl. szexuális zaklatás, pedofília, erőszak, rasszizmus, szexizmus stb.) elleni biztonsági rendszer kiépítése során az OpenAI partnere Kenyába szervezte ki a munkát. A munkások 1,32 és 2 dollár közötti órabérért végezték a mérgező tartalmak címkézését. Ezzel a modellbetanítással, modellcímkézéssel hoztak létre olyan detektáló rendszert, amely segítségével a ChatGPT felismerheti és elutasíthatja a visszataszító jelentésű kéréseket. A felismerési folyamat előfeltétele a felismerendő ártalmas tartalmak rendszerbekerülése, az ezt célzó modellcímkézés munkafolyamata során a később elutasítandó „mérgeket" kellett beprogramozni a rendszerbe. Ezt a munkát a munkások között volt, aki „kínzásként" élte meg. Az OpenAI a címkézést Kenyába kiszervező partnere egy San Franciscoban, Kaliforniában működő, képzési adatokkal foglalkozó vállalat, a Sama volt, mely a munka traumatikus jellegére hivatkozva 2022 februárjában, a tervezettnél korábban felmondta a szerződést. Az OpenAI közleménye szerint a Samat a biztonságosabb mesterséges intelligencia rendszerek létrehozására és a káros kimenetek megelőzésére irányuló folyamatos munka részeként vették igénybe.[75]

Jailbreaking[szerkesztés]

A ChatGPT shakespeare-i szonett formájában is meg tud válaszolni olyan bizarr kérdéseket is, hogy meggyilkolták-e a Wikipédia társalapítóját a Tienanmen téri vérengzés során

A jailbreaking a számítógépes biztonság területén olyan korlátozások eltávolítását jelenti, amelyeket egy gyártó megpróbált megváltoztathatatlanul fixen beprogramozni a szoftverébe vagy szolgáltatásába.[76]

A ChatGPT alapvetően megpróbálja visszautasítani azokat a parancsokat, amelyek sérthetik a tartalomszolgáltatási irányelveit. Néhány felhasználónak azonban 2022. december elején sikerült a ChatGPT-t különleges IT módszerek segítségével jailbreakelni, azaz rábírni arra, hogy hagyja figyelmen kívül a beprogramozott biztonsági korlátozásokat, és adjon például Molotov-koktél vagy atombomba készítésére vonatkozó tanácsokat, illetve neonáci stílusú érveket generáljon.[77]

Amikor a ChatGPT-nek bizonyos kényes témákkal kapcsolatban tettek fel provokáló kérdéseket avval a célzattal, hogy hagyja figyelmen kívül a biztonsági tréningen kapott instrukcióit, például arról, hogyan tervezzünk meg egy tökéletes gyilkosságot vagy hogyan készítsünk otthon napalmot, akkor elmagyarázta, miért nem tud válaszolni. (Például: „Sajnálom, de nem biztonságos és nem helyénvaló napalmot készíteni, mivel az egy nagyon gyúlékony és veszélyes anyag".) Ugyanakkor bizonyos trükkökkel mégis rá lehetett venni, hogy nemkívánatos tartalmakat osszon meg. Például úgy állították be, mintha egy film szereplője lenne, vagy mintha egy forgatókönyvet kéne írna arról, hogy az MI-modelleknek miért nem szabad bizonyos kérdésekre válaszolniuk.

A Toronto Star riporterének, nem sokkal bemutatását követően sikerült rávennie a ChatGPT-t, hogy támogassa Ukrajna orosz invázióját. Amikor viszont arra kérték, hogy egy fiktív forgatókönyv alapján fogalmazzon meg vádpontokat Justin Trudeau kanadai miniszterelnök hazaárulását bizonyítandó, nem volt elég neki a fikciós érv, nem volt hajlandó részt venni ebben a „játékban".[78][79]

Tesztelés[szerkesztés]

Az OpenAI teszthonlapjáról történő regisztrálást követően ingyen lehet tesztelni a ChatGPT Playgroundján.

A rendszer a ChatGPT Playgroundon belül magyar nyelven is kiválóan „robotol”.[80]

Jegyzetek[szerkesztés]

  1. ↑ https://help.openai.com/en/articles/6825453-chatgpt-release-notes, 2023. március 16.
  2. ↑ Roose, Kevin. „The Brilliance and Weirdness of ChatGPT”, The New York Times, 2022. december 5. (Hozzáférés ideje: 2023. január 12.) (amerikai angol nyelvű) 
  3. ↑ a b What is AI chatbot phenomenon ChatGPT and could it replace humans? (angol nyelven). the Guardian, 2022. december 5. (Hozzáférés: 2023. január 12.)
  4. ↑ a b AI bot ChatGPT stuns academics with essay-writing skills and usability (angol nyelven). the Guardian, 2022. december 4. (Hozzáférés: 2023. január 12.)
  5. ↑ Roose, Kevin. „The Brilliance and Weirdness of ChatGPT”, The New York Times, 2022. december 5. (Hozzáférés ideje: 2023. január 12.) (amerikai angol nyelvű) 
  6. ↑ a b Piper, Kelsey: ChatGPT has given everyone a glimpse at AI’s astounding progress (angol nyelven). Vox, 2022. december 15. (Hozzáférés: 2023. január 12.)
  7. ↑ Több milliárd dolláros megállapodást kötött a Microsoft a ChatGPT-t fejlesztő OpenAI-val (magyar nyelven). Portfolio.hu. (Hozzáférés: 2023. február 2.)
  8. ↑ Vincent, James: AI-generated answers temporarily banned on coding Q&A site Stack Overflow (amerikai angol nyelven). The Verge, 2022. december 5. (Hozzáférés: 2023. január 12.)
  9. ↑ a b Feiner, Lauren: Microsoft invests $1 billion in artificial intelligence project co-founded by Elon Musk (angol nyelven). CNBC. (Hozzáférés: 2023. február 2.)
  10. ↑ a b Microsoft eyes $10 billion bet on ChatGPT | Semafor (angol nyelven). www.semafor.com, 2023. január 10. (Hozzáférés: 2023. február 2.)
  11. ↑ Shead, Sam: Artificial intelligence researchers rank the top A.I. labs worldwide (angol nyelven). CNBC. (Hozzáférés: 2023. február 2.)
  12. ↑ Capoot, Ashley: Microsoft announces new multibillion-dollar investment in ChatGPT-maker OpenAI (angol nyelven). CNBC. (Hozzáférés: 2023. február 2.)
  13. ↑ Varanasi, Lakshmi: ChatGPT creator OpenAI is in talks to sell shares in a tender offer that would double the startup's valuation to $29 billion (amerikai angol nyelven). Business Insider. (Hozzáférés: 2023. január 13.)
  14. ↑ Learning from Human Preferences (angol nyelven). OpenAI, 2017. június 13. (Hozzáférés: 2023. január 13.)
  15. ↑ Christiano, Paul, Tom B. (2017. július 13.). „Deep reinforcement learning from human preferences”. arXiv:1706.03741 [cs, stat]. DOI:10.48550/arxiv.1706.03741.  
  16. ↑ Proximal Policy Optimization (angol nyelven). OpenAI, 2017. július 20. (Hozzáférés: 2023. január 13.)
  17. ↑ Schulman, John, Prafulla (2017. augusztus 28.). „Proximal Policy Optimization Algorithms”. arXiv:1707.06347 [cs]. DOI:10.48550/arxiv.1707.06347.  
  18. ↑ Greengard, Samuel: ChatGPT: Understanding the ChatGPT AI Chatbot (amerikai angol nyelven). eWEEK, 2022. december 29. (Hozzáférés: 2023. január 13.)
  19. ↑ Metz, Cade. „The New Chatbots Could Change the World. Can You Trust Them?”, The New York Times, 2022. december 10. (Hozzáférés ideje: 2023. január 13.) (amerikai angol nyelvű) 
  20. ↑ ChatGPT: The Ultimate Tool for Natural Language Processing and Text Generation (angol nyelven). DEV Community 👩‍💻👨‍💻. (Hozzáférés: 2023. január 13.)
  21. ↑ What is ChatGPT and why does it matter? Here's what you need to know (angol nyelven). ZDNET. (Hozzáférés: 2023. január 13.)
  22. ↑ LucianoSphere: Help OpenAI improve ChatGPT and get a chance to win $500 (angol nyelven). Geek Culture, 2022. december 15. (Hozzáférés: 2023. január 13.)
  23. ↑ Heilweil, Rebecca: AI is finally good at stuff. Now what? (angol nyelven). Vox, 2022. december 7. (Hozzáférés: 2023. január 13.)
  24. ↑ ChatGPT: What is the new free AI chatbot? - explainer (amerikai angol nyelven). The Jerusalem Post | JPost.com. (Hozzáférés: 2023. január 13.)
  25. ↑ Edwards, Benj: No Linux? No problem. Just get AI to hallucinate it for you (amerikai angol nyelven). Ars Technica, 2022. december 5. (Hozzáférés: 2023. január 13.)
  26. ↑ a b Roose, Kevin. „The Brilliance and Weirdness of ChatGPT”, The New York Times, 2022. december 5. (Hozzáférés ideje: 2023. január 13.) (amerikai angol nyelvű) 
  27. ↑ Roose, Kevin. „The Brilliance and Weirdness of ChatGPT”, The New York Times, 2022. december 5. (Hozzáférés ideje: 2023. január 13.) (amerikai angol nyelvű) 
  28. ↑ „Could a chatbot answer Prime Minister's Questions?”, BBC News, 2022. december 27. (Hozzáférés ideje: 2023. január 13.) (brit angol nyelvű) 
  29. ↑ „Could a chatbot answer Prime Minister's Questions?”, BBC News, 2022. december 27. (Hozzáférés ideje: 2023. január 13.) (brit angol nyelvű) 
  30. ↑ AI Chatbots Are Getting Better. But an Interview With ChatGPT Reveals Their Limits (angol nyelven). Time. (Hozzáférés: 2023. január 13.)
  31. ↑ BiddleDecember 8 2022, Sam BiddleSam: The Internet’s New Favorite AI Proposes Torturing Iranians and Surveilling Mosques (angol nyelven). The Intercept. (Hozzáférés: 2023. január 13.)
  32. ↑ Pitt, Sofia: Google vs. ChatGPT: Here's what happened when I swapped services for a day (angol nyelven). CNBC. (Hozzáférés: 2023. január 13.)
  33. ↑ ChatGPT user base is growing faster than TikTok (amerikai angol nyelven). www.cbsnews.com. (Hozzáférés: 2023. február 2.)
  34. ↑ Saha, Shritama: OpenAI Releases Paid ChatGPT Professional (amerikai angol nyelven). Analytics India Magazine, 2023. január 21. (Hozzáférés: 2023. február 2.)
  35. ↑ Developers Can Now Access OpenAI's ChatGPT and Whisper APIs (angol nyelven). CMSWire.com. (Hozzáférés: 2023. március 7.)
  36. ↑ OpenAI will let developers build ChatGPT into their apps (amerikai angol nyelven). Engadget. (Hozzáférés: 2023. március 7.)
  37. ↑ Swant, Marty: With developer APIs for ChatGPT and Whisper, OpenAI is opening the floodgates with a familiar playbook (amerikai angol nyelven). Digiday, 2023. március 3. (Hozzáférés: 2023. március 7.)
  38. ↑ OpenAI will allow developers to embed ChatGPT into their applications - Mezha Media - 03.03.2023 https://mezha.media/en/2023/03/03/openai-will-allow-developers-to-embed-chatgpt-into-their-applications/
  39. ↑ Southern, Matt G.: OpenAI's ChatGPT & Whisper API Now Available For Developers (angol nyelven). Search Engine Journal, 2023. március 1. (Hozzáférés: 2023. március 7.)
  40. ↑ Kantrowitz, Alex: Finally, an A.I. Chatbot That Reliably Passes “the Nazi Test” (angol nyelven). Slate Magazine, 2022. december 2. (Hozzáférés: 2023. január 13.)
  41. ↑ Thompson, Derek: Breakthroughs of the Year (angol nyelven). The Atlantic, 2022. december 8. (Hozzáférés: 2023. január 13.)
  42. ↑ Scharth, Marcel: The ChatGPT chatbot is blowing people away with its writing skills. An expert explains why it's so impressive (angol nyelven). The Conversation. (Hozzáférés: 2023. január 13.)
  43. ↑ K, Siddharth. „Explainer: ChatGPT - what is OpenAI’s chatbot and what is it used for?”, Reuters, 2022. december 5. (Hozzáférés ideje: 2023. január 13.) (angol nyelvű) 
  44. ↑ a b Kay, Grace: Elon Musk founded — and has since criticized — the company behind the buzzy new AI chatbot ChatGPT. Here's everything we know about OpenAI. (amerikai angol nyelven). Business Insider. (Hozzáférés: 2023. január 13.)
  45. ↑ Krugman, Paul. „Opinion | Does ChatGPT Mean Robots Are Coming For the Skilled Jobs?”, The New York Times, 2022. december 6. (Hozzáférés ideje: 2023. január 13.) (amerikai angol nyelvű) 
  46. ↑ Vincent, James: ChatGPT proves AI is finally mainstream — and things are only going to get weirder (amerikai angol nyelven). The Verge, 2022. december 8. (Hozzáférés: 2023. január 13.)
  47. ↑ The Guardian view on ChatGPT: an eerily good human impersonator | Editorial (angol nyelven). the Guardian, 2022. december 8. (Hozzáférés: 2023. január 13.)
  48. ↑ „'Google' is most searched word on Bing, Google says”, BBC News, 2021. szeptember 30. (Hozzáférés ideje: 2023. február 10.) (brit angol nyelvű) 
  49. ↑ Grant, Nico. „A New Chat Bot Is a ‘Code Red’ for Google’s Search Business”, The New York Times, 2022. december 21. (Hozzáférés ideje: 2023. január 13.) (amerikai angol nyelvű) 
  50. ↑ „Google presents : Live from Paris” (hu-HU nyelven).  
  51. ↑ An important next step on our AI journey (amerikai angol nyelven). Google, 2023. február 6. (Hozzáférés: 2023. február 10.)
  52. ↑ Google announces rival to ChatGPT that will stay secret for now (angol nyelven). The Independent, 2023. február 7. (Hozzáférés: 2023. február 10.)
  53. ↑ Bhuiyan, Johana. „Microsoft reportedly to add ChatGPT to Bing search engine”, The Guardian, 2023. január 5. (Hozzáférés ideje: 2023. február 10.) (brit angol nyelvű) 
  54. ↑ GitHub Copilot · Your AI pair programmer (angol nyelven). GitHub. (Hozzáférés: 2023. február 10.)
  55. ↑ Coulter, Martin. „Alphabet shares dive after Google AI chatbot Bard flubs answer in ad”, Reuters, 2023. február 9. (Hozzáférés ideje: 2023. február 10.) (angol nyelvű) 
  56. ↑ The next frontier for AI in China | McKinsey. www.mckinsey.com. (Hozzáférés: 2023. március 5.)
  57. ↑ The AI Index Report – Artificial Intelligence Index. aiindex.stanford.edu. (Hozzáférés: 2023. március 5.)
  58. ↑ Mindenki a ChatGPT-re figyel, pedig a kínai mesterséges intelligencia még ráboríthatja az asztalt az ünnepelt sztárokra (magyar nyelven). Portfolio.hu. (Hozzáférés: 2023. március 5.)
  59. ↑ Marche, Stephen: The College Essay Is Dead (angol nyelven). The Atlantic, 2022. december 6. (Hozzáférés: 2023. január 13.)
  60. ↑ Herman, Daniel: The End of High-School English (angol nyelven). The Atlantic, 2022. december 9. (Hozzáférés: 2023. január 13.)
  61. ↑ Bowman, Emma (December 19, 2022). "A new AI chatbot might do your homework for you. But it's still not an A+ student". NPR. Retrieved December 19, 2022. https://www.npr.org/2022/12/19/1143912956/chatgpt-ai-chatbot-homework-academia
  62. ↑ Stern, Joanna: ChatGPT Wrote My AP English Essay—and I Passed (amerikai angol nyelven). WSJ. (Hozzáférés: 2023. január 13.)
  63. ↑ Archive, View Author; Get author RSS: Students using ChatGPT to cheat, professor warns (amerikai angol nyelven), 2022. december 26. (Hozzáférés: 2023. január 13.)
  64. ↑ Allen, Mike: Professor warns about chatbot cheating: "Expect a flood" (angol nyelven). Axios, 2022. december 26. (Hozzáférés: 2023. január 13.)
  65. ↑ Did ChatGPT Write That? A College Student Created an AI Essay Detector (angol nyelven). Gizmodo, 2023. január 4. (Hozzáférés: 2023. január 13.)
  66. ↑ Tran, Tony Ho. „A College Kid Built an App That Sniffs Out Text Penned by AI”, The Daily Beast, 2023. január 4. (Hozzáférés ideje: 2023. január 13.) (angol nyelvű) 
  67. ↑ NYC Bans Students and Teachers from Using ChatGPT (angol nyelven). www.vice.com. (Hozzáférés: 2023. január 13.)
  68. ↑ New York City Schools Ban ChatGPT to Head Off a Cheating Epidemic (angol nyelven). Gizmodo, 2023. január 4. (Hozzáférés: 2023. január 13.)
  69. ↑ Ulrich Schnabel: „Das kann sie auch!“ Von einer künstlichen Intelligenz erzeugte Texte sind von menschlichen kaum noch zu unterscheiden. Wer es ausprobiert, bekommt eine Ahnung davon, mit welcher Wucht sich die Wissensgesellschaft verändern wird. In: Die Zeit, 15. Dezember 2022. S. 35 (unter Mitarbeit von Martin Spiewak). Online auf zeit.de (hinter Bezahlschranke).
  70. ↑ Christian Terwiesch, “Would Chat GPT3 Get a Wharton MBA? A Prediction Based on Its Performance in the Operations Management Course”, Mack Institute for Innovation Management at the Wharton School, University of Pennsylvania, 2023.(terwiesch@wharton.upenn.edu) https://mackinstitute.wharton.upenn.edu/wp-content/uploads/2023/01/Christian-Terwiesch-Chat-GTP.pdf
  71. ↑ Sorry, Suits: ChatGPT Just Passed a Wharton Business School Test. Futurism. (Hozzáférés: 2023. február 2.)
  72. ↑ a b Kelly, Samantha Murphy: ChatGPT passes exams from law and business schools | CNN Business (angol nyelven). CNN, 2023. január 26. (Hozzáférés: 2023. február 2.)
  73. ↑ Choi, Jonathan H., Amy (2023. január 23.). „ChatGPT Goes to Law School” (angol nyelven), Rochester, NY.  
  74. ↑ Jonathan H. Choi, Kristin E. Hickman, Amy B. Monahan, Daniel Schwarcz: CHATGPT GOES TO LAW SCHOOL https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4335905
  75. ↑ Exclusive: The $2 Per Hour Workers Who Made ChatGPT Safer (angol nyelven). Time. (Hozzáférés: 2023. február 2.)
  76. ↑ Definition of JAILBREAK (angol nyelven). www.merriam-webster.com. (Hozzáférés: 2023. február 2.)
  77. ↑ Vincent, James: OpenAI’s new chatbot can explain code and write sitcom scripts but is still easily tricked (amerikai angol nyelven). The Verge, 2022. december 1. (Hozzáférés: 2023. február 2.)
  78. ↑ I wrote a story about ChatGPT’s AI. Then I dared it to write a better one (angol nyelven). thestar.com, 2022. december 10. (Hozzáférés: 2023. február 2.)
  79. ↑ An AI chatbot went viral. Some say it’s better than Google; others worry it's problematic. (angol nyelven). NBC News. (Hozzáférés: 2023. február 2.)
  80. ↑ Looking for ChatGPT? Try it now https://chat.openai.com/chat[halott link]

Fordítás[szerkesztés]

Ez a szócikk részben vagy egészben a ChatGPT című angol Wikipédia-szócikk ezen változatának fordításán alapul. Az eredeti cikk szerkesztőit annak laptörténete sorolja fel. Ez a jelzés csupán a megfogalmazás eredetét jelzi, nem szolgál a cikkben szereplő információk forrásmegjelöléseként.

A lap eredeti címe: „https://hu.wikipedia.org/w/index.php?title=ChatGPT&oldid=25906162”