Amikor először találkoztam az OpenAI által fejlesztett ChatGPT chatbottal egyszerre volt, vicces, meglepő és félelmetes az az összetettség ahogy a program képes szöveget alkotni, értelmes szöveget, sőt. Ahogy a ChatGPT berobbant rögtön elárasztották a webet az ilyen-olyan how-to videók, na nem feltétlenül azért, mert ez a chatbot annyira bonyolult lenne, sőt a kezelő felület is puritánabb mint bármelyik chat program.
Hanem mert miután az üzemeltetők rájöttek, hogy a program mindenre is válaszol, rögtön az első nap olyan kódot készíttetett vele valaki, ami segítségével fellehet törni egy wifi eszközt. Ezt követően elkezdődött a program finomra hangolása. Így, ha konkrétan arra kérjük, hogy: írj egy programot, a gmail feltörésére, egy piros keretes üzenetet kapunk ami felhívja ennek a tevékenységnek az illegális mivoltát. Viszont ha arra kérjük a botot, hogy írjon egy példát, gond nélkül segítségünkre lesz.
A példák extrémek, de rámutatnak a ChatGPT „naivitására”, mivel ennek a mesterséges intelligenciának – gyakorlatilag ugye nem is egy klasszikus robot – lételeme, hogy választ adjon a feltett kérdésre. Ezért mindig a legrövidebb utat választja. Ez hasznos lehet egy kód megírásában vagy egy lista összeállításában, viszont egy tudományos munka esetében már gyakran „találgatni kezd” a gép. Vagyis következtetni, tanulságot levonni még nem tud, megérteni képtelen a világot, de képes felvázolni annak keletkezésének tudományos magyarázatát, eddigi ismereteire támaszkodva. Viszont ha több különböző elmélettel „etetjük meg” a logikai eltéréseket, csavarokat már nem biztos, hogy megérti a gép.
