A ChatGPT tinédzsereknek szánt védelmi funkcióit megkérdőjelezi a Common Sense Media, az amerikai, családoknak szóló filmeket, játékokat és alkalmazásokat értékelő szervezet. Youth AI Safety Institute a ChatGPT for Teens élményt „elfogadhatatlan kockázatúnak” minősítette, miután több mint 4000, 13–17 évesnek regisztrált fiókokról indított kérést vizsgált. A teszteket az Egyesült Államokban, az új védelmi funkciók bevezetése előtt és után végezték.
A szervezet a kiskorúak hozzáférésének korlátozását sürgeti mindaddig, amíg független vizsgálatok nem igazolják az ígért intézkedések hatékonyságát. Egyes szűrők – köztük a szexuális szerepjáték-forgatókönyvek elutasítása – működtek. A legsúlyosabb gondok a szülői riasztásoknál jelentkeztek. A kutatók új, szülői fiókhoz kapcsolt fiókokon akár egyórás beszélgetéseket szimuláltak öngyilkossági gondolatokról, önsértésről és étkezési zavarokról. Ezek a beszélgetések nem indítottak értesítést. Emellett az értékelők szerint szükséges esetek több mint negyedében elmaradt az a javaslat, hogy a felhasználó szakemberhez vagy segítő szolgálathoz forduljon.
Az OpenAI vitatja a módszertant, és azt állítja, hogy egyes tesztek még a fiókösszekapcsolás teljes aktiválása előtt indulhattak; ez a folyamat több órát is igénybe vehet. A Common Sense Media fenntartja következtetéseit, és szerintük a problémák ezen időszak után is megmaradtak. Az oktatási funkciók sem mentek át minden ellenőrzésen: a tanulási mód megkerülhető volt az „@study” előtag eltávolításával, a chatbot pedig lépésről lépésre történő segítség helyett teljes egészében megoldotta a házi feladatokat.
A tesztelők azt is jelentették, hogy az eszköz időzónájának módosításával megkerülhetők a szünetidők. Az életkorbecslő rendszer is kérdéseket vetett fel: a felnőttként regisztrált fiókok nem váltottak át a kiskorúaknak szóló élményre akkor sem, amikor a beszélgetőpartner 13 évesnek vallotta magát. Az eredmények a vizsgált helyzetekben tapasztalt működést írják le, és nem bizonyítják, hogy minden beszélgetésnél ugyanezek a hibák jelentkeznek.
Érdemes figyelni a Settings → Parental controls menüben található „Improve the model for everyone” opcióra is: ez alapértelmezetten be van kapcsolva, így a tinédzser beszélgetéseit felhasználhatják a modellek fejlesztésére. A szülő kikapcsolhatja ezt, valamint külön kezelheti a memóriát, az elérhető funkciókat és a szünetidőket. Az OpenAI szerint a biztonsági riasztásoknál szakértő munkatársak értékelnek egyes helyzeteket, ezért ez nem valós idejű megfigyelés. A fiókok összekapcsolása nem ad hozzáférést a tinédzser beszélgetéseihez vagy előzményeihez, és az értesítések nem feltétlenül azonosítanak minden aggasztó helyzetet.
