A ChatGPT-t üzemeltető amerikai OpenAI bejelentette, hogy szülői felügyeleti mechanizmust vezet be a platformon, miután augusztus végén amerikai szülők azzal vádolták meg a chatbotot, hogy öngyilkosságra buzdította gyermeküket.
Fotó: Getty
“A következő hónapban a szülők összekapcsolhatják fiókjukat tizenéves gyermekük fiókjával“, és “ellenőrizhetik, hogy a ChatGPT hogyan válaszol gyermeküknek a modell viselkedési szabályai alapján” – közölte a vállalat egy blogbejegyzésben. A vállalat szerint a szülők értesítést kaphatnak, ha a platform gyermekük beszélgetéseiben “akut szorongást” észlel, és ellenőrizhetik a fiók beállításait. Mint mi is megírtuk, gyermekük halála után egy tizenhat éves kaliforniai fiú szülei augusztusban pert indítottak az OpenAI ellen, azzal vádolva a céget, hogy a program részletes utasításokat adott fiuknak az öngyilkossághoz.
A mostani bejelentés “valóban a legszükségesebb minimum” – mondta Melodi Dincer ügyvéd, aki a szülőkkel és egy egyesülettel együtt vitte az ügyet bíróság elé. Úgy vélekedett, az ilyen intézkedéseknek már régóta érvényben kellene lenniük, egyben kétségét fejezte ki az OpenAI által bevezetett korrekcióval kapcsolatban. “Továbbra is fejlesztjük modelljeinket, hogy jobban felismerjék a mentális és érzelmi szorongás jeleit” – írta a cég.
Kapcsolódó cikkek
