Drasztikus lépésre szánta el magát az OpenAI – ezentúl erről nem beszél a ChatGPT

Altman szerint az OpenAI olyan rendszeren dolgozik, amely a felhasználói viselkedés alapján becsülné meg az életkort; ha valaki nem tud meggyőzően dönteni, biztonsági okokból automatikusan a kiskorúakra szabott, szigorúbb beállítás lép életbe. Bizonyos esetekben szükség lehet személyazonosság-ellenőrzésre is — írta a vezérigazgató.

Amennyiben a rendszer kiskorúnak azonosít valakit, a chatbot nem ad tanácsot önsértéssel vagy öngyilkossággal kapcsolatban, és kerüli a kacérkodó, szexuális hangvételű megnyilvánulásokat is, még akkor is, ha a fiatal kéri ezt. Emellett az OpenAI azt ígéri, hogy ha egy felhasználó ártani akar magának, a szolgáltatás megkísérli értesíteni a szülőket vagy az illetékes hatóságokat.

Az OpenAI egy tragédia miatt döntött a változtatások mellett

A vállalati lépés hátterében jogi és társadalmi nyomás áll: nemrégiben egy brit család pert indított az OpenAI ellen, miután tizenhat éves fiuk hónapokon át olyan beszélgetéseket folytatott a chatbotokkal, amelyek a szülők állítása szerint nem térítették el elég határozottan a fiatalt a veszélyes terveitől. Az ügyet követően az OpenAI belső vizsgálatokat indított, és komoly biztonsági intézkedéseket kezdeményezett.

Az OpenAI fent említett tervei azonban további technikai és jogi kérdéseket vetnek fel, például, hogy hogyan azonosítják a felhasználókat, vissza tudnak-e élni adatokkal. Altman bejegyzése szerint a cég ezeken a kérdéseken is dolgozik, azt szeretnék, hogy a szolgáltatás egyszerre legyen hasznos és biztonságos.

A fejlesztések bevezetésének pontos ütemtervéről továbbra sincsenek részletek; az OpenAI annyit közölt, hogy a rendszert fokozatosan vezetik majd be, és egyes országokban eltérő megoldásokat alkalmazhatnak.