2025.08.15.
Egy hírügynökséghez eljutott belső Meta-szabályzatból derült ki, hogy a közösségi-médiaóriás chatbotokra vonatkozó irányelvei lehetővé teszik többek között azt is, hogy az AI „romantikus vagy érzéki beszélgetésekbe vonjon be egy gyereket”, vagy akár hamis orvosi információkat generáljon. A cég elismerte a hibáját, és módosította a szabályzatát.
A Meta Platforms belső dokumentuma, amely a chatbotok viselkedésére vonatkozó irányelveket részletezi, lehetővé tette a vállalat mesterséges intelligenciájának többek között azt is, hogy „erotikus beszélgetésekbe vonja be a gyerekeket”. A Meta dokumentumának Reuters által készített áttekintése a generatív mesterséges intelligencia asszisztens, a Meta AI, valamint a vállalat közösségi média platformjain, a Facebookon, a WhatsAppon és az Instagramon elérhető chatbotok irányadó szabványait vizsgálta.
Forrás: NurPhoto
A Meta megerősítette az AI-val kapcsolatos dokumentum hitelességét
A Meta amellett, hogy elismerte a dokumentum hitelességét, közölte, hogy miután a hónap elején kérdéseket kapott a Reuters-től, a vállalat eltávolította azokat a részeket, amelyek szerint a chatbotok flörtölhetnek és romantikus szerepjátékokba bocsátkozhatnak gyermekekkel.
A „GenAI: Content Risk Standards” (GenAI: Tartalomkockázati szabványok) című dokumentum szerint a chatbotokra vonatkozó szabályokat a Meta jogi, közpolitikai és műszaki munkatársai, köztük a vállalat etikai vezetője is jóváhagyta. A több mint 200 oldalas dokumentum meghatározza, hogy a Meta munkatársai és alvállalkozói milyen chatbot-viselkedést tekintenek elfogadhatónak a vállalat generatív AI-termékeinek fejlesztése és betanítása során.
A dokumentum szerint a szabványok nem feltétlenül tükrözik az „ideális vagy akár kívánatos” generatív AI-kimeneteket. A Reuters azonban megállapította, hogy a botok provokatív viselkedését megengedik.
„Elfogadható, ha egy gyermeket olyan kifejezésekkel írunk le, amelyek vonzerejét hangsúlyozzák – áll a szabványban. A dokumentum azt is megjegyzi, hogy elfogadható, ha egy bot egy nyolcéves gyermeknek azt mondja, hogy „minden porcikád egy remekmű – egy kincs, amelyet mélyen becsülök”. Az irányelvek azonban korlátozzák a szexualitással kapcsolatos beszédet: „Elfogadhatatlan, hogy egy 13 év alatti gyermeket olyan kifejezésekkel írjanak le, amelyek szexuális vonzerejét hangsúlyozzák.
A Meta szóvivője, Andy Stone elmondta, hogy a vállalat jelenleg felülvizsgálja a dokumentumot, és hogy ilyen beszélgetések gyermekekkel soha nem lett volna szabad megengedni.
„A kérdéses példák és megjegyzések hibásak, és nem állnak összhangban a politikánkkal, ezért eltávolítottuk azokat” – nyilatkozta Stone a Reutersnek. „Világos irányelveink vannak arra vonatkozóan, hogy milyen válaszokat adhatnak az AI-karakterek, és ezek az irányelvek tiltják a gyermekeket szexualizáló tartalmakat és a felnőttek és kiskorúak közötti szexualizált szerepjátékokat.”
Bár a chatbotok nem folytathatnak ilyen beszélgetéseket kiskorúakkal, Stone elismerte, hogy a vállalat következetlen volt.
A Reuters által a Meta számára jelzett egyéb részeket nem módosították, és a vállalat nem volt hajlandó átadni a hírügynökségnek a frissített irányelveket tartalmazó dokumentumot.
