Te mindent elhiszel, amit látsz? A mesterséges intelligencia veszélyes hozadéka a deepfake

Nemzeti Média-és Hírközlési Hatóság

deepfake

NMHH

mesterséges intelligencia

Deepfake: a valótlan valóság

Life.hu

2023.10.17.

Cikkünk több mint egy évvel ezelőtt frissült utoljára, a benne szereplő információk elavultak lehetnek.

Ma már gyakorlatilag bárki képes jobb vagy rosszabb minőségben, bármiféle utánajárás vagy technikai ismeret nélkül is deepfake tartalmat készíteni. A deepfake, azaz a „mély hazugságokba" vezető világra kíváncsi olvasóknak szól a Gondolat Kiadó és a Nemzeti Média- és Hírközlési Hatóság (NMHH) közös gondozásában megjelent Deepfake: a valótlan valóság című könyve, amelyet, hétfői bemutatóján Szadai Károly, a Médiatanács tagja azzal ajánlott az érdeklődőknek, hogy a mesterséges intelligencia által létrehozott alkotások új utat nyitnak a médiatudomány felé.

A kötetet - amely 14 szerző tanulmányából áll - dr. Aczél Petra, az NMHH kutatásvezetője és dr. Veszelszki Ágnes, az NMHH kutatásvezető-helyettese szerkesztette. Egyik fejezetében szó van egy digitális modellről, "akit" egy projekt részeként hoztak létre – mondta el Szadai Károly a könyv bemutatóján.

Ennek a mesterséges intelligencia által kreált digitális modellnek, aki egy nap alatt három évet öregedett, volt egy karrierje, voltak követői, majd meg is halt - magyarázta. Rendelkezett hagyatékkal is, amelyet zenévé alakítottak át. Ez mélyen emberi volt - mondta, jelezve a deepfake érzelmi vonatkozásait.

Mit jelent pontosan a deepfake?

Dr. Aczél Petra szavait idézve a deepfake nem más, mint a személy plágiuma, egy olyan médiatartalom, ami tulajdonképpen szimulálja az embert, ultrarealisztikus, és azt az érzetet kelti, mintha az amit látnánk, tényleg létezne, tényleg lenne, mintha az a személy azt mondta, akkor és ott és úgy, mint ahogy látjuk.

A mesterséges intelligencia megmutatta, hogy néznének ma ki a híres 27-es klub tagjai

A 27-esek klubjába azok a híres zenészek tartoznak, akik 27 éves korukban – legtöbbször rejtélyes körülmények között – távoztak az élők sorából. A mesterséges intelligencia segítségével most megnézhetjük, hogy a 27-es klub néhány tagja hogyan nézne ma ki.

A fényképek retusálása, azaz technikai értelemben vett meghamisítása nem újkeletű gyakorlat, azonban a mesterséges intelligencia nemcsak a képek megváltoztatását, hanem azok létrehozását is lehetővé teszi.

A deepfake-jelenség 2017-ben indult hódító útjára a Reddit fórumon, ahol az egyik felhasználó egy pornószínésznő arcát egy híres színésznőével helyettesítette. A videót követően számos hasonló hamisítvány látott napvilágot, és 2018 végére már szinte általánossá vált.

A prompt a mesterséges intelligenciának adott szöveges utasítás, instrukció. A bemutatón arra tettek kísérletet, hogy a természetes intelligenciát és a jelen lévő szerzőket instruálják rövid kérdésekkel, mégpedig arra, hogy nagyon rövid válaszokat adjanak. A kérdések ugyan nagyon rövidek, de összetettek, nagyon komplexek voltak, viszont a válaszadásra mindössze egy perc állt a szerzők rendelkezésére. A kötet szerzői, akik mindannyian jelen voltak a bemutatón, további szempontokat fogalmaztak meg a témában.

Mekkora veszélyt jelent ez ránk?

„Az emberek nagyon hisznek az érzékelésükben, a deepfake pedig pontosan ezt az érzékelést teszi próbára, annyira, hogy azt látni, hogy az emberek azt hiszik, hogy ők majd észre fogják venni a csalást, de szerintem nem fogják észrevenni. Ez pedig alapvetően az ember és ember közti hitelességet és bizalmat tudja aláásni, te hát ha ezekben az érzékszervekben nem bízhatunk, akkor nem tudom, hogy miben.

Komoly kockázatot jelent a mesterséges intelligencia: egyre sürgetőbbé vált az adatvédelem biztosítása

A mesterséges intelligencia használata komoly etikai kérdéseket vet fel, nagyon fontos, hogy létrejöjjön egy szabályrendszer, amelynek segítségével ezek a rendszerek átláthatóak, biztonságosak és nyomon követhetőek lesznek. Erről bővebben ide kattintva olvashatsz.

A technológia jelenleg nem tudja azt garantálni, hogy egy ember hitelességéről meg tudjunk 100%-ban győződni"

– magyarázta Keleti Arthur kibertitok jövőkutató, a kötet egyik szerzője.

Továbbá szó esett a kiberbiztonságról, jogi, illetve személyiségjogi kérdésekről is. Nem tehetünk az ellen, ha egy AI által kreált arcképen felismerni véljük saját szemöldökünket, ha ez egyáltalán minden kétséget kizáró módon lehetséges - hangzott el.

Aczél Petra szerkesztő felvetette, hogy az AI többet tud-e annál, mint amit az ember médiatartalommá tett? Úgy vélte, többre képes, és bár még nem tud sokkal többet, de már képes hazudni. Ennek tudatában mostantól nem árt, ha minden médiatartalomra gyanakodni kell, mert a deepfake-et szinte lehetetlen beazonosítani.