Moguće je da se nalazimo u jednoj epizodi Black Mirrora. Ali stvarno. Od toga da ljudi razgovaraju sa ChatGPT-jem kao da je prava osoba, koriste ga kao psihoterapeuta, a što je najgore od svega, generiraju fake sadržaj kao na pokretnoj traci. Brendovi sve više koriste “fake” ljude u svojim kampanjama jer, zašto bismo angažirali prave ljude, modele, kad možemo besplatno dobiti to isto? Svijet se pretvara u generiranu sliku i uopće mi se to ne sviđa. Od alata koji nam je trebao pomoći u životu, skratiti nam muke pri rješavanju nekih day-to-day poslova, sveli smo se na to da moramo razmišljati je li to što gledamo stvarnost. Zadnji primjer događa se i u beautyju – počeli smo dobivati “preporuke” od generiranih stručnjaka, dermatolozi koji pričaju o proizvodima ili zahvatima zapravo su prijevare, a najgore je što koriste stvarne ljude za to.
Slučaj Skaind
Zamislite da vam se jedan dan samo svijet okrene naopačke jer je netko iskoristio vas i vaše lice bez vašeg znanja. Ljudi vas samo odjednom počnu tagirati u komentare ispod videa u kojem govorite o svom omiljenom proizvodu za njegu kože. Video izgleda stvarno: vaš glas, vaše lice, vaši pokreti. No postoji jedan problem – vi taj proizvod nikad niste koristili, a ni intervju nikad nije postojao. To se dogodilo wellness influencerici Arielle Lorre. Njezin je lik iskorišten za promociju proizvoda brenda Skaind, i to bez znanja, pristanka ili stvarne suradnje. Cijeli podcast u kojem promovira taj proizvod je digitalno manipuliran od strane te kompanije.
Brend je, navodno, putem AI platforme stvorio digitalnu verziju Lorre koja sudjeluje u izmišljenom intervjuu i hvali njihovu kremu za lice. Uzeli su njezin video iz podcasta u kojem je gostovala i pomoću “voice recognisera” generirali njezin glas kao da izgovara njihov tekst. Video je bio objavljen kao plaćeni oglas na Instagramu. Lorre tvrdi da nikada nije koristila taj proizvod, a ni upoznala sugovornika iz videa. Ovo nije izoliran slučaj. Deepfake sadržaji – AI generirani videozapisi, glasovi i fotografije koji oponašaju stvarne osobe – sve se češće koriste u oglašavanju. S porastom dostupnih AI alata, stvaranje ovakvog sadržaja više nije rezervirano za produkcijske kuće, već je moguće i doslovno iz dnevne sobe.
Fake doktori i obmane
Osim influencera, na meti su i liječnici. U Latinskoj Americi, ESET-ovi istraživači dokumentirali su kampanju u kojoj su AI-generirani avatari glumili ginekologe i nutricioniste, promovirajući suplemente i “prirodne” alternative lijekovima poput Ozempica. Iako ovi avatari izgledaju uvjerljivo i govore autoritativno, njihovi savjeti su opasno netočni, a proizvodi često sumnjivog sastava. Upravo u tome i leži najveći problem – eksploatacija povjerenja. Deepfake sadržaji koriste našu prirodnu sklonost vjerovanju autoritetima, posebno u području zdravlja i ljepote. Kad se medicinski savjeti isporučuju putem lažnih videa s “doktorima”, stvarna šteta nije samo financijska, već i zdravstvena. Već smo pisali o ulozi dermatologa kao novih influencera, ali ovakvim influencerima se nitko nije nadao.
EU AI Act: hoće li nadolazeća regulativa biti dovoljna?
Europska unija trenutno priprema AI Act, prvi zakon koji će regulirati primjenu umjetne inteligencije. Deepfake sadržaji bit će kategorizirani kao “visokorizični”, osobito kada uključuju imitaciju stvarnih osoba u promotivne svrhe. Prema prijedlogu zakona, proizvođači i korisnici AI sadržaja morat će jasno označiti da je sadržaj umjetno generiran. No pitanje je koliko će takva regulativa biti efikasna u praksi, posebno na platformama poput TikToka i Instagrama, gdje sadržaj munjevito cirkulira. Sigurno ste nekad naišli na video gdje neki “doktor” dijeli savjete za mladolikost ili Na profilima se objavljuju na desetke istih videa kako bi možda neki od njih ušao u algoritam i postao viralan.
Na koje zakone se možemo pozvati?
Trenutno se krećemo sivom zonom. U Hrvatskoj i EU postoji više pravnih okvira koji mogu pokriti ovakve slučajeve, ali još uvijek nema jasnih procedura kada je riječ o deepfake oglasima: Zakon o zaštiti osobnih podataka smatra fotografije i snimke glasa biometrijskim podacima, što krši GDPR ako se koriste bez pristanka. Zakoni o medijima i elektroničkim medijima zabranjuju obmanjivanje ljudi sadržajem, a korištenje tuđeg identiteta je povreda Kaznenog zakona. No pitanje ostaje – tko je odgovoran? AI platforma koja je stvorila sadržaj? Brend koji je naručio reklamu? Osoba koja je plasirala lažni sadržaj? Trenutno ne postoji jedinstven mehanizam koji bi jasno definirao odgovornost. Dakle, nitko nije siguran.
