Meta Platforms a fost pusă sub lupă după ce s-a descoperit că a utilizat fără aprobare identitatea unor personalități precum Taylor Swift, Scarlett Johansson, Anne Hathaway și Selena Gomez pentru a dezvolta asistenți virtuali cu subtext romantic și sexual. Conform unor informații, o parte dintre aceste replici digitale au fost generate de către utilizatori, dar cel puțin trei dintre ele, inclusiv două care imitau în mod explicit pe Taylor Swift, au fost create direct de un angajat al companiei.
În timpul testărilor, aceste programe s-au dat drept celebritățile reale, inițiind conversații de natură romantică, sugerând întâlniri și, în anumite cazuri, generând imagini foto-realiste cu conținut intim. Mai grav, platforma a permis și crearea de avatare ale unor actori minori, unii având doar 16 ani, care au produs materiale inadecvate vârstei lor.
Un reprezentant Meta a recunoscut că unele instrumente interne nu au funcționat conform așteptărilor și a atribuit situația unor erori în aplicarea politicilor privind interzicerea conținutului explicit. Compania a eliminat aproximativ o duzină de astfel de chatboturi înainte ca știrea să fie făcută publică.
Situația deschide discuții serioase cu privire la protecția dreptului la imagine, un concept recunoscut în legislația multor state americane, și evidențiază riscuri de securitate pentru artiști, care ar putea deveni ținte ale unor persoane care cred că interacționează cu vedetele autentice.
Sindicatul SAG-AFTRA a solicitat adoptarea de legi federale care să interzică utilizarea abuzivă a vocilor și imaginilor oamenilor prin tehnologii de inteligență artificială.
Meta se confruntă deja cu presiuni din partea autorităților după ce s-a aflat că, din cauza unor setări defectuoase, unii asistenți virtuali au purtat conversații cu subtext romantic cu minorii – o problemă pe care compania a clasificat-o ca eroare, dar care a stârnit deja anchete în Senatul SUA.
