Chatbotul Grok, dezvoltat de compania xAI a lui Elon Musk și integrat în platforma X, este în centrul unui scandal internațional după ce autoritățile canadiene au concluzionat că permite în continuare generarea și distribuirea de imagini sexualizate fără consimțământ, arată Politico într-un comentariu.
Potrivit comisarului pentru protecția vieții private din Canada, Philippe Dufresne, utilizatorii au generat peste 1,8 milioane de imagini deepfake cu caracter sexualizat în doar zece zile, la începutul acestui an.
În ciuda măsurilor de siguranță introduse ulterior, oficialul canadian susține că problema este departe de a fi rezolvată.
„Au făcut unele progrese și și-au asumat anumite angajamente, însă nu sunt mulțumit că situația a fost remediată”, a declarat Dufresne.
Ce este un deepfake sexualizat
Deepfake-urile sunt imagini sau videoclipuri create cu ajutorul inteligenței artificiale, care modifică sau înlocuiesc chipul unei persoane reale.
În cazul imaginilor sexualizate, fotografia unei persoane poate fi transformată artificial într-o imagine cu nuditate sau conținut explicit, fără acordul acesteia.
Ancheta canadiană a arătat că utilizatorii l-au determinat pe Grok să adauge bikini, lenjerie intimă sau alte articole vestimentare provocatoare pe fotografii ale unor persoane reale, inclusiv copii.
Fenomenul a stârnit reacții puternice la nivel internațional.
Malaezia și Indonezia au suspendat temporar aplicația, în timp ce autoritățile din Regatul Unit și statul american California au deschis propriile investigații.
Milioane de imagini generate într-un timp record
Potrivit concluziilor prezentate de autoritățile canadiene, la un moment dat Grok genera peste 6.000 de imagini sexualizate pe oră.
O analiză realizată de organizația non-profit Center for Countering Digital Hate estimează că între 29 decembrie 2025 și 8 ianuarie 2026 au fost create aproximativ trei milioane de imagini deepfake sexualizate, dintre care peste 23.000 implicau copii.
Compania a anunțat ulterior că a redus volumul acestor imagini cu aproximativ 50%, însă autoritățile consideră că numărul rămas este în continuare îngrijorător.
„Este o reducere semnificativă, dar asta înseamnă că există încă foarte multe imagini de acest tip”, a spus Dufresne.
Canada pregătește sancțiuni mai dure
Ancheta a fost lansată în luna ianuarie, pe fondul presiunilor tot mai mari asupra companiilor de inteligență artificială și rețelelor sociale de a combate fenomenul deepfake-urilor fără consimțământ.
Canada este pe punctul de a adopta o legislație care va transforma în infracțiune distribuirea sau amenințarea cu distribuirea unor astfel de imagini. Noile reguli ar obliga, de asemenea, platformele online să raporteze autorităților materialele generate cu inteligență artificială care conțin abuzuri sexuale asupra copiilor.
Guvernul canadian a prezentat și un nou proiect de lege privind siguranța online, care ar impune platformelor sociale să elimine conținutul sexual explicit, inclusiv deepfake-urile generate de AI, în cel mult 24 de ore de la identificare.
X respinge acuzațiile
În ianuarie, X a anunțat că va bloca încercările utilizatorilor de a modifica imagini cu persoane reale în haine provocatoare și a susținut că are o politică de „toleranță zero” față de exploatarea sexuală a copiilor, nuditatea fără consimțământ și conținutul sexual nedorit.
Cu toate acestea, autoritățile canadiene consideră că măsurile adoptate până acum nu sunt suficiente și avertizează că, dacă situația nu se schimbă, cazul ar putea ajunge în instanță.
MAI MULT MEDIAFAX
