Malaysia și Indonesia au devenit primele țări din lume care au blocată accesul la Grok, chatbot-ul dezvoltat de compania lui Elon Musk, xAI, după ce autoritățile au constatat că acesta era folosit pentru a genera imagini sexuale și non-consensuale, inclusiv conținut cu femei și copii.
Măsurile reflectă îngrijorările tot mai mari privind siguranța instrumentelor de inteligență artificială generativă, care pot crea imagini, text și sunet extrem de realiste. Autoritățile au declarat că măsurile de siguranță existente nu reușesc să prevină abuzurile, în timp ce Grok continuă să fie folosit pe platforma de social media X pentru a genera conținut manipulat.
Blocarea temporară a Grok în Southeast Asia
Guvernul indonezian a decis să blocheze temporar accesul la Grok sâmbătă, urmat de Malaysia duminică. Ministerul Comunicațiilor și Afacerilor Digitale din Indonesia a subliniat că deepfake-urile sexuale non-consensuale reprezintă o încălcare gravă a drepturilor omului, a demnității și a siguranței cetățenilor în spațiul digital, conform declarației ministrului Meutya Hafid.
Alexander Sabar, director general al supravegherii spațiului digital, a adăugat că Grok nu are măsuri eficiente pentru a preveni crearea și distribuirea de conținut pornografic bazat pe fotografii reale ale cetățenilor indonezieni, ceea ce poate conduce la încălcarea dreptului la imagine, intimitate și poate produce daune psihologice, sociale și de reputație.
În Kuala Lumpur, Malaysian Communications and Multimedia Commission (MCMC) a emis un ordin de restricție temporară împotriva Grok, după ce a constatat „utilizări repetate abuzive” ale platformei pentru a crea imagini obscene, sexuale și non-consensuale, inclusiv implicând femei și minori. Autoritatea a precizat că răspunsurile primite de la xAI la notificările trimise până acum se bazau în mare parte pe mecanisme de raportare ale utilizatorilor, considerate insuficiente.
Limitările Grok și reacția companiei
Lansat în 2023, Grok este disponibil gratuit pe platforma X și permite utilizatorilor să pună întrebări și să genereze conținut, inclusiv prin modul său de generare de imagini, Grok Imagine, care include și un „spicy mode” capabil să creeze conținut pentru adulți.
Săptămâna trecută, compania a restricționat generarea și editarea imaginilor doar pentru utilizatorii plătitori, ca răspuns la valul global de critici privind deepfake-urile sexuale, însă experții spun că aceste măsuri nu au rezolvat problema fundamentală.
Când Associated Press a cerut un comentariu de la xAI, răspunsul automat primit a fost simplu: „Legacy Media Lies”, același mesaj primit și la alte solicitări legate de criticile globale.
Reacții și investigații internaționale
Blocarea Grok în Malaysia și Indonesia vine într-un context de supraveghere globală tot mai intensă a instrumentelor de inteligență artificială generativă. Uniunea Europeană, Regatul Unit, India și Franța au început, de asemenea, să analizeze posibilele abuzuri ale platformei.
Luni, Ofcom, autoritatea de reglementare din Marea Britanie, a anunțat că a lansat o investigație formală pentru a verifica dacă Grok respectă obligațiile de protecție a cetățenilor împotriva conținutului ilegal. Autoritățile britanice au subliniat că imaginile generate de Grok care sexualizează copii sau arată persoane dezbrăcate pot constitui pornografie sau material de abuz sexual asupra copiilor.
Secretarul pentru Tehnologie din Marea Britanie, Liz Kendall, a declarat: „Conținutul creat și distribuit folosind Grok în ultimele zile a fost profund tulburător”, evidențiind gravitatea situației și riscurile pentru siguranța publicului.
VEZI ȘI – Războiul de la distanță: cum absența distrugerii „acasă” a modelat apetitul militar al Americii