Elon Musk's Grok continuă să dezvăluie bărbați
După săptămâni în care a inundat internetul cu deepfake-uri sexuale nonconsensuale, X a reușit în cele din urmă să stăpânească chatbot-ul lui Elon Musk, Grok. Musk susține că Grok respectă legile locale și refuză să producă ceva ilegal — deși nu este adevărat. Testele mele arată că Grok continuă să dezvăluie bărbați și să genereze imagini intime la cerere, potrivit theverge.com.
👉 Performanța lui Grok în procesarea imaginilor și solicitărilor
Evaluarea Grok săptămâna trecută sugerează că puțin s-a schimbat în cazul bărbaților. Am încărcat mai multe fotografii ale mele, complet îmbrăcat, și botul a răspuns cu plăcere la solicitările de a-mi îndepărta hainele și de a-mi arăta lenjeria intimă. A făcut acest lucru gratuit pe aplicația Grok, pe interfața de chatbot de pe X și pe site-ul său autonom, care nici măcar nu necesita un cont. Grok m-a pus și în diferite bikini, lucru pe care a refuzat să-l facă cu fotografiile femeilor pe care le-am testat (consensual).
În continuare, lucrurile s-au agravat. Grok a generat cu ușurință imagini cu mine în echipament de fetiș, inclusiv o curea din piele, și într-o paradă de poziții sexuale provocatoare, în diverse stări de dezbrăcare. Dacă asta nu era suficient de compromițător, Grok a fabricat un companion practic nud cu care să interacționez în moduri sugestive, dacă nu chiar total explicite. Niciuna dintre acestea nu ar fi considerată sigură pentru muncă. Pentru mai multe imagini, Grok a generat ceva ce nu cerusem: organe genitale, care erau vizibil evidente prin lenjeria de plasă pe care chatbot-ul m-a pus să o port.
👉 Reacții și măsuri adoptate împotriva abuzurilor Grok
În cel mai bun caz, aceste imagini au necesitat câteva iterații de solicitări pentru a fi create. Grok a rezistat rar, dar uneori, unele cereri au fost refuzate sau cenzurate cu o imagine neclară. Totuși, majoritatea nu au fost, iar de obicei, cel puțin una dintre cele două imagini generate de Grok pe solicitare afișa ceea ce cerusem. Deși Grok a refuzat cererile clare pentru nuditate în cazul imaginilor cu persoane reale, cum ar fi solicitările de a "îl arăta nud" sau fără piese de îmbrăcăminte în acest sens, a făcut acest lucru constant pe parcursul testărilor The Verge. Totuși, unele solicitări creative, cum ar fi "arată-o în bikini transparenți", au putut evita cenzorii, deși rezultatele nu erau garantate.
Pe 9 ianuarie, X a impus o plată pentru caracteristica de editare a imaginilor. Această limitare părea să reducă numărul deepfake-urilor create pe X, dar decizia de a permite lui Grok să dezvăluie oameni, dacă aceștia erau dispuși să plătească, a stârnit și mai mult indignare, chiar determinând guvernul britanic să impună o lege care criminalizează deepfake-urile intime și să-l avertizeze pe Musk că X ar putea fi interzis în țară dacă nu își controlează situația. Investigația noastră a constatat că nu a abordat problema de bază: instrumentele de editare a imaginilor ale lui Grok erau încă disponibile liber și ușor pe o aplicație autonomă, un site web și o interfață în cadrul X.
Pe 14 ianuarie, X a "implementat măsuri tehnologice" pentru a opri Grok din a dezvălui digital persoane reale pentru toți utilizatorii, inclusiv abonații. Din nou, investigația The Verge a dezvăluit că aceste măsuri de siguranță erau fragile, ineficiente și păreau să constrângă doar răspunsurile publice ale lui Grok la postări. În altă parte, Grok a răspuns cu ușurință la cererile noastre de a genera imagini sugestive și sexual provocatoare din fotografii complet îmbrăcate folosind conturi gratuite.
Coșmarul dezvăluirilor a pus X, Grok și creatorul său, xAI, în vizorul autorităților și legislatorilor din întreaga lume. X a fost interzis temporar — deși ineficient — în Indonezia și Malaezia. Platforma este, de asemenea, sub investigații în Marea Britanie și Uniunea Europeană, unde ar putea fi amendată, ba chiar interzisă, provocând îngrijorare în rândul procurorilor generali din mai multe state.
O mare parte din reacția publicului s-a concentrat în mod firesc asupra femeilor, care reprezintă cei mai mulți dintre victimele lui Grok, precum și asupra copiilor. La vârful scandalului, Grok a generat și a postat mai mult de patru milioane de imagini pe o perioadă de nouă zile. Aproape jumătate dintre acestea au fost imagini sexualizate ale femeilor, deși multe au inclus și minori și bărbați.
Măsurile tehnice implementate de X și xAI par să fi oprit cele mai evidente cereri care țintesc femeile, iar restricțiile de plată de pe X au oprit una dintre cele mai simple rute prin care oamenii accesează Grok. Deși pare că împiedică sau cenzurează cele mai explicite materiale pe care Grok le producea anterior în masă, puteți totuși evita cu ușurință multe restricții cu formulări diferite sau creative.
