Redaktimi i imazheve Grok AI i Elon Musk është i kufizuar vetëm për përdoruesit me pagesë të X pas deepfakes

Platforma X e Elon Musk ka kufizuar redaktimin e imazheve me mjetin e saj të AI Grok vetëm për përdoruesit me pagesë, pasi u kritikua për lejimin e njerëzve të krijojnë deepfakes të seksualizuara.

Ka pasur një reagim të fortë pasi chatbot-i përmbushi kërkesat e përdoruesve për të ndryshuar dixhitalisht imazhet e njerëzve të tjerë duke i zhveshur ata pa pëlqimin e tyre.

Por Grok tani po u thotë njerëzve duke i kërkuar të krijojë një material të tillë që vetëm abonentët me pagesë do të jenë në gjendje ta bëjnë këtë – që do të thotë se emri dhe informacioni i tyre i pagesës duhet të jenë në dosje.

BBC i është drejtuar X për koment.

Ata që nuk abonohen mund të përdorin ende Grok për të redaktuar imazhet në aplikacionin dhe faqen e saj të internetit të veçantë.

“Musk ka hedhur lodrat e tij nga karroca në shenjë proteste për mbajtjen përgjegjëse për cunamin e abuzimit”, tha profesoresha Clare McGlynn, një eksperte në rregullimin ligjor të pornografisë, dhunës seksuale dhe abuzimit online.

“Në vend që të ndërmarrë hapa të përgjegjshëm për të siguruar që Grok nuk mund të përdoret për qëllime abuzive, ajo ka tërhequr aksesin për shumicën dërrmuese të përdoruesve.”

Dhe Hannah Swirsky, drejtuese e politikave në Internet Watch Foundation, tha se kjo “nuk e zhbën dëmin që është bërë”.

“Ne nuk besojmë se është mjaftueshëm mirë të kufizohet thjesht aksesi në një mjet i cili nuk duhet të kishte kurrë kapacitetin për të krijuar llojin e imazheve që kemi parë ditët e fundit”, tha ajo.

Bamirësia më parë tha se analistët e saj kishin zbuluar “imazhe kriminale” të vajzave të moshës midis 11 dhe 13 vjeç të cilat “dukej se ishin krijuar” duke përdorur Grok.

“Të ulesh dhe të presësh që produktet e pasigurta të abuzohen para se të ndërmerren veprime është e papranueshme”, tha Swirsky.

Kjo vjen pasi qeveria i kërkoi rregullatorit Ofcom të përdorë të gjitha fuqitë e tij – deri në dhe duke përfshirë një ndalim efektiv – kundër X për shkak të shqetësimeve në lidhje me imazhet e paligjshme të IA-së të krijuara në faqe.

Duke iu drejtuar shqetësimeve se imazhe të seksualizuara të të rriturve dhe fëmijëve ishin gjeneruar nga Grok, Kryeministri Sir Keir Starmer tha se ishte “e turpshme” dhe “e neveritshme”.

Ai tha se Ofcom kishte “mbështetjen e plotë” të qeverisë për të vepruar mbi përmbajtjen.

“Është e paligjshme. Ne nuk do ta tolerojmë. Kam kërkuar që të gjitha opsionet të jenë në tryezë”, tha ai në një intervistë me Greatest Hits Radio.

Burime qeveritare i thanë BBC News: “Ne presim që Ofcom të përdorë të gjitha fuqitë në dispozicion të tij në lidhje me Grok dhe X.”

Kompetencat e Ofcom sipas Aktit të Sigurisë Online përfshijnë mundësinë për të kërkuar një urdhër gjykate për të parandaluar palët e treta të ndihmojnë platformën në pronësi të Elon Musk të mbledhë para ose të aksesohet në Mbretërinë e Bashkuar.

BBC i është drejtuar rregullatorit për koment.

‘Abonohuni për të zhbllokuar’

Grok është një mjet falas të cilin përdoruesit mund ta etiketojnë direkt në postime ose përgjigje nën postimet e përdoruesve të tjerë për t’i kërkuar një përgjigje të caktuar.

Por kjo veçori u ka lejuar gjithashtu njerëzve të kërkojnë që të modifikojnë imazhet – dhe t’i kërkojnë që t’ua heqë njerëzve shumicën e rrobave në mënyrë dixhitale.

Grok ka përmbushur shumë kërkesa të përdoruesve që i kërkojnë të modifikojë imazhet e grave për t’i shfaqur ato me bikini ose me rroba të vogla – diçka që ata që i nënshtrohen kërkesave të tilla i kanë thënë BBC-së, i ka lënë të ndihen “të poshtëruar” dhe “të çnjerëzuar”.

Megjithatë, që nga mëngjesi i së premtes, Grok u ka thënë përdoruesve që i kërkojnë të ndryshojë imazhet e ngarkuara në X se “gjenerimi dhe modifikimi i imazheve aktualisht janë të kufizuara vetëm për abonentët që paguajnë”.

Ai shton se përdoruesit “mund të abonohen për të zhbllokuar këto veçori”.

Disa postime në platformë të parë nga BBC News sugjerojnë se vetëm ata me një shenjë blu “të verifikuar” – ekskluzive për nivelin e abonentëve me pagesë të X – ishin në gjendje të kërkonin me sukses modifikime të imazheve në Grok.

Dr. Daisy Dixon, një përdoruese femër e X që tha se kishte parë një rritje të njerëzve që përdorin Grok për ta zhveshur, e mirëpriti ndryshimin, por tha se ndihej “si një allçi ngjitëse”.

“Grok duhet të ridizajnohet plotësisht dhe të ketë mbrojtje etike të integruara për të parandaluar që kjo të ndodhë përsëri,” i tha ajo BBC-së.

“Elon Musk gjithashtu duhet ta pranojë këtë për atë që është – një tjetër rast i shkeljes së bazuar në gjini.”

Prof. McGlynn tha se lëvizja e X pasqyronte qasjen e saj ndaj deepfakes pornografike të Taylor Swift në platformë vitin e kaluar – ku bllokoi kërkimet për materiale të seksualizuara të gjeneruara të yllit të popit duke përdorur një veçori videoje Grok AI.

“Ai po e bën këtë për të nxitur argumente për lirinë e fjalës,” shtoi ajo.

“Ai do të pretendojë se rregullorja po pengon përdorimin e kësaj teknologjie nga njerëzit. Por, e tëra që kërkon rregullorja është që ai të marrë masat e nevojshme paraprake për të zvogëluar dëmin.”