Kritikët pretendojnë se Parisi përdor Lojrat e 2024 për të prezantuar mbikëqyrjen me video të Big Brother

Asambleja Kombëtare e Francës do të miratojë një ligj të martën përpara Lojërave Olimpike 2024 në Paris. Neni 7 është aspekti më i diskutueshëm i këtij ligji, pasi ai do të lejojë përdorimin e vëzhgimit video të AI për të zbuluar sjellje jonormale. Organizatat e të drejtave të njeriut dhe e majta franceze e kanë dënuar masën.

Ligji gjithëpërfshirës që Asambleja Kombëtare e Francës do të miratojë më 28 mars, përpara Lojërave Olimpike të Parisit 2024, do të lejojë që dyqanet të hapen të dielave, të krijojnë një qendër shëndetësore në departamentin e Seine-Saint-Denis (që ndodhet në verilindje të Paris) dhe lejojnë shtetin francez të hetojë personat e ardhshëm të akredituar. Megjithatë, neni 7 i këtij ligji është veçanërisht i diskutueshëm, pasi thotë se mbikëqyrja video me AI mund të përdoret, në baza prove, për të garantuar sigurinë e Lojërave Olimpike. Grupet e të drejtave të njeriut thonë se përdorimi i kësaj teknologjie do të krijojë një precedent të rrezikshëm.

Gjatë fazës paraprake, neni 7 u miratua nga shumica presidenciale, partia e djathtë franceze Les Républicains dhe Rally Kombëtare e ekstremit të djathtë. Unioni i Ri Ekologjik dhe Social Popullor (NUPES), një koalicion i partive të krahut të majtë, e kundërshtoi atë. Ai do të lejojë përdorimin e teknologjisë së mbikëqyrjes video të drejtuar nga algoritmi për të garantuar sigurinë e “ngjarjeve sportive, rekreative ose kulturore” në shkallë të gjerë në baza prove.

“Një sulm i gjithanshëm ndaj të drejtave të privatësisë”

“Vëzhgimi algoritmik video është një formë e re e teknologjisë që përdor softuerin kompjuterik për të analizuar imazhet e kapura nga kamerat e vëzhgimit në kohë reale,” shpjegon Arnaud Touati, një avokat i specializuar në ligjin dixhital. “Algoritmet e përdorura në softuer bazohen veçanërisht në teknologjinë e mësimit të makinerive, e cila lejon mbikëqyrjen video të AI, me kalimin e kohës, të vazhdojë të përmirësohet dhe të përshtatet me situatat e reja.”

Përkrahësit e kësaj teknologjie pretendojnë se janë në gjendje të parashikojnë lëvizjet e turmës dhe të dallojnë bagazhet e braktisura ose incidente potencialisht të rrezikshme. Krahasuar me video survejimin tradicional, gjithçka është e automatizuar me algoritme të ngarkuara për analizën – gjë që, sipas atyre që janë në favor të kësaj teknologjie, kufizon gabimet njerëzore.

“Ndërsa Franca promovon veten si një kampione e të drejtave të njeriut në nivel global, vendimi i saj për të legalizuar mbikëqyrjen masive me AI gjatë Lojërave Olimpike do të çojë në një sulm të gjithanshëm mbi të drejtat e privatësisë, protestës dhe lirisë së tubimit dhe shprehjes,” Amnesty. International tha në një deklaratë pas miratimit të artikullit.

Një lajmëtar i video-mbikëqyrjes së ardhshme në të gjithë Evropën?

Katia Roux, specialiste e teknologjisë dhe të drejtave të njeriut të OJQ-së, shpjegon se kjo teknologji mund të shkaktojë shumë frikë. “Sipas ligjit ndërkombëtar, legjislacioni duhet të respektojë parimet strikte të domosdoshmërisë dhe proporcionalitetit. Megjithatë, në këtë rast, ligjvënësi nuk e ka demonstruar këtë,” thotë ajo. “Po flasim për teknologjinë e vlerësimit, e cila duhet të vlerësojë sjelljet dhe t’i kategorizojë ato si të rrezikuara në mënyrë që të merren masa më pas.

“Kjo teknologji nuk është e ligjshme sot. Në Francë janë bërë eksperimente por jo brenda kornizës ligjore që ky ligj propozon të krijojë”, tha ajo. “As nuk është e ligjshme në nivel evropian. Madje është ngritur gjatë diskutimeve në Parlamentin Evropian për teknologjinë dhe rregullimin e sistemeve të inteligjencës artificiale. Prandaj legjislacioni mund të shkelë gjithashtu rregulloren evropiane që po hartohet.”

“Duke miratuar këtë ligj, Franca do të bëhej kampione e mbikëqyrjes video në BE dhe do të krijonte një precedent jashtëzakonisht të rrezikshëm. Kjo do të dërgonte një sinjal jashtëzakonisht shqetësues për vendet që mund të tundohen të përdorin këtë teknologji kundër popullsisë së tyre,” vazhdoi ajo.

Diskriminuese?

Një frikë është se algoritmi në dukje i ftohtë dhe i pagabueshëm mund të përmbajë paragjykime diskriminuese. “Këto algoritme do të trajnohen duke përdorur një grup të dhënash të vendosura dhe të dizajnuara nga qeniet njerëzore. Prandaj ata do të jenë në gjendje të përfshijnë paragjykimet diskriminuese të njerëzve që i konceptuan dhe projektuan ato,” thotë Roux.

“Video survejimi i AI tashmë është përdorur për qëllime raciste, veçanërisht nga Kina, në mbikëqyrjen ekskluzive të ujgurëve, një pakicë myslimane e pranishme në vend”, thotë Touati. “Për shkak se pakicat etnike janë të nën-përfaqësuara në të dhënat e ofruara në algoritme për qëllime mësimore, ka paragjykime të konsiderueshme diskriminuese dhe raciste. Sipas një studimi të MIT, ndërsa gabimi i njohjes së fytyrës është 1% për burrat e bardhë, është 34%. për gratë e zeza”.

Megjithatë, Touati dëshiron ta shohë gotën gjysmë të mbushur. “Përdorimi i mbikëqyrjes video të AI gjatë ngjarjeve të kësaj shkalle mund të nxjerrë në pah gjithashtu paragjykimet diskriminuese, mizogjene dhe raciste të algoritmit duke identifikuar, në një frekuencë shumë të lartë për të qenë të saktë, njerëz nga grupet etnike të pakicave si të dyshuar të mundshëm,” shpjegon ai.

I pyetur nga anëtarët e koalicionit të opozitës së majtë NUPES se çfarë lloj njerëzish do të synonte video survejimi i AI, ministri i Brendshëm francez Gérald Darmanin tha: “Jo [ata që veshin] kapuç”. Qeveria franceze beson se kufijtë e vendosur nga ligji – mungesa e njohjes së fytyrës, mbrojtja e të dhënave – do të jenë të mjaftueshme për të parandaluar praktikat diskriminuese.

“Ne kemi vendosur masa mbrojtëse në mënyrë që tenderët të rezervohen vetëm për kompanitë që respektojnë një numër të caktuar rregullash, duke përfshirë pritjen e të dhënave në territorin kombëtar, duke respektuar CNIL [Komisioni Kombëtar për Informatikë dhe Liri; një organ i pavarur rregullator administrativ francez përgjegjës për sigurimin e se ligji për privatësinë e të dhënave zbatohet për mbledhjen, ruajtjen dhe përdorimin e të dhënave personale] dhe GDPR [Rregullorja e Përgjithshme për Mbrojtjen e të Dhënave; një ligj për mbrojtjen e të dhënave i prezantuar nga BE]”, thotë deputeti Philippe Latombe, një anëtar i pro-Evropës dhe partia politike e qendrës së djathtë Lëvizja Demokratike. Ai nënshkroi një amendament me Mitingun Kombëtar në mënyrë që thirrja për tenderë t’u jepte përparësi kompanive evropiane. “Është e qartë, ne nuk duam që ajo të jetë një kompani kineze që bën përpunimin e të dhënave në Kinë dhe i përdor të dhënat për të bërë diçka tjetër.”

“Ne nuk jemi të qetësuar nga garancitë e qeverisë. Në realitet, asnjë ndryshim i vërtetë nuk është i mundur dhe kjo teknologji është, në vetvete, problematike dhe e rrezikshme për të drejtat e njeriut”, thotë Roux. “Ai do të mbetet derisa të bëhet një vlerësim serioz, të tregohet domosdoshmëria dhe proporcionaliteti i përdorimit të tij dhe të jetë zhvilluar një debat real me aktorë të ndryshëm të shoqërisë civile për këtë çështje”.

Ngjarje sportive dhe eksperimente teknologjike

Megjithëse Lojërat Olimpike janë qartësisht ngjarja e synuar, ky eksperiment teknologjik mund të fillojë sapo të zbatohet ligji dhe do të përfundojë më 31 dhjetor 2024, katër muaj pas përfundimit të Lojërave Paralimpike. Prandaj mund të aplikohet në një gamë të gjerë ngjarjesh, duke filluar me Kupën e Botës në Rugby nga 8 shtatori deri më 28 tetor.

Kundërshtarët e mbikëqyrjes video të inteligjencës artificiale kanë frikë se përdorimi i saj i jashtëzakonshëm fillimisht do të bëhet i zakonshëm. Në fund të fundit, ngjarjet sportive shpesh përdoren si një terren testimi për policinë, sigurinë dhe teknologjinë e re. Lojërat Olimpike të Londrës 2012, për shembull, çuan në përdorimin e gjerë të mbikëqyrjes video në kryeqytetin britanik.

“Kemi frikë se kjo periudhë e jashtëzakonshme do të bëhet normë,” shpjegon Roux, i cili shton se teknologjia e njohjes së zërit, e cila u përdor në baza eksperimentale gjatë Kupës së Botës 2018 në Rusi, që atëherë është përdorur për të shtypur opozitën.

Së fundi, Amnesty International është e shqetësuar se survejimi me video përfundimisht do të çojë në mbikëqyrje biometrike ose zanore. “Njohja e fytyrës është vetëm një veçori që pret të aktivizohet”, thotë Roux.

Ligji për Lojërat Olimpike 2024 nuk e ka përfunduar ende rrugëtimin e tij legjislativ. Pas votimit zyrtar të së martës në Asamblenë Kombëtare, teksti do të pësojë disa ndryshime dhe do të bëjë udhëtime të shumta midis Asamblesë dhe Senatit, i cili e kishte ndryshuar më parë, derisa të dy dhomat të bien dakord për ta miratuar atë.

 

Fraksion.com