Francoski parlament je marca odobril izvajanje videonadzora z uporabo umetne inteligence na olimpijskih igrah 2024 v Parizu. Francija je s tem zaorala ledino v Evropski uniji, še preden je ta sprejela skupno zakonodajo o umetni inteligenci (AI Act).
Zakonodajo so na marčevskem glasovanju podprli poslanci Macronove vladajoče koalicije, republikanci ter skrajno desni Nacionalni zbor, nasprotovalo ji je samo zavezništvo levičarskih strank Nupes.
Zagovorniki zakonodaje so trdili, da bi umetna inteligenca preprečila teroristični napad leta 2016 v Nici, saj bi opazila tovornjak, ki je zapeljal v množico. Prav tako naj bi preprečila totalni kaos na lanskem finalu lige prvakov v Parizu med Liverpoolom in Real Madridom.
Dva meseca kasneje je zeleno luč prižgalo tudi ustavno sodišče in zakonodaja je postala veljavna. Uporaba videonadzora z umetno inteligenco v Evropi ni novost, vendar je šlo doslej za časovno omejena testna obdobja. Francija je kot prva država uporabo umetne inteligence v nadzoru tudi uzakonila.
"Zavedati se moramo, da se je v Franciji splošno razpoloženje po terorističnih napadih na Bataclan spremenilo. Tako ljudstvo kot vlade dajejo varnosti večji pomen, to vidimo že zadnjih nekaj let, in to je pomembno za kontekst sprejemanja te zakonodaje," je za MMC pojasnil Jascha Galaski iz organizacije Civil Liberties Union for Europe.
Francija je zakonodajo sprejela za organizacijo olimpijskih iger med 26. julijem in 11. avgustom prihodnje leto. Gre za največji športni dogodek, samo na otvoritvi ob reki Seni pričakujejo do 600.000 ljudi, za varnost pa bo skrbelo 35.000 vojakov in policistov, poroča BBC.
Poleg varovanja določa tudi pravila boja proti dopingu in ureja področje zdravstva, med drugim omogoča odprtje trgovin ob nedeljah in gradnjo zdravstvenega centra v departmaju Seine-Saint-Denis. Najbolj sporen po mnenju kritikov pa je člen zakona, ki dovoljuje poskusno uporabo pametnega videonadzora s stacionarnimi varnostnimi kamerami in brezpilotnimi letalniki.
37 civilnodružbenih organizacij je v odprtem pismu francoski parlament opozorilo, da predlagani varnostni ukrepi predstavljajo nesprejemljivo tveganje za temeljne človekove pravice in so v nasprotju z načelom nujnosti oziroma sorazmernosti.
"Očitna težava zakonodaje so vprašanja zasebnosti in grožnje temeljnim svoboščinam. Tipična primera sta pravica do protesta in pravica do zbiranja. Če vemo, da nas na ulicah opazujejo, bomo morda ravnali drugače," pravi Galaski iz Civil Liberties Union for Europe, ki je ena izmed podpisnic.
Zakonodaja za olimpijske igre ne ustvarja nove pravne podlage za zbiranje slik, namestitev nadzornih kamer v javnih prostorih ali uporabo brezpilotnih letalnikov, saj je ta že opredeljena v zakonu o državni varnosti. Zakonodaja ustvarja pravno podlago zgolj za algoritemsko obdelavo posnetkov, saj je dosedanji zakoni niso omogočali, v svoji analizi navaja center za pravo na področju informacijske tehnologije univerze v Leuvnu.
Zakon dovoljuje pametni videonadzor za odkrivanje "sumljivih dogodkov". Teh dogodkov zakonodaja ne opredeljuje. Določila jih bo izvedbena uredba, ki jo sprejme državni svet po nezavezujočem nasvetu francoskega organa za varstvo podatkov (CNIL).
Glede na navedbe vlade v dokumentu o oceni učinka zakona gre pričakovati, da bo med sumljive dogodke uvrščena zapuščena prtljaga, gibanje množice ali neobičajni incidenti. Kot poročajo tuji mediji, bo najverjetneje šlo za zaznavanja pretepov, kaosa, stampedov in podobnih dogodkov.
V Bruslju sicer še niso sprejeli skupne zakonodaje o umetni inteligenci (AI Act), vendar je Evropski parlament junija sprejel dopolnila osnutka zakonodaje, da bodo sistemi umetne inteligence z nesprejemljivim tveganjem, kot so kognitivna vedenjska manipulacija ljudi, socialno točkovanje in sistemi biometrične identifikacije v resničnem času (npr. prepoznavanje obraza), prepovedani.
Francoska zakonodaja izrecno prepoveduje uporabo tehnologije prepoznavanja obraza in obdelavo biometričnih podatkov v resničnem času, vendar kot opozarja Catherine Jasserand v analizi univerze v Leuvnu, lahko Francija skladno z zakonom o kazenskih postopkih tehnologijo prepoznavanja obraza na zbranih videoposnetkih uporabi retrospektivno.
Zakonodaja poleg prepoznave obraza izključuje tudi obdelavo biometričnih podatkov, primerjavo posnetkov oz. slik z drugimi datotekami, obdelavo osebnih podatkov ter samodejno odločanje umetne inteligence na podlagi analize posnetkov.
Kot poroča Associated Press, bo sistem deloval tako, da bo umetna inteligenca o nenormalnem dogodku obvestila nadzorni center, nato pa se bo človeški operater odločil o nadaljnjem ukrepanju.
Organizacije za človekove pravice medtem opozarjajo, da obraz ni edini del telesa, ki omogoča biometrično identifikacijo. "GDPR (evropski zakon o varstvu osebnih podatkov) opredeljuje uporabo biometričnih podatkov kot unikatno identifikacijo ljudi na podlagi njihove fiziologije oz. videza in njihovega vedenja; kako nekdo hodi, teče, stoji in kakšne kretnje uporablja. To so biometrični podatki. Umetna inteligenca bo prav to gibanje identificirala kot normalno ali nenormalno," pa pojasnjuje Galaski.
Opozoril je tudi na spornost klasifikacije gibanja ljudi na "normalno in nenormalno", saj lahko pride do diskriminacije ranljivih skupin, denimo gibalno oviranih ljudi.
"Kaj sploh je normalno vedenje? Za nenormalno vedenje se šteje, če predolgo ostanete nepremični. Dalj časa kot stojite na ulici, bolj ste nenormalni in sčasoma postanete osumljenec. Druga stvar je tek. Kako bo stroj prepoznal, kdo se rekreira in kdo beži pred nevarnostjo?"
Novinarji BBC-ja so obiskali pariško predmestje Massy, kjer podoben sistem že deluje. V kraju je nameščenih 250 varnostnih kamer. "Ko sistem opazi nekaj, za kar je programiran, na primer nenadno združevanje ljudi, sproži opozorilo. Policisti nato preučijo položaj in se odločijo, kako je ustrezno ukrepati," je pojasnil tamkajšnji župan Nicolas Samsoen.
Novinar je na ulici blizu policijske postaje testno pustil kos prtljage. Alarm se je sprožil 30 sekund pozneje in posnetek kovčka se je pojavil na zaslonu nadzorne sobe.
Francoska aktivistka za digitalne pravice Noémie Levain, ki prav tako opozarja na sporne plati predlaganega videonadzora, je za BBC izrazila prepričanje, da bodo francoske oblasti pri dodeljevanju pogodb za izvedbo "skoraj zagotovo dale prednost domačim pred tujimi podjetji".
Za zdaj se omenjajo imena francoskih podjetij XXII, Suadeo in Atos ter ameriških podjetij Palantir in Palace.
Civil Liberties Europe še opozarja, da so se zakonodajalci o zakonu veliko več posvetovali z zasebnimi podjetji kot z javnostjo. "Ljudje, ki so pripravljali zakon, so imeli stike predvsem z zasebnimi podjetji, ki imajo velik interes za sprejetje zakona o videonadzoru," je še dejal Galaski.
Francija je s sprejetjem zakonodaje tako zaorala ledino legalizacije videonadzora z umetno inteligenco na državni ravni. Kritiki v odprtem pismu svarijo, da je s tem ustvarila "nevaren precedens".
Kot pravi Galaski, gre za "normalizacijo" nove generacije nadzora, ki bo "dala zagon tudi drugim vladam v demokratičnih družbah".
Tudi francoski organ za varstvo osebnih podatkov CNIL je v svojem mnenju spomnil na "pomembnost tega, da se ne navadimo ali banaliziramo teh tehnologij, ki so vedno bolj vsiljive".
Poteza Francije bi lahko vplivala tudi na sprejemanje skupne evropske zakonodaje o umetni inteligenci. Evropska komisija je zakonodajo o umetni inteligenci predlagala že leta 2021.
Evropski parlament je junija letos sprejel dopolnila osnutka zakona, ki med drugim prepovedujejo biometrični videonadzor, vendar gre zakonodaja zdaj v razpravo v Svet EU-ja, kjer bi lahko nastala razhajanja med članicami.
Iz Pariza skušajo kritike pomiriti predvsem s ponavljanjem trditev, da tehnologije prepoznavanja obraza ne bo, da bo odločitve sprejemal človek in predvsem, da je pametni videonadzor začasen. Kot je zastavljeno v zakonodaji, "poskusno obdobje" namreč ni omejeno na olimpijske in paraolimpijske igre, temveč bi ga lahko uporabili že med svetovnim prvenstvom v ragbiju jeseni 2023, končal pa se bo do 31. marca 2025.
"Naivno je pričakovati, da se bo nadzor takrat končal. Kupiti nameravajo vso tehnologijo, za uporabo nadzora bodo usposobili na tisoče varnostnikov. Do takrat se bo sistem samo normaliziral," je za MMC še ocenil Jascha Galaski. Kot je dodal, so olimpijske igre v preteklosti večkrat služile kot uvod za uvajanja različnih tehnologij nadzora, recimo v Pekingu, Londonu, Sydneyju in Tokiu.
Vir: Jaša Rajšek, MMC RTV SLO