Informacijski pooblaščenec je 17. decembra 2025 pristojno ministrstvo opozoril na resna vprašanja glede varstva osebnih podatkov v povezavi z načrtovano nacionalno platformo za generativno umetno inteligenco. Po njegovih navedbah zgolj zahteva, da se podatki hranijo v EU, še ne pomeni skladnosti z evropsko zakonodajo o varstvu osebnih podatkov.
Kot izhaja iz opozorila, naj bi bila platforma dostopna različnim uporabnikom – posameznikom, organizacijam in tudi institucijam javnega sektorja – ter namenjena zelo različnim vrstam uporabe. S tem se bistveno razlikujejo tudi tveganja: od manj problematičnih primerov, kot je generiranje grafik, do visokotveganih obdelav, kjer bi se v sisteme generativne umetne inteligence vnašali osebni podatki posameznikov iz konkretnih evidenc, baz in informacijskih sistemov, zlasti pri ponudnikih izven EU.
Informacijski pooblaščenec izpostavlja, da zoper največje ponudnike generativne umetne inteligence na ravni EU že potekajo nadzorni postopki. Poročilo posebne delovne skupine Evropskega odbora za varstvo podatkov v zvezi s produktom ChatGPT med ključnimi težavami navaja zakonitost pridobivanja podatkov za učenje in delovanje sistemov, uveljavljanje pravic posameznikov, pomanjkanje preglednosti, prenos tveganj na uporabnike ter vprašanje točnosti rezultatov oziroma t. i. halucinacij.
Informacijska pooblaščenka dr. Jelena Virant Burnik poudarja, da bi morale organizacije, ki bi platformo uporabljale (npr. šole, javni zavodi ali podjetja), zagotoviti ustrezno pravno podlago za obdelavo osebnih podatkov, omejiti njihov obseg in zagotoviti preglednost obdelave. Posamezniki bi morali biti jasno obveščeni o tem, kako se njihovi podatki obdelujejo, kje se hranijo in kako dolgo. Posebej problematična ostajata nezmožnost izbrisa podatkov ter omejene možnosti seznanitve posameznikov z lastnimi osebnimi podatki v trenutnih komercialnih modelih generativne umetne inteligence.
Pooblaščenec opozarja tudi, da so prenosi osebnih podatkov v tretje države dopustni le ob zagotovljenem enakovrednem standardu varstva osebnih podatkov. Za tvegane obdelave, zlasti obsežne ali takšne, ki vključujejo občutljive osebne podatke, je pred uvedbo nujna priprava ocene učinka v zvezi z varstvom podatkov. Pri državnem projektu, ki bi vključeval množično obdelavo osebnih podatkov uporabnikov sistema umetne inteligence, bi bila takšna celovita ocena po navedbah Informacijskega pooblaščenca neizogibna.
Vir: Informacijski pooblaščenec, Nacionalna platforma za generativno umetno inteligenco – opozorila Informacijskega pooblaščenca, 17. 12. 2025.