Regulacija sistemov umetne inteligence

Umetna inteligenca je v zadnjem obdobju doživela skokovito rast uporabe tako v poslovnem svetu kot s strani posameznikov, gonilo povečanja uporabe pa so predvsem napredek na področju velikih jezikovnih modelov (angl. Large Language Models ali LLMs) in generativne inteligence. Umetna inteligenca si vtira pot na vseh področjih našega življenja: od strojev za pomivanje posode, ki spremljajo vaše običajne programe pranja in predlagajo bolj učinkovite, do aplikacij na mobilnih telefonih, ki pokažejo, kako boste izgledali v starosti, pripravijo povzetek vašega teksta ali ponudijo rešitev na prenekatero težavo.

Seveda pa se umetna inteligenca ne kaže zgolj kot sodoben pripomoček za reševanje vsakdanjih težav, ustvarjanje vsebin, komunikacijo in zabavo, temveč v poslovnih okoljih olajšuje ali celo nadomešča sprejemanje odločitev, ki so bile do sedaj rezervirane za človeka. V tem delu pa se odpirajo še posebej nevarne pasti, ki izhajajo iz načina učenja in delovanja sistemov umetne inteligence – izpostavljeni so predsodkom, občasno dajejo nenavadne rezultate (»halucinirajo«), sam način obdelave podatkov in sprejemanja odločitev pa je človeku pogosto povsem netransparenten in nepreverljiv. Umetna inteligenca se čedalje bolj pojavlja tudi na področjih, ki imajo bistven pomen za življenje posameznika: pri diagnosticiranju zdravstvenih težav, pri odločanju o kariernem razvoju, pri odobritvah kreditov in upravičenosti do socialnih pomoči, izpuščanju iz zapora in na številnih drugih področjih, kjer pa so osnova za odločanje osebni podatki – včasih niti ne naši, temveč statistični podatki določenih skupin, ki jim pripadamo. Poleg transparentnosti odločanja na osnovi osebnih podatkov pa se odpirajo tudi izzivi uporabe podatkov za samo treniranje modelov umetne inteligence (pogosto z nediskriminatornim pobiranjem podatkov – strganjem podatkov s spleta), izbrisa podatkov iz uporabljenih naborov podatkov in iz rezultatov in številni drugi. Regulacija umetne inteligence je bila zato neizbežna, njen cilj pa je predvsem spodbuditi razvoj koristnih uporab in po drugi strani omejiti nevarne uporabe umetne inteligence glede na tveganja, ki jih prinašajo.