PRAVNI NADZOR UMETNE INTELIGENCE V SLOVENIJI IN EU

Uredba razlikuje med štirimi kategorijami UI, glede na ocenjeno tveganje. Sistemi UI, ki pomenijo jasno grožnjo človekovim pravicam (nesprejemljivo tveganje) so prepovedani. Takšni sistemu vključujejo uporabo manipulativnih tehnik, izkoriščanje ravnljivih skupin, socialno točkovanje po vzoru Kitajske, biometrično identifikacijo v realnem času na javnih mestih, prepoznavanje čustev v šolah ali na delovnem mestu. 

Visoko tveganje predstavljajo visoko rizični sistemi UI, ki se uporabljajo na občutljivih področjih, kot so zdravstvo, promet, zaposlovanje, pravosodje in izobraževanje. Za te sisteme veljajo stroge zahteve kot so ocena tveganj pred uvedbo, uporaba zanesljivejših in nediskriminatornih podatkov, zagotavljanje sledljivosti in človeškega nadzora in visoka kibernetska varnost. Klepetalni roboti (chatboti) oziroma orodja za generiranje vsebin predstavljajo sisteme z omejenim tveganjem, ki morajo biti pregledni. Predvsem morajo uporabniki vedeti kdaj komunicirajo z UI in kdaj je vsebina umetno ustvarjena (npr. deepfake videi). Kot skupino z minimalnim tveganjem, glede katere ni posebnih pravil, pa uredba opredeli npr. UI filtre za nezaželeno poštko, sisteme za priporočila v spletnih trgovinah ali orodja v videoigrah. 

Novosti predvidevajo tudi porazdelitev pristojnosti. Nadzor ne bo v rokah enega samega »super-organa«, temveč bo razpršen med obstoječe institucije glede na njihovo področje (Banka Slovenije, Informacijski pooblaščenec, Tržni inšpektorat RS, Agencija za zavarovalni nadzor), medtem ko bo Agencija za komunikacijska omrežja in storitve (AKOS) delovala kot osrednja povezovalna točka in koordinator. Čeprav zakonodajni okvir formalno sledi evropskim zahtevam, kritike letijo predvsem na odsotnost ambicioznejših varovalk, ki bi presegle zgolj nujni minimum [3]. Ena izmed osrednjih točk razprave je transparentnost. Zakonodaja sicer predvideva javno objavo ukrepov nadzora in izrečenih sankcij, vendar civilna družba opozarja na potrebo po širši javni evidenci sistemov UI. Trenutna ureditev namreč ne zagotavlja popolnega pregleda nad tem, kateri sistemi – tudi tisti, ki niso opredeljeni kot visokotvegani, a se uporabljajo v javnem sektorju – dejansko vplivajo na življenja državljanov.

Prav tako se odpirajo vprašanja glede dostopnosti pravnega varstva. Sistem, v katerem je pristojnost deljena med množico organov, je za povprečnega uporabnika lahko nepregleden. Brez vzpostavitve enotne, po možnosti anonimne točke za prijavo kršitev, obstaja tveganje, da bodo posamezniki, ki se bodo čutili oškodovane zaradi odločitev algoritmov, ostali brez učinkovitega pravnega sredstva, saj ne bodo vedeli, na katera vrata potrkati. Učinkovitost nove zakonodaje bo v praksi odvisna od neodvisnosti in usposobljenosti nadzornih organov. Nadzor nad kompleksnimi algoritmi zahteva specifična tehnična znanja, ki jih v javni upravi kronično primanjkuje. Poleg tega zakonodaja predvideva tudi spodbude za inovacije, kot so regulativni peskovniki, ki naj bi jih vzpostavil AKOS do avgusta 2026. Ti bodo omogočali testiranje novih rešitev v nadzorovanem okolju, kar je ključno za razvoj domačega tehnološkega sektorja, a uspeh tega ukrepa bo prav tako odvisen od agilnosti regulatorja.

Da zakonodajalec misli resno, dokazujejo predpisane sankcije, ki so visoke in primerljive tistim iz uredbe GDPR. Za neupoštevanje pravil, zlasti glede prepovedanih praks umetne inteligence (npr. manipulativni sistemi ali socialno točkovanje), so predvidene globe, ki se lahko povzpnejo do 35 milijonov evrov ali do 7 % celotnega letnega svetovnega prometa podjetja. Sankcionirani pa ne bodo le razvijalci (ponudniki), temveč tudi uvozniki, distributerji in uvajalci sistemov, kar vzpostavlja odgovornost skozi celotno verigo.

Sprejem zakonodaje je le prvi korak. Slovenija je z zakonom sicer postavila institucionalne temelje, a prava preizkušnja prihaja z njegovo uporabo v praksi. Ključno bo, ali bodo nadzorni organi sposobni proaktivnega delovanja ali pa se bodo zadušili v birokraciji in pomanjkanju resursov. Za državljane in podjetja pa je pomembno zavedanje, da se pravila igre spreminjajo. Umetna inteligenca postaja regulirana dejavnost, kjer ignoranca ne bo več opravičilo, pismenost na področju UI pa bo postala nujna veščina za zaščito lastnih pravic v digitalni dobi. Transparentnost, nadzor in stroge sankcije so sedaj zakonska dejstva, vprašanje ostaja le, kako dosledno se bodo izvajala.