Page 74 - Izobraževanje v dobi generativne umetne inteligence

Lucija Brezočnik, Grega Vrbančič in Vili Podgorelec

EU UI Act uporablja pristop, ki temelji na tveganju in sisteme UI razvršča v
štiri stopnje tveganja:

1. Nesprejemljivo tveganje. Aplikacije UI, ki ogrožajo temeljne pravice in
varnost, kot je socialno točkovanje1 s strani vlad, so prepovedane.
2. Visoko tveganje. Za sisteme s pomembnimi vplivi na posameznika in
družbo, kot so biometrična identifikacija, zdravstvo in izobraževanje,
veljajo strogi predpisi. Ti vključujejo zahteve glede preglednosti, ubla-
žitev pristranskosti in ukrepe glede odgovornosti.
3. Tveganje preglednosti. Sistemi UI, kot so pogovorni roboti, zahtevajo
osnovne ukrepe preglednosti (npr. razkritje njihove avtomatizirane na-
rave).
4. Minimalno tveganje. Večina ostalih aplikacij, kot so priporočilni sistemi
ali videoigre (kjer delovanje računalniških tekmecev poganja UI), ne
zahteva posebne regulacije.

Uredba EU AI Act prav tako poudarja pomen upravljanja podatkov, ki zah-
teva skladnost s Splošno uredbo o varstvu podatkov oz. General Data Pro-
tection Regulation (GDPR) (Regulation (EU) 2016/679 of the European Parlia-
ment and of the Council, 2016), in človeški nadzor nad aplikacijami UI, kjer je
tveganje visoko. Z vzpostavitvijo jasnih pravil želi uredba zaščititi posamezni-
ke in organizacije, hkrati pa zagotoviti, da Evropa ostane vodilna v svetu na
področju etičnih inovacij na področju UI.

Pomen regulacije UI v izobraževanju
Integracija GUI v izobraževanje preoblikuje procese učenja in poučevanja ter
ponuja izjemne priložnosti za personalizirano, na posameznika osredotoče-
no poučevanje, večjo ustvarjalnost in boljšo administrativno učinkovitost uči-
teljev. Vendar pa hitro uvajanje GUI sproža tudi etične, družbene in tehnične
izzive, ki zahtevajo ustrezno ureditev in regulacijo. Predpisi morajo zagotoviti
odgovorno uporabo UI z obravnavanjem vprašanj, kot so zasebnost podat-
kov, pravičnost in intelektualna lastnina, hkrati pa morajo spodbujati zaupa-
nje in transparentnost med učitelji, učenci ter drugimi deležniki izobraževa-

1 Socialno točkovanje je sistem, ki ocenjuje posameznike na podlagi njihovega vedenja in de-
janj, pogosto z uporabo podatkov iz različnih virov, kot so finančne transakcije ali dejavnost na
družbenih medijih. Tako podeljene ocene lahko nato vplivajo na dostop do storitev in prilož-
nosti ali celo na socialni status. Osnovni namen točkovanja je nagrajevati pozitivno vedenje in
kaznovati negativnega, vendar takšni sistemi vzbujajo pomisleke glede zasebnosti, nadzora,
poštenosti in možnosti zlorabe ali diskriminacije, še zlasti, če točke določajo netransparentni
sistemi UI.

74