Page 73 - Izobraževanje v dobi generativne umetne inteligence

Pregled stanja generativne umetne inteligence v izobraževanju z regulativnega vidika

Javno-zasebno partnerstvo. Za oblikovanje vključujočih in praktičnih regu-
lativnih ukrepov se vključijo zainteresirane strani iz industrije, akademskih
krogov, civilne družbe in državne uprave. Tovrstni modeli omogočajo deljeno
odgovornost in inovacijam prijazno upravljanje.
Prilagodljivost in fleksibilnost. Tehnologija UI se hitro razvija, zaradi česar sta-
tični predpisi hitro zastarajo. Regulacija UI mora biti dinamična ter vključevati
mehanizme za redne posodobitve in preglede, da pravila ostanejo ustrezna.
Mehanizmi odgovornosti. Vzpostaviti je treba jasno strukturo odgovornosti
za prepoznavanje in reševanje težav, ki izhajajo iz uvajanja UI. Ti mehanizmi
naj vključujejo obvezne ocene učinka, revizije in sisteme reševanja pritožb.

Splošni predpisi in okviri UI
Po svetu se ureditve UI lotevajo na različne načine. Pri tem obstajajo nekateri
splošni predpisi in okviri, namenjeni regulaciji UI. Uredba Evropske unije o UI
(Regulation (EU) 2024/1689 of the European Parliament and of the Council,
2024) je obsežen dokument, ki kategorizira sisteme UI na podlagi tveganja, s
strogimi zahtevami za aplikacije z visoko stopnjo tveganja. Poudarja pregled-
nost, varnost in ublažitev pristranskosti. Načrt ZDA za listino pravic UI (The
White House, 2022) je osredotočen na zaščito posameznikov pred škodljivimi
praksami UI in poudarja načela, kot so zasebnost, pravičnost in algoritemska
odgovornost. Kitajski predpisi o UI (Sheehan, 2023) so mešanica politik, ki te-
meljijo na inovacijah, in strogega nadzora, ki se osredotoča na varstvo podat-
kov, etični razvoj UI in pomisleke glede nacionalne varnosti, z novimi strategi-
jami za upravljanje algoritmov, pogovornih robotov in drugih rešitev UI. Poleg
omenjenih obstajajo tudi nekatere globalne pobude za etiko UI, kot so Načela
OECD o UI (OECD, 2024), Unescovo priporočilo o etiki UI (UNESCO, 2022) in
Načela umetne inteligence G20 (OECD, 2019), ki predstavljajo ključna prizade-
vanja za ustvarjanje skupnih norm in standardov na mednarodni ravni.
S primerno naslovitvijo teh splošnih regulativnih vidikov lahko oblikovalci
politik ustvarijo okolje, v katerem se sistemi UI razvijajo in uvajajo odgovorno,
kar zagotavlja, da so njihove koristi čim večje, hkrati pa se zmanjšajo tveganja.

Evropska uredba o UI
Uporabo UI v EU ureja Evropska uredba o umetni inteligenci (Regulation (EU)
2024/1689 of the European Parliament and of the Council, 2024), ki je prvi ce-
lovit zakon o UI na svetu. EU AI Act je pionirski regulativni okvir, ki ga je spreje-
la Evropska unija za urejanje uporabe UI v različnih sektorjih. Njegov primarni
cilj je zagotoviti, da so sistemi UI varni, pregledni in usklajeni s temeljnimi
pravicami, hkrati pa želi spodbujati inovacije in zaupanje v tehnologije UI.

73