Page 75 - Izobraževanje v dobi generativne umetne inteligence

Pregled stanja generativne umetne inteligence v izobraževanju z regulativnega vidika

nja. V tem kontekstu se transparentnost nanaša na odprtost in jasnost glede
delovanja sistemov UI, vključno s tem, kako se sprejemajo odločitve, kateri
podatki se uporabljajo in kakšne morebitne pristranskosti ali omejitve obsta-
jajo. V izobraževanju preglednost učiteljem, učencem in drugim deležnikom
pomaga razumeti orodja UI ter jim zaupati.
V izobraževalnem kontekstu je potreba po regulaciji še posebej pomemb-
na zaradi inherentne ranljivosti področja (Ali idr., 2024). Izzivi uporabe UI
vključujejo ravnanje z občutljivimi podatki učencev, možnost algoritemske
pristranskosti, ki vpliva na neenakovredno obravnavo učencev, in pomisle-
ke glede akademske integritete zaradi zlorabe orodij GUI, kot so generatorji
esejev2 (npr. Chat GPT ali EssayBot). Z vzpostavitvijo jasnih okvirov in smernic
lahko z ustreznimi regulacijami ublažimo tveganja, hkrati pa spodbudimo
etično in učinkovito uporabo tehnologij UI po celotni vertikali izobraževal-
nega sistema.

Regulativna prizadevanja v Evropski uniji in v svetu
Z vidika Uredbe EU o UI (Regulation (EU) 2024/1689 of the European Parlia-
ment and of the Council, 2024) izobraževalne aplikacije GUI pogosto spadajo
v kategorijo visokega tveganja glede na njihov potencial, da znatno vplivajo
na pravice in dobro počutje posameznikov. Ključne določbe uredbe, ki se na-
našajo na izobraževanje, vključujejo zahteve glede preglednosti, zmanjšanja
pristranskosti in varovanja zasebnosti podatkov v skladu z GDPR.
Sistemi UI, ki se uporabljajo v izobraževanju, morajo tako razkriti svojo av-
tomatizirano naravo in zagotoviti jasne informacije o svoji funkcionalnosti
ter omejitvah, kar učiteljem in učencem pomaga pri sprejemanju informi-
ranih odločitev o uporabi UI. Razvijalci morajo dokazati, da njihovi sistemi
UI ne ohranjajo ali poslabšujejo pristranskosti, zlasti v situacijah z visokim
tveganjem, kot je ocenjevanje ali vpisni postopek učnih programov. Prav
tako EU AI Act (Regulation (EU) 2024/1689 of the European Parliament and of
the Council, 2024) poudarja skladnost s Splošno uredbo o varstvu podatkov
(GDPR) ter varuje osebne podatke učencev in učiteljev, hkrati pa zagotavlja,
da so sistemi UI zasnovani tako, da privzeto zagotavljajo zasebnost uporab-
nikov.
Medtem ko je EU z vidika reguliranja UI vodilna s svojim celovitim pristo-
pom, tudi druge regije napredujejo pri urejanju UI v izobraževanju. Regulaci-

2 Generatorji esejev so računalniška orodja, ki samodejno ustvarijo pisno vsebino na podlagi
pozivov z uporabo naprednih jezikovnih modelov za ustvarjanje koherentnih in strukturiranih
esejev. Čeprav lahko pomagajo pri razmišljanju in pripravi osnutkov, hkrati sprožajo pomisleke
glede njihovega vpliva na akademsko integriteto in razvoj veščin kritičnega mišljenja učencev.

75