Page 76 - Izobraževanje v dobi generativne umetne inteligence

Lucija Brezočnik, Grega Vrbančič in Vili Podgorelec

ja UI v ZDA je trenutno razdrobljena z zbirko zveznih in državnih predpisov,
ki obravnavajo vidike, kot sta zasebnost podatkov in algoritemska odgovor-
nost. Pojavljajo pa se tudi pobude, ki poudarjajo naraščajoče zvezno zanima-
nje za vzpostavitev etičnih smernic za UI v izobraževanju.
Kitajski regulativni pristop združuje strog nadzor z močnim poudarkom na
inovacijah. Nedavni normativni akti, kot sta Zakon o varstvu podatkov (Data
Security Law of the People's Republic of China, 2021) in Zakon o varstvu oseb-
nih podatkov (Personal Information Protection Law of the People’s Republic
of China, 2021) nalagajo stroge zahteve glede tega, kako izobraževalni sistemi
UI obravnavajo osebne podatke. Poleg tega je Kitajska uvedla posebne uk-
repe za nadzor vpliva UI v izobraževanju, kot je prepoved njene uporabe v
postopkih izbire oz. vpisa študentov na univerze.
Avstralska vlada poudarja etična načela UI ter se zavzema za preglednost,
pravičnost in odgovornost sistemov UI. Avstralski okvir etike umetne inteli-
gence (Commonwealth of Australia, 2023) služi kot vodnik za uvajanje UI v
različne sektorje, vključno z izobraževanjem, s priporočili, prilagojenimi po-
trebam učiteljev in učencev.
Tudi v drugih državah, kot so Kanada, Južna Koreja in Singapur, sprejemajo
hibridne pristope, ki združujejo etične smernice s sektorskimi predpisi. Npr.,
singapurski okvirni model upravljanja UI (Smart Nation Singapore, 2019) po-
nuja orodja in vire za izobraževalne ustanove za odgovorno ukrepanje pri in-
tegraciji ter uporabi UI.

Ključni vidiki reguliranja UI v izobraževanju
Menimo, da bi morali pri razvoju predpisov o UI v izobraževanju izhajati iz
ključnih vprašanj, kot so zasebnost in varnost podatkov, pravičnost in vklju-
čenost, odgovornost in nadzor, preglednost in razložljivost, akademska integ-
riteta ter opolnomočenje učiteljev in učencev.
Izobraževalne ustanove obdelujejo ogromne količine občutljivih podat-
kov, vključno z uspešnostjo učencev in njihovimi osebnimi podatki. Predpisi
morajo zagotoviti trdne zaščitne ukrepe proti kršitvam podatkov, nepooblaš-
čenemu dostopu in zlorabi informacij s strani sistemov UI. Sisteme UI je tre-
ba oblikovati in izvajati za spodbujanje pravičnih izobraževalnih možnosti.
To vključuje obravnavo algoritemskih pristranskosti3, ki bi lahko prikrajšale
učence na podlagi rase, spola, socialno-ekonomskega statusa ali invalidnosti.

3 Algoritemska pristranskost se nanaša na sistematične napake ali nepoštene rezultate, do kate-
rih pride, ko sistemi UI dajejo prednost določenim skupinam pred drugimi zaradi pristranskih
podatkov ali napačnega programiranja. To lahko privede do nenamerne diskriminacije, kar
povečuje družbene neenakosti.

76