Page 71 - Izobraževanje v dobi generativne umetne inteligence

Pregled stanja generativne umetne inteligence v izobraževanju z regulativnega vidika

GUI še nista dokončno oblikovana. GUI v splošnem prinaša številne priložnos-
ti za inovacije in izboljšave v različnih panogah, vendar je hkrati pomembno,
da se zavedamo tudi izzivov, ki jih prinaša, ter si prizadevamo za odgovorno
in etično uporabo te tehnologije.
V primerjavi z drugimi razvitimi sistemi UI si GUI prizadeva posnemati ši-
rok razpon in zapletenost človeških kognitivnih spretnosti, s čimer strojem
omogoča, da izvajajo različne intelektualne naloge (Jovanović in Campbell,
2022). Na ta način ima GUI v izobraževanju izreden potencial, zlasti pri gradnji
prilagodljivih učnih okolij za različne individualne potrebe učencev, pri čemer
omogoča dinamično prilagajanje učenčevim sposobnostim in potrebam na
ravni, ki je primerljivejša s človeško interakcijo v primerjavi z računalniškimi
sistemi, ki ne temeljijo na uporabi GUI. A visoka zmogljivost rešitev GUI brez
zavedanja in razumevanja širšega konteksta ter njena nekritična uporaba
predstavljata mnoge potencialne izzive, kot so akademska nepoštenost, pre-
tirano zanašanje na avtomatizirana orodja, širjenje pristranskih ali netočnih
informacij ter zmanjšano kritično mišljenje in ustvarjalnost učencev ter učitel-
jev. Z vzpostavitvijo jasnih okvirov in smernic lahko z ustreznimi regulacijami
ublažimo tveganja, hkrati pa spodbudimo etično in učinkovito uporabo teh-
nologij UI po celotni vertikali izobraževalnega sistema.

Potreba po ureditvi in regulaciji UI
Medtem ko so potencialne koristi UI ogromne – povečanje produktivnosti,
spodbujanje inovacij in obravnavanje zapletenih izzivov –, ta prinaša tudi
pomembna tveganja in etične pomisleke (Tongia, 2024). Ker se UI že vse po-
gosteje vpeljuje v gospodarstvu, državni upravi, izobraževanju in ustvarjalni
umetnosti, jo je treba ustrezno urediti in regulirati.
Obstaja več ključnih vidikov, ki jih je z vidika urejanja in regulacije UI nujno
potrebno nasloviti (Díaz-Rodriguez idr., 2023).
Zagotavljanje varnosti in zanesljivosti delovanja sistemov UI. Slabo zasnovani
ali nedelujoči sistemi UI lahko povzročijo škodljive posledice, kot so nesreče
v avtonomnih vozilih ali napake v medicinskih diagnozah. Regulacija lahko
uveljavi varnostne standarde za ublažitev tovrstnih tveganj.
Zaščita človekovih pravic. Sistemi UI lahko nenamerno posegajo v zaseb-
nost, svobodo izražanja in druge temeljne pravice. Npr., tehnologije mno-
žičnega nadzora in pristranski algoritmi lahko nesorazmerno prizadenejo
posamezne družbene skupine. Ustrezni predpisi lahko pomagajo varovati te
pravice z določanjem omejitev dosega UI in zagotavljanjem odgovornosti.
Preprečevanje diskriminacije in pristranskosti. Sistemi UI se pogosto zanašajo
na pretekle podatke, ki so lahko netočni in vsebujejo pristranskosti. Brez nad-

71