Page 339 - Izobraževanje v dobi generativne umetne inteligence

V znamenju trikotnika: izobraževanje, etika in umetna inteligenca

human feedback – RLHF), kar modelom pomaga bolje ponotranjiti človeške
vrednote ter zmanjšati neželene vplive, ki izhajajo iz podatkov v prvi fazi uče-
nja (Lambert, 2024).
Kljub temu da je v kontekstu varnosti uravnavanje sistemov UI izjemno
pomembno in zato tudi pogosto obravnavano, to vseeno ni edini proces, v
katerem srečamo prenos vrednot v povezavi s sistemi UI. Enako pomemben,
čeprav veliko redkeje eksplicitno omenjen, je tudi proces, ki poteka v nasprot-
ni smeri in v katerem sistemi (G)UI oblikujejo človeške vrednote, namene ter
cilje.
Čeprav velikokrat poudarjamo, da je pomembno razumeti, da je UI pred-
vsem orodje, to še ne pomeni, da je nevtralno ali pasivno orodje. Velikokrat
namreč sistemi UI nastopajo kot aktivni udeleženci v družbenih, raziskoval-
nih in tudi izobraževalnih kontekstih. V kolikor je torej interakcija dvosmerna,
pa pred nas postavlja zahtevo po tem, da se vprašamo: Kaj UI učimo o nas?
In morda še pomembneje: Kaj nas UI uči o nas samih? Nasprotni vpliv, torej
obratno uravnavanje, je namreč še posebej pomemben v kontekstu izobra-
ževanja. Poleg neposrednega kratkoročnega vpliva na učenje in poučevanje
(slika 3) lahko namreč prepoznamo tudi dolgoročnejši posredni vpliv, ki preko
uporabe (G)UI v izobraževanju vodi v spremembe vrednot na družbeni ravni
oz. v tem, kar smo imenovali kulturni kontekst. Tudi raziskovalci na drugih
področjih danes opozarjajo na preveč poenostavljen pogled na uravnavanje
UI, pri katerem je izpostavljen predvsem statičen enosmerni vpliv človeških
vrednot na sisteme UI, ter namesto tega opozarjajo na upoštevanje dvosmer-
nega dinamičnega procesa (Hua idr., 2024).
Upoštevati pa je treba še eno možnost, in sicer da vrednote, ki so jih pri
uravnavanju UI uporabili snovalci sistema, ne odražajo vrednot uporabnikov
istega sistema, torej v primeru izobraževanja ne vključujejo spreminjajočih
se kulturnih, etičnih in pedagoških potreb izobraževalcev ter učencev. V ko-
likor je npr. izobraževalni sistem UI razvit v nekem drugem kulturnem ali in-
stitucionalnem kontekstu, lahko nehote uvaja norme in pričakovanja, ki so v
nasprotju z normami in pričakovanji lokalnega okolja, v katerem se uporablja.
To pa lahko privede do neželenih rezultatov in posledic (slika 6).
Lahko si npr. predstavljamo, da sistem UI, ki je bil uravnan s človeškimi
vrednotami v individualističnem kulturnem kontekstu, ni skladen s kultur-
nim kontekstom, ki daje prednost kolektivističnim vrednotam – in obratno.
Shannon Vallor v delu, v katerem UI primerja z zrcalom, ki odseva človeške
vrednote, opozarja na še enega izmed problematičnih vidikov. Poudarja, da
tisti, ki oblikujejo tehnologije UI, niso »predstavniki človeštva kot celote. So
majhna podskupina, del vse bolj homogene tehnološke monokulture. Ti po-

339