Page 305 - Izobraževanje v dobi generativne umetne inteligence

Tehnična, tehnološka in druga merila vrednotenja orodij GUI za integracijo v izobraževanje

jo odgovorno uporabo in preprečujejo zlorabo v izobraževalnih kontekstih
(Simms, 2024). Poleg tega morajo izobraževalci in oblikovalci politik obrav-
navati morebitne etične posledice vsebin, ki jih generirajo orodja GUI, saj
se pristranskosti, zajete v vhodnih podatkih, na katerih se je model GUI učil,
lahko reproducirajo v odzivih, kar je izjemno problematično. Ob tem je treba
zagotoviti, da so uporabniki opremljeni z znanjem in s spretnostmi za kritič-
no vrednotenje odzivov GUI (Simms, 2024). To vključuje spodbujanje kulture
akademske poštenosti in integritete, kar je ključno za ohranjanje verodostoj-
nosti izobraževalnih institucij.
Cecillia K. Y. Chan (2023) predlaga naslednja temeljna etična načela za
umet no inteligenco (UI), ki so zelo smiselno, strukturirano in celovito obli-
kovana. Njena raziskava temelji na empiričnih podatkih, zbranih s strani 637
udeležencev, in predlaga okvir, ki vključuje pedagoške, upravljavske in ope-
rativne dimenzije. Načela, ki jih predlaga, so zasnovana posebej za visokošol-
ski izobraževalni kontekst in temeljijo na praktičnih primerih uporabe GUI. V
primerjavi z načeli Unesca in Evropske komisije ta okvir ponuja konkretnejša
priporočila, kot so prilagoditev učnih strategij, razvoj novih oblik ocenjevanja
in usposabljanje učiteljev za odgovorno uporabo GUI. S tem zagotavlja prak-
tično orodje za učinkovito in etično vključevanje GUI v izobraževanje. Zaradi
njihovega premišljenega pristopa predlagamo, da se ta načela upoštevajo pri
razmislekih o integraciji GUI v izobraževalne sisteme, saj lahko prispevajo k
odgovorni in učinkoviti uporabi teh orodij.

− Odgovornost pomeni zagotoviti, da so akterji UI, vključno z razvijalci,
oblikovalci politik, izobraževalci in uporabniki, odgovorni za delovanje
sistemov (G)UI in upoštevanje etičnih načel.
− Točnost pomeni prepoznati in komunicirati o virih napak ter negoto-
vosti v algoritmih in podatkih za obveščanje o postopkih za ublažitev.
− Možnost revizije pomeni omogočiti drugim neodvisnim deležnikom, ki
niso povezani z lastnikom algoritma, da pregledajo in preverijo veden-
je algoritmov s transparentnim razkritjem informacij, kar prispeva k
večji odgovornosti in zaupanja vredni uporabi UI.
− Razložljivost pomeni prizadevanje za čim večjo transparentnost in ra-
zumljivost algoritmov ter njihovih odločitev, pri čemer je cilj omogočiti
uporabnikom, da razumejo ključne dejavnike, ki vplivajo na rezultate.
Strinjamo se, da je popolna razložljivost pri kompleksnih sistemih, kot
so veliki jezikovni modeli, težko dosegljiva. Meja razložljivosti je dolo-
čena s kompleksnostjo algoritma in z znanjem uporabnika.
− Pravičnost vključuje tako odgovornost razvijalcev pri oblikovanju sis-

305