Page 112 - Izobraževanje v dobi generativne umetne inteligence

Ema Meden, Danijela Makovec Radova, Marko Radovan in Tadej Košmerl

inteligenci (Uredba Evropskega parlamenta in Sveta o določitvi harmonizi-
ranih pravil o umetni inteligenci, 2024) ter drugih relevantnih evropskih in
mednarodnih dokumentih o uporabi umetne inteligence (UI) v izobraževan-
ju ter raziskovanju. Vključujemo tudi primere uspešnih implementacij iz raz-
ličnih držav in institucij, s katerimi ponazarjamo raznolike pristope in izkušnje
na tem področju. Na sistemski ravni se osredotočamo na razvoj strategij za
obvladovanje tveganj in zagotavljanje etičnih standardov v visokem šolstvu.
Pri tem posebno pozornost namenjamo ukrepom za razvoj kompetenc za
varno, odgovorno in učinkovito rabo UI pri vseh deležnikih. Prepričani smo,
da je odgovorna raba UI med visokošolskimi učitelji in študenti pomembna
za uspešno dolgoročno vključevanje te tehnologije v izobraževalne in razis-
kovalne procese. V prispevku tako obravnavamo temeljne strateške izzive in
priložnosti GUI ter predstavljamo smernice za njeno smiselno integracijo v
visokošolsko izobraževanje.

Regulacija uporabe UI s strani Evropske unije
Evropski parlament in Svet Evropske unije sta 13. junija 2024 sprejela Uredbo
Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil o umetni
inteligenci (t. i. Akt o umetni inteligenci), ki pomembno zadeva tudi področje
(visokošolskega) izobraževanja. Čeprav uredba obravnava rabo UI vzdolž ce-
lotne šolske vertikale, od osnovnošolskega do visokošolskega izobraževanja,
se v tem prispevku osredotočamo na posledice za visokošolski prostor, kjer so
izzivi in priložnosti uporabe UI še posebej kompleksni in specifični. Temeljni
namen uredbe je sicer
izboljšati delovanje notranjega trga z določitvijo enot nega pravnega
okvira, predvsem za razvoj, dajanje na trg, dajanje v uporabo ter za
uporabo umetno inteligenčnih sistemov […], da bi spodbujali uvajanje na
človeka osredotočene in zaupanja vredne umetne inteligence«, pri tem
pa »zagotovili visoko raven varovanja zdravja, varnosti in temeljnih pravic
[…], vključno z demokracijo, pravno državo in varstvom okolja, za zaščito
pred škodljivimi učinki sistemov UI v Uniji ter da bi podpirali inovacije.
[Uredba Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil
o umetni inteligenci, 2024, str. 1]
Za dosego navedenega Uredba regulira sisteme UI glede na stopnjo njihove-
ga tveganja (Uredba Evropskega parlamenta in Sveta o določitvi harmonizi-
ranih pravil o umetni inteligenci, 2024; Madiega, 2024):

− nesprejemljivo tveganje (npr. sistemi točkovanja fizičnih oseb ter orod-
ja za manipulacijo in družbeni nadzor),

112