Page 325 - Izobraževanje v dobi generativne umetne inteligence

V znamenju trikotnika: izobraževanje, etika in umetna inteligenca

Slika 2 Trikotniška struktura, prilagojena specifični tehnologiji in področju uporabe
pravne vidike in etična vprašanja. Rezultat je specifičnejša trikotniška struktu-
ra, prikazana na sliki 2.
V shemi je razvoj sistemov UI tisti, ki poganja gibanje: UI oz. GUI z vstopom
v procese izobraževanja nakaže nove možnosti in priložnosti, a tudi nevar-
nosti in tveganja, zaradi česar je nujna regulacija sistemov v smislu razvoja
pravnih in etičnih okvirov. Njihov cilj je zmanjševanje razlik med vrednotami
sistemov UI in človeškimi vrednotami, kar srečamo v kontekstu zagotavljanja
varnosti sistemov UI (angl. AI safety) pod izrazom uravnavanje2 UI (angl. AI
alignment). Pri tem običajno srečamo naslednjo opredelitev: »Cilj uravnava-
nja umetne inteligence je, da se sistemi umetne inteligence obnašajo v skla-
du s človekovimi nameni in vrednotami« (Ji idr., 2024).

Tehnologija
Številne razprave, povezane z uravnavanjem UI, kot tudi s tveganji, ki jih
prinaša neskladnost med človeškimi vrednotami in vrednotami UI (angl. AI
misalignment), se v zadnjem desetletju osredotočajo predvsem na umetno
splošno inteligenco (angl. artificial general intelligence, AGI) in superinteligen-
co (Russell, 2020; Tegmark, 2017; Bostrom, 2014).
V tem smislu je pomembno razlikovati med splošno (močno) in ozko (šib-
ko) UI. Splošna UI označuje sisteme, ki bi bili sposobni reševati različne kom-
pleksne naloge na način, ki je primerljiv s človeško inteligenco. Ti sistemi bi se
lahko učili in prilagajali novim situacijam brez specifičnega usposabljanja za

2 Inštitut za slovenski jezik Frana Ramovša ZRC SAZU je leta 2023 presodil, da je za angleški ter-
min artificial intelligence alignment najustreznejši slovenski izraz »uravnavanje umetne inteli-
gence«; ta naj bi bil ustreznejši od izrazov »poravnavanje« in »usklajevanje« (Atelšek idr., 2023).

325