Page 337 - Izobraževanje v dobi generativne umetne inteligence

V znamenju trikotnika: izobraževanje, etika in umetna inteligenca

2003, str. 16): »Prepričanje, ki za temelj morale sprejema koristnost ali načelo
največje sreče, trdi, da so dejanja pravilna, če pripomorejo k nastanku sreče,
in napačna, če pripomorejo k nastanku nasprotja sreče. S srečo je mišljeno
ugodje in odsotnost bolečine, z nesrečo pa bolečina in izguba ugodja.«
Temeljni pojem, ki ga srečamo v tem pristopu, je koristnost (angl. utility), iz
katerega je utilitarizem dobil svoje ime. Koristnost se nanaša na sposobnost
dejanj, da prispevajo k povečanju ugodja in zmanjšanju bolečine. Pri tem je
osrednje vodilo težnja k maksimizaciji skupnega dobrega za čim več ljudi,
moralnost dejanj pa se presoja v skladu z njihovimi posledicami za splošno
dobrobit. Slednja se v sodobnejših interpretacijah utilitarizma, npr. pri Petru
Singerju (2008), razširja na vse oblike življenja, pri čemer se osredotoča na
zmanjšanje trpljenja in povečanje sreče ne le za ljudi, temveč tudi za druga
čuteča bitja in v prihodnje nemara tudi za inteligentne stroje (Boyle, 2024).
Utilitarizmu, tako kot tudi drugim etičnim teorijam, lahko pripišemo po-
zitivne in negativne vidike. Med pozitivne spada poudarek na maksimizaci-
ji sreče in zmanjševanju trpljenja za največje število ljudi, kar lahko vodi v
družbeno koristne odločitve. Prav tako omogoča prilagodljivost, saj se mo-
ralna pravilnost dejanj ocenjuje glede na njihove posledice, kar lahko vodi
k praktičnim in učinkovitim rešitvam, ki jih pričakujemo od praktične etike.
Vendar pa utilitarizem pogosto zanemarja pravice posameznikov, saj lahko,
kot poudarjajo številni kritiki, upraviči žrtvovanje manjšine v korist večine
(Zack, 2009; Boddington, 2023; Alexander in Moore, 2024). Poleg tega je težko
objektivno meriti in primerjati srečo ali korist med različnimi ljudmi, kar ote-
žuje dosledno uporabo te teorije v praksi. Kritiki tudi opozarjajo, da se lahko
osredotočenost na posledice izogne vprašanjem moralne dolžnosti in pravič-
nosti pa tudi oblikovanja ustreznih vrlin (Vallor, 2016).

Uravnavanje UI
Izraz »uravnavanje umetne inteligence« običajno povezujemo s procesi, po-
vezanimi s prizadevanji, da bi bili sistemi UI oblikovani skladno s človekovimi
vrednotami, nameni in cilji (slika 5), ter je v tem smislu pomemben predvsem
z vidika ustvarjanja sistemov UI.
Uravnavanje UI je ključni element v kontekstu varnosti sistemov UI in služi
temu, da bi preprečili neželene posledice ali zlorabe, do katerih bi lahko priš-
lo zaradi nepredvidljivosti ali napačnega delovanja sistemov (Russell, 2020).
Vključuje razvoj algoritmov in modelov, ki so zasnovani tako, da upoštevajo
etične norme, pravne zahteve in družbena pričakovanja. Ključni vidiki tega
procesa pa so zagotavljanje transparentnosti, preverljivosti in razložljivosti
odločitev, ki jih sprejemajo sistemi UI, pri čemer je bistveno vključevanje in-

337