Adimen Artifizial sortzailea eta (in)justizia epistemikoa

2024. urtearen amaieran Jackie Kay, Atoosa Kasirzadeh eta Shakir Mohamed-ek argitaratu zuten "Epistemic Injustice in Generative AI" (Injustizia epistemikoa AAn) artikulua. ¹ 

_{Bertan azaldu zuten nola Adimen Artifizial sortzaileak (AAs hemendik aurrera) ahuldu ditzakeen ezagutza kolektiboaren osotasuna eta informazioa eskuratzeko, ebaluatzeko eta fidatzeko erabiltzen ditugun prozesuak, mehatxu handia ekarriz gure ezagutza ekosistema zein diskurtso demokratikoarentzat. Gainera, Gayatri Spivak (teoria dekolonial), Patricia Hill Collins (intersekzional) zein Miranda Frickerren ekarpenei segida emanez, Injustizia epistemiko algoritmiko generatiboa kontzeptua definitu zuten, baita epistemikoki AAs justuen garapenerako bi ikuspegi proposatu ere.}

Injustizia epistemikoa: zenbait norbanako edo komunitateen ezagutza eta esperientzien desprestigiatze bidegabea, identitate horien aurkako azpi-alborapenen ondorioz.

^{Hori gertatzen da botere sozial gutxiago dutenen kasuan, hots, giza-elkarrekintzetan eta ingurune sozialetan eragiteko ahulezia edo gaitasunik eza.} 

^{Laburbilduz, bi injustizia moten arteko ezberdintasuna: lekukotasun-injustiziak zerikusia du kontatzen denarekiko sinesgarritasun-degradazioarekin (aurreiritzi identitarioen ondorioz). Injustizia hermeneutikoak, aldiz, zapalkuntza artikulatzeko lexikorik ez izatearekin du zerikusia, horrek kontakizuna interpretatzeko ezintasuna dakar eta.}

AAs algoritmoak ere injustizia horietan konplize izan daitezke, erabakiak hartu, informazioa kontsumitu, hautatu eta ekoizten duten teknologia epistemikoak direlako.

^{Finean, AAs-a, emaitza sinesgarriak eta itxuraz benetakoak sortzeko duen gaitasunaren ondorioz, gero eta protagonismo handiagoa hartzen ari da injustizia epistemikoen agertokian.}

Injustizia epistemiko sortzailea: AAs-ak eragiten duenean baztertutako taldeak ulertu eta haiengan konfiantza izateko giza-gaitasunaren hondatzea.

Lekukotasun-injustiziak areagotu ditzake, batetik, AAs-aren entrenamendu eta doikuntza faseetan bereganatutako alborapenen ondorioz; bestetik, erabiltzaileek AAs-a bera manipulatu dezakete eduki kaltegarria sortu dezan.

Injustizia hermeneutikoak sortzen dira AAs-ak gure ezagutza partekatuarekin duen elkarrekintzaren ondorioz esperientzia baztertuak ezabatu edo distortsionatzen direnean. Hori gerta daiteke sistemak gizakien ulermen soziokultural nahikorik ez duenean edo ezagutza eskuratzeko bidea oztopatzen duenean. Hori dela eta, interpretazio baliabide kolektiboetan arrakala betikotu eta baztertutako esperientzia horiek ulertzea eragotzi egiten da.

Hauek dira injustizia epistemiko sortzailearen lau konfigurazioak:

Justizia epistemiko sortzailea: ideal etikoa, kontuan hartu beharrekoa ezagutza-sistemetan botere-egiturarekin elkarreragiten duen teknologia bat diseinatzerakoan. Justizia epistemikoa AA sortzailean inplementatzeko, beharrezkoa da baztertutako ahotsen anplifikazio sistemikoa. Azpi ordezkatutako taldeen kontakizun errealak argitara atera eta datu-multzoetan anplifikatuz, haien baimena eta parte-hartzearekin batera, datu-subiranotasunaren bidez, beren irakurgarritasun soziala eraiki eta hermeneutika kolektiboa indartu dezakegu haien esperientziak ulertu eta onartzeko. AAs sistemak birdiseina daitezke injustiziak bistaratzeko eta baliabide kulturalak aberasteko. AAs-ren emaitzekin ditugun interakzioetan agerian geratzen dira botere desoreka sozial zein teknologiko larriak. Azken batean, justizia epistemikoa da gure ezagutza sistemak ekitate eta justiziarantz bideratzen dituen printzipio gidaria.

________________________

[1] Kay, J., Kasirzadeh, A., & Mohamed, S. (2024). Epistemic Injustice in Generative AI. Proceedings of the Seventh AAAI/ACM Conference on AI, Ethics, and Society, 7 (1), 684-697. https://doi.org/10.1609/aies.v7i1.31671