Digitala eta algoritmoak jendartearen ispilu

Lorena Fernándezek ere algoritmoetan jartzen du fokua #EzGaltzekoModuko "Algoritmo-indarkeriak" artikuluan:

Genero-indarkeria kasuetan Jarraipen Integraleko Sistema [VioGén] da Espainian erabiltzen den tresna  indarkeria matxistak salatzen dituzten emakumeek eta beren kargura dituzten adingabeek duten arriskua ebaluatzeko, eta horretan oinarrituta planifikatzen da haien babesa. Iragarpen-sistema bat da, eta ez pertzepzio- edo iritzi-sistema bat. Biktima batek duen arriskua ebaluatzen du. Sistema algoritmiko gisa aurkeztua izanik eta, beraz, giza baldintzapenen mende ez dagoena, bete-betean sartu da komisaldegietan, munduko hainbat lekutan hedatuta dauden soluzioekin: Ekuadorren, Hegoafrikan, Indian eta Europar Batasuneko estatu kide batzuetan.

Offline bizitzan gertatzen den bezala, egiturazko desberdinkeria mundu digitalean ere egon badago. Cathy O 'Neil datu-zientzialariak dioen bezala, algoritmoak matematiketan itxitako iritziak dira eta pertsonen joera eta estereotipo berberak dituzte. Aldea da gure bizitzetan horiek duten eragina eta botere eraldatzailea esponentziala dela.

Administrazio publikotik VioGének egokitasun- eta zehaztasun-portzentaia handia duela defendatzen bada ere, Eticas Fundazioak 2022an egindako kanpo-auditoriak hainbat faktore jarri ditu mahai gainean, VioGén sesgoetatik libre dagoenik zalantzan jartzen dutenak.

...

Sistema digitalek gure egunerokoan zeharkatzen gaituzte eta, beste behin ere, estandarrean oinarritutako mundua moldatzen ari dira (estandarra pribilegioak bezala ulertuta). Horri gehitzen badiogu askotan kutxa beltzak direla, beren iturburu-koderako sarbiderik ez dutenak, gure bizitzetan eragin handia dutenak eta funts publikoekin finantzatuak, onartezina da haien gardentasun falta, intersekzionalitate falta edo kanpo-auditoriak. Erantzukizun algoritmikoak, berez, justizia soziala lortzerik ez duen arren, argia ematen du teknologiaren jardunari buruz, eta arrisku batzuk prebeni ditzake. Algoritmoek aspaldian ez dute etorkizuna iragartzen. Etorkizuna sortu egiten dute.

 

Berriki Eusko Legebiltzarreko agerraldian administrazioak erabiltzen dituen algoritmoen erregistro publiko bat sortzearen inguruan hitz egin da. Bertan parte hartu du, beste batzuen artean, Gemma Galdón-Clavellek, etika teknologikoan eta erantzukizun algoritmikoan adituak: