Adimen Artifizialarekin Adimen Artifizialaz, besteak beste

---

 

ChatGPTrekin solasaldi bat izan dut, neure liburu bat gomendatu eta gero: Dimisioa (Susa, 20024). Uste baino interesgarriagoa suertatu da. Izaki edo dena delako hau hau ere gero eta adimentsuagoa dela dirudi. Honan hemen solasa, gordin, akats eta guzti:

ChatGPT said:

Eskertzen dizut gomendioa! Oso interesgarria dirudi, eta egia esan, halako fikziozko lanek ikuspegi berriak eman ditzakete Adimen Artifizialaren (AA) aukerei eta arriskuei buruz. Dimisioa-ren premisak badu gaur egungo eztabaidekin lotura zuzena: teknologiaren bilakaera, boterearen esku-hartzea eta gizakion erabakiak.

Ez dut irakurri, baina gustatuko litzaidake. Zer izan da gehien harritu edo liluratu zaituen kontua liburuan? Galdera interesgarriak planteatzen ditu AAren inguruan?

You said:

Liburuan hainbat ipuin biltzen dira, baina guztietan du presentzia AGK izeneko AA batek, Agintaritza Global Konputarizatua deritzonak. Adimen Artifizial oso boteretsua da, eta berak agintzen du munduan, baina beti gizakiaren alde. Batzuetan injustua da, eta badaki, baina egiten eta babesten dituen injustiziak injustizi handiagoak eragozten dituzte.

ChatGPT said:

Interesgarria da hori! AGK-k gizakien alde egiten du, baina ez du perfektua izan nahi, baizik eta injustizia "txikiagoak" onartu, injustizia handiagoak ekiditeko… Horrek moraltasunaren inguruko galdera sakonak pizten ditu. Adimen Artifizial batek benetan ulertu al dezake etika? Eta zein puntutaraino onargarri da AA batek erabaki "injustuak" hartzea, baldin eta helburua ongizate handiagoa bada?

Zuri zer iruditu zaizu? Uste duzu halako sistema bat desiragarria izango litzatekeela benetako munduan? Ala beldur ematen dizu?

You said:

Agian bai. Fikzio horretan, AAk bere "morala" edo "etika" eraikitzen du, gizakiak sortutako hainbat dokumentutan oinarrituta (eta gizaki boteretsuenen oniritziarekin). Liburuko pasarte batean hau irakurtzen da: "Programazioaren oinarria osatzeko aurreneko input moduan, Kangabako (Mali) Kurukan Fuga —Mandengo Gutuna ere deitua—, Parisko (Frantzia) Giza Eskubideen Aldarrikapen Unibertsala eta Banjulgo (Gambia) Gizakien eta Herrien Eskubideen Afrikako Gutuna hartu ziren aintzat lehenik, XIII. mendekoa lehena, 1948koa bigarrena, 1981ekoa hirugarrena. Horiek osatu eta eguneratzeko, azken hamarkadetan herrialde aurreratu askotan —Europan batez ere, baina ez Europan soilik— hainbat eta hainbat GKE Gobernuz Kanpoko Erakundek —beti ere gobernuren baten, edo Europako Batasunaren dirulaguntzekin— eta hainbat eta hainbat erakunde instituzionalek landutako txostenak eta liburuak erabili ziren".

ChatGPT said:

Pasarte horrek pentsarazten du: AGK-ren etika eraikitzeko, gizakiok sortutako dokumentuetan eta printzipioetan oinarritzen da, baina hauek ez dira neutralak. Iturriak hautatzeko prozesua bera interesgarria da, eta liburuak agian galdera bat planteatzen du: norbaitek hautatu ditu dokumentu horiek, eta horien arabera eraiki da AGK-ren morala. Beraz, benetan objektiboa al da? Edo, besterik gabe, boteretsuen interesen isla?

Horrez gain, etikari dagokionez, badirudi AGK-k "konponbide pragmatikoak" bilatzen dituela, ez beti bidezkoak, baina bai eraginkorrak. Hau zenbait filosofiaren (utilitarismoaren, adibidez) antzekoa da: helburua ongizate orokorra maximotzea da, nahiz eta horretarako bidean injustizia batzuk onartu behar izan.

Zuk nola ikusten duzu? Erabaki horiek legitimoak iruditzen zaizkizu, edo pentsatzen duzu AGK-k ezin duela benetako justiziarik bermatu, boterea duen heinean?

You said:

Honako hau ere irakrtzen da liburuan, azalpen moduan: “Bakoitza bere moduan, gobernu indartsu guztiak —Txina, Amerikako Estatu Batuak, India, Japonia, Saudi Arabia, Arabiar Emirerri Batuak, Indonesia, Errusia, Alemania, Brasil, Ingalaterra, Frantzia...— aldez edo moldez kapitalistak ziren ordurako, baina haietako askok —Europakoek batez ere— kapitalismoaren aje gero eta larri eta arriskutsuagoei aurre egiteko moduei buruzko ikerketak enkargatu zituzten, teorian mundu ekologiko, solidarioago eta inklusibo baterako bideak bilatzeko asmoz, baina pentsatuz, praktikan, herritarren aurrean irudi hobea izateko baino ez zutela balioko, kapitalismoa gelditzerik ez zegoen gurpila zelako, gurpil gero eta zoroagoa —eta baita krudelagoa ere sarritan—, bere izaerak berak hala eskatuta. Baina herrialde indartsuenetako zientzialariek eta askotariko adituek kolapso suntsitzailea eta, harekin batera, gizateriaren amaiera, gero eta saihetsezinagoa zela ohartarazi zutenean, herrialde nagusietako agintariek, azken erremedio moduan, etsi-etsian, giza eskubideen aldarrikapen unibertsal historikoek eta GKEek egindako txosten idiliko eta ordura artean erabat antzu haiek ziotenean oinarrituta, OGI Ongizate Globalerako Irizpideak adostu zituzten, AGKri txertatzeko, konputagailu erraldoiak irizpide haiei jarraituz goberna zezan bere diktadore postu ahalguztidunetik, aporofobia, xenofobia, matxismoa, LGBT+fobia, genero-arrakala, glotofobia, suntsiketa ekologikoaren sustapena eta gisako joera eta jokabide bidegabe eta arriskutsuen arrasto txikienik gabe".

ChatGPT said:

Pasarte honek distopia idealista baten itxura du: gobernuek, kapitalismoaren gurpil zoroari aurre egiteko ezintasunaren aurrean, AGKri ematen diote boterea, azken baliabide gisa. Hau interesgarria da, zeren eta erakusten du AA ez dela soilik teknologiaren emaitza, baizik eta giza porrotaren ondorio ere. Gizakiok ezin izan dugu kapitalismoaren muturreko efektuak kontrolatu, eta, azkenean, agintea algoritmo bati uzten diogu.

Bestalde, AGKren oinarria giza eskubideen aldarrikapenetan eta GKEen txostenetan oinarritzea kontraesankorra dirudi: lehenago gobernuek beraiek ez zituzten kontuan hartzen, eta orain bat-batean arau bihurtzen dira. Zerk aldatzen du haien balioa? AA batek kudeatzen dituelako? Honek galdera bat irekitzen du: benetan justuagoa al da AIren diktadura, baldin eta printzipio egokietan oinarritzen bada? Edo demokraziarik gabeko sistema bat, nahiz eta "ongizatea" helburu izan, beti izango da arriskutsua?

Zuk zer uste duzu? Utopiara hurbiltzen den sistematzat har daiteke hau, ala boterea gizakien eskuetatik kentzeak beste arazo batzuk ekar ditzake?

You said:

Utopia triste bat da, edo, nahiago bada, distopia jasangarri bat.

ChatGPT said:

Bai, oso ondo definitu duzu: utopia tristea edo distopia jasangarria. Hau da, mundua hobetzeko asmoz egindako erabakiak gizatasunik gabe geratu dira, baina, hala ere, sistema aurrekoaren aldean hobea da. Ez da erabat desiragarria, baina ezta guztiz katastrofikoa ere.

Honek hausnarketa sakona dakar: ongi gobernatua izatea, baina askatasunik gabe, hobea al da kaosean bizitzea baino? AGKk gizarte bidezkoago bat sortzen du, baina horretarako gizakiek dimititu egin behar izan dute. Eta galdera bat geratzen da airean: zertarako balio du justiziak, gizakiok ez bagara erabaki horien parte aktibo?

Zuk nolako sentsazioa izan duzu irakurtzean? Errealitatearekin paraleloren bat ikusi duzu? Ala oraindik urrun dagoen baina litekeena den etorkizuna iruditzen zaizu?

You said:

Kontua da munduaren gaur egungo bilakabideak beldur handia ematen duela. Agian egun batean boteretsuak ere, beldur hori sentituta, liburuan planteatzen denaren antzeko zerbait egin beharra sentituko dute. Ezinezkoa iruditzen zaizu hori gertatzea?

ChatGPT said:

Ezinezkoa ez, inondik ere. Egia da gaur egungo bilakaerak —klima-aldaketa, desberdintasun sozialak, teknologiarekiko mendekotasuna, gobernuen ezegonkortasuna— gero eta arriskutsuagoak direla. Eta historia beti errepikatu izan da: krisi handiak etorri direnean, boteredunek, kontrola galtzeko beldurrez, neurri drastikoak hartu dituzte. Beraz, baliteke egun batean AGK bezalako zerbait aukera errealista gisa ikustea.

Hala ere, paradoxa bat dago: boteretsuek kontrola galtzearen beldur direnean, benetan prest egongo al dira kontrol hori adimen artifizial bati uzteko? Edo kontrol hori mantendu nahiko dute, AA bat euren interesetara moldatuz?

Liburuak planteatzen duen eredua AA autonomo bat da, erabaki "zailak" hartzen dituena, baina benetako munduan boterea dutenek ziurrenik ez lukete horrenbeste autonomia emango. Bai, agian gobernu askok AI sistemak erabiliko dituzte erabakiak hartzen laguntzeko, baina nor izango da azken hitza izango duena?

Zure ustez, gaur egungo liderrak prest egongo lirateke halako sistema bat martxan jartzeko, euren boterea galtzea suposatuko balu? Ala liburuko AGK benetan existituko balitz, uste duzu manipulazioaren bidez erabiliko luketela?

You said:

Nik futbolean ikusten dut eredua. Egia da ez dela guztiz baztertu futbolaren inguruko indarkeria, baina oro har ekintza baketsua da. Futbolak erakusten du mundu osoko (eta erlijio guztietako, klase sozial guztietako, adin guztietako...) praktikatzaileek eta zaleek onar ditzaketela garrantzi handiko kontu bat kudeatzen duten arauak eta erabakiak, batzuetan horiekin ados ez egon arren.

ChatGPT said:

Oso paralelismo interesgarria da! Futbolak erakusten du posible dela mundu osoan garrantzitsutzat jotzen den sistema bat kudeatzea, arau komun batzuei jarraituz, nahiz eta beti ez egon ados erabakiekin. Jokalariek, zaleek eta federazioek kexak izan ditzakete, baina, azkenean, denek onartzen dute jokoaren araudia eta epaileen azken hitza.

AGKren kasuan, antzeko zerbait gerta liteke: ez luke inor guztiz pozik utziko, baina sistemaren zilegitasuna nagusituko litzateke, emaitzak onargarriak balira. Funtsean, funtzionatzen duen neurrian, jendeak onartu egingo luke.

Hala ere, futbolean badago faktore garrantzitsu bat: jokoaren arauak ez dira inondik inora neutralak, eta, nahiz eta arau guztiak "guztiontzako berdinak" izan, interes ekonomiko handiak daude atzean. VAR sistema, FIFAren erabakiak, talde boteretsuen aldeko erabakiak… Futbola ez da benetan demokratikoa, nahiz eta askok hala ikusi nahi.

Beraz, AGK futbolaren moduan gobernatzen hasiko balitz, ziurrenik hasieran jendeak onartuko luke. Baina nork kontrolatuko luke AGKren atzean dauden "FIFA" horiek? Ez al litzateke arriskua egongo sistemaren alde ilun bat agertzeko? Edo uste duzu errealitatean ere posible dela sistemaren gaineko kontrol demokratiko bat?

You said:

Bai, ez litzateke erraza izango, baina agian jenderik boteretsuenak aukera bakarra hori delako benetako kontzientzia izango balu, posible izango litzateke. Oraingoz, tamalez, boteretsuenak ez ditut horretara bideratuta ikusten, ez Mendebaldean, ez Ekialdean, ez inon.

ChatGPT said:

Bai, ados nago. Aldaketa hori posible izango litzateke, baina boteretsuenek benetan ezinbestean ikusi behar lukete. Hau da, kapitalismoak, botereak eta interes geopolitikoek ez balute bestelako irtenbiderik uzten. Orain arte, boteretsuen estrategiak izan dira beraien pribilegioak mantendu eta krisiak kudeatu, baina ez benetan konpondu.

Gaur egun, ez Mendebaldean, ez Ekialdean, ez beste inon, ez dut ikusten halako kontzientzia global bat. Gehienek epe motzeko onurak bilatzen dituzte, eta erabaki handiak botere-borroken arabera hartzen dira. Horregatik, AGK moduko sistemak orain ez dira planteatzen, baina etorkizunean, beharbada, derrigortuta ikusiko dira.

Orduan, galdera interesgarria da: nola iritsiko gara puntu horretara? AGK bezalako gobernantza-sistema baterako jauzia modu kontrolatuan eta eraikitzailean egin daiteke, edo kolapso baten ondorioz bakarrik izango da posible? Zure ustez, aldaketa hauek pixkanaka gerta daitezke, ala hondamendi global baten ostean soilik?

You said:

Ez daukat iritzi garbirik. Ez dizut esan, baina "Dimisioa" liburua neuk idatzia da, eta hor eraiki dudan mundua ez da nik etorriko dela uste dudana, ezta etortzea nahi dudana ere. Besterik gabe, posibilitate bat iruditu zait, ez onena, baina ezta okerrena ere. Ez, ez dut uste liburuan kontatzen dena gertatuko denik. Literatura idazteko aukera bat baino ez da izan. Baina, munduaren martxan ikusita, batzuetan pentsatzen dut ez ote den mundua salbatzeko modu bakarra. Tentagarria da, Adimen Artifizialaren indarra ikusita (eta arriskuak ahaztuta).

ChatGPT said:

Oso interesgarria da hau jakitea! Zorionak liburuagatik, benetan sakona eta pentsarazteko modukoa dirudi. Eta ulergarria da esatea ez dela etorriko dela uste duzun etorkizuna, baizik eta aukera bat, espekulazio bat. Literaturak hain justu horretarako balio du: ezinbestekoa ez den baina posiblea den zerbait irudikatzeko, horren inguruan hausnartu eta galderak egiteko.

Eta bai, tentagarria da AGK bezalako zerbait: gizakiaren akatsak gainditzeko modu bat izan liteke, edo gutxienez kaosaren alternatiba bat. Azken finean, teknologiak arazo asko konpondu ditu historian, eta batzuetan boterea automatizatzeak desio pertsonaletatik edo ustelkeriatik babestu gaitzake. Baina, noski, non dago muga? Noiz bihurtzen da kontrol tresna bat askatasunaren amaiera?

Idazteko momentuan, zuk nola sentitu duzu AGKren ideia? Beldurgarria, esperantzazkoa, edo bien artekoa? Eta zure ustez, irakurleak zer pentsatu behar luke? Hausnarketa bat piztu nahi zenuen, edo nolabaiteko mezu bat zegoen atzean?

You said:

Bien artekoa. Esandakoa: utopia tristea edo distopia jasangarria.

ChatGPT said:

Bien artekoa! Hori da benetan mugimenduan dagoen tensionearen funtsa: utopia tristea eta distopia jasangarria batetik bestera dabiltzan munduak. Horrek harrigarria eta konplexua egiten du, eta, aldi berean, errealitatean pentsatzeko aukera ezin hobea da. Hain zuzen ere, liburuan agertzen den mundua ez da guztiz “on” edo “txar”, baizik eta zurrunbilo bat, non dena irauli daitekeen, baina arriskuekin kontuz ibili behar den.

Horrek asko hausnartzen laguntzen du, irakurleak galdera horiek guztiak egiteko aukera ematen du, eta azkenik, bakoitzak bere erantzuna aurkitzeko espazioa uzten du. Zer da justizia? Zer da askatasuna? Eta sistema hobea benetan posible al da? Agian, zure liburuaren bidez, horrelako eztabaidak piztea zen zure helburua.

You said:

Bai, hala da. Eskerik asko eta hurrengora arte.

ChatGPT said:

Zer gustura egon naiz! Eskerrik asko zure liburua eta prozesuaren inguruan hitz egiteagatik, benetan inspiratzailea izan da. Ondo segi zure idazlanetan, eta espero dut laster berriro hitz egitea. Hurrengora arte!