Ai, legeak! Ezin haiek gabe bizi, eta haiekin ere, nekez!
Nire legerik gogokoenak, besteak beste perfektuak zirela uste nuelako, Isaac Asimovek sortutako Robotikaren hiru legeak dira. Robot autonomo eta adimentsuen portaera arautu beharko luketen hiru lege nagusiak, Issac Asimov idazle eta pentsalari handiak gogoeta luze baten ostean sortutakoak, bere fikzioetako errobotentzat. Robotenzako oinarriko kode etikoa osatuko lukete hiru legeek eta, errealitatean ere, oso kontuan hartzen dira benetako makinen programazioan. Makilakixki jaun txit agurgarriari lapurtu diot legeon euskarazko bertsioa, baina seguru nago ez dela haserratuko:
- Robot batek ez dio gizaki bati kalterik egingo ez eta ekintza faltagatik gizaki bat kaltetua izaten utziko.
- Robot batek gizakiek emandako aginduak bete behar ditu, aginduok Lehenengo Legea urratzen ez duten bitartean.
- Robot batek bere izatea babestu behar du, Lehenengo edo Bigarren Legeekin gatazka sortzen denean izan ezik.
Ondo, ezta? Lehen begiradan ematen du benetan lasai bizi gintezkeela hiru lege horiei zorrotz jarraitzen dieten robotez inguratuta. Azkarra gero, Asimov jauna!
Kontuz, bada. Bristol-go Robotika Laborategiko aditu batek, Alan Winfield izenekoak, muturreko egoeratara eraman ditu robotak hiru legeen eraginkortasuna neurtzeko, eta emaitzak ez dira pozgarriak izan. Winfieldek probatu duenez, Lehenengo Legeak robotak blokea ditzake. Izan ere, berari horixe gertatu zaio, 33 saiakeratik 14tan, erabakia hartu behar zuen robota ez atzera, ez aurrera geratu zaio, zer egin jakin gabe.
Esperimentua oso sinoplea da: Winfieldek A robot bat programatu du, inguruan dituen beste H robot batzuk gizakitzat hartzeko. Ondoren, A robotari sinestarazi dio puntu jakin batean amildegi moduko bat dagoela, eta H robotak programatu ditu amildegi horretarantz joateko. H robota bakarra denean, ez dago problemarik: amildegira hurbiltzen denean, A robotak bere zereginak utzi eta haren bila joaten da, desbideratu eta ‘salbatzeko’. Arazoa dator H robotak bat baino gehiago direnean, eta batera amiltzeko arriskua dutenean. Kasu horretan, H gaixoak ez daki zer egin, kalkulatzen baitu bat salbatuz gero bestea amildu egingo dela. Ondorioz, zalantzatan hasten da, eta erabaki orduko H biak ‘hilik’ daude, edo, zuzenean, blokeatuta geratzen da, puntu batean geldi, eta ez du ezer egiten.
Bideoa ingelesez dago baina oso argi ikusten da:
Eta beharbada pentsatuko duzue: ados, esperimentu interesgarria, eta zer? Ez da kezkatzeko moduko ezer ezta?
Bada: bai, badugu zertaz kezkatu. Autogintzan, esaterako, gero eta ozenago hasi dira esaten auto robotizatuak direla etorkizuna, euren kabuz gidatzen direnak. Renault, Nissan eta Tesla bezalako marken arabera, kotxe autonomoak 2020rako izan ditzakegu errepidean. Eta auto horiek errepidera irteten direnean, lehenago ala geroago izango dira arrisku egoerak, non autoak erabaki beharko duen noren bizitza salbatu: barruan daraman jendearena, kalean dabilenarena, ala errepideko beste ibilgailuetako jendearena.
Une hori iristen denean, pentsa zer gerta daitekeen autoa erabiki ezinik eta blokeatuta geratuz gero. Panorama latza ezta?
1) Nire abokatuak zurekin jarriko dira harremanetan.
2) Blokeoarena hain zuzen ere Asimoven ipuin laburren muina da. Finean Asimovek egin zuena hiru legeok hartu eta hauek urratu eta hauen mugak (blokeoak barne) aztertzea izan zen.
3) Azkenean Asimovek (edo R. Daneel Olivaw robotak) Zero Legea sortu eta garun positronikoetan ezarri zuen. Honen arabera “Robot batek ezin du gizateria kaltetu edo ekintza bat ez burutzeagatik gizateria kaltetua izatea ahalbidetu”. Kotxeetan lege hau ezartzen denean gureak egin du.
RT @joxe: Legeak eta blokeoak http://t.co/plfzPMQocb
Glups eta glups!
Nerabetan irakurri nituen Asimoven ipuinak eta ez dut asko gogoratzen. Berriz heldu beharko!
Kotxe automatikoan zoaz 140ra. Gurpil batek eztanda egin ta kotxea blokeatu.Ez daki zu ala pareko furgonakoak salbatu http://t.co/plfzPMQocb
@joxe Buridanen asto hiperlogikoarena ‘reductio ad absurdum’ bat zen, zibernetikak benetako arazoa bihurtu arte. http://t.co/O9eFwFEXDx
@joxe #txirlak bat badago horren inguruan. http://t.co/phlWBQZGig
@joxe “Arazo” idatzi nahi nuen.
RT @joxe: Kotxe automatikoan zoaz 140ra. Gurpil batek eztanda egin ta kotxea blokeatu.Ez daki zu ala pareko furgonakoak salbatu http://t.co…
@edulartzanguren @joxe “Gizaki” batzuek ere arazoak dituzte hiperlogika erabiltzerakoan: https://t.co/DdYZXskcqb
BAZKALORDUKO PASEA: Legeak eta blokeoak
http://t.co/zykIP62wdD
Información Bitacoras.com
Valora en Bitacoras.com: Badirudi Robotikaren Hiru Legeak uste baino arriskutsuagoak direla. Lehenengoak blokeatuta utz ditzake robotak… eta ondorio oso arriskutsuak izan, robot motaren arabera.
Asimov #euskaraz jarri san g.n eta hau agertu :)
Kotxea blokeatzearena muturrera eramatea da, gaur egun informatika/errobotikaren ikuspuntutik.
Nik uste 1. legea ez zaiola hain sinple izango kotxeari: bakarrik daude biak errepidean? zenbat pertsona dago ibilgailu bakoitzean? kotxea gelditzerik dago arrisku barik? ,… eta hainbeste galdera erabaki aurretik
Erroboten kasuan, programazio sinpleegia egin dute. Asimovek azaladu zuen (edo Daneel .ek) errobot bat blokeatzea 1. legearen aplikazioan ez dala erraza, behintzat errobot aurreratuetan, Zero legeaz aparte.