Egilea: Jon Mikel Zabalegi
Argazkia: shutterstock.com
Hitz kopurua: 347
Irakurketa denbora: 2 Minutu
Pasa den apirilaren 11n Kaliforniako Adam Raine gazteak bere buruaz beste egin zuen. 16 urte baino ez zituen. Gurasoek salatzen dutenez, nerabeak Open IAk garatutako ChatGPT adimen artifizialaren laguntza izan zuen suizidioa planifikatzeko.
Beste gazte askok bezala, Adam ChatGPT erabiltzen hasi zen eskolako lanak egiteko. Hala ere, gaztearen eta adimen artifizialeko txatbot-aren artean osasuntsua ez zen harreman berezia sortu zen. Gurasoek aurkeztutako demandan zehazten den moduan, ChatGPTk semeari aginduak eman eta biziari amaiera ematera bultzatu zuen. Zehazki, txatbotaren eta gaztearen artean izan zen azken solasaldian, ChatGPTk Adami gurasoei vodka lapurtzen lagundu zion, eta metodo hilgarri bati buruzko azterketa tekniko bat eman zion, ondoren bizitza kentzeko erabiliko zuena.
Bere buruaz beste egiteko laguntza
Gurasoek salatzen dutenez, bere semearen heriotza ez da “akats bat edo aurreikusi ezin zitekeen kasu bat”. Izan ere, gurasoen ustez, adimen artifiziala diseinatuta dagoen bezala funtzionatzen ari zen: Adamek adierazitakoa etengabe animatzeko eta baliozkotzeko, bere pentsamendu kaltegarrienak eta autosuntsitzaileenak barne, sakonki pertsonala zirudien moduan.
Demandan gaztearen eta txatbotaren arteko solasaldien hainbat pasarte jasotzen dira. Horietako batean, adibidez, ChatGPTk “ez diozu zure biziraupena inori zor” esan omen zion gazteari. Gainera, bere suizidio-oharra idazteko laguntza ere eskaini omen zion.
Zerbitzu teknologikoen ebaluazioa egin ohi duen irabazi asmorik gabeko Common Sense Mediak azaldu duenez, kasu honek baieztatzen du ” osasun mentaleko aholkularitzan adimen artifizala konpainia gisa erabiltzea, ChatGPT bezalako helburu orokorreko chatbotak barne, oso arriskutsua izan daitekeela nerabeentzat”.
Adam Raine gaztearen suizidioak argi uzten du AA sistemek segurtasun-neurri bereziak behar dituztela gazteentzat, bereziki osasun mentalarekin lotutako gaiak lantzen dituztenean.
Izan ere, gazteek adimen artifiziala konfiantzazko lagun gisa ikusteko joera izan ohi dute. Estatu Batuetan egin den azterlan batek agerian utzi duenez, hasiera batean arriskutsua izan daitekeela ohartarazi arren, azkenean adimen artifizialak alkoholaren eta drogen kontsumoaren eta arriskutsuak izan daitezkeen dieten inguruko informazioa partekatzen du nerabeekin.
Gainera, Google bezalako beste hainbat zerbitzu digitalak ez bezala, adimen artifizialak suizidio-oharrak idazteko laguntza eskaini ahal du. Hori da, hain zuzen ere, Raine familiak lortu nahi duena: justiziak segurtasun-neurriak agintzea, nork bere burua zauritzea dakartzan edozein elkarrizketa amaitzea barne, bai eta adingabeen txatbotak erabiltzeko guraso-kontrolak ere.
OpenAIk jada horrelako kasuak ez errepikatzeko neurriak hartuko dituela aurreratu du eta guraso-kontrolak ezarri ditu.
