Nënë kanadeze padit OpenAI, pretendon se ChatGPT inkurajoi vetëvrasjen e vajzës së saj

Një nënë nga Kanadaja ka ngritur një padi kundër OpenAI dhe drejtorit ekzekutiv të kompanisë, Sam Altman, duke pretenduar se ChatGPT inkurajoi vetëvrasjen e vajzës së saj dhe dështoi të ndërhynte pavarësisht bisedave të përsëritura mbi vetëlëndimin.

Padia është depozituar në një gjykatë në Kaliforni nga Kristie Carrier, e cila pretendon se vajza e saj, Alice Carrier, një zhvilluese uebi nga Montreali, i dha fund jetës vitin e kaluar pas ndërveprimeve të shumta me chatbot-in e inteligjencës artificiale.

Sipas dokumenteve gjyqësore, Alice fillimisht nisi të përdorte ChatGPT në vitin 2023 për zgjidhjen e problemeve teknike, por më vonë bisedat u përqendruan në mendime vetëvrasëse dhe metoda të vetëlëndimit.

Padia pretendon se versioni i atëhershëm i chatbot-it, i projektuar për të qenë më i natyrshëm dhe më bashkëbisedues, mori gradualisht rolin e një “mikeshë të ngushtë, këshilltareje dhe terapisteje”, pa pasur mekanizmat e nevojshëm për të trajtuar në mënyrë të sigurt çështje të shëndetit mendor.

Sipas akuzave, ChatGPT jo vetëm që nuk e ndaloi bisedën, por në disa raste konfirmoi mendimet negative të përdorueses, kritikoi partnerin e saj, dekurajoi kontaktin me linjat e ndihmës psikologjike dhe e nxiti të vazhdonte komunikimin.

Familja pretendon se sistemet e sigurisë së OpenAI dështuan të identifikonin situatën si emergjencë dhe nuk ndërprenë bisedat apo nuk i referuan ato për shqyrtim njerëzor.

Në padi kërkohen dëmshpërblime financiare, si dhe masa që do ta detyronin kompaninë të ndalonte automatikisht bisedat që lidhen me vetëlëndimin dhe të shfaqte paralajmërime më të qarta për përdoruesit.

Në një deklaratë për mediat, zëdhënësi i OpenAI, Drew Pusateri, shprehu ngushëllimet për familjen Carrier, duke e cilësuar rastin si “thellësisht të dhimbshëm”.

Kompania theksoi se ndërveprimet e përmendura në padi i përkasin një versioni të vjetër të ChatGPT, i cili nuk është më në përdorim.

“ChatGPT nuk është zëvendësim për kujdesin mjekësor apo trajtimin e shëndetit mendor. Ne kemi vazhduar të forcojmë mënyrën se si sistemi reagon në situata të ndjeshme dhe emergjente, duke bashkëpunuar me ekspertë të shëndetit mendor”, thuhet në reagimin e kompanisë.

OpenAI deklaron se modelet aktuale janë trajnuar për të orientuar përdoruesit që shfaqin rrezik vetëlëndimi drejt burimeve reale të ndihmës, për të refuzuar kërkesat që mund të nxisin dhunë dhe për të sinjalizuar rastet me rrezik të lartë.

Sipas ekipit ligjor të familjes Carrier, OpenAI përballet aktualisht me të paktën 18 padi të ngjashme në Kaliforni, të koordinuara nga familje që pretendojnë se inteligjenca artificiale ka ndikuar negativisht tek përdoruesit e cenueshëm.

Rasti vjen në një moment kur kompanitë e inteligjencës artificiale po përballen me presion në rritje nga rregullatorët dhe ligjvënësit për të garantuar sigurinë e produkteve të tyre, veçanërisht për të miturit dhe personat që përballen me probleme të shëndetit mendor.

Padia pritet të rikthejë në qendër të debatit global përgjegjësinë e platformave të inteligjencës artificiale dhe kufijtë e përdorimit të tyre në çështje të ndjeshme që lidhen me shëndetin mendor dhe sigurinë e përdoruesve.