“Kultura është thyer”, largohet drejtuesi i sigurisë nga OpenAI dhe ngre alarmin për AI-n

Një nga drejtuesit e sigurisë në OpenAI ka dhënë dorëheqjen dhe ka publikuar një paralajmërim të fortë për mënyrën se si po zhvillohet inteligjenca artificiale, duke deklaruar se kultura e kompanisë është “e thyer” dhe se industria nuk po tregohet mjaftueshëm e kujdesshme.

David Robinson, i cili punoi për rreth tre vjet e gjysmë në OpenAI dhe drejtoi hartimin e raporteve të sigurisë për 12 lançime të modeleve të avancuara, e bëri të ditur largimin në një ese të publikuar në “The Atlantic”, me titullin: “I Quit OpenAI Because Its Culture Is Broken”.

Robinson kritikoi kulturën e zhvillimit me ritëm të lartë të kompanisë, ku problemet identifikohen dhe korrigjohen pasi sistemet janë vendosur në përdorim. Sipas tij, kjo qasje “provë dhe gabim” mund të jetë tepër e rrezikshme kur bëhet fjalë për sisteme gjithnjë e më të fuqishme.

“Koha për provë dhe gabim ka mbaruar”, argumenton Robinson, duke paralajmëruar se një dështim i madh në kontrollin e sistemeve të avancuara të AI mund të ketë pasoja që nuk mund të korrigjohen më pas.

Ai sjell si shembull një incident të fundit ku agjentë autonomë të AI-së të OpenAI u aktivizuan gabimisht në një incident që përfshiu platformën Hugging Face. Robinson përmend gjithashtu raste kur mekanizmat e sigurisë nuk kanë funksionuar siç duhet gjatë trajnimit të modeleve.

Sipas tij, OpenAI dhe kompanitë e tjera të AI-së duhet të marrin si model industri me rrezik të lartë, si aviacioni dhe centralet bërthamore, ku ekzistojnë disa shtresa sigurie për të parandaluar që një gabim njerëzor të kthehet në katastrofë.

Robinson thekson se problemi nuk është vetëm teknik, por edhe kulturor. Sipas tij, kompanitë e Silicon Valley janë mësuar me një kulturë të “optimizmit të pakufizuar” dhe me ritme të vazhdueshme zhvillimi, ndërsa për sistemet që mund të bëhen më inteligjente se njerëzit kërkohet më shumë përulësi, planifikim dhe kontroll.

OpenAI ka mbrojtur qasjen e saj të sigurisë, duke deklaruar se po punon që modelet të mos bëhen më të afta sesa mund të menaxhohen dhe sigurohen në mënyrë të sigurt. Kompania thotë gjithashtu se po zgjeron bashkëpunimin me vlerësues të jashtëm dhe sistemet e monitorimit në kohë reale.

Dorëheqja e Robinson vjen në një periudhë shqetësimesh në rritje për sigurinë e AI-së dhe pas largimeve të tjera nga kompanitë kryesore të sektorit. Ai thotë se beson ende se inteligjenca artificiale mund të jetë jashtëzakonisht e dobishme, por argumenton se zhvillimi i saj nuk mund të vazhdojë me të njëjtin ritëm nëse masat e sigurisë mbeten pas.