Një prej studiuesve që ka punuar në kompanitë më të rëndësishme të inteligjencës artificiale ka dhënë dorëheqjen, duke bërë një paralajmërim ekstrem për drejtimin që po merr teknologjia.
Jacob Coxon, 27 vjeç, njoftoi largimin nga Anthropic, kompania që zhvillon Claude, pasi kishte kaluar tre vitet e fundit duke punuar në kërkimin e fazës së “pre-training”, fillimisht në OpenAI dhe më pas në Anthropic.
Arsyeja që ai jep për largimin është shumë më serioze sesa një ndryshim i zakonshëm karriere.
“Asnjëra kompani nuk po vepron me përgjegjësi.”
Coxon akuzon dy laboratorët se po garojnë drejt asaj që ai e quan “superinteligjencë që përmirëson vetveten”, duke rrezikuar humbjen e kontrollit mbi sisteme shumë më të afta se ato që përdorim sot. Sipas tij, kompanitë po “luajnë bixhoz me jetët tona”.
“Njerëzit që po ndërtojnë AI besojnë se mund të na vrasë”
Pjesa që ka shkaktuar më shumë reagime është deklarata e Coxon se njerëz brenda industrisë e marrin seriozisht mundësinë e një skenari katastrofik.
Ai shkroi se personat që po ndërtojnë AI besojnë realisht se teknologjia “mund të na vrasë të gjithëve deri në fund të dekadës”, duke këmbëngulur se nuk bëhet fjalë për një deklaratë marketingu.
Paralajmërimi do të mund të interpretohej thjesht si pikëpamja e një ish-punonjësi, nëse nuk do të kishte ardhur reagimi nga brenda vetë Anthropic.
Evan Hubinger, drejtues në ekipin e “alignment science” të kompanisë – fusha që studion se si sistemet e avancuara të AI mund të mbeten në përputhje me objektivat dhe interesat njerëzore – mbështeti publikisht shqetësimin e Coxon.
Hubinger deklaroi se ai personalisht e vlerëson në më shumë se 10% mundësinë që AI të shkaktojë zhdukjen e njerëzimit brenda dekadës së ardhshme. Ai shtoi gjithashtu se Anthropic po përpiqet të adresojë rrezikun, por aktualisht nuk ka ende një plan të plotë për të zgjidhur problemin e kontrollit të një superinteligjence.
Por AI që përdorim sot nuk është “superinteligjenca”
Këtu duhet bërë një dallim i rëndësishëm.
Paralajmërimet nuk thonë se chatbot-et aktuale do të vendosin papritur të shkatërrojnë njerëzimin. Shqetësimi lidhet me sistemet e ardhshme, të cilat teorikisht mund të tejkalojnë aftësitë njerëzore në shumë fusha dhe, mbi të gjitha, të ndihmojnë në përmirësimin e gjeneratave të ardhshme të AI.
Skenari i frikshëm është që një proces i tillë të ecë më shpejt sesa aftësia e njerëzve për ta kontrolluar. Megjithatë, probabiliteti real i një skenari të tillë është objekt debati të madh shkencor dhe nuk ekziston konsensus se superinteligjenca do të çojë në katastrofë.
Pikërisht për këtë arsye deklaratat e Coxon po marrin kaq shumë vëmendje: ato nuk vijnë nga një kritik i jashtëm i teknologjisë, por nga një studiues që ka punuar drejtpërdrejt në dy prej laboratorëve kryesorë që po ndërtojnë modelet më të avancuara të AI.
Dhe pyetja që ngre largimi i tij është ndoshta edhe më e rëndësishme se vetë parashikimi: nëse njerëzit që po ndërtojnë sistemet më të fuqishme të inteligjencës artificiale shqetësohen kaq shumë për rreziqet e tyre, sa e përgatitur është bota për atë që mund të vijë më pas?
