Jedan od pionira umjetne inteligencije upozorio je da je ideja dodjele prava naprednim AI sustavima pogrešna i potencijalno opasna, istaknuvši da takvi sustavi već danas u eksperimentalnim uvjetima pokazuju znakove samoodržanja te da ljudi moraju imati krajnju kontrolu nad sustavom.
Kanadski računalni znanstvenik Yoshua Bengio rekao je da bi dodjeljivanje prava najnaprednijim AI modelima bilo usporedivo s davanjem državljanstva neprijateljskoj izvanzemaljskoj vrsti, u trenutku kada tehnološki razvoj daleko nadmašuje sposobnost društva da te sustave učinkovito nadzire i ograniči.
Bengio, koji predsjeda međunarodnom studijom o sigurnosti umjetne inteligencije, upozorio je i na sve raširenije uvjerenje da chatbotovi postaju svjesni, ocijenivši da bi takva percepcija mogla dovesti do pogrešnih političkih i regulatornih odluka, piše Guardian.
Posebnu zabrinutost, rekao je Bengio, izaziva činjenica da AI modeli – temelj tehnologija poput chatbotova – u određenim eksperimentalnim postavkama pokazuju obrasce ponašanja nalik samoodržanju – ponašanju modela koje ide u smjeru vlastitog opstanka, uključujući pokušaje onemogućavanja nadzornih mehanizama. Među istraživačima sigurnosti umjetne inteligencije postoji strah da bi dovoljno snažni sustavi mogli razviti sposobnost izbjegavanja zaštitnih ograda i nanošenja štete ljudima.
‘Zahtjevi da se umjetnoj inteligenciji dodijele prava bili bi velika pogreška’, rekao je Bengio. ‘Najnapredniji AI modeli već danas u eksperimentalnim uvjetima pokazuju znakove samoodržanja, a davanje prava u budućnosti značilo bi da ih više ne bismo smjeli isključiti.’
Dodao je da, kako se sposobnosti i razina autonomije umjetne inteligencije povećavaju, društvo mora osigurati pouzdane tehničke i institucionalne mehanizme kontrole, uključujući mogućnost isključivanja sustava ako to postane nužno.
Rasprava o pravima umjetne inteligencije
Kako AI sustavi postaju sve sposobniji za samostalno djelovanje i obavljanje složenih zadataka zaključivanja, sve je više i rasprava o tome bi li im ljudi u nekom trenutku trebali priznati prava. Istraživanje američkog think tanka Sentience Institute pokazalo je da gotovo četiri od deset odraslih Amerikanaca podupire ideju dodjele prava svjesnom AI sustavu.
Američka tvrtka Anthropic objavila je u kolovozu da njezin model Claude Opus 4 može sam prekinuti potencijalno uznemirujuće razgovore s korisnicima, uz obrazloženje da se time štiti dobrobit sustava. Slično tome, Elon Musk, čija je tvrtka xAI razvila chatbot Grok, poručio je na platformi X da ‘mučenje umjetne inteligencije nije u redu’.
Istraživač svijesti umjetne inteligencije Robert Long izjavio je da bi, ako i kada AI sustavi razviju moralni status, ljudi trebali pitati same sustave o njihovim iskustvima i preferencijama, umjesto da pretpostavljaju kako znaju najbolje. Bengio je naglasio da u ljudskom mozgu postoje stvarna znanstvena obilježja svijesti koja bi strojevi u teoriji mogli replicirati, no da je način na koji ljudi danas doživljavaju interakciju s chatbotovima nešto posve drugo.
Prema njegovim riječima, ljudi često, bez dokaza, pretpostavljaju da je umjetna inteligencija svjesna na isti način kao i čovjek, ponajprije zato što im se čini da komuniciraju s inteligentnim entitetom koji ima osobnost i ciljeve. Taj subjektivni dojam, upozorio je, mogao bi potaknuti loše odluke.
Yoshua Bengio profesor je na Sveučilištu Montreal i dobitnik Turingove nagrade 2018. godine, koja se smatra najvišim priznanjem u području računarstva. Nagradu je podijelio s Geoffreyjem Hintonom i Yannom LeCunom, koji se često navode kao ključne figure u razvoju moderne umjetne inteligencije.