Ostani doma
Sport / Zanimljivosti

Scenarij kao u Terminatoru

Hoćemo li moći kontrolirati računalnu superinteligenciju? Znanstvenici imaju odgovor i neće vam se svidjeti

Hoćemo li moći kontrolirati računalnu superinteligenciju? Znanstvenici imaju odgovor i neće vam se svidjeti
Shutterstock

"Umjetna inteligencija je potencijalno sposobna mobilizirati resurse za postizanje ciljeva koji se ne mogu kontrolirati"

Desetljećima se raspravlja o tome bi li umjetna inteligencija jednoga dana mogla uništiti čovječanstvo, o tome su napisane brojne knjige i snimljeni filmovi - sjetimo se samo "Terminatora". Znanstvenici su upravo donijeli presudu hoćemo li moći kontrolirati računalnu superinteligenciju. Odgovor? Najvjerojatnije nećemo.

Vezana vijest

robot

Problem je u tome što bi kontrola superinteligencije, koja je daleko iznad ljudskog razumijevanja, zahtijevala simulacije te superinteligencije koju bi onda znanstvenici mogli analizirati. Ali ako je nismo u stanju razumijeti ne možemo ni stvoriti simulaciju.

Sadržaj se nastavlja...

Upravo se čita

Pravila poput "ne naudi ljudima", koja je u svojim zakonima robotike osmislio još Isaac Asimov, ne mogu se postaviti ako ne razumijemo vrste scenarija koje će umjetna inteligencija smisliti, kažu autori istraživanja. Jednom kada računalni sustav radi na razini izvan opsega naših programera, više ne možemo postavljati ograničenja.

"Umjetna inteligencija potencijalno je sposobna mobilizirati resurse za postizanje ciljeva koji su nerazumljivi ljudima i ne mogu se kontrolirati", tvrde znanstvenici. Tim objašnjava kako je dio problema postavio još Alan Turing 1936. On je zaključio da nije sigurno hoće li računalni program donijeti zaključak i odgovor te se zaustaviti ili će jednostavno zauvijek pokušavati pronaći rješenje. Program koji bi bio napisan da spriječi UI da uništi svijet ili ljude mogao bi doći do rješenja i stati ili ne, što znači da ne bi funkcionirao.

Već postoje strojevi koji zadatke izvode samostalno

"Superinteligentni stroj koji kontrolira svijet zvuči poput znanstvene fantastike", kaže informatičar Manuel Cebriand s Instituta Max-Planck. Cebriand kaže kako "već postoje strojevi koji zadatke izvode samostalno, a programeri ne razumiju u potpunosti kako su to naučili".

Istraživači kažu da je alternativa podučavanje umjetne inteligencije nekoj etici ili ograničavanje njezinih mogućnosti, tako daje se drži podalje od dijelova interneta. No, ova studija odbacuje tu ideju. Ističu kako ograničavanje nema smisla jer ako nećemo koristiti superinteligenciju za rješavanje problema izvan dosega ljudi, zašto je onda uopće stvaramo?

Ako nastavimo napredovati s umjetnom inteligencijom, možda nećemo ni znati kada se ona pretvorila u superinteligenciju koja je izvan naše kontrole. To znači da znanstvenici moraju početi postavljati ozbiljna pitanja o smjeru u kojem IT znanost ide.

Vezana vijest

Ljudi, robot

 

Preporučujemo ti još sadržaja

Reci što misliš!