Imaš priču? Javi nam se!Pošalji priču
Scenarij kao u Terminatoru

Hoćemo li moći kontrolirati računalnu superinteligenciju? Znanstvenici imaju odgovor i neće vam se svidjeti

"Umjetna inteligencija je potencijalno sposobna mobilizirati resurse za postizanje ciljeva koji se ne mogu kontrolirati"

Image
Foto: Shutterstock
Vijesti/ 14.2.2021. u 17:15
Imaš priču? Javi nam se!Pošalji priču

Desetljećima se raspravlja o tome bi li umjetna inteligencija jednoga dana mogla uništiti čovječanstvo, o tome su napisane brojne knjige i snimljeni filmovi - sjetimo se samo "Terminatora". Znanstvenici su upravo donijeli presudu hoćemo li moći kontrolirati računalnu superinteligenciju. Odgovor? Najvjerojatnije nećemo.

Image
Vlada ulaže milijune u AI

Može li uparivanje građana pomoću sustava umjetne inteligencije spasiti natalitet nacije koja prebrzo stari?

Image
Vlada ulaže milijune u AI

Može li uparivanje građana pomoću sustava umjetne inteligencije spasiti natalitet nacije koja prebrzo stari?

Problem je u tome što bi kontrola superinteligencije, koja je daleko iznad ljudskog razumijevanja, zahtijevala simulacije te superinteligencije koju bi onda znanstvenici mogli analizirati. Ali ako je nismo u stanju razumijeti ne možemo ni stvoriti simulaciju.

Pravila poput "ne naudi ljudima", koja je u svojim zakonima robotike osmislio još Isaac Asimov, ne mogu se postaviti ako ne razumijemo vrste scenarija koje će umjetna inteligencija smisliti, kažu autori istraživanja. Jednom kada računalni sustav radi na razini izvan opsega naših programera, više ne možemo postavljati ograničenja.

"Umjetna inteligencija potencijalno je sposobna mobilizirati resurse za postizanje ciljeva koji su nerazumljivi ljudima i ne mogu se kontrolirati", tvrde znanstvenici. Tim objašnjava kako je dio problema postavio još Alan Turing 1936. On je zaključio da nije sigurno hoće li računalni program donijeti zaključak i odgovor te se zaustaviti ili će jednostavno zauvijek pokušavati pronaći rješenje. Program koji bi bio napisan da spriječi UI da uništi svijet ili ljude mogao bi doći do rješenja i stati ili ne, što znači da ne bi funkcionirao.

Tekst se nastavlja ispod oglasa
Imaš priču? Javi nam se!Pošalji priču

Već postoje strojevi koji zadatke izvode samostalno

"Superinteligentni stroj koji kontrolira svijet zvuči poput znanstvene fantastike", kaže informatičar Manuel Cebriand s Instituta Max-Planck. Cebriand kaže kako "već postoje strojevi koji zadatke izvode samostalno, a programeri ne razumiju u potpunosti kako su to naučili".

Istraživači kažu da je alternativa podučavanje umjetne inteligencije nekoj etici ili ograničavanje njezinih mogućnosti, tako daje se drži podalje od dijelova interneta. No, ova studija odbacuje tu ideju. Ističu kako ograničavanje nema smisla jer ako nećemo koristiti superinteligenciju za rješavanje problema izvan dosega ljudi, zašto je onda uopće stvaramo?

Upravo se čita

Image
Sve im progutao oganj

Branitelj, preživio rak, 3 moždana, sad mu izgorjela kuća: 'Jutros mi unuk kaže: Evo ti dida 10 kuna!'

Ako nastavimo napredovati s umjetnom inteligencijom, možda nećemo ni znati kada se ona pretvorila u superinteligenciju koja je izvan naše kontrole. To znači da znanstvenici moraju početi postavljati ozbiljna pitanja o smjeru u kojem IT znanost ide.

Vijesti/ 14.2.2021. u 17:15
Imaš priču? Javi nam se!Pošalji priču

Više s weba

Pročitajte još

Image
Kako poslati pismo

Adresa pošiljatelja na omotnici i ostala osnovna pravila slanja pisama

Imaš priču? Javi nam se!Pošalji priču

Više s weba