Peter Tucker
0 
5080
1353
Se for deg din verdens minst favorittleder. (Ta så mye tid du trenger.)
Tenk deg om den personen ikke var et menneske, men et nettverk med millioner av datamaskiner rundt om i verden. Denne digi-diktatoren har øyeblikkelig tilgang til hvert utvalg av innspilt informasjon om hver person som noen gang har levd. Det kan gjøre millioner av beregninger på et brøkdel av et sekund, kontrollerer verdens økonomi og våpensystemer med gudeliknende autonomi og - skumlest av alt - kan aldri, aldri dø.
Denne ukrivbare digitale diktatoren er ifølge Tesla og SpaceX-grunnlegger Elon Musk, et av de mørkere scenariene som venter på menneskehetens fremtid hvis kunstig intelligensforskning fortsetter uten alvorlig regulering. [Superintelligente maskiner: 7 robotfuturer]
"Vi er raskt på vei mot digital superintelligens som langt overgår ethvert menneske, jeg synes det er ganske åpenbart," sa Musk i en ny AI-dokumentar som heter "Stoler du på denne datamaskinen?" regissert av Chris Paine (som intervjuet Musk tidligere for dokumentaren "Who Killed The Electric Car?"). "Hvis ett selskap eller en liten gruppe mennesker klarer å utvikle gudlignende digital superintelligens, kan de ta over verden."
Mennesker har prøvd å ta over verden før. Imidlertid ville en autoritær AI ha en forferdelig fordel i forhold til likesinnede mennesker, sa Musk.
"I det minste når det er en ond diktator, vil det mennesket dø," la Musk til. "Men for en AI ville det ikke være noen død. Den ville leve for alltid, og da ville du ha en udødelig diktator, som vi aldri kunne unnslippe."
Og denne hypotetiske AI-diktatoren trenger ikke engang å være ond for å utgjøre en trussel for mennesker, la Musk til. Alt det må være er bestemt.
"Hvis AI har et mål og menneskeheten bare er i veien, vil det ødelegge menneskeheten som en selvfølge uten engang å tenke på det. Ingen harde følelser," sa Musk. "Det er akkurat som, hvis vi bygger en vei, og en maurtue hender å være i veien. Vi hater ikke maur, vi bygger bare en vei. Så farvel, maurtue."
De som følger nyheter fra Muskverset, vil ikke bli overrasket over hans meninger i den nye dokumentaren; Teknologen har lenge vært en vokalkritiker av usjekket kunstig intelligens. I 2014 kalte Musk AI menneskehetens "største eksistensielle trussel", og i 2015 sluttet han seg til en håndfull andre teknologiske armaturer og forskere, inkludert Stephen Hawking, for å oppfordre FN til å forby mordereoboter. Han har sagt at uregulert AI utgjør "langt større risiko enn Nord-Korea" og foreslått å starte et slags føderalt tilsynsprogram for å overvåke teknologiens vekst.
"Offentlig risiko krever offentlig tilsyn," twitret han. "Å bli kvitt FAA [ville ikke] gjøre fly tryggere. De er der med god grunn."
"Stoler du på denne datamaskinen?" fokuserer på de voksende bekymringene for folkehelse og sikkerhet knyttet til økningen av AI, og inneholder intervjuer med mange andre teknologiske muligheter, forskere og Erica, den skumle nyhetsgjennomførende roboten. Dokumentaren er tilgjengelig for å se gratis her frem til søndag (8. april).