Phillip Hopkins
0 
3940
420
Når folk ser maskiner som reagerer som mennesker, eller datamaskiner som utfører strategier og erkjennelser som etterligner menneskelig oppfinnsomhet, spøker de noen ganger om en fremtid der menneskeheten vil måtte godta robotherrer.
Men begravet i spøken er et frø av uro. Science-fiction Writing og populære filmer, fra "2001: A Space Odyssey" (1968) til "Avengers: Age of Ultron" (2015), har spekulert i om kunstig intelligens (AI) som overgår forventningene til dets skaper og unnslipper deres kontroll , til slutt å outcompeting og slaveri mennesker eller målrette dem for utryddelse.
Konflikt mellom mennesker og AI er front og sentrum i AMCs sci-fi-serie "Humans", som kom tilbake for sin tredje sesong tirsdag (5. juni). I de nye episodene møter bevisste syntetiske mennesker fiendtlige mennesker som behandler dem med mistanke, frykt og hat. Vold bråker når Synths kjemper for ikke bare grunnleggende rettigheter, men deres overlevelse, mot dem som ser på dem som mindre enn mennesker og som en farlig trussel. [Kan maskiner være kreative? Møt 9 AI 'artister']
Selv i den virkelige verden er ikke alle klare til å ønske AI velkommen med åpne armer. I løpet av de siste årene, da datavitere har presset grensene for hva AI kan oppnå, har ledende skikkelser innen teknologi og vitenskap advart om de truende farene som kunstig intelligens kan utgjøre for menneskeheten, til og med antydet at AI-evner kan dømme den menneskelige rase.
Men hvorfor blir folk ikke så nervøse av ideen om AI?
En "eksistensiell trussel"
Elon Musk er en av de fremtredende stemmene som har hevet røde flagg om AI. I juli 2017 sa Musk til de fremmøtte på et møte i National Governors Association, "Jeg har eksponering for den banebrytende AI, og jeg tror folk burde være veldig opptatt av det."
"Jeg fortsetter å høre alarmklokka," la Musk til. "Men til folk ser at roboter går nedover gaten dreper folk, vet de ikke hvordan de skal reagere, fordi det virker så eterisk."
Tidligere, i 2014, hadde Musk merket AI "vår største eksistensielle trussel", og i august 2017 erklærte han at menneskeheten sto overfor en større risiko fra AI enn fra Nord-Korea.
Fysikeren Stephen Hawking, som døde 14. mars, uttrykte også bekymring for ondskapsfull AI, og sa til BBC i 2014 at "utviklingen av full kunstig intelligens kan utgjøre slutten på menneskeslekten."
Det er også mindre enn betryggende at noen programmerere - særlig de med MIT Media Lab i Cambridge, Massachusetts - virker fast bestemt på å bevise at AI kan være skremmende.
Et nevralt nettverk kalt "Nightmare Machine", introdusert av MIT informatikere i 2016, forvandlet vanlige bilder til uønskede, foruroligende hellscapes. En AI som MIT-gruppen kalt "Shelley" komponerte skumle historier, trent på 140 000 historier om redsel som Reddit-brukere postet i forumet r / nosleep.
"Vi er interessert i hvordan AI fremkaller følelser - frykt, i akkurat dette tilfellet," fortalte Manuel Cebrian, forskningssjef ved MIT Media Lab, tidligere i en e-post om Shelleys skumle historier.
Frykt og avsky
Negative følelser rundt AI kan generelt deles inn i to kategorier: ideen om at AI vil bli bevisst og søke å ødelegge oss, og forestillingen om at umoralske mennesker vil bruke AI til onde formål, Kilian Weinberger, førsteamanuensis ved Institutt for informatikk ved Cornell University, fortalte. [Kunstig intelligens: Vennlig eller skremmende?]
"En ting folk er redd for, er at hvis superintelligent AI - mer intelligent enn oss - blir bevisst, kan det behandle oss som lavere vesener, som vi behandler aper," sa han. "Det vil absolutt være uønsket."
Frykten for at AI vil utvikle bevissthet og styrte menneskeheten er imidlertid begrunnet i misoppfatninger av hva AI er, bemerket Weinberger. AI opererer under meget spesifikke begrensninger definert av algoritmene som dikterer dens oppførsel. Noen typer problemer kartlegger godt AIs ferdighetssett, noe som gjør visse oppgaver relativt enkle for AI å fullføre. "Men det meste kartlegger ikke det, og det er ikke aktuelt," sa han.
Dette betyr at selv om AI kan være i stand til imponerende bragder innenfor nøye avgrensede grenser - å spille et sjakkspill på mesternivå eller raskt identifisere gjenstander i bilder, er det der evnene slutter.
"AI når bevissthet - det har absolutt ikke vært noen fremgang i forskning på dette området," sa Weinberger. "Jeg tror ikke det er noe sted i vår nærmeste fremtid."
Den andre bekymringsfulle ideen - at et skruppelløst menneske ville utnytte AI av skadelige årsaker - er dessverre langt mer sannsynlig, la Weinberger til. Stort sett alle typer maskiner eller verktøy kan brukes til enten gode eller dårlige formål, avhengig av brukerens intensjon, og utsiktene til våpen som utnytter kunstig intelligens er absolutt skremmende og vil dra nytte av streng myndighetsregulering, sa Weinberger.
Kanskje, hvis folk kunne legge fra seg frykten for fiendtlig AI, ville de være mer åpne for å anerkjenne fordelene, foreslo Weinberger. Forbedrede bildegjenkjenningsalgoritmer, for eksempel, kan hjelpe hudleger med å identifisere føflekker som potensielt er kreftfremmende, mens selvkjørende biler en dag kan redusere antall dødsfall som følge av bilulykker, hvorav mange er forårsaket av menneskelige feil, fortalte han .
Men i den "menneskelige" verden av selvbevisste Synths, frykter frykt for bevisst AI voldelige konfrontasjoner mellom Synths og mennesker, og kampen mellom mennesker og AI vil sannsynligvis fortsette å avspole og eskalere - i løpet av den nåværende sesongen, i det minste.
Redaktørens merknad: Dette er den siste funksjonen i en tredelt serie med artikler relatert til AMCs "Mennesker." Den tredje sesongen debuterte 5. juni klokka 10.00. EDT / 9 p.m. CDT.
Original artikkel på .