Rudolf Cole
0 
4700
587
Det er Elon Musk på Elon Musk-iest: I følge nyhetsmeldinger møtte rom-og-el-bil-gründeren sin nåværende kjæreste ved å lage en vits om forrædersk kunstig intelligens.
Musk og musikeren Grimes, hvis egentlige navn er Claire Boucher, dro til Met Gala som et par mandag (7. mai). I følge sladderpublikasjonen Page Six møttes de to via Twitter, da Musk tenkte å lage et ordspill om "Rococos Basilisk," en mashup av tankeeksperimentet "Roko's Basilisk" og den forseggjorte prydestilen sett i 1700-tallets Frankrike.
Musk fikk snart vite at Grimes hadde gjort det samme ordspillet i en musikkvideo i 2015, og resten er romantisk historie. Rokos Basilisk er derimot en fryktinngytende visjon om fremtiden og sentrum for en årelang online subkultur malstrøm.
Begynnelsen
Det hele startet i 2010, da en person som gikk av Roko la ut et tankeeksperiment til nettstedet LessWrong, et forum der folk diskuterer alt fra filosofi til kunstig intelligens (AI) til kognitiv vitenskap. Innlegget ble slettet, men RationalWiki bevarte en kopi. Rokos idé var at hvis det i fremtiden skulle komme en superintelligent AI designet for å maksimere fellesgode, kunne det straffe alle som ikke bidro til dens eksistens. [Superintelligente maskiner: 7 robotfuturer]
"Selvfølgelig ville dette være urettferdig, men det er den slags urettferdige ting som er å-så-veldig utilitaristisk," resonnerte Roko.
Denne hypotetiske vil finne sted etter singulariteten, det punktet der kunstig intelligens blir utskillelig fra selve livet - faktisk bedre enn livet selv, fordi det kan gjøre ting som å laste opp seg på ubestemt tid, og oppnå en slags silisium udødelighet. Hvis denne gudsaktige kraften oppdager at du ikke hjalp til med å skape den, vel, sheesh. Det kan bare bestemme at din rettferdige belønning er evig pine. [En kort historie om kunstig intelligens]
Navnet "basilisk" kom fra en middelalderske legende om en slange som med et øyeblikk kunne drepe.
Her er imidlertid fellen: Hvis du ikke visste om muligheten for Roko Basilisk, er du klar: AI kommer sannsynligvis bare etter de som spådde dens eksistens, men valgte å ikke si, gi alt sitt engangsbruk inntekt for å bidra til det. Bare ved å lese om muligheten for Roko Basilisk, har du dømt deg selv. (Beklager.)
Det forbeholdet, i et nøtteskall, er der online malstrømmen startet. Grunnleggeren av LessWrong, Eliezer Yudkowsky, utpekte stillingen som "STUPID" og "genuint farlig." Bare ved å tenke grundig på hvordan en AI kunne utpresse deg, hadde Roko satt ham opp for å bli utpresset, i tillegg til å stille opp alle andre som måtte lese innlegget..
"Jeg forbyr dette innlegget slik at det ikke (a) gir folk forferdelige mareritt og (b) gir fjerne superintelligences et motiv for å følge med på utpressing mot folk stumme nok til å tenke på dem i tilstrekkelig detalj," skrev Yudkowsky.
Fra Roko til romantikk
Forbudet mot Roko Basilisk-diskusjon om LessWrong varte til 2015. Yudkowsky skrev senere på Reddit at han angret på reaksjonen sin, noe som fikk det til å virke som om han trodde Roko hadde rett; han tror faktisk at ingen kunstig intelligens designet med menneskets beste interesser i tankene ville ende opp med å torturere mennesker. I stedet, skrev han, slettet han innlegget fordi ideen ikke hadde noen potensiell fordel for noen.
Musk er kanskje spesielt glad i Rokos Basilisk-vitser fordi det opprinnelige innlegget omtalte ham. Roko skriver at noen som Musk, som "på egenhånd endrer ansiktene til industrier med stor innvirkning", ville være i de gode grader fra den teoretiske overmenneskelige AI. Musk har også vært sprek om de potensielle farene ved AI, og oppfordret til regulering og advarsel bare forrige måned om at AI kunne bli en "udødelig diktator."
"Hvis AI har et mål og menneskeheten bare er i veien, vil det ødelegge menneskeheten som en selvfølge uten engang å tenke på det. Ingen harde følelser," sa Musk i en dokumentar som heter "Stoler du på denne datamaskinen?" "som ble utgitt i april. "Det er akkurat som, hvis vi bygger en vei, og en maurtue hender å være i veien. Vi hater ikke maur, vi bygger bare en vei. Så farvel, maurtue."
Grimes er på sin side en kanadisk musiker og billedkunstner som kom med "Rococo Basilisk" ordspill for hennes musikkvideo "Flesh Without Blood." Videoen inneholder en karakter som har parykker i rokokkostil og omfangsrike kjoler og ender med å bli stukket i tarmen og dekket av blod på en tennisbane.
"Hun er dømt til å bli torturert evig av en kunstig intelligens, men hun er også litt som Marie Antoinette," sa Grimes til FuseTV.
Original artikkel på .