Nick Bostrom: Massövervakning kan bli mänsklighetens räddning

En enda, potentiellt farlig teknik som görs lätt tillgänglig för allmänheten hotar att förgöra mänskligheten. Kan massövervakning rädda oss?

Svensk-brittiske filosofen Nick Bostroms framtidsspaning får nästan Orwells 1984 att verka munter. Själv beskriver sig Oxfordprofessorn som en ”rädd optimist” under ett samtal med TED:s Chris Anderson i kanadensiska Vancouver.

Bostrom liknar utvecklingen vid en jättelik urna, fylld med vita, grå och svarta bollar. De vita representerar teknik, idéer och metoder med potential att göra gott. Bollarna i grå nyanser är måttligt skadliga medan de svarta kan hota civilisationer.

MER TUR ÄN SKICKLIGHET

Mänskligheten plockar ständigt bollar från urnan, men lyckligtvis har vi inte funnit någon svart – ännu. Bostrom anser att det mer handlar om tur än medvetna val.

I stället dominerar de vita bollarna, som tjänar oss väl, men vi har även fiskat upp en del grå. Ett exempel är kärnteknik, som både används i vården och i massförstörelsevapen.

I takt med att vetenskap och teknik fortsätter att utvecklas, kommer vi däremot — förr eller senare — sannolikt att hitta en svart boll och plocka ut den ur urnan, enligt Bostroms skrift ”The Vulnerable World Hypothesis” som TED-samtalet tog avstamp i.

KAN SLÅ UT HEL STAD

Bostrom ser till exempel utvecklingen inom biohackning, av mördardrönare eller artificiell intelligens som potentiella “svarta bollar”.

“Tänk på syntetisk biologi. Med nuvarande utvecklingshastighet, i en inte alltför avlägsen framtid, kan någon efter middagen hemma i köket koka ihop en organism med potential att slå ut en hel stad” säger han enligt TED:s sammanfattning.

Kärnvapen räknar Bostrom inte som en “svart boll” eftersom de praktiskt taget är omöjliga för vanliga människor att bygga. Men de kan utvecklas till en sådan om världens supermakter börjar räkna med att den som slår till först blir ensam vinnare.

UPPVÄRMNINGEN HOTAR OSS

Den globala uppvärmningen är också jämförbar med en “svart boll” — om temperaturerna stiger snabbare än vad som nu är fallet, och det blir svårare att utveckla förnybar energi samt gott om utvinningsbara, fossila bränslen.

”Urnan kan också innehålla guldbollar som hjälper att skydda oss mot de svarta. Och jag vet inte i vilken ordning bollarna kommer att plockas ut”, säger Bostrom under TED-samtalet enligt Inverse.

EFFEKTIVT GLOBALT STYRE KRÄVS

För att motverka en utveckling med potential att hota mänskligheten anser filosofen att det kan komma att krävas en mycket mer effektiv global styrning. Ett världssamfund som kan agera snabbt för att förbjuda och hindra användning av en “svart boll”.

Att försöka stoppa teknikutvecklingen i sig eller att “eliminera” aktörer med ont uppsåt tror Bostrom däremot inte är framkomliga vägar.

MASSÖVERVAKNING MÖJLIG LÖSNING

I “The Vulnerable World Hypothesis” ser han framför sig möjliga lösningar som massövervakning. Han målar upp scener där varje människa på jorden måste bära något han kallar ”frithestaggar”. Dygnet runt kan sensorerna fånga upp — se, höra och känna — vad var och en gör.

Informationen tolkas av artificiell intelligens och “frihetspoliser” i ”patriotiska övervakningsstationer”, som slår larm till patruller som ingriper på lämpligt vis vid minsta tecken på oönskade beteenden.

TUR OM VI KAN VÄLJA

Valet kan enligt Bostrom komma att stå mellan att någon övervakar varje steg människor tar och att mänskligheten går under.

“Uppenbarligen finns enorma nackdelar och sannerligen massiva risker med massövervakning och globalt styre. Jag pekar bara på att om vi har tur kan världen bli sådan att dessa kan vara enda sättet för dig att överleva en svart boll”, säger han enligt Inverse.

Film på YouTube där Bostroms “The Vulnerable World Hypothesis” avhandlas. Publicerad av AI Safety Reading Group:

Med nuvarande utvecklingshastighet, i en inte alltför avlägsen framtid, kan någon efter middagen hemma i köket koka ihop en organism med potential att slå ut en hel stad
— Nick Bostrom i samtal med TED:s Chris Anderson
Uppenbarligen finns enorma nackdelar och sannerligen massiva risker med massövervakning och globalt styre. Jag pekar bara på att om vi har tur kan världen bli sådan att dessa kan vara enda sättet för dig att överleva en svart boll.
— Nick Bostrom enligt Inverse