Computerguruen der blev dommedagsprofet
Netop ankommet til San Francisco var det nok ikke Bill Joys essay på forsiden af Wired Magazine jeg skulle have valgt som godnatlæsning. Hans ubehageligt nøgterne fremlægning af hvorfor vores teknologi kan ende med at gøre os overflødige i løbet af det næste århundrede er en hård cocktail sammen med jetlaggens sitren i kroppen.
Det blev ikke til meget søvn den nat. Klokken 4 stod jeg op, skrev et længere brev til Bill Joy og bad om et interview. Så hackede jeg hans e-mail adresse frem fra internettets dybder, sendte beskeden og faldt i søvn - stadig med artiklens scenarier roterende i mine drømme.
Næste morgen vågnede jeg, checkede e-mail, og sørme; positivt svar fra mr. Joy. Welcome to America!
Det viste sig, at der i dén grad var andre, som var påvirkede af artiklen. Douglas Hofstädter, forfatteren til den videnskabelige bestseller "Gödel, Escher, Bach", sammenkaldte den følgende weekend til et seminar på Stanford universitetet syd for San Francisco under titlen "Vil åndelige robotter erstatte menneskeheden inden år 2100?". Talerne var stort set de bedst kvalificerede indenfor emnet man kan finde: Ray Kurzweil, Hans Moravec, John Holland, Ralph Merckle, Kevin Kelly… og så Bill Joy som indleder.
Auditoriet på Stanfords solbeskinnede luksus campus kunne rumme 700 foruden dem, der kunne følge seminaret via video i en tilstødende sal. Der var totalt proppet, bagende varmt, og så føltes det i øvrigt som at være til stævne for IT-kändisser. Skulle noget grimt have sket i auditoriet ville det have fjernet en betragtelig del af Silicon Valleys bedste hjerner.
Seminaret varede 5 intense timer, og undervejs nævnte flere af talerne deres følelse af at deltage i en skelsættende begivenhed, der for alvor fik åbnet for en debat som er blevet stadig mere påtrængende.
Da alt lyset på et tidspunkt gik ud, midt under en fremlæggelse af de måder fremtidens teknologi vil gøre samfundet sårbart, var det lige før det var rigtig ubehageligt.
Jeg mødtes kort med Bill Joy før seminaret og fulgte siden op på interviewet via e-mail. Bill Joy er midt i fyrrerne, han har stadig et lidt drenget udseende og lidt strittende hår. Som en amerikansk journalist meget præcist har beskrevet, så ser han ud som om han lige har fået et elektrisk stød.
Bill Joy er havnet i en vanskelig rolle. På den ene side er han højt respekteret som en af dem, der har bidraget mest til internettet gennem sit arbejde med at udvikle bl.a. Java og Jini, to sprog, der fører til helt nye anvendelsesmuligheder. Bill Joy understreger igen og igen at han ikke er maskinstormer; han tror stadig på at teknologi kan føre til et bedre liv for alle.
På den anden side kan han ikke længere bare se på, at udviklingen i stigende fart går mod et punkt, hvor mennesker mister kontrollen. Det er umoralsk siger han, og vi må kunne gøre det bedre end at lade teknologi være noget, vi tager som det kommer.
Skadelig teknologi må bremses
Bill Joys bud på løsninger er især inspireret af de måder, man forsøgte at håndtere udviklingen af atomvåben på. Han foreslår at forskere skal aflægge en ed, svarende til lægeløftet, om ikke at ville deltage i udviklingen af teknologier til masseødelæggelse. Forskere og udviklere af teknologi bør føle sig langt mere ansvarlige for konsekvenserne af deres arbejde, og selskaber skal i langt højere grad kunne stilles til ansvar for de skader deres teknologi forvolder.
Bill Joy mener også, at der skal oprettes en international organisation, der har til opgave at følge den teknologiske udvikling og vurdere farer og etiske spørgsmål omkring nye teknologier. I den forbindelse fremhæver han det danske Teknologiråds arbejde med "koncensuskonferencer", hvor man inddrager almindelige borgere i at vurdere teknologier.
Der skal etableres en form for international kontrol med spredningen af viden og teknologier, der skønnes at være for farlige at tage i anvendelsen - også selvom de kunne have et stort kommercielt potentiale. Endelig skal man simpelthen kunne stoppe udviklingen af teknologier, der åbenlyst kan være en trussel mod menneskeheden - sådan som man forsøger at gøre med biologiske og kemiske våben.
Kommerciel evolution
Samtidig erkender Bill Joy at han er oppe imod mægtige kræfter. Han beskriver udviklingen af ny teknologi som en evolution, der ikke handler om at være bedst egnet til at overleve i en biologisk verden, men hvor det i stedet er det, der kan klare sig på markedspladsen, der drives frem. Gensplejsning, robotter og nanoteknologi kan føre til katastrofer i den biologiske verden, men dem, der udvikler teknologien belønnes økonomisk af markedet, og dermed får de endnu flere ressourcer til at fortsætte.
Det er afgørende at vi tager andre værdier med i overvejelserne, mener Bill Joy:
»Via videnskaben og teknologien vil vi have evnen til at skabe den fremtid vi selv ønsker... men ønsker vi virkelig at forandre kloden radikalt? Ønsker vi at ændre vores egen art, eller at skabe en ny art bestående af robotter som vore efterkommere? For at kunne tage de beslutninger må vi nøje overveje, hvad det vil sige at være mennesker, og hvad der har værdi for os som mennesker. Hvis ikke vi gør indsatsen for bevidst at vælge vores fremtid, så vil en anden process, som vi altså ikke har gennemtænkt, afgøre vores muligheder. At tænke over hvad der er menneskeligt er det samme tænke over vores værdier«.
Mere konkret peger Bill Joy på Dalai Lamas seneste bog: "Værdier for et nyt årtusinde" som et godt bud på de værdier, vi kunne bygge udviklingen på. Dalai Lama mener vi bør fremme en stærkere forståelse for vores gensidige afhængighed og vores universelle ansvar som mennesker her på kloden. Efter hans mening må målet for udvikling være at leve i glæde, kærlighed og omsorg for hinanden, og han mener vi må lære at forstå, at mere viden og større materiel rigdom ikke nødvendigvis fører i dén retning.
Menneskehedens identitetskrise
Kevin Kelly, chefredaktøren på Wired Magazine, kom på Stanford seminaret med et indlæg, der også netop handlede om at fastholde det menneskelige. Efter Kelly's mening vil kunstig intelligens kaste mennesket ud i 100 års identitetskrise - og vi starter nu. Hvem er vi - og hvem vil vi blive til; det bliver temaet for det kommende århundrede, sagde Kelly.
Ved Stanford seminaret skønnede Bill Joy at det var tvivlsomt om vi overhovedet fik så længe til at tænke over tingene. Efter hans mening var der en 30-50% risiko for at menneskeheden ville blive udryddet af sine egne skabninger i det kommende århundrede.
Bill Joy fortæller at han siden da har lært meget i forbindelse med de mange diskussioner omkring hans essay, der yderligere understreger at vi står overfor reele farer.
»Omvendt er jeg blevet mere optimistisk, fordi jeg kan se at folk indser faren, reagerer på den, diskuterer det og sender kopier af min artikel videre. Jeg er mere optimistisk, fordi jeg tror at folk udtrykker en stærk vilje til at handle, og at de tænker hårdt over hvad vi kan gøre. Det har opmuntret mig til at bruge mere tid på sagen, for det virker mere sandsynligt end før, at vi kan handle på en fornuftig måde".
Men hvad med ham selv? Trods de farer han har fortalt om, er han stadig i fuld gang med videreudvikle computere. Men det er åbenbart ikke nogen, der er farlige:
»Jeg koncentrerer mig om at skabe software, der gør at man kan stole på computere. Defensive og sikkerheds-orienterede systemer kræver stabilitet. Offensive og destruktive anvendelser kræver bare en overvældende styrke. Og derfor vægter det kraftigt mit arbejde i retning af det gode".
|
|
