Hvad nu hvis det går galt?

Den amerikanske opfinder og forfatter Ray Kurzweil forestiller sig en verden om bare100 år, hvor mennesker ikke længere kan skelnes fra maskiner, hvor grænserne mellem min og din hjerne er ophævet, og hvor selv det at dø er et spørgsmål om definitioner.
I sin bog "Ånden i maskinen" fokuserer Kurzweil på de muligheder den ufattelige teknologiske udvikling vil medføre. Men hvad nu hvis det går galt?

Det er ikke uden risiko at udsætte menneskeheden for så store og grundlæggende forandringer på så kort tid. Hver ny og kraftigere teknologi synes at rumme muligheden for tilsvarende større katastrofer. Det gælder også for de kommende årtiers nøgleteknologier:
- Vi risikerer at intelligente computere og robotter overtager magten når de bliver smartere end mennesker. Når man ser hvordan vi mennesker selv behandler vores husdyr, så kunne man frygte at maskinerne ikke vil vise meget mere hensyn overfor os, hvis vi kommer i vejen for deres planer.
- Nanoteknologiens styrke er at mikroskopiske maskiner kan opbygge de ting vi ønsker, molekyle for molekyle. Man hvis de nu slipper løs og ikke kan stoppes, vil stadig større sværme af nanorobotter så tygge sig vej gennem verden og omdanne den til det, de tilfældigvis er programmeret til at fremstille?
- Og så er der bioteknologien. Med viden om generne og evnene til at gensplejse kan man lave mere effektiv medicin. Men man kan også lave dødbringende virus af en hidtil ukendt farlighed. Måske dør vi allesammen af en gensplejset ny form for pest.
En af dem, der synes at det hele er ved at blive lidt for uhyggeligt er Bill Joy forskningsdirektøren for den amerikanske computergigant Sun. Efter at have læst bogen og talt en del med Ray Kurzweil skrev Bill Joy sidste år sit berømte essay: "Will the future need us?", der blev forsidehistorien i Wired magazine.
I artiklen fremlagde han en lang række af farer, som udviklingen kan medføre, og han opfordrede til debat om, hvordan man kunne afværge katastrofen - efter Joys mening er det nødvendigt simpelthen at standse udviklingen indenfor store områder af den ny teknologi.

Resultatet af tusinder små fremskridt
Ray Kurzweil er selv den første til at indrømme at der er store risici ved udviklingen. Et sted i sin bog sammenligner han situationen med at jordens befolkning står op til knæene i en brandfarlig vædske, og kun kan håbe på at der ikke er en eller anden galning der tænder en tændstik.
»Farerne er virkelige«, siger Kurzweil, »men det er misvisende at forestille sig at farerne ved den teknologi vi har om 15 år pludselig blev sluppet løs i nutidens verden. Realiteten er at når vi kommer frem til de her meget farligere teknologier, så vil vi også have udviklet langt kraftigere mekanismer til at beskytte os«.
Bill Joys ide om helt at bremse udviklingen på nogle teknologiske områder finder Kurzweil er helt hen i vejret.
»Jeg kan ikke forestille sig at Sun, Bill Joys selskab, skulle afstå fra at udvikle kraftigere computere og mere intelligent software, fordi der er en abstrakt fare for at det kommer ud af kontrol engang om 25 år. Det er ikke en reel valgmulighed for Sun, for hvis de gjorde det, ville de gå konkurs. Økonomien dikterer simpelthen at selskaber må fortsætte med at udvikle bedre teknologi«.
Kurzweil peger også på at hvis vi gav afkald på de nye teknologier, ville det også indebære et afkald på muligheder for at afhjælpe en masse lidelser:
»Bioteknologien kan misbruges af terrorister, der vil gensplejse en ny ekstremt dødbringende organisme. Men vi stopper ikke udviklingen af bioteknologien af den grund. Vi kan ikke fortælle de millioner af mennesker der har kræft at vi da ganske vist er meget tætte på at finde nogle nye stoffer, der kan redde dem, men vi vil ikke gå videre, fordi vi er bange for at den samme viden kan bruges af en terrorist, mener Kurzweil.
I det hele taget er teknologi ikke noget vi sådan bare kan styre:
»De teknologier vi vil have om en 25-30 år fra nu, er ikke noget vi arbejder på direkte - de er bare det uundgåelige samlede resultatet af tusindvis af projekter«.
Efter Kurzweils mening ville det kræve en totalitær stat og en voldsom undertrykkelse at bremse den teknologiske udvikling. Alligevel ville det formentlig blot føre til at forskningen gik under jorden og fortsatte i det skjulte - og så ville vi for alvor miste muligheden for at skabe forsvarsmekanismer.
Kurzweil medgiver at der kan være enkelt-stående teknologier der er så åbenlyst farlige, at man er nødt til at forhindre dem, men generelt er den bedste måde at sikre sig mod teknologiens farer at drøfte dem åbent i samfundets og etablere love og en etik, der kan regulere anvendelserne.