Bliver mennesket overflødigt i fremtiden?
Hvad nu hvis det går galt? Hvis fremtidens teknologier viser sig at tage magten fra os. Det er tilsyneladende kun akkurat at vi har undgået de helt store katastrofer med atomvåben og atomkraft. Men hvad med de næste teknologier? Kan vi holde styr på bioteknologi, kunstig intelligens eller nanoteknologi, når de for alvor kommer i brug?
Amerikaneren Bill Joy, der er ledende forsker og medstifter af computergiganten Sun, satte ord på en underliggende bekymring hos mange, da han i foråret 1999 på forsiden af Wired Magazine og i et essay over 25 sider i bladet rejste spørgsmålet om teknologien ville gøre mennesket overflødigt i fremtiden.
Bill Joy’s essay startede en omfattende debat om de alvorlige risici som fremtidens teknologier indebærer. Siden har en lang række stort anlagte symposier og konferencer taget spørgsmålet op, og Joy’s essay er blevet oversat og udgivet i et utal af sprog, bl.a. blev det bragt i sin helhed på dansk i dagbladet Information.
Bill Joy fokuserede på 3 alvorlige farer ved fremtidens teknologier.
- Den mest langsigtede er risikoen for at computere og robotter med tiden bliver så intelligente, at de begynder at forfølge deres egne mål, og i længden overtager menneskets plads som den dominerende art på kloden.
- På kort sigt er bioteknologien dog mere bekymrende. Efter Bill Joy’s skøn risikerer vi at det 21. århundrede bliver pestens århundrede. Han frygter at nogen – bevidst eller ved et uheld – kommer til at udvikle en ny form for sygdom, som mennesket eller store dele af økosystemet står forsvarsløst overfor.
- Teknologien til at fremstille mikroskopiske maskiner og apparater, der arbejder ved at flytte rundt på enkelte molekyler eller atomer kaldes "nanoteknologi". Her er faren "The gray goo problem".
Fordi nanoteknologi fungerer på så ekstremt lille skala, er det tanken at nanomaskiner skal kunne bygge kopier af sig selv. Ved at bruge hele sværme af mikroskopiske maskiner, kan man producere genstande, der er så store, at de er nyttige i menneskers hverdag.
Men en bivirkning kunne være, at noget, der minder om mekanisk ukrudt eller skadedyr, slipper løs. Milliarder og atter milliarder af mikroskopiske maskiner, der æder alt, hvad de kommer i nærheden, for at omsætte det til nye kopier af sig selv.
Fælles for kunstig intelligens, bioteknologi og nanoteknologi er at de bruger processer, der kan genskabe sig selv – man siger at de er "Selv-replicerende".
En atombombe kan man kun sprænge én gang, og det sætter dog nogen begrænsning på dens skadevirkning. Men smarte computere kan designe endnu smartere computere, en virus kan sprede sig som en epidemi, og slipper nanomaskinerne løs risikerer man at de fortsætter med at vokse i antal indtil der ikke er flere materialer at omsætte.
Evnen til at ødelægge udbredes
Ét er at der kan ske uheld, fordi mennesker ikke er smarte nok til at styre teknologien. Det kan imidlertid også gå galt fordi nogle mennesker bevidst ønsker at volde skade. Problemet med de nye teknologier er at de er indenfor rækkevidde af langt flere, for de kræver ikke de store økonomiske eller materielle ressourcer.
Teknologier, der er baseret på viden kan spredes og flyttes hurtigt og let, og derfor er det også meget vanskeligt at stoppe udviklingen af dem med forbud. Hvis nogen virkelig vil udvikle en skadelig virus – hvad enten den er elektronisk eller biologisk – så kan det gøres i det skjulte eller i et land, der ikke har love imod det.
Bill Joy formulerer det sådan at vi "demokratiserer evnen til gøre ondt", og han sammenligner situationen med en flyvemaskine hvor alle passagerer har en "crash"-knap ved deres sæde, som kan få flyet til at styrte ned. Selvom de fleste aldrig ville drømme om at røre knappen, skal der ikke mere end en enkelt galning til for at det går galt. Idag kan en eller anden bankassistent i Philippinerne inficere computere over hele kloden med en skadelig virus, men med morgendagens teknologi kan konsekvenserne være langt værre.
Bevidste robotter
I betragtning af hvor mange helt basale mangler der faktisk er ved de computere vi bruger idag og hvor skøre og skrøbelige systemerne er, så kan det virke noget hysterisk at advare om at teknologien snart skulle gøre mennesket overflødigt.
Computernes ydeevne udvikler sig imidlertid ikke alene hurtigt, men også eksponentielt; det går hurtigere og hurtigere. Det er en tommelfingerregel i IT industrien at man efter 15 år kan få 1000 gange så meget computerkraft for de samme penge, og i udviklingscentrene rundt om på kloden, vurderer man ofte at den udvikling vil kunne fortsætte en tredive år endnu - og at computerne til den tid derfor vil være en million gange kraftigere end nu.
Verdens største chipfabrikant Intel skønner at man vil nå grænserne for at forbedre den normale chipteknologi om en 12-18 år. Andre, kraftigere teknologier er imidlertid under udvikling og vil formentlig kunne tage over: 3-dimensionelle strukturer, optiske eller biologiske computere, quantum-computere osv.
I ren råstyrke kan man illustrere udviklingen ved at en beregningsopgave, der før ville have taget 1000 år, kan klares på 8 timer, hvis computeren er blevet en million gange hurtigere.
Der er en evindelig diskussion blandt forskerne i kunstig intelligens om hvor kraftig og hurtig menneskets hjerne er, og hvornår vi vil have computere, der er lige så kraftige.
Mange forskere mener også at bevidsthed og intelligens ikke kun er et spørgsmål om processorhastighed, men afhænger af måder at bearbejde og opfatte data, som man i øjeblikket kun har en meget dårlig viden om.
Hvorvidt fremtidens computere og robotter vil være bevidste i den forstand mennesker er bevidste er således langtfra sikkert. Men med udsigten til så enorme forbedringer af deres beregningsevne virker det nærmest givet, at vi på område efter område vil opleve at maskinerne bliver bedre til at tage intelligente beslutninger end mennesker – ikke mindst fordi de problemer, der skal tages stilling til i en global højteknologisk tidsalder, bliver så komplekse, at mennesker ganske enkelt ikke længere vil kunne overskue dem.
Vi skaber vores efterkommere
Udviklingen af maskiners intelligens accelleres yderligere fordi de kan bruge deres computerkraft til at designe forbedringer af sig selv. Nogle forskere, som Hans Moravec eller Ray Kurzweil, ser superintelligente robotter som det næste naturlige skridt i evolutionen. Nye, radikalt anderledes livsformer er opstået løbende gennem klodens historie, og nu står vi overfor endnu et skift, hvor en art, der er bedre egnet til de gældende livsbetingelser får lejlighed til at brede sig.
Selvom mennesket ville være en slags skaber eller forfader for robotterne kunne man imidlertid frygte, at vi vil være dem så underlegne på næsten alle områder, at mennesker nærmest bliver en slags husdyr for dem – og som bekendt behandler vi ikke altid selv vores dyr lige godt.
Det er de perspektiver, der har givet Bill Joy kolde fødder – og dermed føjer han sig til en række af videnskabsmænd før ham, lige fra litteraturens Dr. Frankenstein, til dynamittens opfinder Alfred Nobel, og de forskere, der udviklede atombomben. Som dem er Joy blevet skræmt over styrken i det, han har været med til at skabe.
|
|
|
