Frankenstein syndromet
Af Peter Hesseldahl
Historien om Hugo de Garis er klassisk. En videnskabsmand, der balancerer et sted ude på den hårfine linje mellem besættelse og genialitet indser en dag at det han har viet sit liv til at udvikle, kan få uoverskueligt katastrofale følger.
Men der er ikke rigtigt andre der kan se det, for man skal have hans specielle indsigt for helt at forstå, hvorfor den her teknologi kan blive en trussel mod selve menneskeheden.
Og alligevel knokler han på for at drive det frem, for nok ser han truslen mod alt det vi kender, men han aner også en anden, storslået fremtid der vil komme i stedet, formet af de opfindelser han føler sig som en far til.
Hugo de Garis forsker ved Starlab, et forskningslaboratorium i Bruxelles, der specialiserer sig i projekter, der på den ene side er så eksotiske, at det er tvivlsomt, om de nogensinde bliver til realiteter – og som på den anden vil kunne ændre radikalt på verden, hvis de vitterligt lykkes.
Huge de Garis’ s jobtitel er "hjernebygger". Han har netop konstrueret verdens største neurale netværk, en supercomputer med en kraft der svarer til omkring 10.000 Pentium 200 computere koblet sammen. Nu venter han på, at de processer han har startet op i netværket, skal udvikle sig til en form for intelligens. Præcist hvordan det skal gå for sig ved han ikke engang selv. Planen er at det skal vokse sig frem, efterhånden som hver af de titusinde computere i netværket danner forbindelser til de andre computere og lærer at samarbejde med dem for at løse opgaver.
Hugo de Garis fortæller dem ikke hvordan de skal gøre det, i stedet giver han dem hver især forskellige grundlæggende programmer at køre på, og en opgave de skal løse. De computere, der klarer det bedst får lov at blande programkode med hinanden, så der dannes nye styreprogrammer, der kan gå videre til en ny runde af opgaver.
Og sådan overlever og forfines de bedst egnede om og om igen i et udskillelsesløb, der minder til forveksling om den evolution vi kender indenfor biologi.
Efterhånden dannes der en struktur af forbindelser og en fordeling af specialer mellem netværkets mange computer, der svarer til den måde en rigtig hjernes celler er organiseret på – og det virker faktisk. Neurale netværk er efterhånden et gammelkendt princip, der i årevis har været brugt til praktiske formål i den virkelige verden.
Men der er ingen der har bygget et neuralt net med så mange computere i, som det, Hugo De Garis, nu er ved at optræne.
Og hvad skal det så bruges til, al den computerkraft? En kunstig kattekilling, såmænd. Det neurale netværk skal være hjernen i en lille sød robot, der kan spinde og springe op i luften for at fange fluer, hvis DeGaris virkelig får held med sit projekt.
Temmelig uskadeligt, skulle man mene; ikke noget, der kan holde én vågen om natten af frygt for menneskehedens fremtid.
MEN:
"Allerede idag kan man købe små robotkæledyr, der har hjerne nok til at opføre sig på en måde, så man fornemmer at de selv tager beslutninger og kan reagere på om der bliver talt til dem eller man rører dem. Sony AIBO, en lille robothund til 20.000 er det førende eksempel, men der er andre "robopets" på markedet, og mange flere på vej.
År for år bliver de smartere og smartere. Der vil komme rengøringsrobotter og talende maskiner, der kan forstå hvad vi siger og svare igen, og der vil komme ekspertsystemer, der kan tage stilling til spørgsmål, der er så komplicerede at vi ikke selv kan overskue dem.
Og på et tidspunkt vil mange mennesker begynde at spørge, hvorlangt det i grunden skal have lov at gå – skal vi bare lade de her ting blive smartere end os selv. Men til den tid er det måske for sent at stille spørgsmålet" mener Hugo De Garis.
For udviklingen går hurtigere og hurtigere, og det er fremskridt i mange forskellige videnskabelige sammenhæng, der tilsammen vil betyde, at vi på et tidspunkt – om ikke så længe endda – må indse, at vi har skabt noget, der er os overlegent på stort set alle områder, og som vel at mærke fortsætter med at udvikle sig selv i et stadigt stigende tempo.
Forskere indenfor hver deres felt har nogle tidsplaner for hvornår de forventer at have de næste teknologier udviklet. Går det som forventet, vil vi henad midten eller slutningen af dette århundrede have computere, der er ekstremt kompakte, så et enkelt atom kan rumme en bit information. Hugo De Garis forestiller sig at de kan bygges så store som asteroider, at de vil arbejde udfra kvantemekaniske pincipper.
De computere ville i givet fald være milliarder, hvis ikke trillioner gange kraftigere end den menneskelige hjerne, forudsiger Hugo de Garis.
Om det virkelig skulle nå dertil kan man selvfølgelig have sin tvivl om, men der er ikke tvivl om at udviklingen af computer hastigt bevæger sig i retning af langt større beregningskraft. Det er en tommelfingerregel i IT industrien at man efter 15 år kan få 1000 gange så meget computerkraft for de samme penge, og i udviklingscentrene rundt om på kloden, vurderer man ofte at den udvikling vil kunne fortsætte en tredive år endnu - længe nok til at computerne til den tid vil være en million gange kraftigere end nu.
"I det næste århundrede bliver menneskeheden tvunget til at stilling til om vi vil fortsætte med at være den dominerende art på kloden. Hvis det er det vi vil, indebærer det imidlertid at vi må fryse hele den generelle evolutionsprocess fast på det niveau vi har idag", siger De Garis.
Hugo De Garis kalder de superintelligente computere for "artilects" en sammentrækning af artificial og intellect; altså en kunstig forstand. Så vidt han kan se, snævrer det hele sig ned til et spørgsmål om hvorvidt vi tillader at de bliver konstrueret – eller at vi sætter en stopper for dem, og forbyder forskerne at gå videre i den retning.
Men den beslutning vil dele menneskeheden i to:
"For den gruppe, der går ind for at bygge de intelligente computere vil det være en religion, men en videnskabeligt baseret religion". Hugo de Garis kalder dem "kosmists", for de vil se skabelsen af superintelligente væsener, som noget, der fører livet på kloden videre ud i rummet og helt nye dimensioner:
"De intelligente maskiner vil være gudelignende skabninger: De vil kunne tænke med lysets hastighed, de vil være udødelige og konstant i færd med en hastig videreudvikling af sig selv.
Kosmisterne, de mennesker der ønsker at bygge maskinerne, vil se det som det, der er vores bestemmelse som art, og de vil ikke finde sig i at blive standset", mener De Garis.
Omvendt vil langt de fleste mennesker være skræmte ved udsigten til at dele klode med nogle skabninger, der er os fuldkommen overlegne – uden garanti for at de vil behandle os venligt:
De Garis forestiller sig at maskinerne med tiden vil blive fuldstændigt ligeglade med mennesker, lidt på samme måde som vi ikke skænker det en tanke, om vi træder på en myre når vi går i skoven, eller skyller et insekt ud i wc’et. De er så underlegne i forhold til os, vi tilægger dem simpelthen ikke nogen videre værdi
Den bekymrede gruppe af mennesker kalder Hugo de Garis for Terrans; det er dem, der vil bevare jorden som den er. For dem at se, vil man kun kunne sikre menneskeheden ved at forhindre at der bliver bygget intelligente maskiner. Derfor vil de bekymrede se kosmister som fjender, der er så farlige, at de må udryddes for at sikre artens overlevelse.
Og så er der ellers lagt op til krig:
Hugo De Garis kan ikke komme i tanke om noget scenarie for fremtiden, der ikke uundgåelig fører til en stor teknologi omkring teknologien, så han er yderst pessimistisk.
Og alligevel klør han på med at få liv i sin kunstig killing – vel vidende, ja specifikt fordi den vil være endnu et skridt i retning af overmenneskelige maskiner:
Hvis vi mennesker skulle vælge at stoppe her, og fastfryse evolutionen på vores niveau, så ville det en tragedie af spildte muligheder i en kosmisk størrelseorden, mener han.
Så Hugo de Garis er kosmist, men åbenbart ikke mere end at han samtidig har travlt med at få verdenspressen til at videregive hans advarsler om farerne ved det.
Det er unægteligt vanskeligt at vurdere om der er realiteter i det De Garis siger og frygter. Vil udviklingen bare fortsætte mod kraftigere og kraftigere computere, og er det overhovedet ensbetydende med at der opstår intelligens, der kan matche menneskets?
Og hvis det er så farligt, hvorfor skulle vi så ikke kunne finde måder at holde det i ave på, ligesom menneskeheden har gjort det med alle de andre opfindelser gennem tiden – lige fra ilden til atomkraften.
Men tænk over det. Den dag du synes dine maskiner begynder at blive lige smarte nok, så er det måske for sent.
|
|
