Varvid det från den helt molnfria himlen då kom en blixt som träffade frågeställaren och dödade honom omedelbart. Därefter hördes det mullrande svaret från den nya jättedatorn: Nu finns det en gud.

Ungefär så gick handlingen i en liten novell jag läste som tonåring. Den ingick i Sam Ju Lundwalls antologiserie ”Den fantastiska romanen”. Jag har tyvärr slarvat bort boken och kan inte få fram vem som skrev novellen (om jag orkade ansluta mig till någon AI på nätet skulle jag nog få fram det rätt snabbt). Men novellen satte sig i mitt medvetande. Långt senare brukade jag berätta den som en saga för min lilla dotter och hon lyssnade rätt storögt på den.

Jag var en sci-fi-fantast och en Isaac Asimov-fantast. Med kamraterna på den naturvetenskapliga linjen i Katrineholm diskuterade jag Asimovs robotlagar, de som var till för att intelligenta robotar inte skulle kunna skada sina skapare. Långt senare, när artificiell intelligens sedan länge blivit en stapelvara i sci-fi-filmer, kastade jag mig över olika artiklar som oroligt förutspådde en så kallad teknologisk singularitet, alltså att en maskin som bara är litet intelligentare än människan skulle kunna skapa ännu intelligentare maskiner så att till slut den där ödesdigra sekunden inträffar då den intelligenta maskinen når medvetande och exponentiellt kan öka sin kunskap. Klockan slår då för människans primat på jorden. 

Eftersom en sådan maskin inte ingår i den vanliga evolutionen och den biologiska fortplantningen, så har den heller inget behov att känna kärlek. Potentiellt skulle en sådan maskin därför kunna bli ett monster.

För några år sedan läste jag Max Tegmarks rätt fantastiska bok ”Liv 3.0”, där det både varnas för AI och AI prisas – den kan bli artens, Homo sapiens, väg ut i ett koloniserande av galaxen. Det enda han där glömde att ta upp var risken för att AI skulle kunna kombineras med ny bioteknik, alltså att människans genom hackas av en AI för att utnyttjas i exempelvis rasbiologiska syften (det påpekades i en recension i The Guardian när boken kom).

De senaste månaderna, egentligen faktiskt inte så mycket mer, har frågan om AI blivit ett samtalsämne överallt. Både på vetenskapssidor och kultursidor i de stora tidningarna. Och förra veckan till och med i ett litet sensationellt nyhetsinslag i Aktuellt, där just Tegmark intervjuades. Han och ett antal andra ledande gestalter inom teknik, industri och vetenskap publicerade nyligen ett öppet brev där de förordar en paus i alla AI-laboratorier. Pausen skulle vara, inte vid pass en halvtimme som i Bibeln, utan i sex månader. Inte mycket, men i alla fall. 

De som undertecknat upproret är en märklig samling figurer, inte bara akademiker som Tegmark utan också en opålitlig miljardär som Elon Musk. Många tyckte säkert att det hela verkade vara något av ett upptåg och tog det säkert inte riktigt på allvar, särskilt kanske inte den medelålders Aktuelltpubliken.

Men detta är allvar. Mina tonårs apokalyptiska uppenbarelser vid läsningen av den där novellen har återkommit med full kraft. Jag tror att många framöver lär bli rätt oroliga för framtiden för de jobb de har, inte minst tjänstemän i företag och förvaltningar som plötsligt möter en långt billigare konkurrent: den tänkande maskinen. Inte i första hand några otäcka robotar som går omkring på kontoret, utan små symboler på chefens dataskärm innanför vilka de underlydandes jobb utförs långt snabbare än tidigare. Illustratörer och formgivare är redan oroade.

Jag tycker det var bra gjort av författarna till det öppna brevet att komma med sin varning för en teknik som kan leda till att människan själv onödiggörs. I själva verket är vi ju redan nästan där, i händerna på algoritmer som skapats på några få stora – företrädesvis amerikanska – jättetechbolag. Det intressanta är kanske att uppropsförfattarna förordar mer planering och styrning och varnar för ”unelected” – icke-folkvaldas – makt över våra liv.

En sann marxist borde förstås komma med invändningen att det inte är teknologin i sig som är problemet här, utan de sociala och historiska ramarna. Men ”teknologin i sig”, i händerna på stora företag som utan insyn rusar iväg med teknikutvecklingen, är just problemet. Det finns idag praktiskt taget inga produktionsförhållanden som hindrar produktivkrafterna att växa okontrollerat när det gäller AI.

AI i de rätta händerna kan komma att göra underverk i exempelvis medicinsk diagnos och på många områden. Men för första gången i mitt liv är jag genuint oroad för vad hänsynslös kapitalistisk konkurrens kan släppa loss för totalt omvälvande teknologi.  

Finns det en gud? Så mycket vet vi att det i alla fall finns avgudar som redan nu tillbedjs.