Fredrik Haage: Ett AI-beslut lätt att fatta
I värsta fall, alltså. Vi vet inte vad som kommer att hända. Men att vi inte kan utesluta det är ju dramatiskt nog. AI är nu så utvecklad, och utvecklas så snabbt, att vi inte förmår överblicka det närmaste skeendet.
Hittills har AI presenterats för den breda allmänheten mest i form av manipulerade bilder på sociala medier och tillgängliga chatbotar. Uppgifter om hur studenter fuskat på tentor med dess hjälp förekommer också. Men så även visioner om allt positivt som kan åstadkommas. Kanske kan vi räkna med banbrytande framsteg inom medicinsk forskning, kanske inom kemi och fysik. Tanken svindlar inför vad AI kan uträtta inom arkeologin. Och förstås en massa annat.
Men allt detta bleknar förstås inför utsikten att vi är i färd med att släppa loss en kraft som vi inte kontrollerar och att det kan få katastrofala följder. Därför cirkulerar sedan en tid ett öppet brev med över tusen undertecknare med krav på att pausa all utveckling av AI under ett halvår, på det att mänskligheten får tid att utvärdera och anpassa sig till det nya fenomenet.
Det är ett historiskt sett mycket ovanligt upprop. Det innefattar nämligen många finansmoguler och high tech-profiler, alltså i princip representanter för sådana som drivit AI till dess nuvarande punkt. Teslas vd Elon Musk och Apples medgrundare Steve Wozniak finns bland undertecknarna. Normalt är det förmodade förlorare på en innovation som vill sätta stopp för den men inte i det här fallet. Det gör onekligen att varningen får en särskilt olycksbådande klang.
”Allt detta bleknar förstås inför utsikten att vi är i färd med att släppa loss en kraft som vi inte kontrollerar.”
Det finns ett missförstånd och det är att en del verkar tro att en artificiell intelligens har rätt enbart för att den är artificiell. Men ju mer komplex den informationsmassa den ska hantera är, desto större risk att den stöter på data som har med mänsklig snarare än matematisk verklighet att göra, och att slutavvägningen blir korrekt men fel. Redan i dag är algoritmer så sofistikerade att de ofta opererar utanför skaparnas avsikter. En framtida AI behöver inte ha en ”avsikt” att underminera det mänskliga samhället, det kan ske genom dess försorg i alla fall.
Kritiska röster har pekat på att Elon Musk minsann själv har ett AI-labb och kanske bara vill ”komma i kapp”, men det är verkligen ett futtigt huvudbry i det här läget. Konsekvenserna av att inte ta brevets undertecknare på allvar kan i ordets starkaste mening vara ödesdigra.
Frågan kan ställas så här: Vad förlorar vi på att stoppa utvecklingen några månader, ta ett steg tillbaka och skaffa oss en överblick över en accelererande AI:s konsekvenser?
Svaret är – ingenting. Absolut ingenting.
I andra vågskålen ligger ett potentiellt hot mot civilisationen. Ibland är kloka beslut lätta att fatta. Det här är en sådan situation.
