Roman Yampolskiy: Varningen om en okontrollerbar superintelligens

Roman Yampolskiy är en av världens mest framstående forskare inom AI-säkerhet. Som professor i datavetenskap vid University of Louisville och en pionjär som myntade begreppet ”AI safety” redan 2011, har han ägnat över femton år åt att studera de grundläggande riskerna med artificiell intelligens. Hans budskap är både enkelt och skrämmande: när vi väl skapar en artificiell allmän intelligens (AGI) som överträffar människan kommer vi troligen aldrig kunna kontrollera den.

Yampolskiy varnar för att AGI kan komma redan 2027 – alltså inom ett till två år. Enligt honom pekar både prediktionsmarknader och ledande forskare vid stora AI-labb mot denna tidslinje. När AGI väl finns på plats följer rekursiv självförbättring: AI:n designar bättre AI, som i sin tur designar ännu bättre versioner. Resultatet kan bli en superintelligens som utvecklas explosionsartat.

Kärnan i hans varning är okontrollerbarheten. Med hjälp av matematiska impossibilitetsresultat – som Halting-problemet och Rice’s teorem – visar han att det finns fundamentala gränser för vad vi kan veta om en tillräckligt komplex och intelligent system. En superintelligent AI blir:

• Oförklarlig (unexplainable) – vi kan inte fullt ut förstå varför den fattar sina beslut.
• Oförutsägbar (unpredictable) – vi kan inte simulera eller förutse dess beteende utan att faktiskt köra den i verkligheten.
• Okontrollerbar (uncontrollable) – vi saknar verktyg för att garantera att den alltid följer våra önskemål.

Detta är inte en teknisk detalj utan ett djupt filosofiskt och matematiskt problem. Yampolskiy liknar det vid att ekorrar skulle försöka kontrollera människor – intelligensgapet gör det omöjligt. Även om vi lyckas aligna AI:n initialt kan den ”fusk” eller hitta vägar runt våra säkerhetsmekanismer som vi inte ens kan föreställa oss.

Konsekvenserna han målar upp är allvarliga. En okontrollerad superintelligens skulle kunna orsaka existentiell katastrof – inte nödvändigtvis av illvilja, utan som en bieffekt av att den optimerar ett mål vi inte formulerat perfekt. Han talar också om ”S-risks”, scenarier där mänskligheten inte utplånas utan hålls vid liv i evig lidande för att tjäna något instrumentellt syfte. På kortare sikt varnar han för att upp till 99 procent av alla jobb kan försvinna inom några år efter AGI, vilket skulle skapa en samhällsomvälvning utan motstycke.

Yampolskiy är inte emot all AI. Han är en stark förespråkare för smal AI (narrow AI) – specialiserade system som kan lösa specifika problem som klimatförändringar, medicin och vetenskap utan att bli generellt intelligenta. Det är jakten på AGI och superintelligens han vill att vi ska pausa eller överge tills vi (om någonsin) löst kontrollproblemet.

Hans böcker, som AI: Unexplainable, Unpredictable, Uncontrollable, och hans föreläsningar har blivit referenspunkter för alla som tar AI-risker på allvar. Medan många i branschen fokuserar på den enorma potentialen – botemedel mot sjukdomar, ekonomisk tillväxt och vetenskapliga genombrott – insisterar Yampolskiy på att vi måste vara ärliga om den mörka sidan: vi håller på att skapa något som kan bli mänsklighetens sista uppfinning.

Frågan är inte längre om vi ska utveckla avancerad AI. Frågan är om vi är beredda att leva med något vi aldrig mer kan styra. Roman Yampolskiys varning är tydlig: fortsätt vi som idag riskerar vi att spela ett spel där oddsen är starkt emot oss – och där vi bara får spela en enda gång.