Blev otroligt glad över det senaste öppna brevet. Så glad att jag glatt skrev under. Äntligen är det ett brev som låter vettigt och rimligt, vi behöver få upp AI på den globala agendan och säkerställa att vi har väl valda värden som AI står för. Det här är en diskussion som är viktig för hela världen och som kräver alla stormakters involvering.
“Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.”
Så lyssnar jag på 30 minuter med Max Tegmark…
Det är ingen tvekan om att Max Tegmark, den uppburna fysikprofessorn och AI-forskaren, är en briljant man. Men när han igår hävdade att mänskligheten har 50 procent chans att utrotas av AI, kände jag mig mer förvirrad än skrämd. Jag tror att det enda han försöker göra är att säga “jag vet inte” utan att säga “jag vet inte” Vilket också blir tydligt när han får frågor och famlar vidare i samtalet.
Så var kommer Tegmarks 50 procent ifrån? Kanske det är ett resultat av hans fysiska beräkningar, eller så är det helt enkelt taget ut röven.
Tegmark försöker skrämma oss med historien om neandertalarna, men de blev utrotade för att de utgjorde ett hot mot oss. Vi pratar om AI som är oändligt mer intelligent än vi. Att vi skulle vara ett hot mot AI’n som är så mycket intelligentare än oss, det tror jag inte ens att Max Tegmark själv tror på då det går emot hela hans resonemang.
När vi tar steget till Amazonas, blir argumentationen ännu mer knepig. Ja, människans girighet och brist på respekt för naturen har ställt till det rejält. Men den AI vi talar om är inte mänsklig. Den är inte begränsad av vår biologi, våra uråldriga emotionella framsvarvade drifter att överleva och expandera. Den är inte heller begränsad av vår brådska, som om den försöker vinna en biljett till pensionärskryssningen på Mälaren.
Enda risken att den skulle löpa amok och börja slarva eller förstöra saker är om någon klämde ur sig att det var 50% chans att den skulle bli utrotad om den inte agerade snabbt nog.
Kollar vi på utrotningen av djur som vi som överlägsen ras har åsamkat så är det såklart inte alls bra. Våra drivkrafter har vart förödande för otroligt många arter. Strävan efter att vara bättre än varandra och få vår vilja fram mer än någon annans har vart förödande, vår interna tävling har gjort att andra har hamnat på sidan om och blivit drabbade. Det har gått så illa att vi har utrotat ca 7% av alla arter. Men även om jag mot sunt förnuft anammar den här kedjan av tankar, så är vi otroligt långt ifrån 50%, ska vi avrunda så är vi mycket närmare 0% än 50%. Båda alternativen är lika fel. Kan vi bara hålla oss korrekt?
Vart är Elon Musks sanningssägande anti-woke-bot när vi behöver den!?
Skämt åsido, samtidigt finns problematik och därför är det viktigt att vi får upp det på agendan, för att säkerställa att den strävan inte fortsätter att ställa till det i takt med att AI-tillverkarna börjar tävla mot varandra. Vi måste se till att alla får ta del av vinningen, inte bara de otroligt få på toppen som nu sitter och drar i trådarna.
