Kommer AI att missbrukas av människor med onda avsikter? Tar AI makten och i värsta fall utplånar mänskligheten? Eller händer inget av detta – kommer AI mest att bli ett verktyg, låt vara mer eller mindre bra och mer eller mindre pålitligt?

Hur AI ska göras pålitligt är inte lika ofta på tapeten som frågan om hur varje land med självaktning, t ex Sverige, ska kunna hävda sig i konkurrensen om utveckling och bruk av AI. Det menar i varje fall Kristian Rönn i ett inlägg på DN Debatt idag (20 mars 2025; betalvägg). Rönn verkar internationellt som AI-säkerhetsexpert och är en av författarna till en rapport som satt avtryck i bl a den brittiska regeringens AI-strategi.

Rönns farhågor gäller inte missbruk eller domedagsrisker utan kvalitet. Vi måste kunna lita på att AI är pålitligt och säkert att använda. AI får inte ställa felaktiga medicinska diagnoser eller missa trafikskyltar i självkörande bilar. Sådant har skett alldeles för ofta, säger Rönn, och hänvisar till den kanske inte så kända AI Incident Database, AIID.

Att bli framstående i AI-säkerhet är vad Sverige borde satsa på som ”AI-nation”, föreslår Rönn. Inte  att – som bl a AI-kommissionen tycks mena – försöka tävla med USA, Kina eller Frankrike när det gäller AI-utveckling i frontlinjen eller beräkningskraft. Sverige skulle här få extra draghjälp av sitt nationella varumärke där säkerhet och pålitlighet står ut, menar han.

Den andra artikeln är en intervju i Svenska Dagbladet igår med ordföranden i den svenska sektionen av aktivistorganisationen Pause AI, statsvetaren Jonathan Salter (SvD Näringsliv 19 mars 2025; betalvägg). Här står AI som mänsklighetens potentiella baneman i centrum. Salter och hans förening vill ha ett moratorium för AI-utvecklingen innan det är för sent. Det är ett förslag som förts fram bl a av den svenske MIT-professorn Max Tegmark och den likaledes svenske filosofen Nick Boström, Oxford University.

Här i FORSKNINGSNÄTET har AI tagits upp ett flertal gånger, t ex i detta refererat av ett nummer av Filosofipodden där professor Peter Gärdenfors samtalar med Lars Mogensen och Melina Tsapos om sin bok Kan AI tänka? (2024). Sök annars på ”AI” för att få fram fler av våra artiklar och notiser i ämnet.