Remissvar från AI Policy Lab på Umeå universitet
AI Policy Lab vid Umeå universitet, med Virginia Dignum i spetsen, har skrivit ett remissvar där de ifrågasätter den tilltro AI-kommissionen sätter till tekniken utan att tillräckligt ifrågasätta om den kommer leva upp till utlovade resultat.
Remissvaret är uppdelat i flertalet områden, och vi har valt ut några exempel:
- Beräkningskraft – mer fokus på att främja utvecklingen av mindre modeller efterfrågas, samt kompensation till de som påverkas av etablering av datacenter.
- Data som en förutsättning för AI-utvecklingen – en datadelning mellan myndigheter kan undergräva allmänhetens tilltro, och principerna måste vara förankrade i grundläggande mänskliga rättigheter – fokus bör vara på delning inom myndigheter. Ändamålsglidning lyfts särskilt som en risk.
- AI och samhällets säkerhet – prioritera digital suveränitet och minska riskerna det innebär när kritisk digital infrastruktur tillhandahålls av tredje part.
- Spetsforskning i samverkan – incitament för att rekrytera och behålla akademisk arbetskraft bör ses över.
- Tillgång till internationella AI-resurser – tydligare satsningar på nationellt kontrollerad teknik efterfrågas.
- Kompetenslyft för alla – gå från idén om AI som enbart ett verktyg för näringsliv och offentlig sektor till att vara en demokratifråga med fokus på digital delaktighet för hela befolkningen.
- AI för en offentlig sektor – det behövs utrymme för starkare visselblåsarfunktioner, både inom offentlig och privat sektor.
"Med kompetens kan [regionala och kommunala förvaltningar] bättre avgöra när och var det är lämpligt med AI, men att skapa incitamentstrukturer som avser att öka användningen av AI oavsett dess lämplighet kan snabbt slå fel."
Virginia Dignums medförfattare är Adam Dahlgren Lindström, Petter Ericson, och Tatjana Titareva.
Två frågor till AI Policy Lab
Varför valde ni att avge ett remissvar?
Vi ser det som en del av vårt kärnarbete inom tredje uppgiften att aktivt
bidra till både samhällsdebatt och samhällets utveckling genom den här
typen av remissvar. En extra motivation var dessutom att Umeå Universitet
inte hade tillfrågats som remissinstans, så då var det här vårt tydligaste
och enklaste sätt att ha inflytade på AI-färdplanens införande.
Vilka punkter i svaret skulle ni särskilt vilja lyfta fram?
Det är väl egentligen tre sammanvävda punkter vi särskilt skulle vilja
poängtera: Färdplanen är väldigt teknikoptimistisk och har ett starkt fokus
framförallt på teknik framför politik, vilket har ett antal följdeffekter.
Ett exempel på detta är att det visserligen lyfts fram i någon mån att det
inte är helt positivt med den stora amerikanska dominansen inom
AI-infrastruktur, men vi anser att det inte tillräckligt talas om vikten av
digital suveränitet, med både inhemsk och europeisk kapacitet, forskning,
och infrastruktur, utan det istället finns ett antal formuleringar om
vikten för svensk industri att ha fortsatt tillgång till amerikansk
infrastruktur och tjänster, och att europeisk och svensk
dataskyddslagstiftning ses som ett problematiskt hinder för detta.
Det är i nuläget kanske extra relevant med tanke på samhällskritiska
tjänster, där till exempel grannländer som Danmark nyligen vidtagit
åtgärder för att bryta beroenden av utländsk, ffa Amerikanskägd
infrastruktur och mjukvara.
Dessutom läggs i stort sett ingen vikt vid risken för att AI-bubblan skulle
spricka, vilket skulle kunna ha enorma följdeffekter på de åtgärder som
Färdplanen föreslår.
Även inrikespolitiska hänsyn gällande negativ användning av AI är
nedprioriterade i Färdplanen, och vi har lagt ett antal modererande förslag
för att begränsa riskabel datadelning inom och mellan myndigheten, där vi
anser att det är viktigt att både ta i beaktande aktivt missbruk såväl som
risken för detta, och den minska tilltro till myndigheterna som då lätt kan
uppstå bland folket.
