Virginia Dignum har installerats som professor vid Umeå universitet inom social och etisk artificiell intelligens, AI. Hon är också en av de ledande forskarna i världen inom ett fält som under de senaste åren har intagit en plats på listan över de allra största och viktigaste globala framtidsfrågorna.
Foto ovan: Mattias Pettersson.
System som bygger på artificiell intelligens påverkar oss alla mer och mer. Virginia Dignum har en inställning till utvecklingen som varken andas naiv teknikoptimism eller dystopiskt tungsinne. Snarare menar hon att AI kommer att vara en omvälvande kraft, men om samhället agerar omsorgsfullt och drar nytta av den bästa kunskapen så går den kraften att tämja:
– Vi kommer att se fler och fler tillämpningar av AI som har en direkt inverkan på våra liv, och jag är övertygad om att vi – alla vi, samhället i stort – kommer att ha en mycket bättre medvetenhet om vad dessa system gör.
Olika AI-hot
Samtidigt kan möjligheterna hos alltmer kraftfull artificiell intelligens, AI, innebära nya risker och hot mot både individer och samhällen.
Vi kommer alla att uppleva hur vissa av våra arbetsuppgifter ersätts av system
Ett framtidsscenario som har debatterats intensivt handlar om att AI och robotar är på väg att ta över många jobb och göra den mänskliga arbetskraften överflödig. Virginia Dignum menar att den debatten leder fel:
– Jag pratar egentligen inte om att AI ska komma och ta våra jobb, för jag tror inte att arbeten kommer att ersättas helt och hållet. Men vi kommer alla att uppleva hur vissa av våra arbetsuppgifter ersätts av system. Vilket i grund och botten är något som har pågått de sista två hundra åren alltsedan den industriella revolutionen. Men det behöver vi vara medvetna om.
I många fall, menar Virginia Dignum, är det positivt att maskiner tar över farliga eller tråkiga arbetsuppgifter. Men det behöver föras en bred samhällsdebatt om hur våra arbeten och våra liv kommer att förändras på grund av automatiseringen.
– Hur kan vårt arbete göras ännu bättre genom samarbete med intelligenta maskiner? Och hur kan vi använda vår ökade frihet till saker som är positiva för samhället och för var och en av oss?
AI som kartlägger våra liv
En annan fråga i ropet är hotet mot den personliga integriteten när företag och andra aktörer blir allt bättre på att samla information om oss – och på att använda informationen för sina egna syften.
Dessa risker behöver tas på allvar, menar Virginia Dignum. Den tekniska kapaciteten har under några år sprungit ifrån både samhällets förståelse, och de lagar som ska slå vakt om den personliga integriteten:
– Mycket av det som AI används till idag är att samla stora mängder data – all data du kan tänka dig, egentligen. Och sedan använda AI till att hitta mönster i datan, och därmed mönster i våra liv.
– De här mönstren kan användas till att förbättra våra liv. Men väldigt ofta så ser vi att de används till att övertala oss att göra något, och det är inte säkert att vi blir medvetna om vad det är vi övertalas att göra.
När system byggda på artificiell intelligens fattar allt fler beslut som direkt påverkar användare och samhällen väcks frågor om systemens sociala, ekonomiska, politiska och etiska inverkan. Kan maskiner fatta moraliska beslut och hantera moraliska dilemman? Vilka etiska principer borde inbegripas i utvecklingen av AI-system?
I sin forskning studerar Virginia Dignum hur man kan utveckla AI-system som lever upp till det sociala ansvarstagandet, så att beslut och resultat är pålitliga och relevanta. Det innebär att utveckla teorier, modeller och verktyg som kan stötta utvecklare att kontrollera systembeteenden; att mäta vilken den sociala effekten blir, och att verifiera att beteenden följer en rad etiska principer.
Påverkar i expertgrupp på EU-nivå
När det gäller att reglera användningen av personliga data så har Europeiska unionen kommit att bli en tongivande part. EU-kommissionen har också tillsatt en tung expertgrupp om artificiell intelligens med både forskare, industriföreträdare och representanter för civilsamhället. Virginia Dignum deltar som en av 52 ledamöter.
– Jag arbetar mycket med demokratiska institutioner, dels på EU-nivå men också på nationell nivå. Målet är att folkvalda och myndigheter ska förstå sin roll och sitt ansvar för hur AI implementeras. Vi behöver säkerställa att de strategier för AI som tas fram verkligen är i linje med visionen för socialt ansvarstagande AI.
Expertgruppen fick som första uppdrag att ta fram etiska riktlinjer för artificiell intelligens, med sju krav som AI-system måste möta för att betraktas som pålitliga. Gruppen har också formulerat rekommendationer på konkreta politiska insatser och investeringar för att omsätta de etiska riktlinjerna i konkreta förändringar.
En helt ny vetenskap
Virginia Dignum har högt ställda målsättningar för det arbete som hon själv och andra forskare bedriver i samarbete med stater och politiska institutioner. Men hon menar att också forskare och universitet behöver utveckla sin approach till AI.
För att göra detta behöver vi radikalt förändra vårt sätt att ta oss an AI. Det är inte längre tillräckligt att betrakta AI som en gren av datavetetenskapen eller en ingenjörsmässig disciplin. För att handskas med konsekvenserna av AI behövs också teorier och insikter från humanistiskt och samhällsvetenskapligt håll.
– Det jag vill uppnå är att alla tillämpningar av AI är av godo för samhället i stort och i linje med våra värderingar. Och för att göra detta behöver vi radikalt förändra vårt sätt att ta oss an AI. Vi behöver inta ett mycket mer multidisciplinärt och brett förhållningssätt, säger Virginia Dignum.
– Detta är vad jag skulle vilja kalla för vetenskapen om artificiell intelligens, en ny vetenskaplig disciplin som inte bara inbegriper de datavetenskapliga aspekterna utan också andra vetenskapsområden som humaniora och samhällsvetenskap.
Sverige och Umeå leder utvecklingen
När det gäller att ta ett sådant grepp om AI-forskning, mer mångvetenskapligt och inriktat på mänskliga och samhälleliga aspekter, så spelar Umeå universitet och Virginia Dignum en nyckelroll.
Sverige har intagit en ledande position inom det här området. Men naturligtvis kan vi inte göra detta helt själva.
Wallenbergstiftelserna har inrättat det tioåriga forskningsprogrammet WASP-HS, där HS står för humaniora och samhälle. Umeå universitet är värduniversitet för programmet och Virginia Dignum dess vetenskapliga ledare:
– I Sverige har vi en växande grupp forskare som samlas runt detta. Det finns också företag och organisationer som Wallenbergstiftelserna som gör tunga investeringar i den här visionen om ansvarsfull AI och en forskning som integrerar humanistiska och samhällsvetenskapliga perspektiv.
– Jag anser att Sverige har intagit en ledande position inom det här området. Men naturligtvis kan vi inte göra detta helt själva. Det finns också mycket arbete att utföra på internationell nivå, och jag försöker göra mitt bästa för att bidra till det arbetet, säger Virginia Dignum.
