AI-baserad kontextuell kommunikation: Konsekvenser för individ och samhälle

Projektet belyser konsekvenserna för individ och samhälle när artificiell intelligens (AI) används i stigande grad för att placera budskap i digitala medier. Frågan har aktualiserats av annonsindustrins handel med personliga data. Ett välkänt exempel är den brittiska byrån Cambridge Analytica som analyserade miljontals människors inlägg på Facebook i syfte att automatisera politisk annonsering. Byrån valde ut väljare som ännu inte bestämt sig och riktade sin annonsering mot denna relativt mottagliga grupp. Dialogen som följde i kölvattnet av skandalen har lett till ett ökat intresse för alternativa, icke-invasiva, former av digital kommunikation, där kontextuell kommunikation växer starkt.

Kontextuell kommunikation kan lösa många av de problem som associeras med personaliserad kommunikation, som rör integritet, diskriminering och inverkan på demokratiska processer. Samtidigt kan den nya tekniken medföra nya och potentiellt allvarligare problem då AI-systemen genom så-kallad semantisk analys får en djupare förståelse för människors mediekonsumtion.

I detta projekt studerar vi användarens attityder och beteende för att förstå implikationerna av AI-baserad kontextuell kommunikation för individen, och i förlängningen, för samhället i stort. Våra forskningsfrågor rör (i) integritet och förtroende; (ii) individers egna uppfattningar om sina reaktioner på kontextuell kommunikation kontra faktiska reaktioner; (iii) kommunikationseffektivitet uttryckt i informationsupptag, varumärkesigenkänning m.m., och (iv) inverkan på demokratiska processer.

Projektet etablerar AI-baserad kontextuell kommunikation som ett nytt forskningsområde. Vi har en mångvetenskaplig ansats som engagerar forskare från samhällsvetenskap, datavetenskap, beteendevetenskap och ekonomi. I utförandet kombineras kvantitativ och kvalitativ metod: Vi genomför studier och datainsamlingar på digitala nyhetsplattformar med aktiv annonsering, och kompletterar dessa med experiment som inbegriper bland annat ögonspårning, användartester och mätning av emotionell respons.

Arbetet mynnar ut i en teori om AI-driven kontextuell kommunikation som gör det möjligt att använda den nya tekniken på ett effektivt och ansvarsfullt vis.

Forskningsledare: Johanna Björklund, docent, Umeå universitet
Biträdande forskningsledare: Sara Leckner, universitetslektor, Malmö Universitet

Projektmedlemmar:
Jesper Strömbäck, Professor, Göteborgs Universitet
Richard Wahlund, Professor, Stockholms Handelshögskola

1 januari 2021 till 31 december 2023
Finansiering
Marianne och Marcus Wallenbergs Stiftelse