Jonas Ivarsson.

Jonas Ivarsson: Förståelse för tillit och artificiell intelligens

Jonas Ivarsson

Jonas Ivarsson, Göteborgs universitet, är projektledare inom WASP-HS för projektet Professional trust and autonomous systems. Här berättar han mer om sina förväntningar på WASP-HS programmet.

Hur betyder det för dig att vara en del av WASP-HS?

Först och främst kommer det att göra det möjligt för mig att arbeta med frågor som jag ser är viktiga för framtiden kring förtroende och kompetens. På ett bredare plan kommer WASP-HS som program att erbjuda en rik miljö där vi kan utveckla och diskutera nya idéer. Jag ser fram emot många samarbeten och aktiviteter i olika projekt.

Vilka är dina förväntningar på WASP-HS?

En av mina förhoppningar med detta initiativ är att en större grupp av forskare från andra områden än det tekniska nu får möjlighet att arbeta med och lära sig mer om de tekniska grunderna för AI. Jag menar att vi måste förvärva denna djupa förståelse av AI för att vi på djupet ska kunna ha en kritisk diskussion om de samhälleliga konsekvenserna. Som forskare måste vi bli delaktiga för att våra röster ska höras, den typ av finansiering och fokus som ges genom WASP-HS erbjuder en utmärkt möjlighet för detta.

Vad vill du att ditt eget projekt ska leda till?

Vi hoppas kunna få en större förståelse för hur tillit och förtroende i förhållande till de transformativa effekterna på samhället kan kopplas till artificiell intelligens och autonoma system. Vi vill förstå de unika behoven av tillit och förtroende som behövs i de processer som kommer med nya system. Vi kommer att studera hur misstro uppstår, hur risker hanteras och hur frågor kring ansvar diskuteras och hanteras.

Syftet med projektet är att utveckla ansvarsfull forskningsdesign som kan leda framtida forskning inom områden där maskininlärning påverkar professionell praktik. Vi är medvetna om att de frågor som besvaras av denna forskning bara kan ge några svar på den mycket större frågan om hur tekniska förändringar kan hanteras på ett stabilt sätt. Men kanske kan detta arbete identifiera några viktiga metoder som kan motverka känslor av osäkerhet och motsägelser, för att ge ordning i ett förändrat landskap. Sådan förståelse kan då inverka på ett brett spektrum av förutsättningar och situationer.

Doktorandtjänster kopplat till projektet Professional trust and autonomous systems:
Fair, accountable, and transparent methods for trustworthy machines
Trust and competence in the age of artificial intelligence