Bias i AI-modeller handlar om systematiska fel eller snedvridningar i hur beslut fattas. Bias kan få allvarliga konsekvenser, exempelvis diskriminerande rekryteringssystem.
Ansvarsfull och inkluderande AI kräver ett helhetsgrepp.
Hur vanligt är det att företag arbetar för att öka medvetenheten om AI-bias?
Medvetenhet om AI-bias varierar mycket mellan olika organisationer, men jag ser glädjande nog, både i Sverige och globalt, ett ökande fokus på ansvarsfull innovation. Särskilt efter införandet av EUs AI-förordning.
På SAS genomförde vi förra året en global undersökning som visade på att de flesta organisationer arbetar med AI på olika sätt. Men även om medvetenheten om AI-bias ökat är det väldigt få, bara ca 5% av bolagen i undersökningen som har funktionalitet på plats för att faktiskt hantera bias och integritetsrisker.
Vilka konkreta åtgärder behöver man ta?
Alla ledare behöver driva en inkluderande AI-agenda genom att förespråka mångfald i AI-utvecklingsteam. AI är beroende av balanserade perspektiv där kön är en av flera viktiga aspekter.
Hur kan kvinnor i ledande roller bidra?
Det är viktigt att vi som kvinnor i ledande roller agerar förebilder och mentorer för att inspirera fler kvinnor att ta plats inom AI och teknik och därmed bidra till den balansen.
Hur ofta behöver man genomföra bias- och rättvisetester på sina AI-system?
Man bör ha mekanismer och teknikstöd på plats för att identifiera och hantera bias löpande. AI-system är dynamiska och självlärande, vilket innebär att deras beteende förändras över tid beroende på ny data och förändrade omvärldsfaktorer.
Något som ser bra ut vid produktionssättning, kan snabbt förändras. Hur snabbt beror såklart på applikationsområdet för AI-systemet.
Dina bästa tips för hur man kan upptäcka och reducera bias i AI-modeller?
Mitt viktigaste tips är att tänka till före och planera för ansvarsfull AI. Ansvarsfull och inkluderande AI kräver ett helhetsgrepp som kombinerar styrning, transparenta processer och teknikstöd. Vad gäller tekniken så behöver man ha en AI-plattform med funktionalitet på plats som stöttar en trygg och ansvarsfull AI-utveckling och användning genom hela AI-livscykeln från data till beslut och även över tid.
- Grunden för rättvis AI ligger i data. Man behöver kunna säkerställa kvalitet, skydda känsligt data och säkerställa representation av alla tilltänkta användargrupper i träningsdata.
- Modellerna behöver vara transparenta och förklarbara om man ska kunna lita på AI för beslutsfattande.
- Bias behöver både kunna identifieras och hanteras effektivt.
- Modeller behöver anpassas till den verklighet vi har just nu. För att kunna prestera rätt och rättvist över tid, behöver de kontinuerlig uppföljning och hantering.
Utöver detta behövs en stöttande företagskultur. Det bör finnas en kunskapsnivå, medvetenhet och uppmärksamhet hos hela organisationen för att minimera risker och se till att AI på riktigt är ansvarsfull.
Som avslutning vill jag understryka att ansvarsfull innovation kräver ansvarsfulla innovatörer. Genom att prioritera ansvarsfull AI-utveckling och -användning kan vi säkerställa att AI bidrar till samhällets bästa och faktiskt är till nytta för alla.
Berätta om dig själv. Vem är Josefin Rosén?
Jag är en AI-tjej som arbetar i en global roll på SAS Institute som företagets ”Principal Trustworthy AI Specialist” och som sedan många år engagerat arbetat för att AI utvecklas och användas på ett rättvist, transparent och pålitligt sätt. Mitt mål är att AI alltid ska vara inkluderande, ansvarsfull och ha människan i centrum.
Jag har drygt 20 års erfarenhet inom AI-området och har uppmärksammats i många sammanhang som jag är stolt över, t ex som AI Ethics Professional of the Year, finalist i Årets AI-svensk och på Tech50-listan som tech-influencer.
Min bakgrund är ursprungligen inom farmaci - jag är legitimerad apotekare med en doktorsexamen i kemometri från Farmaceutiska fakulteten vid Uppsala universitet.
Jag bor i Bromma med min man, våra två döttrar och katt. Fritiden spenderar jag mestadels i stallet. Hästar och ridning är ett intresse som hela familjen delar.
Annika Hegardt
