Vilka talanger är det som krävs idag för att utveckla AI på ett ansvarsfullt sätt inom företag och organisationer? Josefin Rosén, AI-expert på SAS Institute, svarar på ett antal frågor exklusivt för HRnytt.
Berätta om dig själv. Vem är Josefin Rosén?
Jag leder det Nordiska AI-teamet på mjukvarubolaget SAS Institute där jag varje dag får anledning att fascineras av allt bra man kan göra med AI. Samtidigt ser jag det som ett av mina (och mitt teams) allra viktigaste uppgifter att skapa medvetenhet också kring vikten av etiska aspekter kring AI-utveckling.
Jag har mer än 15 års erfarenhet inom AI och har en kanske lite ovanlig bakgrund som legitimerad apotekare och en doktorsexamen från farmaceutiska fakulteten i Uppsala.
Jag bor med mina två döttrar och man i villa i Bromma och kommer på mina bästa idéer när jag springer, är i stallet eller fixar i trädgården.
Berätta allmänt om AI och dess olika användningsområden
AI används idag inom de allra flesta områden på ett företag. Oftast handlar det om att göra saker enklare, snabbare, mer lönsamma eller mer effektiva. Vi ser också hur AI i allt större utsträckning är med och tar viktiga beslut i alla delar av samhället. Även inom känsliga områden där besluten potentiellt kan ha en stor inverkan på individen, t ex beslut om kredit, bidrag, förmåner, medicinsk behandling, diagnoser, vem som ska bli antagen till en utbildning eller gå vidare i en rekryteringsprocess. Det har aldrig varit viktigare att se till att man utvecklar och använder AI ansvarsfullt.
Hur skulle du beskriva ansvarsfull användning av AI?
Ansvarsfull AI är ett ramverk, kan man säga, för hur man hanterar utmaningar kring AI för att se till att man inte medvetet eller omedvetet skadar någon med AI. Vad man inkluderar i ramverket varierar lite från företag till företag. Men oftast tittar man på aspekter såsom diskriminering och bias, säkerhet, tillförlitlighet, dataintegritet, transparens, förklarbarhet och ansvar. Än så länge finns ju inget regelverk att förhålla sig till, men EU-kommissionen la som säkert bekant tidigare i år fram ett förslag på en första AI-förordning och liknande är på gång i många delar av världen.
Det ämne som kanske oftast kommer upp i diskussionen om ansvarsfull AI är bias - partiskhet. Som människor är vi partiska av naturen, vilket inte alls bara är negativt. Vi behöver bias för att kunna navigera bland alla de miljontals val vi tvingas göra hela tiden i vår omgivning. Faran ligger i att våra omedvetna bias också kan vara diskriminerande fördomar. Att detta är intressant i den här diskussionen beror på att våra bias och då även våra eventuella fördomar lätt förs över till AI-systemen. En av huvudkomponenterna i den AI vi har idag är maskinlärande algoritmer och de lär sig per definition från det data de får träna på. Data som ofta är baserad på en tidigare manuell process, där besluten tagits av t ex en handläggare. När vi tränar våra algoritmer på det underlaget lär de sig också våra fördomar.
Det är en sak om en enda individ fattar ett orättvist eller diskriminerande beslut, men när vi skalar upp och operationaliserar AI innebär det att applikationerna kan fatta tusentals beslut varje minut. AI fungerar som en förstärkare av våra eventuella fördomar här. Vilket innebär att små fel snabbt blir väldigt stora fel.
Det behöver vara ett helt team som i så mångaavseenden som möjligt speglar mångfald.
Vilka mjuka värden skulle du beskriva som är av betydelsefulla om AI ska bli etisk och hållbar?
Kommunikationsfärdigheter, social förmåga och empati är exempel på mjuka värden som är betydelsefulla här av flera anledningar.Jag får ofta frågan vem som egentligen bör äga AI i en organisation. Och jag brukar svara att det inte handlar om en ensam person utan att det behöver vara ett helt team som i så många avseenden som möjligt speglar mångfald. Mångfald i form av t ex ålder, kön, bakgrund, kultur, färdigheter och kunskaper. Dels får man på så sätt en oerhört bredd av kompetens och idéer in i teamet, men mångfalden har också en väldigt viktig uppgift att fungera som ett skydd mot att individuella bias och fördomar speglas i data och därmed applikationerna. När många olika personlighetstyper med olika bakgrund ska fungera tillsammans blir empati, förmåga att kunna samarbeta och kommunicera såklart viktiga egenskaper.
Samarbets- och kommunikationsförmågan är också viktig då vi måste skapa medvetenhet runt vikten av ansvarsfull utveckling av AI internt och externt, och se till att tekniken blir en central del av företagets innovationsstrategi. Vi kommer i allt större utsträckning få vänja oss vid att även arbeta tillsammans med en helt ny typ av medarbetare, nämligen AI.
AI kan ju ofta klara av uppgifter snabbare, bättre och effektivare än oss, men vi som människor kommer alltid ha en viktig roll när det gäller att sätta saker i sitt sammanhang, och att säkerställa kommunikation mellan slutanvändare, organisationen för AI och det tekniska ramverket genom att hjälpa till att förklara begrepp och utfall kopplade till AI och maskininlärning som i många fall är komplicerade och abstrakta. Särskilt i de fall där det är känsligt för individen. Det här är viktigt för att medborgarna ska våga lita på AI och för att vi ska kunna bygga in tillit och transparens i våra affärsmodeller.
Hur kan AI användas inom HR?
Inom de allra flesta områden, och då även inom HR är AI bra på att ta hand om enkla, enformiga, repetitiva, tidskrävande uppgifter som olika typer av administration. Inom HR skulle det kunna handla om schemaläggning av intervjuer, sortering av ansökningar, eller att hjälpa till vid onboarding genom att t ex svara på vanliga frågor. En AI kan arbeta mycket fortare än en person, och blir inte trött. På så sätt kan man snabba på processen och frigöra tid för uppgifter som kräver mer mänskliga egenskaper.
Man kan proaktivt arbeta med att behålla sina anställda genom att använda NLP (natural language processing), som är en gren av AI som analyserar text och språk, i kombination med maskininlärning för att analysera undersökningar och feedback från anställda, och på så sätt få insikter om vad som är bra alternativt behöver ändras på för att de anställda ska trivas. Man kan också analysera vad som historiskt karakteriserat dem som lämnat bolaget, tillsammans med till exempel frånvarodata och prestationsdata, och baserat på det bygga modeller som identifierar anställda där det finns en högre risk att man säger upp sig. Detta möjliggör för HR att proaktivt engagera sig för behålla de anställda.
Sist men inte minst, det man kanske först tänker på är rekrytering. Här kan AI användas på flera sätt för att få in fler kvalificerade kandidater med hög potential tidigt i processen och därmed förkorta rekryteringsprocessen. Man kan använda sig av NLP och maskininlärning för att automatiskt gå igenom CVs och identifiera kandidater som matchar en önskad profil och även använda digitala assistenter/chatbots i tester och intervjuer. Här är det viktigt att man ser upp så att man inte bara letar efter egenskaper man redan har på plats. AI kan hjälpa till att vidga vyerna genom att analysera och identifiera ibland överraskande aspekter när det gäller vad som kännetecknar de som presterar bra historiskt.
Rekrytering är ett område där det gäller att se upp med bias. Det ligger i vår mänskliga natur att ha förutfattade meningar och att bilda oss en uppfattning om någon redan när vi ser den på håll. Man måste se till att ha bra data och att vara väldigt försiktig med hur man använder det. Tänk t ex att du vill rekrytera en ingenjör med hjälp av ett AI-rekryteringsverktyg. Algoritmerna tränas som sagt på historiska data och historiskt sett har ju män dominerat ingenjörsvärlden. Om man inte ser upp med vilka variabler man har med och hur man balanserar träningsdata, är det därför stor risk att systemet i huvudsak kommer att föreslå manliga kandidater framför likvärdiga och till och med bättre kvinnliga sökanden.
Berätta mer om AI som resurs vid fattandet av olika beslut på ledningsnivå
Så länge man har relevant, representativt data av bra kvalitet för den population och det område där applikationen är tänkt att användas (och som såklart inte bryter mot GDPR), kan AI användas för alla typer av beslutsfattande.
Generellt behöver dagens ledningsgrupper kunskap och medvetenhet om AI. Både vad gäller fördelar men också risker och moraliska utmaningar. Ledningsgruppen är dom första i organisationen som behöver förstå och anamma ett nytt förhållningssätt till maskiner, inte minst för att kunna vägleda sina medarbetare i nya arbetssätt och förändrade beteenden. Som jag tidigare nämnde så behöver vi framöver vänja oss vid att arbeta tillsammans med AI. Ledare måste därför ta till sig denna nya relation och hjälpa sina anställda att förstå fördelarna med att arbeta tillsammans med maskinerna för att uppnå bättre resultat.
Vad ser du framöver för spännande nyheter inom AI?
Vi ser redan i år hur många rör sig från isolerade mindre AI-projekt mot operationalisering och uppskalning av AI och detta kommer träda i full kraft under året tror jag. AI blir allt mer en central och viktig del i det mesta vi gör. Att träna en bra modell är ju bara det första steget på resan mot att skapa värde med AI. Det verkliga värdet kommer när vi implementerar modellerna och börjar använda dem i ett affärssammanhang.
När vi i allt större och bredare grad börja använda AI mer industrialiserat blir frågan om ansvarsfull AI ännu mer relevant. Jag tror att vi närmsta året kommer se många diskussioner och anpassningar som rör en mer systematiskt reglering av AI. Den AI-förordning som EU-kommissionen föreslog tidigare i år är som jag ser det en oerhört viktig milstolpe är det kommer till att få medborgarna att lita på och känna sig trygga med att använda AI. Den kommer också vara avgörande för att ansvarsfull AI går från att bara vara principer och ramverk till att faktiskt, som sagt, tvinga oss att bygga in tillförlitlighet och transparens i våra affärsmodeller och bidra till att ansvarsfull AI hamnar högre upp på agendan och blir en central del av många företags strategi och innovation. Företag som har integrerat ansvarsfull AI i sina processer redan från början kommer få ett försprång eftersom man lägger mer och mer vikt vid dessa frågor.
Jag tror också att vi kommer se en snabbt ökande grad av individanpassning när det gäller AI med allt från större kundcentrering, med mer relevanta personliga kunderbjudanden, eller mer relevanta utbildnings och jobbförslag, till individanpassad behandling av patienter inom hälso- och sjukvård baserat på faktorer som gener, miljö och livsstil.
