Leyla, som är uppvuxen i Turkiet och skriver svenska som sitt tredje språk, fick aldrig chansen att berätta det. Scenariot är konstruerat. Mönstret är dokumenterat.
Detektorerna fungerar inte på svenska
Allt fler HR-avdelningar börjar använda verktyg som GPTZero, Copyleaks eller liknande för att skanna kandidattexter. Logiken är rimlig: om en ansökan är kopierad rakt från ChatGPT vill du veta det. Problemet är att verktygen är opålitliga, och att de är allra sämst på exakt den gruppen av kandidater du minst vill missbedöma.
Så här fungerar ett detektionsverktyg i korthet: det gissar om en text är AI-skriven genom att mäta hur förutsägbar och språkligt jämn den är, eftersom språkmodeller tenderar att skriva jämnare än människor. Problemet är hur ofta gissningen blir fel. GPTZero, det mest kända verktyget, har officiellt stöd för engelska, franska, spanska, tyska och portugisiska. Svenska saknas. Vi körde tio svenska texter genom GPTZero, fem skrivna av människor och fem AI-genererade. Tre av de fem mänskliga texterna flaggades felaktigt som AI, och sammanlagt fick verktyget rätt på ungefär hälften.
Hela testet redovisar vi i vår genomgång av GPTZero på svenska texter. Träffsäkerheten hamnade i paritet med en slantsingling.
Det är dåligt. Men det som sker med andraspråkstalare är värre.
61 procent av andraspråkstexter flaggas som AI
En studie från Stanford 2023 testade engelska texter skrivna av andraspråkstalare, så kallade TOEFL-essäer, och fann att detektorerna felaktigt flaggade 61 procent som AI-genererade. Studien gjordes på engelska, men felet bottnar i hur människor skriver på ett andraspråk, inte i vilket språk det gäller. Samma mönster drabbar den som skriver svenska som andraspråk. Det är inte ett marginalfel. Det är ett systematiskt mönster som går att förklara.
Detektorerna mäter förutsägbarhet och formell enhetlighet. En person som skriver på sitt andraspråk och lägger extra möda på att formulera sig korrekt och professionellt producerar text med låg variation och hög grammatisk noggrannhet. Precis vad AI-modeller tenderar att producera. Verktyget kan inte skilja de två åt.
Det betyder att de kandidater som jobbar hårdast med sin ansökan straffas av exakt den egenskapen.
Det här är en diskrimineringsrisk
Säg att du kör kandidattexter genom ett sådant verktyg och sållar bort dem som flaggas. Statistiken säger att du i 61 procent av fallen när det gäller andraspråkstalare pekar ut fel person. Du gör det ojämlikt: gruppen med utländsk bakgrund drabbas oproportionerligt jämfört med infödda skribenter.
Det är inte avsiktligt. Det följer av hur detektorerna är konstruerade. Men om du vet om problemet och ändå fortsätter har du gjort ett aktivt val som du behöver kunna försvara.
Diskrimineringslagen ställer krav på att urvalsinstrument inte missgynnar grupper på ett sätt som saknar saklig grund. "Verktyget sa så" är inte saklig grund.
Vad som faktiskt fungerar
Frågan om AI-användning i rekrytering är helt legitim. En kandidat som låtit ChatGPT skriva hela ansökan utan att ha läst igenom den avslöjar något relevant om sitt arbetssätt. Men det avslöjar du inte med en detektor.
Ställ uppföljningsfrågor i intervjun. Be kandidaten att utveckla ett resonemang från ansökan. Förstår hen vad de skrivit kan de göra det. Har de kopierat utan att läsa kan de det inte.
Fråga direkt i stället. "Hur använde du AI i den här ansökan?" är en bättre fråga än att köra texten genom ett verktyg i smyg. Du får ett riktigt svar. Du signalerar att AI-assisterat skrivande inte är automatiskt diskvalificerande, utan hur det används som räknas. Och du undviker att fatta beslut grundade på ett procenttal som du inte kan försvara.
Ge ett skriftligt moment med tidsram i processen. Kompendium, kortare analys, ett mejl med instruktioner. Det avslöjar mer om skrivförmågan än ett hemskrivet personligt brev.
Bedöm kompetensen, inte processen. En välformulerad ansökan är en signal, inte ett prov. Vad du vill veta är om kandidaten kan göra jobbet.
En sak att agera på imorgon
Om du idag använder en AI-detektor i ditt kandidaturval: sluta med det.
Inte för att ignorera AI-frågan, utan för att du med hög sannolikhet väljer bort kandidater på fel grunder, och att du gör det oproportionerligt mot just de kandidater verktyget är sämst på att bedöma.
Vill du veta om en kandidat tänker och kommunicerar på ett sätt som passar rollen? Testa det med uppgifter och samtal. Detektorn ersätter inte det.
David Mellheden
Om David Mellheden
David Mellheden är grundare av AIkompassen.com och medgrundare av Norrminds. Med AIkompassen vill han göra AI mer begripligt, relevant och tillgängligt för fler. Genom Norrminds hjälper han företag att ta vara på möjligheterna med AI och skapa verklig utveckling. Hans driv ligger i att inspirera fler att förstå, våga testa och omsätta nya idéer till konkret nytta.
