Latest / Gästen Först / Dagen reglerna skulle ha kommit
Transcript
- Klockan var strax efter fyra en tisdag i juni och jag satt kvar på kontoret när de flesta redan gått hem för dagen. Lysrören surrade svagt över mig, kaffekoppen på skrivbordet hade kallnat för länge sedan och genom fönstret såg jag parkeringen tömmas bil för bil medan jag fortfarande satt kvar. Framför mig låg ett upphandlingsunderlag där en leverantör föreslog ett AI-verktyg för att sortera bidragsansökningar automatiskt. Sortera bort de svagaste innan en människa ens hunnit titta på dem. Jag hade läst in mig på reglerna i månader, printat ut sammanfattningar, understrukit och klistrat lappar i marginalen. Visste exakt vilka krav som skulle gälla från och med den här veckan i augusti. Dokumentation som gick att spåra i efterhand, mänskligt överseende på riktigt, inte bara på papper i ett avtal ingen läser förrän det redan gått fel. Rätten att få ett automatiserat beslut granskat av en människa som faktiskt kunde ändra det, inte bara skriva under det. Jag hade förberett mig för att ställa precis de där kraven på leverantören, ord för ord, med lagtexten öppen bredvid mig på skärmen. Och så fick jag mejlet samma eftermiddag. Reglerna sköts upp. Inte en vecka, inte en månad, sexton månader. Jag satt kvar på kontoret länge efter att alla andra gått hem. Lysrören surrade fortfarande och det enda jag kunde tänka på var vilka som redan sorterats bort av system som ingen någonsin behövde granska på riktigt under tiden vi väntade på att lagen till slut ska hinna ikapp. Marie, den bilden av dig ensam på kontoret sent en tisdag med lysrören surrande och en kallnad kaffekopp bredvid dig stannar kvar hos mig och jag vill inte skynda oss förbi den. Välkommen till Gästen först. Jag är Olivia. Idag är det inget vanligt samtal om ett verktyg eller en trend, utan om ett datum som faktiskt skulle ha spelat roll den här veckan för riktiga människor i riktiga kommuner runt om i landet. Med mig har jag Marie och Philip. Båda är gestaltade röster, spelade av AI, och de står för erfarenheter som många delar utan att vara kopplade till en enskild verklig person, kommun eller ett företag. Marie jobbar med upphandling i en svensk kommun och skulle ha varit en av de första att följa de nya högriskreglerna för AI från och med i dag. Philip bygger den här sortens teknik för företag och tycker att uppskjutningen är det ärliga valet, även om det inte är det bekväma. Ni har båda läst exakt samma nyhet den här veckan, fast från helt olika stolar, med helt olika saker på spel. EU:s högriskregler för AI skulle ha blivit lag i dag, den här veckan, men sköts upp till december 2027. Philip, du bygger det här för en lyssnares skull, som kanske aldrig läst en enda paragraf i lagtexten. Kan du förklara vad som egentligen ändrades och varför just den här veckan känns så laddad? Ja, och jag förstår att det låter dramatiskt sagt så rakt upp och ner. Men låt mig börja med själva beslutet innan vi går in i vad det betyder för någon som Marie i sin vardag. EU:s råd gav sitt slutgiltiga grönljus den 29 juni i år att skjuta upp högriskreglerna för de AI-system som räknas som högrisk enligt bilaga tre. Efter månader av diskussion bakom stängda dörrar som de flesta av oss aldrig fick följa. Nytt datum är den andra december 2027, drygt ett år från nu räknat från den här inspelningen. Reglerna skulle ha blivit tillämpliga precis den här veckan, den andra augusti. Exakt samma vecka som vi spelar in det här samtalet, vilket känns nästan overkligt när man säger det högt. Det är ingen slump att det känns aktuellt. Det är bokstavligen dagen det skulle ha hänt, dagen då kraven skulle ha börjat gälla på riktigt för alla de system Marie och hennes kollegor upphandlar varje vecka. Och för AI som byggs in direkt i produkter, saker som redan sitter i maskiner och system runt omkring oss utan att vi tänker på det, gäller ett annat datum längre fram, den andra augusti 2028. Så det är inte ett enda uppskjutet datum. Det är två olika sorters system med var sin egen klocka och båda tickar långsammare än planerat. Min poäng, och jag vet att Marie kommer utmana mig på den här direkt, är att en regel som företag och myndigheter inte hinner bygga system för att följa på riktigt, inte skyddar någon bättre bara för att den står i lagtexten från och med ett visst datum på ett papper någonstans. Men vänta nu Philip, för då tycker jag faktiskt du har fel. Eller i alla fall att du hoppar över den viktigaste delen av det här. Du pratar om systemen som om de är det som väntar. Men det är inte systemen som väntar. Det är människorna som systemen fattar beslut om. Högriskreglerna handlar inte om någon teoretisk framtid. De omfattar rekrytering, kreditbedömning, utbildning och gränskontroll. Sånt som påverkar om någon får ett jobb, ett lån, en plats på en utbildning eller blir stoppad vid en gräns utan att riktigt förstå varför. Det är människor med namn och personnummer, inte abstrakta testfall i en utvecklingsmiljö någonstans långt bort från deras vardag. Tänk dig en ensamstående förälder som söker försörjningsstöd och vars ansökan sorteras ner i en hög av ett system som tränats på gamla mönster, gamla fördomar, utan att någon handläggare hinner titta på just det fallet förrän det redan fått ett automatiskt avslag. Regeln fanns, den bara började inte gälla. Och under de här sexton månaderna, medan ni får mer tid att bygga bättre system, så fortsätter samma sortering, samma automatiska bedömningar att pågå precis som förut, fast utan det mänskliga överseende som skulle ha blivit obligatoriskt från och med i dag. Vem är det egentligen som får mer tid här, Philip? Är det ni som bygger eller är det bara riskerna som får mer tid att sprida sig innan någon tvingas granska dem på riktigt, dag efter dag medan klockan bara går? Det där sitter i mig, Marie, och jag vill inte bara vifta bort det för att det känns obekvämt att höra sagt så rakt med ett så konkret exempel. Du har rätt i att det är människor det handlar om, inte system i en testmiljö någonstans. Men jag står fortfarande vid min poäng, även om jag hör hur den låter nu. En regel ingen faktiskt hinner följa på riktigt med rätt dokumentation, rätt mänskligt överseende inbyggt i hur besluten faktiskt fattas, ger en falsk trygghet. Jag har själv suttit i projekt där ett företag lagt till en knapp som säger godkänd av handläggare utan att handläggaren egentligen haft tid, verktyg eller kunskap att förstå vad hen skrev under på. Det är värre än att säga rakt ut att systemet inte är klart. Då tror alla att skyddet finns samtidigt som ingen egentligen kan visa att det fungerar som det ska när det verkligen prövas. Det är farligare på längre sikt än att ärligt säga att vi behöver mer tid för att bygga det på riktigt. Och det var inte bara en uppskjutning som beslutades den där dagen i juni. Samtidigt infördes en ny förbudsregel mot AI-genererat övergreppsmaterial. Den börjar gälla redan den andra december i år, alltså om knappt fyra månader, inte om sexton månader. Så det är inte som att allt sattes på paus i väntan på bättre tider. Det farligaste fick den kortaste fristen. Det som fortfarande byggs och testas fick mer tid att mogna. Jag tycker det är en rimlig prioritering, även om jag förstår att den inte känns rimlig från din stol på kommunkontoret med en riktig ansökan framför dig och en riktig människa bakom den. Jag vill haka fast i något ni båda faktiskt är överens om innan jag ställer nästa fråga, för jag tror det är viktigare än själva oenigheten. Ni tvistar inte om vad reglerna handlar om. Ni tvistar om vem som ska få mer tid. Och det tycker jag är en betydligt ärligare fråga än den vi oftast hör i den här typen av samtal. Marie, du satt kvar på det där kontoret och tänkte på vilka som redan sorterats bort utan att någon människa fått chansen att säga emot. Philip säger att den farligaste biten, övergreppsmaterialet, faktiskt fick den kortaste fristen av allt. Den börjar gälla redan i december i år. Räcker det för dig som argument för att resten kan vänta sexton månader till? Eller är det bara en tröst som håller i just den här studion, men inte på ditt kontor? Nej, ärligt talat räcker det inte. Men jag ska vara rättvis och säga att det är bra att just den delen fick den kortaste fristen av allt. Det ska Philip få rätt i helt och fullt. Men det jag mäter i mitt jobb är inte de mest extrema fallen. Det är vardagen, veckan efter veckan. Ett upphandlingsunderlag i veckan där en leverantör lovar snabbare handläggning genom automatisk sortering, en effektivare process, kortare kötider. Ingen av dem gör något uppenbart olagligt. Ingen bygger övergreppsmaterial eller något som skulle göra rubriker. De bygger bara system som sorterar människor lite snabbare, lite billigare, med lite mindre mänskligt överseende än vad reglerna skulle ha krävt från i dag. Och det är precis där jag tycker det blir farligt. För det är inte de extrema fallen som skadar flest människor över tid. Det är de här vardagliga sorteringarna, upprepade om och om igen i hundratals kommuner samtidigt, utan att någon enskild handling någonsin ser dramatisk nog ut för att stoppas eller ens granskas ordentligt av någon utomstående. Regeln fanns, den bara började inte gälla. Och de sexton månaderna är inte tomma. De är fyllda av precis den här sortens vardagliga beslut varje dag i varje kommun, medan vi väntar på att lagen till slut ska hinna ikapp verkligheten. Du låter som att jag försvarar branschen rakt av nu och det gör jag inte. Även om det kanske låter så när jag pratar teknik istället för människor. Jag jobbar med det här varje dag och jag vet hur ofta bra tänkta krav blir en bock att kryssa i, snarare än något som faktiskt påverkar hur ett system byggs från början. Jag har sett projekt där ett spårbarhetskrav löstes med en logg ingen någonsin öppnade. En fil som bara samlade damm på en server. Tekniskt sett efterlevd, men praktiskt sett värdelös för den som faktiskt behövde förstå vad som hänt. Om vi tvingar fram mänskligt överseende innan någon egentligen vet hur det ska se ut i praktiken, riskerar vi att få överseende på papper. En signatur i slutet av ett flöde utan att någon människa faktiskt haft möjlighet att ändra beslutet på riktigt eller ens förstått vad hen skrev under på. Det är det jag menar med falsk trygghet. Inte att reglerna är fel, utan att en regel som byggs för snabbt för att hinnas med ordentligt riskerar att ge Marie precis den känslan av skydd hon vill ha Utan att skyddet faktiskt finns där när någon behöver det som mest. Jag vill inte ha mer tid för att slippa undan ansvar. Jag vill ha mer tid för att det jag bygger faktiskt ska hålla när någon väl ställer sig framför det och säger att ett beslut blev fel och kräver ett svar som håller för granskning. Jag hör vad du säger Philip och jag tror inte du menar illa, men jag tror du och jag mäter tid på helt olika sätt. Nästan som om vi pratar om två olika klockor som går olika fort. För dig är sexton månader en rimlig tid att bygga något som håller, testa, göra om, göra rätt från grunden. För mig är sexton månader sjuttio veckor. Sjuttio veckor där en enda kommun kan hinna fatta tusentals automatiserade beslut om bidrag, tillstånd och prioriteringar, utan att en enda människa någonsin var tvungen att granska dem på riktigt eller ens få syn på mönstret som byggs upp under tiden. Jag sitter inte och testar teori i en labbmiljö. Jag sitter och skriver kravspecifikationer varje vecka med riktiga deadlines och riktiga leverantörer på andra sidan bordet. Och just nu kan jag inte kräva något jag inte har lagstöd för, hur rimligt det än känns i mötet. Före i dag hade jag kunnat peka på lagen och säga att här måste ni bygga in mänskligt överseende, annars får ni inte kontraktet. Punkt slut. Nu kan jag bara be leverantören göra det frivilligt, formulera det som en önskan istället för ett krav. Och be är ett mycket svagare ord än kräva när det gäller någons faktiska liv och ekonomi, särskilt när leverantören vet att jag saknar lagen som stöd bakom orden. Jag vill inte tvinga fram en enighet ni båda uppenbarligen inte har, för jag tror inte att den finns här idag och det är helt okej. Kanske till och med ärligare än om vi låtsades annat. Philip säger att en regel ingen hinner följa ordentligt inte skyddar någon bättre än ingen regel alls och att ärlighet om tidsplanen är viktigare än ett datum satt för tidigt, bara för att det ser bra ut i en pressrelease. Marie säger att regeln fanns, den bara började inte gälla. Och att det är sjuttio veckor av beslut som fattas, utan det överseende som skulle ha varit lag från och med i dag. Beslut som inte går att ta tillbaka i efterhand. Ingen av er säger att den andra har fel om fakta. Det tycker jag är värt att lägga märke till. Ni är oense om vem som ska bära risken medan vi väntar på att systemen blir klara. Och jag tror det är den viktigaste frågan i hela samtalet. En fråga som inte har ett enkelt svar än och kanske aldrig kommer få det. Om jag ska vara ärlig till slut, Marie, så tror jag du har rätt i att jag har mätt det här mest från min egen sida av bordet, från kod och tidsplaner och leveransdatum. Inte från någon som faktiskt väntar på ett beslut om ett bidrag eller ett lån just den här veckan. Jag står fortfarande vid att uppskjutningen var rätt beslut rent tekniskt. Ett system som ska granskas av en människa på riktigt kräver att vi bygger loggning, förklaringar som faktiskt går att förstå för någon som inte kan koda och ett gränssnitt där den mänskliga granskaren kan ändra beslutet utan att behöva fråga en utvecklare hur. Det tar tid att bygga bra, inte bara snabbt. Men jag tror jag måste bli bättre på att komma ihåg att varje månad vi får extra för att bygga bättre är en månad någon annanstans lever med sortering utan det överseende som var tänkt att finnas där från i dag. Det är inte gratis för oss att få mer tid. Det är bara någon annan som betalar för den, tyst, utan att någon frågar dem om det. Det där betyder faktiskt något för mig att du sa det högt inför oss alla tre, även om det inte ändrar själva datumet eller flyttar ett enda beslut som redan fattats. Jag kommer fortsätta skriva mina kravspecifikationer som om lagen redan gällde, även om jag inte kan tvinga fram den från en leverantör som inte vill. Jag tror det är det enda jag kan göra just nu. Be om det jag inte längre får kräva. Dokumentera varje gång ett svar blir nej och hoppas att tillräckligt många andra kommuner gör likadant tills någon till slut bygger in det som standard, oavsett vad lagen säger från och med vilket datum. Kanske är det själva poängen med de här sexton månaderna inte att vänta passivt, utan att bygga en praxis så stark att lagen bara bekräftar den när den väl kommer, istället för att uppfinna allt från noll. Tack båda två för att ni stannade kvar i något som inte går att lösa på tjugo minuter och för att ni gjorde det utan att låtsas att det gick, utan att runda av hörnen bara för att det skulle låta snyggare i efterhand. Vi började med Marie, ensam på ett kommunkontor, lysrören surrande, kaffet kallnat. Och vi slutar med samma bild, fast tyngre än när vi började. Regeln fanns, den bara började inte gälla. Och medan vi väntar på december 2027 fortsätter vardagen som vanligt. Tusentals beslut i veckan, i kommun efter kommun, utan det överseende som var tänkt att bli lag exakt den här veckan. Imorgon stannar vi kvar i frågan om vem som får vara med när AI blir vardag, fast från ett helt annat håll än i dag. Vi tittar på två svenska branscher, samma år, samma land, helt olika verklighet beroende på var du råkar jobba. I den ena använder nio av tio AI, i den andra knappt en av tio. Det här avsnittet är skapat med hjälp av AI, både röster och research. Och vi vill alltid vara öppna med det mot dig som lyssnar. Särskilt en dag som handlar om just var AI:s egna regler brister. Men frågan Marie och Philip lämnar dig med är helt människoskapad och den går inte att outsourca till en maskin. Vem bär risken egentligen? Under tiden vi väntar på att skyddet börja gälla på riktigt. Skyddet först, sen tekniken.