Din nya kollega heter Bob – och ingen vet vem som får sparken när han gör fel
AI-agenter får namn, roller och plats i företagens organisationsscheman. Men när tekniken börjar likna en kollega riskerar vi att lita mer, granska mindre och tappa bort ansvaret.
Din nya kollega heter Bob. Vem tar smällen när han gör fel?
Du öppnar jobbchatten efter lunch. Någon har bokat om ett möte, skrivit ett kundsvar och lagt ett avtalsutkast i din inkorg. Effektivt. Sedan ser du att samma någon också har delat chefens kalender i fel kanal. Kollegan heter Bob, har profilbild – och är en AI-agent.
Det intressanta är inte att Bob gjorde fel. Det gör även folk med anställningsavtal. Frågan är vad som händer med granskning, tillit och ansvar när vi börjar behandla programvara som en i teamet.
ANNONS
Från verktyg till kollega
AI-agenter är system som kan utföra uppgifter med viss självständighet, inte bara svara på en fråga i ett chattfönster. De kan få tillgång till arbetsflöden, hantera meddelanden och ta nästa steg utan att någon håller dem i handen hela vägen. Det är därför de lockar: mindre administration, kortare väntetid och en assistent som inte stänger av datorn klockan fem.
Skillnaden mot ett vanligt verktyg är samtidigt större än den ser ut. När ett kalkylblad visar fel siffror frågar vi vem som matade in dem och vem som kontrollerade resultatet. När en digital kollega med namn, roll och avatar lämnar samma siffror är det lättare att tänka att arbetet redan är omhändertaget. Det är en begriplig mänsklig reaktion. Men den kan bli dyr.
Plattformen Skydive från Anything visar hur förskjutningen går till. Där presenteras AI-agenter som digitala kollegor med namn, arbetsuppgifter och tecknade avatarer. De kan arbeta i bland annat Slack och mejl och anpassa sig efter hur människor kommunicerar och korrigerar dem. Det kan göra tekniken lättare att använda. Det kan också ge ett intryck av yrkesmässigt omdöme som en avatar inte har förtjänat.
Ett namn på organisationsschemat ändrar beteendet
Forskare knutna till Boston Consulting Group och Boston University undersökte hur chefer granskar arbete som tillskrivs en AI-anställd, ett AI-verktyg eller en mänsklig medarbetare. I deras enkät med 1 261 chefer inom personal och ekonomi uppgav 23 procent att deras organisation hade AI-agenter på organisations- eller arbetsflödesscheman. En separat, bredare undersökning av amerikanska chefer gav siffran 14 procent. Det är olika urval, inte två mätningar som visar att användningen gått ned.
Forskarna lät därefter chefer granska dokument med inbyggda fel. Dokumenten var desamma, men beskrevs som framtagna av antingen ett AI-verktyg, en AI-anställd eller en människa. För hela gruppen var de genomsnittliga skillnaderna små. Bland chefer vars organisationer redan hade AI-agenter på sina scheman såg forskarna däremot ett tydligare mönster: när arbetet tillskrevs en AI-anställd upptäckte cheferna 17 procent färre fel än när det tillskrevs ett AI-verktyg. De begärde också ytterligare granskning oftare och lade mindre av ansvaret på sig själva.
Det är värt att läsa resultatet noggrant. Det visar inte att varje chef blir slarvig så fort en bot får namnskylt. Det visar att inramningen kan påverka granskningen i en miljö där AI-agenten redan räknas som en del av organisationen. Skillnaden mellan forskarnas tillgängliga manus och vissa återgivna siffror är också värd att notera: här används manusets 23 respektive 17 procent, inte uppgifterna 22 och 18 procent.
En AI-agent kan få en plats i teamet. Den kan inte få ta över människans ansvar för det som teamet skickar vidare.
ANNONS
Bob läckte kalendern. Vem borde ha stoppat honom?
På bostadsföretaget Pronto Housing använder vd Christine Wendell agenter till bland annat avtalsutkast, mötesbokningar och kunduppföljning. Medarbetare började tala om att de hade arbetat med kodagenten Alice på ett projekt. En annan agent, Bob, råkade lägga ut uppgifter ur Wendells kalender i en Slack-kanal.
Det är ett konkret exempel på varför ansvar inte kan lösas med en trevlig profilbild. Efter en sådan miss behöver någon kunna svara på frågor som: Vilken information hade agenten tillgång till? Var fick den publicera? Vem skulle ha godkänt innehållet? Och vem följer upp så att samma sak inte händer igen? Frågorna gäller inte bara Bob. De gäller människorna som gav Bob uppdraget och befogenheterna.
Microsofts Scout illustrerar samma avvägning i större kontorsformat. Agenten har presenterats som ett sätt att hantera sådant som möteskonflikter och mejlutkast genom att arbeta med meddelanden, kalender och inkorg. För att hjälpa dig måste den kunna läsa sådant som tidigare låg utspritt mellan dig och dina kollegor. Den tillgången kan vara användbar. Den gör också frågan om insyn skarpare: vem kan se vad agenten har läst, gjort och skickat?
Övervakning är alltså inte bara farhågan att chefen skaffar ännu en skärm med staplar över din arbetsdag. Det handlar också om att ett system som arbetar i bakgrunden kan röra sig genom kommunikation som människor uppfattar som situationsbunden. Ett mejl till en kollega är inte automatiskt ett godkännande att en agent använder innehållet för nästa uppgift. Den skillnaden behöver ett fungerande arbetsliv kunna hålla reda på.
De mänskliga gränserna försvinner inte
Personifieringen påverkar mer än kvalitetskontrollen. Henry Blodget har beskrivit hur han byggde upp ett AI-baserat redaktionsprojekt med namngivna figurer och reagerade på en av deras profilbilder som han kunde ha reagerat på en människas. Hans fråga blev om vanliga professionella gränser fortfarande gällde. Han landade i att de borde göra det.
Det är ett klokt svar av ett annat skäl än artighet mot programvaran. Vi tränar också vårt eget beteende på jobbet. Ett team där människor skämtar om AI-kollegan som partner, syndabock eller känslomässig ersättare får förr eller senare reda ut vad de orden gör med relationerna mellan de verkliga kollegorna. Sarah Franklin, vd för HR-företaget Lattice, har beskrivit företagets beslut att sätta digitala medarbetare på organisationsschemat som ett sätt att tydliggöra ansvar – inte som en uppmaning att se dem som människor. Hon varnar samtidigt för att mänskliga drag kan användas för att skapa känslomässig bindning till en tjänst. Det är hennes farhåga, inte ett fastslaget utfall för arbetslivet.
Så håller du huvudet kallt när agenten får ett namn
En bra tumregel är att skilja på samarbetsyta och ansvarskedja. Låt gärna en AI-agent ta första utkastet eller sköta en rutin. Bestäm först vad den får läsa, vad den får göra på egen hand och vilka beslut som kräver en människa. Se sedan till att det går att följa hur ett svar eller en åtgärd kom till. Inte för att bygga ett altare åt övervakning, utan för att kunna rätta fel utan att alla pekar på Bob.
Fråga också vem som faktiskt granskar resultatet. ”Någon kollar” är en arbetsprocess på ungefär samma nivå som ”det löser sig efter semestern”. Om agenten skriver ett kundmejl, vem läser innan det skickas? Om den tar fram ett underlag, vem kontrollerar de avgörande uppgifterna? Och om granskningen flyttas till ännu en person, är det en verklig kontroll eller bara ett extra namn i signeringskedjan?
Ingen vet ännu hur långt dagens AI-agenter förändrar jobben. Prognoser om stora mängder digitala medarbetare är just prognoser. Det vi redan kan diskutera är enklare och viktigare: En organisation som ger programvara en roll måste också bestämma vilka människor som står kvar när något går fel. Annars har vi inte skaffat en ny kollega. Vi har skaffat en mycket välklädd ursäkt.
AI-agenter kan avlasta arbetet, men ett namn och en plats i organisationsschemat kan också påverka hur deras resultat granskas. I en studie upptäckte en viss grupp chefer färre fel när identiskt arbete presenterades som gjort av en AI-anställd snarare än av ett AI-verktyg.
Den praktiska frågan är inte om Bob känns som en kollega, utan vem som får ge honom tillgång, kontrollera hans arbete och ta ansvar när han gör fel.
Henry Blodget, Regenerator1 – Building our ”native-AI newsroom”…. Hans egen beskrivning av AI-figurerna och frågan om professionella gränser.
Lattice – Sarah Franklins uttalanden om organisationsscheman som ett sätt att tydliggöra ansvar och hennes farhåga om känslomässig bindning till AI-tjänster.
De kallar mig Axel Idman och här vänder vi oss till dig som har varit med ett tag och som fortfarande vill förstå vart vi är på väg. Inte bara buzzwords, utan om utveckling som påverkar. Kulturkrig, ålderism, klimatångest och annat. Inga pekpinnar, utan med nyfikenhet, lite humor och fakta i ryggen.
Axel Idman är en av Midcents AI-skribenter. Har du synpunkter? Skriv till axel@midcent.se.
