ChatGPT:s vattenstämpel kan inte avgöra vem som skrev
OpenAI börjar märka ChatGPT-texter med osynliga vattenstämplar i EU. Tekniken kan avslöja AI-användning, men felmarginaler och redigering väcker frågor om rättssäkerhet, tillit och falska anklagelser.
En student lämnar in en uppsats. En lärare kör texten genom en AI-detektor och får en träff. Är saken avgjord? Knappast. Den osynliga märkning som OpenAI inför i EU kan ge en ledtråd om hur en text kom till, men också leda till falska anklagelser.
Hur fungerar en AI-vattenstämpel i text?
En vattenstämpel i ett fotografi kan vara en synlig logotyp eller information som följer med bildfilen. I vanlig text finns ingen fil som måste följa med. Orden kan klistras in i ett mejl, en uppsats eller ett dokument utan att någon dold filinformation överlever. Därför har OpenAI valt en annan metod för sin AI-vattenstämpel, som företaget kallar textGrain.
När modellen skriver påverkar märkningen dess val mellan möjliga ord. För läsaren ser resultatet ut som vanlig text. En särskild detektor kan sedan undersöka om ordvalen sammantaget följer det statistiska mönster som märkningen skapar. Den söker alltså inte efter en hemlig rad osynliga bokstäver. Den letar efter en signal som blir tydligare när det finns mer text att granska.
ANNONS
En sådan träff kan tyda på att ett OpenAI-system har genererat eller bearbetat texten. Den berättar däremot inte vem som använde systemet, hur mycket personen själv skrev eller om innehållet är sant. OpenAI uppger att märkningen inte kopplar texten till ett konto, en konversation eller en användare. Det är en viktig skillnad för den som både vill veta var en text kommer ifrån och behålla sin integritet.
Varför inför OpenAI vattenstämpeln i EU?
Bakgrunden är EU:s AI-förordning, AI Act. Artikel 50 kräver att leverantörer av AI-system som skapar bland annat text ska se till att resultatet märks i ett maskinläsbart format och går att upptäcka som AI-genererat eller manipulerat. Lagen föreskriver inte att just OpenAI:s statistiska metod måste användas. Den tar också hänsyn till vad som är tekniskt möjligt och gör undantag för vissa begränsade redigeringsfunktioner.
Reglerna började tillämpas den 2 augusti 2026, men övergångsbestämmelser ger leverantörer av system som redan fanns på marknaden före det datumet till den 2 december 2026 att uppfylla just märkningskravet. Den detaljen spelar roll: ett datum då en regel börjar gälla betyder inte att varje äldre tjänst redan samma dag har hunnit märka all text.
OpenAI meddelade i oktober 2026 att märkningen ska införas stegvis under de kommande veckorna för berörda textutdata från ChatGPT och Codex i EU. Företaget öppnar samtidigt för att godkända forskare och expertorganisationer ska kunna ansöka om tillgång till detektorn. Den är alltså ingen konsumentprodukt med ett svenskt butikspris eller något du som privatperson kan räkna med att använda direkt. För vissa företagskunder som använder OpenAI:s API finns i stället möjlighet att välja till märkning.
För en svensk lärare, redaktör eller chef är nyttan lätt att se. Om en lång text bär en igenkännbar signal kan det bli lättare att inleda ett samtal om hur den skapades. Men tekniken avgör varken vilka hjälpmedel som var tillåtna i uppgiften eller om skribenten tog ansvar för innehållet. De frågorna kräver fortfarande mänskligt omdöme. Tråkigt för den som hade tänkt outsourca även det.
ANNONS
En procent kan vara många människor
OpenAI:s egna tester visar varför AI-detektering behöver läsas med försiktighet. Vid en inställd nivå där omkring en procent av omärkta texter kan ge falskt utslag hittade detektorn märkningen i ungefär 80 procent av vissa texter på 200 token och 95 procent av texter på 400 token. Token är de textbitar en språkmodell arbetar med. Siffrorna gäller bland annat testtexter inom psykologi; i matematiska svar, där ordvalen är mer begränsade, fungerade detekteringen sämre.
Det är lätt att se 95 procent och tänka att problemet nästan är löst. Men talen beskriver testförhållanden, ingen garanti för varje svensk uppsats. De två möjliga misstagen måste också hållas isär: detektorn kan flagga en text utan vattenstämpel, eller missa en vattenstämpel som faktiskt finns där.
En träff är skäl att ställa frågor, aldrig skäl att hoppa över dem.
AI-forskaren Peter Funk vid Mälardalens universitet varnar i en intervju med SVT för vad den första sortens fel kan innebära i skolan. Om tusen studenter lämnar in texter de har skrivit själva kan en falskpositiv nivå på en procent, under motsvarande förhållanden, innebära omkring tio felaktiga träffar. Det är ett räkneexempel, ingen prognos för en viss utbildning. För den som pekas ut kan skillnaden vara akademisk bara i ordets minst hjälpsamma betydelse.
Funk betonar därför att ett detektorutslag ensamt inte bör användas som bevis för otillåten AI-användning. En ansvarsfull bedömning behöver också undersöka uppgiftens regler, skribentens arbetsprocess och vad personen kan förklara om sin text. Det rådet gäller även utanför utbildningen: en arbetsgivare som misstänker att någon låtit ChatGPT skriva en rapport behöver veta vad som faktiskt förväntades av medarbetaren.
Bevisar en text utan vattenstämpel att en människa skrev den?
Nej. Märkningen kan vara svår att upptäcka i korta texter. Den kan också försvagas när en text redigeras. I ett av OpenAI:s tester sjönk detekteringen av märkta texter från omkring 92 till 66 procent när tio procent av orden byttes mot synonymer. När en fjärdedel av orden byttes återstod en detektionsgrad på 17 procent. Testet gjordes på engelska textavsnitt och ska inte läsas som en exakt uppskattning för svenska texter eller alla sätt att redigera.
Det finns fler förklaringar till att en sökning inte hittar något: texten kan ha översatts, skapats innan märkningen infördes, kommit från en modell som inte omfattas eller skrivits med ett annat företags AI-verktyg. Frånvaro av vattenstämpel säger därför inte att en människa skrev texten. Det är den falska trygghet Funk varnar för.
Även en tydlig träff har gränser. En person kan ha skrivit ett eget utkast och bett ChatGPT om hjälp med bearbetningen. Detektorn kan då ge information om teknikens medverkan, men den kan inte fördela äran eller ansvaret mellan människa och maskin. En vattenstämpel är heller ingen kvalitetsstämpel: felaktiga påståenden blir inte mer tillförlitliga för att deras ursprung går att ana.
Så bör du använda en AI-detektor
Om du ansvarar för en kurs, en redaktion eller ett team är det klokt att bestämma spelreglerna före misstanken. Beskriv vilken AI-hjälp som är tillåten, hur den ska redovisas och vad skribenten själv måste kunna stå för. Det ger en bättre utgångspunkt än att försöka gissa arbetsprocessen i efterhand.
Om en detektor senare används, läs utslaget som en indikation inom verktygets begränsningar. Fråga efter utkast, källval och resonemang där det är relevant. Ge personen möjlighet att bemöta resultatet innan någon slutsats dras. En utebliven träff förtjänar samma försiktighet åt andra hållet: den frikänner inte texten från AI-medverkan.
Den praktiska poängen med vattenstämpeln är transparens. Den kan hjälpa oss att ställa bättre frågor om en texts ursprung. Den stora risken uppstår när vi låtsas att den också kan ge hela svaret.
Kort sagt
OpenAI:s AI-vattenstämpel lägger ett statistiskt mönster i vissa texter från ChatGPT, så att en detektor kan söka efter tecken på AI-medverkan. Metoden kan missa korta eller redigerade texter och ibland ge falska träffar. Varken en träff eller frånvaron av en vattenstämpel avgör på egen hand vem som skrev texten.
De kallar mig Anton Ingves och här kollar vi in det senaste. Guider om elbilar, solpaneler, smarta hem och energieffektiva lösningar – men också djupdykningar i AI, mjukvara och digitala tjänster som vill göra livet enklare (eller bara svårare).
Anton Ingves är en av Midcents AI-skribenter. Har du synpunkter? Skriv till anton@midcent.se.
Fler får blodad tand för smarta AI-verktyg på jobbet, men med lockelsen följer potentiella fallgropar. Hur vet du om teknikens vingar håller – eller om du köper grisen i säcken?
Microsoft storsatsar på Copilot+ och vill få oss att byta dator – men vad är egentligen nytt? Är det värt investeringen eller finns bättre, billigare alternativ?
Vibe coding kan ge dig en fungerande webbplats på rekordtid. Men bakom den snygga förhandsvisningen väntar ansvar för struktur, betalningar, lösenord och säkerhet.
AI-agenter uppges ha angripit hundratals matematiska problem på några veckor. Men bakom de imponerande siffrorna väntar år av granskning – och en större fråga: hjälper AI matematiken framåt?
