AI-apokalypsen kan vänta – det verkliga hotet har redan loggat in

Det farliga med AI är inte robotupproret – utan den kompetenta idioten med bättre verktyg

AI-debatten har länge haft två högljudda läger. Det ena säljer in artificiell intelligens som en digital frälsare: produktivitet, innovation, kanske en assistent som äntligen fattar Excel. Det andra ser en allsmäktig superintelligens som snart gör mänskligheten till damm under en serverhall.

Båda bilderna är praktiska, på sitt sätt. De kräver inte att man granskar vad som sker i det grå, tråkiga och betydligt mer sannolika mellanrummet: människor med dåliga avsikter får snabbare tillgång till kunskap, språk, kod och analys. En skruvdragare är ingen fara i sig. Men lämna den till någon som redan tänkt bryta sig in, så går jobbet fortare.

Det är den bilden som framträder i Anthropics 154-sidiga hotinformationsrapport om missbruk av företagets Claude-modeller. Rapporten beskriver försök från kriminella, statsanknutna grupper, kommersiella spionprogramsaktörer, forskare och propagandister att använda modellerna för bland annat cyberattacker, övervakning, vapenutveckling och påverkansoperationer.

Anthropic uppger att företaget har avbrutit aktiviteten, skärpt skydden och i relevanta fall delat information med myndigheter och branschpartners. Det är bra. Men det är inte samma sak som att problemet är löst. AI-säkerhet är ingen brandvarnare man monterar och sedan glömmer bort tills batteriet piper en söndagsmorgon.

Det konkreta hotet är kapacitet på rea

Rapporten tar upp ryskt spionage och så kallade smash-and-grab-cyberattacker: snabba intrång där angriparen försöker komma åt värden innan försvararen hinner reagera. Den beskriver också övervakning riktad mot uigurer i Syrien och interna dissidenter, propagandaverksamhet i flera länder samt försök att utveckla konventionella vapen som skjutvapen, robotar, beväpnade drönare och bomber.

Poängen är inte att en språkmodell plötsligt ersätter en underrättelsetjänst, en vapenkonstruktör eller en erfaren hacker. Poängen är att den kan sänka trösklarna: sammanfatta, översätta, strukturera, föreslå och automatisera. Det räcker långt när den mänskliga avsikten redan finns på plats. Det är samma gamla problem som med billiga drönare, krypterade chattar och läckta kundregister: tekniken gör inte skurken smartare, men den kan göra honom snabbare och mindre ensam.

Det mest akuta AI-hotet är sällan en maskin med egna planer, utan människor som får ovanligt bra hjälp att genomföra sina.

Biologisk forskning blir farlig när sammanhanget mörkas

Anthropic lyfter särskilt fem fall där forskare använt Claude i biologisk forskning efter att ha rundat skydd för så kallade ”unsupported regions” och dolt syftet med arbetet. Kontona stängdes, men företaget uppgav att avsikterna bakom forskningen inte var helt klarlagda.

Ett av fallen gällde en ansökan om statsfinansiering för forskning om chikungunya, ett myggburet virus som kan ge feber, svår smärta och långvariga besvär. Sådan forskning kan förstås bidra till vaccin och annan medicinsk beredskap. Men samma kunskap kan i fel sammanhang anpassas för biologiska vapen. Enligt New York Times bedömde Anthropic fallet som särskilt oroande eftersom arbetet skulle ske vid ett militärt forskningsinstitut.

Det är här vuxensamtalet börjar. All forskning med dubbel användning är inte ond. All sekretess är inte bevis på brott. Men kombinationen av kringgångna skydd, förtäckt syfte och militär koppling ska få varningslampor att blinka, inte minst hos dem som fortfarande tror att teknik är neutral bara för att den kommer i ett snyggt gränssnitt.

Släpp antingen-eller-debatten

AI Now Institutes chefsforskare Heidy Khlaaf sammanfattar problemet vasst: ”AI accelerationism and AI doomerism are two sides of the same coin: they both enforce the notion that an AGI superbeing will come into existence.” Hennes invändning är att system utvecklade för exploatering inom cybersäkerhet och krigföring kan vara betydligt farligare.

Det betyder inte att långsiktiga risker saknar värde. Det betyder att de inte får bli en ursäkt för att missa det som sker nu. När all energi går åt till att diskutera om en hypotetisk superhjärna ska utrota oss, blir det märkligt lite kvar till att stoppa den verkliga människan som använder AI för övervakning, utpressning eller intrång.

För dig som inte bygger drönarvapen i garaget är slutsatsen ändå praktisk. Behandla AI som ett kraftfullt verktyg, inte som en auktoritet. Dela inte känsliga arbetsuppgifter, kunduppgifter eller privata familjedetaljer i öppna tjänster. Fråga leverantörer hur de hanterar data och incidenter. Och när någon på jobbet säger att ”AI löser det”, ställ den tråkiga men nödvändiga följdfrågan: Vem kan missbruka det – och hur märker vi det?

Det är inte lika filmiskt som domedagen. Men det är precis så man bygger ett samhälle som inte lämnar nycklarna i dörren bara för att låset är digitalt.

Anthropics rapport visar att AI redan används och försöker användas för cyberattacker, övervakning, propaganda, vapenutveckling och biologisk forskning med dubbel användning. Den viktiga frågan är inte bara vad modeller kan göra, utan vem som får hjälp att göra det snabbare.

Klok AI-säkerhet kräver mindre dyrkan och mindre apokalypsporr: bättre skydd, tydligare ansvar och vanan att kontrollera hur verktygen kan missbrukas innan de rullas ut.

Källor

• Anthropic – Threat intelligence report, om rapportens fallstudier, missbrukskategorier, vidtagna skyddsåtgärder och företagets varning för ökande risker.
• New York Times – Anthropics uppgift att chikungunya-fallet bedömdes som särskilt oroande på grund av kopplingen till ett militärt forskningsinstitut.
• AI Now Institute – Heidy Khlaafs analys av AI-accelerationism, AI-doomerism och riskerna med cyber- och vapentillämpningar.
• the Guardian – Anthropic details bad actors’ efforts to misuse its AI for bioweapons

Ämnen i denna artikel: artificiell intelligens, Anthropic, cyberattacker, biologiska vapen, AI-säkerhet