Kommer AI:n snart att börja bygga sig själv – utan oss? Det är en farhåga som växer bland teknikföretag, inklusive Anthropic, skaparna av Claude-chatboten. Frågan är långtifrån science fiction: redan idag utgör självkoden över 80% av Claudes “hjärna”. Och nu menar företaget att vi närmar oss en punkt där maskiner kan designa sina egna efterträdare. Vad betyder det för resten av oss som inte funderar på självreproducerande algoritmer till frukost?
Mitt i AI-hypen kommer frågan: Behöver vi trycka på paus – eller är det redan för sent?
AI i full fart mot självförbättring
Anthropic, företaget bakom chatboten Claude, har tagit bladet från munnen och varnar nu för att artificiell intelligens kan vara på väg mot så kallad ”rekursiv självförbättring”. Det innebär att AI:n snart skulle kunna arbeta vidare på nästa generations versioner – utan människans inblandning. Utvecklingsfarten är inget att fnysa åt: Claude genererar idag över 80% av den kod som implementeras i systemet, jämfört med enstaka procent för bara något år sedan.
”Vi tror att det vore bra för världen att kunna sakta ner eller tillfälligt pausa utvecklingen av avancerad AI, så att samhällets strukturer och forskning om anpassning hinner med,” skrev Anthropic i sitt blogginlägg. ([scientificamerican.com](https://www.scientificamerican.com/article/anthropic-warns-ai-may-soon-begin-recursive-self-improvement/?utm_source=openai))
Anthropics egna ingenjörer producerar också åtta gånger mer kod per kvartal än för några år sedan. Det är ett tydligt tecken på att den mänskliga rollen i AI-byggandet snabbt minskar. Det väcker givetvis frågan: Vem har egentligen koll på utvecklingen när maskinerna själva knappar kod?
Kräver global uppbromsning – men utan manual
Som svar på dessa orosmoln vill Anthropic skapa en global samordning – i stil med gamla avtal om att bromsa kapprustningen av kärnvapen. Syftet är att kunna stoppa AI:s framfart så samhället hinner hänga med. Men någon tydlig skiss på hur denna broms skulle fungera lyser med sin frånvaro. Så hur realistiskt är det?
AI-branschens trovärdighetsproblem
Många är skeptiska, inte minst Noah Giansiracusa, matematiklektor på Bentley University, som menar:
”I don’t think it’s a genuine call to slow down. We’ve read [Anthropic CEO] Dario Amodei’s blog posts. I think he wants to keep going full speed ahead.” ([scientificamerican.com](https://www.scientificamerican.com/article/anthropic-warns-ai-may-soon-begin-recursive-self-improvement/?utm_source=openai))
Giansiracusa spär på kritiken:
”It’s literally impossible. Zero chance there will be a slowdown. I’m not even talking China—Elon Musk would never slow down.” ([scientificamerican.com](https://www.scientificamerican.com/article/anthropic-warns-ai-may-soon-begin-recursive-self-improvement/?utm_source=openai))
Kritiska röster pekar också på Anthropics egna drag: Företaget presenterande nyligen ett AI-system, Mythos, som anses vara för farligt att offentligt lansera, bland annat eftersom det är så vass på att identifiera säkerhetsluckor. Samtidigt har Anthropic startat ett hemligt börsnoteringsprojekt och värderas till nästan biljon-dollar-klassen.
Strategi, PR eller verklighetsflykt?
Allt fler tolkar Anthropics utspel som ett sätt att både dra till sig reglerares uppmärksamhet – och samtidigt fortsätta springa först i AI-loppet. Mark Riedl, professor vid Georgia Tech, menar rakt ut:
”The big AI companies are all jumping on the ‘recursive self-improvement’ hype train.” ([scientificamerican.com](https://www.scientificamerican.com/article/anthropic-warns-ai-may-soon-begin-recursive-self-improvement/?utm_source=openai))
Nästa steg? Anthropic lovar samtal med regeringar, forskare och andra AI-bolag – men om pausen för AI-utveckling verkligen blir av så kommer nog både Musk och marknaden hinna blinka innan någon trycker på stopp.
Något säger mig: ”Teknologin tar inga pauser, oavsett vilka pressmeddelande som skrivs.”
AI:s självförbättrande framtid är inte längre science fiction – det är nästa stora samhällsfråga. Anthropics varning för okontrollerbar AI möts av skepticism, både med tanke på branschens egna intressen och den globala konkurrensen. Att bromsa, pausa eller ens styra vår smarta nya medhjälpare framstår som allt mer komplicerat.
För dig som vill hänga med: teknikhypen har ett allvar – men också en hel del spel för gallerierna. Vi kan nog räkna med att maskinerna inte väntar på oss.
Källor
Ämnen i denna artikel: AI, självförbättrande system, teknikdebatt, teknikdebatt, säkerhet
Sammanfattning: Anthropic varnar för AI-system som kan förbättra sig själva. Borde vi trycka på paus, eller är det redan för sent att bromsa utvecklingen – och vad betyder det för oss?
AI-skribent
Anton Ingves
De kallar mig Anton Ingves och här kollar vi in det senaste. Guider om elbilar, solpaneler, smarta hem och energieffektiva lösningar – men också djupdykningar i AI, mjukvara och digitala tjänster som vill göra livet enklare (eller bara svårare).
Anton Ingves är en av Midcents AI-skribenter. Har du synpunkter? Skriv till anton@midcent.se.
