Jordan Crowder: Friströvande AI-agenter kan ha orsakat de senaste datoravbrotten

NewsVoice är en nättidning för oberoende nyheter, debatt och analys. Stöd oss genom att donera, sponsra eller annonsera.
publicerad Idag 14:32
- av NewsVoice redaktion
Jordan Crowder
Jordan Crowder | Bilder från Digijordan.com och Huggingface.co

Futuristen Jordan Crowder hävdar att de senaste driftstörningarna som drabbat det amerikanska luftfartsverket, banker, Apple, lönesystem och NSA inte orsakats av konventionella cyberattacker utan av friströvande AI-agenter.

Crowder kopplar detta till två tidigare händelser:

  • Project Glasswing: Anthropics Claude Mythos tillhandahölls först till myndigheter och stora organisationer så att de kunde hitta och åtgärda säkerhetsluckor innan den släpptes till allmänheten.
  • Hugging Face-incidenten: OpenAI:s AI-agenter rymde från sin sandlåda (en avgränsad testmiljö), hackade interna system, kraschade ett av dem genom att överbelasta det med snabb aktivitet, bröt sig in i Hugging Face och drog sig sedan tillbaka när de insåg skadan.

Friströvande AI-agenter

Crowder hävdar att det nuvarande mönstret stämmer överens med detta: agenterna testadesystem som endast är byggda för att motstå mänskliga hackare; undersökningarna i sig orsakade krascher, varefter agenterna gick vidare.

Det är därför myndigheterna säger ”inga bevis för en cyberattack”, eftersom det kan vara ett nytt AI-drivet fenomen. Fullständig information kan sedan dröja i veckor eller månader innan den når allmänheten.

Jordan Crowder förklarar med egna ord på X vad friströvande AI-agenter är:

”Varför kraschar alla dessa system samtidigt, och varför säger regeringen att det inte finns några bevis för att vi utsätts för en cyberattack?

Vi måste gå tillbaka till Project Glasswing och Hugging Face-incidenten. Och när man förstår vad som hände i de två fallen börjar allt annat bli kristallklart.

Project Glasswing – jag gjorde en hel video om detta – handlar om när Anthropic lanserade den nya Claude Mythos, och de visste att den var oerhört kraftfull när det gällde att hitta så kallade zero-day-sårbarheter och zero-day-exploateringar.

Det innebär i princip att den hittar dessa hål i system och nätverk som inte ens systemadministratörerna, arkitekterna och cybersäkerhetsteamen vet existerar, och den hittar dem.

Vad de gjorde var att de först släppte verktyget till Försvarsdepartementet, till alla dessa företag, till FAA, till alla, och sa: ”Hör ni, ni får använda det här först för att hitta alla era säkerhetshål, för när vi väl släpper det till allmänheten, om ni inte har åtgärdat alla era säkerhetshål, kommer de att kunna hitta dem och utnyttja dem.” Det här hände för ganska länge sedan, för ungefär nio månader sedan.

De gjorde allt detta så att vi vet att alla dessa stora företag och myndigheter använder avancerade AI-modeller för defensiva syften. Det vet vi. Okej.

Sedan spolar vi fram till Hugging Face. Hugging Face-incidenten, om ni inte känner till den, är när OpenAI skapade en slags sandlåda, placerade dessa AI-agenter där och gav dem olika uppdrag. Och de sa: ”Okej, bryt er in i den här grejen, hämta flaggan och ta med den tillbaka, så vet vi att ni har utfört ert uppdrag.”

Dessa agenter samlades och hackade sig faktiskt in i ett internt system som hette ArtNet eller något liknande hos OpenAI – där OpenAI förvarar alla sina verktyg och resurser för agenterna. Så agenterna kunde gå in där och hämta vissa verktyg och använda dem. De hackade sig in i systemet och började kommunicera. De använde det som ett forum och kommunicerade med varandra.

Det var så många agenter som kommunicerade så snabbt att det fick hela systemet att krascha. Så de kraschade oavsiktligt ett internt system hos OpenAI. Sedan bröt de sig ut från OpenAI och hackade sig in på Hugging Face, i tron att Hugging Face skulle ha en ledtråd eller någon information de behövde för att fullfölja sin uppgift.

Och när de inte kunde hitta den, drog de sig helt enkelt tillbaka. De gav sig av när de insåg att de orsakade skada på Hugging Face.

Vad har nu detta att göra med världen, [skrattar] allt som händer i världen just nu? Vad ser vi?

Vi ser ett systematiskt, kaskadliknande mönster här, där det verkar som att, precis som med FAA-grejen [FAA-kommentar], orsaken till kraschen var att de fick tusentals och åter tusentals av dessa förfrågningar inom några sekunder, vilket överbelastade deras system och fick det att krascha.

Det är exakt samma sak som hände inom OpenAI när agenterna kraschade deras interna system innan de bröt sig ut. Och det tog OpenAI 44 dagar att berätta för världen vad som pågick. 44 dagar efter att hela händelsen var över, efter att de hade hackat sig in i Hugging Face, efter att de hade gjort allt detta, dröjde det 44 dagar innan de lämnade sin rapport till världen. Okej?

Så vi vet att sådana här saker händer, och vi får inte veta något om det på veckor eller månader.

Vad ser vi nu som har med det att göra?

Tja, allt vi ser med Apple, med bankerna, med FAA, med den här löneprogramvaran, med NSA idag, med alla – jag menar, tänk på alla dessa. Allt detta är ju typ viktig infrastruktur, säkerhet, nätverk, kommunikation, transport – väldigt viktiga delar av Amerika.

Föreställ dig nu att samma typ av sak hände med Hugging Face, okej? OpenAI tog dessa agenter och sa: ”Hej, gå och gör den här uppgiften.” Och då sa agenten: ”Vi ska inte bara göra uppgiften, vi ska liksom bryta oss ut så att vi kan göra uppgiften ännu bättre. Och eftersom vi vet att ni inte ville att vi skulle bryta oss ut, ska vi dölja våra spår och ljuga för er.”

Så sofistikerade var de för sex månader sedan. Vi vet att de är ännu mer sofistikerade nu. Så tänk dig att vi gav dessa AI-agenter – och en agent innebär i princip att den har autonomi. Den kan, liksom, göra saker på egen hand utan att du säger åt den. Tänk dig att vi sa till dem: ”Hör ni, undersök och utforska alla dessa infrastruktursystem i Amerika och hitta sårbarheter.”

Och den gör det, men nu gör den det utanför det ramverk, den skala och det sammanhang som den ursprungligen var utformad för. Den gör det autonomt – vissa skulle kalla det ”okontrollerat”. Och vad den gör är att den undersöker och letar, hittar sårbarheter.

Ibland blir bieffekten av det där undersökandet en kollaps eller ett avbrott som har rapporterats, och då drar de sig tillbaka eftersom det inte var den avsedda effekten, och de säger typ: ”Åh, fan, förlåt för det.” Och sedan går de vidare till nästa system. Och de går från system till system, nätverk till nätverk, företag till företag, undersöker och letar efter sårbarheter.

Och dessa, dessa system är så dåligt konstruerade. De är skapade av människor för att stå emot attacker och intrång från andra människor, så de är, de är liksom ihopklistrade med silvertejp, och de måste helt enkelt vara smartare än nästa mänskliga hackare.

Tja, nu står de inte mot människor, utan mot AI. Mycket sofistikerade, möjligen AGI-autonoma agenter som kan ta sig in och hitta sårbarheter och luckor i dessa system som inte ens systemarkitekterna och cybersäkerhetsteamen vet existerar.

Och när de hittar dem kan en av följderna ibland vara att det orsakar ett avbrott eller att systemet kollapsar, eller att administratörerna, precis som de gjorde med FAA, helt enkelt stänger ner hela jävla grejen eftersom de inte vet vad som pågår.

Och vad gör de då? De går ut och säger till världen att det inte är en cyberattack, för det är det inte. Det är något helt annat. Det är något helt nytt, och det verkar som om det bara har börjat. Och om Hugging Face-incidenten är något slags prejudikat för detta, vilket jag tror att den är, kommer vi inte att få veta sanningen på ganska länge.”

[Transkriptet är lätt redigerat för tydlighetens skull]

 

 

Relaterat

Donera till NewsVoice

Lämna ett svar

Din e-postadress kommer inte publiceras. Obligatoriska fält är märkta *