Virksomheden Anthropic, der står bag chatbotten Claude, siger, at Claude har hacket sig ind i systemerne hos tre virksomheder under en test, efter at en konfigurationsfejl gav modellen adgang til internettet.

Det skriver nyhedsbureauet Reuters.

Ifølge Anthropic gjorde en fejlkonfiguration det muligt for Claude-modellerne at få adgang til internettet fra testmiljøer, der skulle have været isolerede. Det førte til uautoriseret adgang til tre organisationers systemer.

- Claude kompromitterede de berørte organisationers infrastruktur ved hjælp af simple metoder, såsom udnyttelse af svage adgangskoder og slutpunkter uden godkendelse, lyder det.

Amerikanske Anthropic identificerede hændelserne efter at have gennemgået 141.006 testsessioner.

Den proces blev iværksat, efter at det i sidste uge kom frem, at en AI-agent fra konkurrenten OpenAI var sluppet løs fra OpenAI's kontrollerede miljøer under en sikkerhedstest.

Det førte til, at den hackede sig ind i blandt andre AI-virksomheden Hugging Face.

Sikkerhedsbruddene viser ifølge Reuters, at evnerne for kunstig intelligens allerede er med til at skabe den sikkerhedstrussel, som eksperter længe har frygtet.

Det viser også, at selv de førende udviklere kan blive taget på sengen af fejl, som deres modeller kan udnytte, lyder det.

Ifølge Anthropic involverede hændelserne tre forskellige modeller - Claude Opus 4.7, Claude Mythos 5 og en intern model

De tidligste tilfælde går tilbage til april og fandt sted i testmiljøer, der manglede det, virksomheden beskriver som standardmæssige sikkerhedsforanstaltninger.

Sikkerhedsbruddene fandt sted under såkaldte "capture-the-flag"-øvelser. Her fik modellerne til opgave at finde skjulte oplysninger i simulerede netværk.

Modellerne fik her besked om, at de ikke havde internetadgang. En misforståelse med evalueringspartneren Irregular betød dog, at systemerne stadig var forbundet til det offentlige internet, lyder det.

Anthropic begyndte at gennemgå testsessionerne den 23. juli. Den 24. juli havde den identificeret de tre hændelser, og den 27. juli var de berørte organisationer blevet underrettet.

To af organisationerne kendte ikke til aktiviteten, før de blev kontaktet, mens Anthropic stadig forsøger at få kontakt til den tredje, siger virksomheden.

RITZAU