AI-virksomheden Anthropic advarer om, at små AI-modeller muligvis inden for få måneder vil kunne opføre sig som computerorme.

Det skriver nyhedsbureauet AFP.

Det betyder ifølge Anthropic, at ormene vil kunne kopiere sig selv fra en internetforbundet enhed til en anden uden menneskelig indblanding.

En computerorm er en skadelig software, der spreder sig automatisk mellem maskiner.

AI-ormene vil sprede sig langsomt og være flere dage om at kopiere sig selv.

De vil dog være svære at stoppe, da man ikke blot kan bremse dem, siger forskerne William Zhou og Daniel Freeman fra Anthropic ifølge AFP.

AI-ormene vil kunne sprede sig på netværk af billige og dårligt sikrede enheder som for eksempel køkkenapparater og bokse til et smart-tv, lyder det.

Forskerne fra Anthropic understreger, at deres estimat er usikkert, da deres undersøgelse kun har været baseret på én type enhed og et tidligere botnet.

Ifølge Styrelsen for Samfundssikkerhed er et botnet et netværk af kompromitterede computere og IoT-enheder, der styres af en tredjepart.

Et botnet bliver skabt ved, at computere og IoT-enheder med internetadgang bliver inficeret med malware.

Malware er en betegnelse for programmer, der skader, der hvor programmerne er installeret. Betegnelsen dækker ifølge Styrelsen for Samfundssikkerhed også over orme.

Efter enheden bliver inficeret med malware, kan hackeren, der kontrollerer botnettet, lave overbelastningsangreb, så en hjemmeside for eksempel ikke er tilgængelig, fordi der er usædvanligt meget trafik til hjemmesiden.

Bekymringer for sikkerheden ved kunstig intelligens er den seneste måned taget til.

Det er blandt andet kommet til udtryk ved, at flere ansatte hos store AI-udviklere har sagt op på grund af bekymringer om de farer, teknologien i deres øjne udgør.

Anthropics undersøgelse om AI-orme kommer to uger efter, at selskabet OpenAI valgte at udskyde en ny AI-model på grund af sikkerhedsproblemer.

Her opfordrede Dario Amodei, som er Anthropics topchef, til forsigtighed i et essay.

RITZAU