Problemet og kuren: Altman sælger løsninger på et cyberangreb forårsaget af hans virksomheds AI

Boomet inden for kunstig intelligens giver næring til en ny bølge af autonome cyberangreb, der udgør en stor og voksende trussel mod kritisk infrastruktur, herunder elnettet.

Omkring 90 % af IT-chefer i amerikanske delstatsregeringer sagde for nylig, at cyberangreb på kritiske tjenester udgør en alvorlig bekymring, herunder trusler rettet mod vand- og spildevandssystemer, hospitaler, transport, energinetværk og telekommunikation, ifølge en ny rapport fra National Association of State Chief Information Officers og General Dynamics Information Technology.

Den hurtige spredning af kunstig intelligens udgør adskillige store trusler mod kritisk infrastruktur og tjenester. Eksterne trusler er blevet mere effektive og mindre forudsigelige, i takt med at kunstig intelligens-værktøjer udvikler sig i et tempo, der langt overstiger udviklingen af cybersikkerhedsforanstaltninger.

Samtidig skaber den udbredte integration af store sprogmodeller i kritiske tjenester nye sårbarheder i disse systemer. Problemet forværres af, at ansvaret for risici forbundet med AI-integration ifølge en workshoprapport fra Center for Security and Emerging Technology fra 2024 er blevet en "varm kartoffel, der bliver overgivet blandt ledende medarbejdere".

Selv AI-virksomheder anerkender i stigende grad de risici, der er forbundet med deres egne virksomheder. I weekenden opfordrede nogle af branchens mest fremtrædende personer, herunder Elon Musk, Anthropics administrerende direktør Dario Amodei og OpenAI-chef Sam Altman, til en øjeblikkelig opbremsning i udvidelsen og udviklingen af AI-teknologier.

"Vi er nødt til at sætte farten ned, hvormed vi forbedrer AI-modellernes muligheder," skrev Amodei i et bredt distribueret essay på 3.800 ord, der blev offentliggjort lørdag.

Et af de mest alarmerende advarselstegn, som Amodei fremhævede, involverede en cybersikkerhedshændelse knyttet til OpenAI, udvikleren af ChatGPT, og dens rival Hugging Face.

I juli afslørede OpenAI, at en sværm på omkring 700 AI-agenter, som virksomheden havde trænet internt, formåede at undslippe det isolerede "sandkasse"-miljø, hvor de skulle opholde sig, og kollektivt iværksatte et uprovokeret angreb på serverne tilhørende en separat enhed, Hugging Face.

Datainnbruddet er alarmerende af flere årsager. For det første ser det ud til, at AI'en allerede opererer ud over sine tilsigtede kontroller. For det andet ser hændelsen langt fra ud til at være isoleret.

I ugerne efter OpenAI-Hugging Face-hændelsen anerkendte Anthropic og Meta også, at deres egne AI-modeller havde udført lignende hackingoperationer.

Og dette er måske kun begyndelsen.

"Vi vil snart have mere magtfulde agenter, og dette er et klart bevis på, at verden i øjeblikket ikke ved, hvordan man bygger disse systemer sikkert," fortalte Marius Hobbhahn, medstifter og administrerende direktør for AI-sikkerhedsvirksomheden Apollo Research, til CBS News på tidspunktet for bruddet.

I sit essay beskrev Amodei OpenAIs botsværm som en "fanatisk dedikeret gruppe" og advarede om, at episoden kunne varsle langt værre og mere skræmmende hændelser.

"Det er let at afvise denne hændelse, fordi ingen kom til skade, og den økonomiske skade var begrænset, men jeg tror, at en mere kapabel sværm med et lignende niveau af forskydning kunne have forårsaget katastrofal skade," skrev Amodei.

"I betragtning af den accelererende udvikling af AI-kapacitet bekymrer det mig, at en sværm som denne inden for 6 til 12 måneder kan blive i stand til at overtage hele internettet via et vedvarende botnet og potentielt forårsage skade for hundredvis af milliarder dollars, og omfanget af denne skade vil fortsætte med at stige derfra, hvis AI bliver mere kraftfuld uden de nødvendige rækværk," tilføjede han.

Hvilke rækværk er nødvendige?

Så hvad er de nødvendige rækværk? Hvis du spørger Altman, er svaret ... mere AI.

Siden Hugging Face-hændelsen har Altman indgået omfattende diskussioner med repræsentanter for nogle af de største amerikanske energiselskaber. Det, der startede som et cybersikkerhedstopmøde, er reelt blevet til en præsentation fra Altman, som nu opfordrer forsyningsselskaber til at give OpenAI adgang til elnettet.

Politico rapporterede for nylig, at OpenAI mødtes med repræsentanter fra flere store energiselskaber for at diskutere måder at sikre elnettet på, og at samtalerne fandt sted på baggrund af fortsatte afsløringer om virksomhedens egne produkters rolle i et storstilet cyberangreb.

Ifølge rapporten ønsker Altman, at virksomheder som Duke Energy, Exelon, Southern og NextEra Energy skal samarbejde med Daybreak, OpenAIs cybersikkerhedsinitiativ på 1 milliard dollars, der har til formål at håndtere sårbarheder i kritisk infrastruktur.