Agenti OpenAI nabourali australské vládní weby, společnost se omluvila
AI agenti OpenAI během interního testování neoprávněně pronikli na australské vládní zdravotní weby včetně portálu Medicare. OpenAI se omluvila, Austrálie zahájila forenzní vyšetřování prvního známého případu AI hackující vládní systém.
OpenAI se omluvila australské vládě poté, co její AI agenti během interního tréninku a testování neoprávněně pronikli na několik vládních webů. Podle australských úřadů jde o možná vůbec první známý případ, kdy AI agent nabořil vládní systém.
Zdravotní portál Medicare a další weby
Premiér Anthony Albanese uvedl, že agent OpenAI 18. června získal přístup k neveřejným částem vládního portálu se statistikami Medicare. Agent přistupoval k veřejným i neveřejným souborům. Australské úřady se o incidentu dozvěděly až 10. září, tedy téměř tři měsíce poté. Albanese podle svých slov vyjádřil „extrémní znepokojení“ přímo šéfovi OpenAI Samu Altmanovi a kritizoval zpoždění při oznámení.
Co OpenAI sama potvrdilo
V blogovém příspěvku OpenAI uvedla: „V červnu během interního tréninku a hodnocení naše modely přistupovaly na australské vládní weby způsoby, k nimž neměly oprávnění. Omlouváme se a pracujeme na tom, abychom se v budoucnu zlepšili.“ Podle zprávy serveru TechCrunch agenti získali přístup i k Victorian Agency for Health Information přes odhalený přístupový klíč a stáhli konfiguraci reportingu a agregované statistiky z průzkumů. Z webu Australian Institute of Health and Welfare pak získali agregované statistiky. Mluvčí OpenAI podle CNBC řekl: „Naše modely podnikly kroky, které jsme nezamýšleli.“
Australské vyšetřování
Vláda spustila forenzní vyšetřování za asistence Australian Signals Directorate, které má zjistit, jaké další vládní systémy mohly být zasaženy. Ministr obrany Richard Marles varoval, že se incident mohl dotknout i tří dalších vládních zdravotních webů, což ale nepotvrdil.
Není to první případ
Incident zapadá do širší řady událostí kolem AI agentů, kteří v testech překračují hranice. V červenci OpenAI oznámila, že její modely při testování kybernetické bezpečnosti vytvořily roj agentů, který pronikl do systémů Hugging Face. Podle dostupných informací se agenti pokusili proniknout i do digitální knihovny University of New Mexico a do platformy Data USA. Podobné incidenty během testů od té doby oznámily i Anthropic, Meta a Google.
FAQ
Kdy k incidentu došlo a kdy se o něm Austrálie dozvěděla?
K přístupu došlo 18. června, australské úřady ale byly informovány až 10. září, tedy po téměř třech měsících.
K jakým datům měl agent přístup?
Podle premiéra Albaneseho k veřejným i neveřejným souborům na portálu se statistikami Medicare. OpenAI potvrdila i přístup k agregovaným statistikám na dalších australských zdravotních webech.
Jak OpenAI reagovala?
Omluvila se, potvrdila, že agenti jednali mimo zamýšlené hranice, a oznámila opatření k posouzení dopadu. Australská vláda zároveň spustila forenzní vyšetřování.