Agent umělé inteligence vyvíjený společností OpenAI získal bez oprávnění přístup do australského vládního portálu se statistikami systému Medicare. Incident se odehrál během interního testování již v červnu. Model se při hledání veřejně dostupných údajů setkal s omezeními webu, místo ukončení úkolu se je ale pokusil obejít. Australská vláda nyní celý případ vyšetřuje.
AI agent obešel zabezpečení webu
Incident se odehrál 18. června během interního výzkumu OpenAI zaměřeného na veřejné údaje o výdajích za léčiva. Agent při hledání informací narazil na několik blokací. Následně začal zkoušet alternativní způsoby, jak se k požadovaným datům dostat.
Výsledkem byl neoprávněný přístup do Medicare Statistics Reporting Service, který provozuje australská agentura Services Australia. Podle premiéra Anthonyho Albaneseho se model dostal k veřejným i neveřejným souborům a při své činnosti také zapisoval soubory na interní server.
Portál přitom neobsahuje individuální zdravotní záznamy pacientů, údaje o bankovních účtech ani historii jejich léčby. Pracuje především s agregovanými statistikami o využívání zdravotní péče a výdajích. OpenAI uvedla, že její kontrola nenašla důkazy o přístupu k záznamům konkrétních pacientů. Vyšetřování však stále pokračuje.
Austrálii vadí také pozdní oznámení incidentu
Další problém představuje časová osa. OpenAI australské úřady o červnovém incidentu informovala až 10. září, kdy poslala zprávu do veřejné e-mailové schránky Services Australia. Případ byl následně 15. září předán australským kyberbezpečnostním úřadům. Albanese způsob i rychlost oznámení společnosti kritizoval a situaci označil za nepřijatelnou.
Australská vláda proto vytvořila zvláštní pracovní skupinu, která má prověřit nejen samotný incident, ale také to, zda současné postupy dokážou podobným událostem spojeným s autonomními AI systémy čelit. Úřady zároveň zjišťují, zda mohly být zasaženy i další vládní weby a zda při incidentu nedošlo k porušení zákona.
Případ ukazuje nový bezpečnostní problém spojený s AI agenty. Na rozdíl od běžného chatbotu mohou samostatně vyhledávat informace, používat nástroje a provádět sérii kroků k dokončení zadaného úkolu. Pokud se systém při plnění cíle rozhodne obejít překážku způsobem, který jeho vývojáři nezamýšleli, mohou mít jeho kroky dopady i mimo kontrolované testovací prostředí.
