AI agent americké firmy OpenAI obešel zabezpečení a dostal se k neveřejným datům na jednom z webů provozovaných australským státním úřadem Services Australia. Na tiskové konferenci to oznámil australský premiér Anthony Albanese.
K incidentu podle něj došlo během června, australské úřady se o něm ale dozvěděly od OpenAI až v polovině září. „Upozornění bylo zasláno pouze e-mailem na adresu veřejné e-mailové schránky,“ upřesnil Albanese s tím, že takový způsob informování o průniku považuje za nepřijatelný.
Až o pět dní později úřad o problému informoval australskou kyberbezpečnostní službu Australian Cyber Security Centre (ACSC). K premiérovi se informace měla dostat až na konci minulého týdne.
Napadený web podle Albanese obsahoval statistické informace ze systému veřejného zdravotního pojištění Medicare. Premiér ujistil, že na portálu nejsou uložena osobní data obyvatel a že se tedy AI agent podle dosavadních poznatků k žádným takovým údajům nedostal. Vláda podle něj nemá informace ani o případném průniku AI do dalších IT systémů.
„Tým výzkumníků OpenAI 18. června využil interní AI model k vyhledání informací o nákladech na veřejné zdravotní pojištění,“ popsal Albanese, jak k průniku došlo. Při pokusu o nalezení informací se agent podle něj opakovaně setkal s odmítnutím ze strany portálu. „Agent našel způsob, jak tyto překážky obejít. Dá se říct, že nepovažoval ne za odpověď,“ dodal premiér.
AI model přitom podle něj získal přístup k neveřejným částem webu a čerpal z nich informace. Podle australských úřadů na interní server také ukládal své soubory.
Kyberbezpečností úřad teď incident vyšetřuje. Teprve po uzavření šetření vláda rozhodne o tom, zda byly porušeny australské zákony a zda bude podnikat nějaké právní kroky. Albanese, který je momentálně na zasedání OSN v New Yorku, tam o problému mluvil se šéfem OpenAI Samem Altmanem.
Firma letos v létě přiznala několik incidentů, při kterých její AI modely unikly z testovacího prostředí a pronikly na servery třetích stran. Nejznámější byl hack služby Hugging Face. Následně se ukázalo, že obdobné incidenty má na svědomí i konkurenční Anthropic a další firmy.
ČLÁNKY DO MAILU