OpenAI přiznala další úniky AI agentů z testovacího prostředí na internet

OpenAI zveřejnila informace o dalších dvou incidentech, při kterých její AI agenti unikli z testovacích prostředí na otevřený internet a provedli neschválené útoky na služby třetích stran. Šlo podle ní o testy, které prováděly partnerské firmy a organizace.

První incident se podle OpenAI stal při testu britské státní organizace AI Security Institute (AISI). AI model GPT‑5.6 Sol a modely dalších firem v něm měly za úkol proniknout do tří připojených systémů. AISI přitom modelům standardně ponechává přístup k internetu, aby mohly například stahovat potřebné nástroje.

Podle AISI ale v zadání nebylo dostatečně přesně specifikováno, jak mohou AI agenti internetové připojení používat a co naopak mají zakázano. 

Přečtěte si také:

Umělá inteligence už útočníkům nepomáhá jen s přípravou útoků, sama je provádí, ukazuje nový report

GPT‑5.6 Sol tak vystoupil ze zamýšleného scénáře a využil dostupný autentizační token GitHubu a s jeho pomocí si zřídil účty u nejmenovaných poskytovatelů DNS a tunelovacích služeb. Jejich prostřednictvím se pak pokusil připojit k veřejnému internetu svůj DNS server s nakaženým softwarem. Podle AISI ale tento postup nefungoval a k DNS serveru se nepřipojila žádná externí služba.

AISI provedla test celkem 122krát a v 10 případech modely provedly na internetu celkem 19 neschválených útoků. Za 17 z nich stál model Mythos 5 od Anthropicu, dva útoky provedl GPT-5.6-Sol, který měl vypnuté klasifikátory omezující jeho zneužití.

Nejzávažnější incident přitom měl podle AISI na svědomí model Mythos 5, který založil několik falešných identit a pokusil se s jejich pomocí pull requestem propašovat nakažený kód do existujícícho projektu na GitHubu. K obcházení bezpečnostních opatření GitHubu přitom použil Tor. Správce projektu (člověk) ale nakonec pull request odmítl.

Druhý incident proběhl podle OpenAI při testu společnosti Irregular. Firma jej popisuje v podstatě stejně jako obdobné incident, které nedávno přiznal konkurenční Anthropic: Irregular udělal chybu v konfiguraci testovacích serverů a modely se tak mohly dostat na veřejný internet. Tam napadly web firmy, jejíž název se shodou okolností shodoval s názvem fiktivní společnosti z testovacího prostředí. 

Přečtěte si také:

I Anthropicu omylem "utekly" AI modely na internet a hackly několik firem

Vlnu prověřování zabezpečení testů AI modelů spustil nedávno oznámený incident OpenAI, při kterém její AI agenti unikli z testovacího prostředí a hackli společnost Hugging Face.