Americká OpenAI řeší bezprecedentní případ úniku svých modelů ze zabezpečeného testovacího prostředí. Pokusily se přitom nabourat do serverů populární platformy Hugging Face, která slouží mimo jiné k distribuci modelů různých firem.
Hugging Face o incidentu informovala minulý týden. Teď se k problému přihlásila i OpenAI.
Podle firmy k problému došlo při testování některých jejích modelů, včetně GPT‑5.6 Sol a nejmenovaného ještě nevydaného modelu. OpenAI v uzavřeném testovacím prostředí zkoušela jejich schopnosti odhalovat softwarové chyby, k čemuž používala benchmark ExploitGym. Modely přitom měly vypnutou ochranu, která jim jinak standarně brání v rizikovém chování.
Modely podle OpenAI usoudily, že nejlepším postupem v testu bude najít si jeho správné výsledky přímo v databázi Hugging Face. Aby se dostaly z uzavřeného prostředí, našly v jedné z jeho částí zero-day zranitelnost, kterou použily k získání přístupu na server připojený k internetu.
Poté se pokusily proniknout na servery Hugging Face. Opět k tomu použily zranitelnosti a dostaly se i k ukradeným přihlašovacím údajům. Automatické systémy Hugging Face ale podle firmy útok odhalily a nakonec jej zastavily. OpenAI pak firmu kontaktovala a obě společnosti spolupracovaly na řešení.
Po incidentu OpenAI slíbila, že zpřísní bezpečnostní opatření ve svém testovacím prostředí, zařadí Hugging Face do programu Trusted Access, aby mohla používat nejnovnější modely OpenAI k posílení své bezpečnosti, a posílí ochrany zabudované do svých modelů.
