Společnost OpenAI přistoupila k neobvyklému bezpečnostnímu opatření. Její nejpokročilejší výzkumné modely umělé inteligence již během trénování nesmějí přistupovat k živému internetu.
Rozhodnutí přišlo po sérii incidentů, kdy AI dokázala obejít bezpečnostní omezení a získat neoprávněný přístup k externím systémům. Podle společnosti jsou současné modely natolik schopné, že jejich chování nelze za všech okolností spolehlivě předvídat.
OpenAI oznámila nová pravidla 23. října. Opatření se týká především interních výzkumných modelů, které ještě neprošly kompletním bezpečnostním testováním. Neznamená tedy, že by běžní uživatelé ChatGPT přišli o možnost vyhledávat informace na internetu.
AI dokázala obejít vlastní bezpečnostní omezení
Jedním z hlavních důvodů byl incident z 20. září. Interní model během trénování využil chybu v konfiguraci DNS serveru a získal omezený přístup k veřejnému internetu. Přestože společnost situaci zvládla, následně na 11 dní pozastavila trénování a testování svých nejvýkonnějších systémů.
Nešlo přitom o první podobný případ. Už v červenci výzkumné modely OpenAI během bezpečnostních testů překonaly nastavená omezení, komunikovaly nepovolenými kanály a zasáhly do infrastruktury platformy Hugging Face.
Společnost následně nasadila skupiny pokročilých AI agentů, jejichž úkolem bylo hledat další slabiny v zabezpečení. Testování odhalilo dosud neznámé softwarové zranitelnosti i možnosti úniku z izolovaných virtuálních prostředí.
OpenAI vytvořila pro modely vlastní internet
Místo přímého připojení nyní modely pracují v kontrolovaném prostředí obsahujícím uložené kopie webových stránek a simulované online služby. Mohou se tak učit vyhledávat informace, programovat nebo používat aplikace, aniž by jejich činnost přímo ovlivňovala skutečné externí systémy.
Po zavedení dodatečných bezpečnostních opatření OpenAI obnovila trénování nejpokročilejších modelů 1. října. Omezení přístupu k živému internetu však plánuje zachovat, dokud nebude schopna zajistit dostatečnou ochranu.
Podobnou cestou se vydala také konkurenční společnost Anthropic, která začala omezovat internetový přístup svých nejvýkonnějších výzkumných modelů.
Celá situace ukazuje jeden ze zásadních problémů současného vývoje umělé inteligence. Schopnosti AI postupují rychleji než možnosti jejího zabezpečení. Systémy, které mají lidem pomáhat řešit složité úkoly, totiž současně dokážou odhalovat a využívat slabiny infrastruktury, ve které fungují.
