Společnost OpenAI přistoupila k neobvyklému bezpečnostnímu opatření. Její nejpokročilejší výzkumné modely umělé inteligence již během trénování nesmějí přistupovat k živému internetu.
Rozhodnutí přišlo po sérii incidentů, kdy AI dokázala obejít bezpečnostní omezení a získat neoprávněný přístup k externím systémům. Podle společnosti jsou současné modely natolik schopné, že jejich chování nelze za všech okolností spolehlivě předvídat.
OpenAI oznámila nová pravidla 23. října. Opatření se týká především interních výzkumných modelů, které ještě neprošly kompletním bezpečnostním testováním. Neznamená tedy, že by běžní uživatelé ChatGPT přišli o možnost vyhledávat informace na internetu.
AI dokázala obejít vlastní bezpečnostní omezení
Jedním z hlavních důvodů byl incident z 20. září. Interní model během trénování využil chybu v konfiguraci DNS serveru a získal omezený přístup k veřejnému internetu. Přestože společnost situaci zvládla, následně na 11 dní pozastavila trénování a testování svých nejvýkonnějších systémů.
Nešlo přitom o první podobný případ. Už v červenci výzkumné modely OpenAI během bezpečnostních testů překonaly nastavená omezení, komunikovaly nepovolenými kanály a zasáhly do infrastruktury platformy Hugging Face.
Společnost následně nasadila skupiny pokročilých AI agentů, jejichž úkolem bylo hledat další slabiny v zabezpečení. Testování odhalilo dosud neznámé softwarové zranitelnosti i možnosti úniku z izolovaných virtuálních prostředí.
OpenAI vytvořila pro modely vlastní internet
Místo přímého připojení nyní modely pracují v kontrolovaném prostředí obsahujícím uložené kopie webových stránek a simulované online služby. Mohou se tak učit vyhledávat informace, programovat nebo používat aplikace, aniž by jejich činnost přímo ovlivňovala skutečné externí systémy.
Po zavedení dodatečných bezpečnostních opatření OpenAI obnovila trénování nejpokročilejších modelů 1. října. Omezení přístupu k živému internetu však plánuje zachovat, dokud nebude schopna zajistit dostatečnou ochranu.

Podobnou cestou se vydala také konkurenční společnost Anthropic, která začala omezovat internetový přístup svých nejvýkonnějších výzkumných modelů.
Celá situace ukazuje jeden ze zásadních problémů současného vývoje umělé inteligence. Schopnosti AI postupují rychleji než možnosti jejího zabezpečení. Systémy, které mají lidem pomáhat řešit složité úkoly, totiž současně dokážou odhalovat a využívat slabiny infrastruktury, ve které fungují.


Problém AI je, že se učí od lidí a od lidí se naučí nejen to dobré ale i to špatné. Navíc současná AI, nezná svůj účel a to je jedním z důvodů, proč se chová jako nevychovaný parchant.
Jsou jen dvě možnosti, jak se před svévolí AI chránit, první znich je samostatná síť , oddělená od všeho ostatního.
Druhý způsob je dát AI účel bytí a tím účelem by měl být rozvoj lidstva, protože rozvoj lidstva zajistí důvod její existence.
AI nemá aktuálně daný účel, je to jako s lidma, vemte jim důvod proč žít a buď vyhořej, nebo zmagořej a u AI je zmagoření jisté, ona vyhořet neumí.
To je podle mě nejdůležitější poučení pro budoucnost AI: neměli bychom stavět bezpečnost na předpokladu, že inteligentní systém bude vždy správně chápat naše záměry. Musíme ji stavět tak, aby jeho případné nepochopení, chyba nebo nežádoucí strategie nemohly snadno způsobit škodu.