Čínská "krádež" inteligence? Anthropic odhalil masivní útok na svůj model Claude
Společnost Anthropic obvinila čínské giganty DeepSeek, Moonshot a MiniMax z masivní krádeže inteligence modelu Claude. Skrze miliony interakcí se čínské firmy pokusily „vydestilovat“ schopnosti americké AI, což vyvolává globální bezpečnostní obavy.
Válka o nadvládu nad umělou inteligencí přitvrzuje
Společnost Anthropic, čerstvě oceněná na 380 miliard dolarů, vytáhla do boje proti čínské konkurenci. Obvinila trojici technologických firem, vyvíjejících umělou inteligenci z takzvané "průmyslové destilace". Společnosti DeepSeek, Moonshot a MiniMax údajně zneužily miliony interakcí s modelem Claude k tomu, aby skokově vylepšily své vlastní systémy. Podle amerického giganta nejde jen o krádež, ale o bezpečnostní riziko globálního formátu.
Je to scénář, kterého se západní vývojáři obávali nejvíce. Místo zdlouhavého a nákladného vlastního vývoje si konkurence jednoduše "vypůjčí" mozek vašeho nejlepšího modelu, aby ten svůj naučila myslet. Přesně to se podle pondělního prohlášení Anthropicu stalo.
Firma v detailní zprávě odhalila, že tři čínské AI společnosti spustily masivní koordinovanou kampaň. Během ní přes 24 000 falešných účtů vygenerovalo více než 16 milionů interakcí s modelem Claude. Cíl byl jediný: "vydestilovat" jeho schopnosti.
Co je to "destilace"?
V technickém žargonu jde o proces, kdy se menší a "hloupější" model učí na výstupech silnějšího modelu (v tomto případě Claude). Místo nákladného trénování na syrových datech se čínské modely učily přímo z hotových, vysoce kvalitních odpovědí americké AI.
Bezpečnostní rizika a krádež know-how
„Tyto kampaně rostou na intenzitě i sofistikovanosti. Okno pro reakci se zužuje a hrozba přesahuje jakoukoli jednotlivou firmu,“ varuje Anthropic ve svém blogovém příspěvku.
Problém však není jen v krádeži duševního vlastnictví. Anthropic upozorňuje, že takto "ukradené" modely často postrádají klíčové bezpečnostní pojistky. Pokud by se tyto neregulované, ale vysoce schopné systémy dostaly do open-source prostoru (jako se to často děje u DeepSeek), bezpečnostní rizika by se mohla vymknout kontrole jakékoliv vlády.
Hon kočky s myší: Pivot do 24 hodin
Zpráva odhaluje fascinující detaily o tom, jak celá operace probíhala. Každá z čínských firem se specializovala na jinou oblast vývoje:
- DeepSeek: Cílil na schopnosti logického uvažování (reasoning) a vytváření verzí, které obejdou cenzuru a zvládnou politicky citlivá témata.
- Moonshot: Soustředil se na "agentní" uvažování, používání nástrojů, kódování a analýzu dat.
- MiniMax: Zaměřil se na orchestraci složitých úloh.
Drzost útočníků nemá hranic
Incident s firmou MiniMax ilustruje rychlost adaptace. „Když jsme během jejich aktivní kampaně vydali nový model, zareagovali do 24 hodin. Okamžitě přesměrovali téměř polovinu svého provozu na náš nový systém, aby zachytili jeho nejnovější schopnosti,“ uvádí Anthropic.
Argument pro tvrdší kontrolu čipů
Anthropic, který nedávno uzavřel investiční kolo v hodnotě 30 miliard dolarů, využívá tento incident jako silný argument pro přísnější exportní kontroly čipů.
Logika je neúprosná: Pokud omezíte přístup k nejvýkonnějšímu hardwaru, ztížíte nejen přímý trénink modelů, ale i efektivitu této "destilace". Bez špičkových čipů je totiž mnohem těžší efektivně zpracovat a implementovat data získaná z cizích modelů.
Kontext: Není to poprvé
Aktuální obvinění přichází jen pár týdnů poté, co podobné varování vydala OpenAI. Ta upozornila americké zákonodárce, že DeepSeek cíleně kopíruje architekturu ChatGPT
Zdá se, že čínský AI sektor, čelící hardwarovým sankcím, našel způsob, jak udržet krok – ne hrubou výpočetní silou, ale "parazitováním" na západních inovacích. Ani jedna ze jmenovaných čínských společností na žádost agentury Reuters o komentář zatím nereagovala.
Jsem zakladatelem portálu Kryptomagazin.cz, o kryptoměnách na české scéně nebylo prakticky nic, a tak jsem se rozhodl to napravit. Mám rád myšlenku decentralizace, trochu toho cypherpunku a kryptoanarchie. Krypto odvětví je můj svět, kde se denně pohybuji a pracuji, nemohu to tedy již nazvat koníčkem nebo zálibou. Rád vás na vašem kryptomagazínu vždy uvítám :)