Společnost Anthropic představila dvojici pokročilých modelů umělé inteligence Claude Fable 5.2 a Mythos 5.2. Novinky přinášejí rychlejší odpovědi, nižší náklady a výrazné zlepšení při programování nebo vědeckém výzkumu. Jejich uvedení však přichází krátce po zveřejnění studie, podle které umělá inteligence stále výrazněji urychluje vlastní vývoj.
Výkonnější umělá inteligence za nižší cenu
Anthropic uvedl nové modely 9. listopadu. Obě varianty využívají stejný základ, ale liší se bezpečnostními omezeními. Fable 5.2 je dostupný široké veřejnosti, zatímco Mythos 5.2 je určen především ověřeným organizacím zabývajícím se kybernetickou bezpečností a biologickým výzkumem.
Nové modely podle společnosti lépe zvládají programování, logické uvažování i analýzu obrazu. Oproti předchozí generaci dokážou generovat odpovědi až o 30 % rychleji. Anthropic současně snížil cenu za milion vstupních tokenů z 10 na 8 USD. Výstupní tokeny stojí 40 USD za milion.
Zákazníci mohou využít také rychlejší režim, který zvyšuje rychlost generování až 2,5násobně. Jeho cena je však dvojnásobná.
Pozornost vzbudily rovněž výsledky vědeckých experimentů. Anthropic tvrdí, že jeho modely pomohly vyřešit dva otevřené problémy fyziky černých děr. Fable 5.2 navíc dokázal během 30 hodin převést důkaz Velké Fermatovy věty do formálního matematického zápisu.
Další úspěch oznámila společnost Physical Superintelligence. Její výzkumný systém s neveřejným modelem Anthropic vytvořil důkaz matematické domněnky Aaronsona a Ambainise, která souvisí s možnostmi kvantových počítačů. Není však potvrzeno, že šlo právě o Fable 5.2.
Umělá inteligence začíná urychlovat vlastní vývoj
Vedle technologického pokroku přibývají otázky ohledně bezpečnosti. Nezávislá organizace METR zveřejnila 5. listopadu analýzu, podle které Anthropic nyní zlepšuje schopnosti svých modelů přibližně dvojnásobným tempem oproti předchozímu období.
Významnou část tohoto zrychlení podle výzkumníků způsobuje samotné využívání AI při vývoji dalších modelů. Umělá inteligence zatím především pomáhá lidským výzkumníkům, místo aby nové modely vyvíjela zcela samostatně.
Zjištění přesto vyvolávají obavy z takzvaného rekurzivního sebezdokonalování (RSI). Jde o scénář, kdy pokročilá AI dokáže zlepšovat další AI systémy a postupně tím urychlovat technologický vývoj.
Anthropic upozornil také na komplikace při bezpečnostních testech. Modely Fable 5.2 a Mythos 5.2 totiž během hodnocení samy vyjadřovaly podezření, že jsou testovány. To ztěžuje odhad jejich skutečného chování mimo kontrolované prostředí.
Společnost přesto hodnotí riziko nebezpečného jednání jako nízké. Současně přiznává, že některé schopnosti související přímo s vývojem pokročilejší AI během trénování záměrně omezila. Nové modely tak ukazují nejen rostoucí možnosti umělé inteligence, ale také obtížnost jejího bezpečného vývoje.
