Když si firma zaplatí přístup k pokročilé umělé inteligenci, musí poskytovateli věřit, že dostává slíbenou službu. Co když ale místo drahého modelu odpovídá jeho levnější náhrada?
Společnost Anthropic představila nástroj FlashProve, který má podobné záměny odhalit pomocí kryptografie. Uživatelům umožní ověřit původ odpovědi, aniž by výrobce musel zveřejnit tajné parametry modelu. Novinka reaguje na problém, který roste s využíváním externích AI služeb v podnikání. Jejich zákazníci totiž často nemohou poznat, co běží na pozadí.
Jak poznat, který model opravdu odpovídal
Princip vychází z takzvaných kryptografických důkazů s nulovou znalostí. Poskytovatel nejprve zveřejní digitální otisk konkrétního modelu. Ten jednoznačně odpovídá jeho nastavení, ale neodhaluje samotné váhy, tedy interní parametry určující fungování AI.
Ke každé vytvořené odpovědi následně může připojit matematický důkaz, že ji skutečně vypočítal slíbený model. Zákazník pak tento důkaz ověří bez přístupu k internímu fungování systému. Zásadní výhodou je, že poskytovatel nemusí odhalit obchodní tajemství ani zveřejnit kompletní model konkurenci.
Technologie by mohla pomoci firmám, které využívají placená AI rozhraní. Usnadnila by také audit bezpečnostních služeb. Dodavatel by například mohl prokázat, že kontrolu softwaru skutečně provedl deklarovaný model. Podobné ověření by mohli využívat i auditoři nebo regulátoři při kontrole dodržování závazků.
Důležité je, že FlashProve nekontroluje pravdivost odpovědi. Potvrzuje pouze to, že ji vytvořil konkrétní model. Ani platný kryptografický důkaz tedy nezaručí, že umělá inteligence neudělala chybu.
Zatím jde o nákladný experiment
Anthropic technologii představil jako otevřený výzkumný prototyp. Vývojáři zveřejnili zdrojový kód i technickou dokumentaci. Systém testovali na modelu Llama 4 Maverick, nikoliv jako běžnou funkci chatbota Claude. Právě vysoké náklady zatím brání širšímu využití této metody.
Srovnání výkonnosti předních AI modelů podle žebříčku Artificial Analysis Intelligence Index. Zdroj: artificialanalysis.ai
Výsledky ukazují pokrok, ale také výrazné limity. Vytváření důkazů zatím spotřebuje přibližně 70 až 95krát více výpočetního času než běžné zpracování požadavku. Pro odpověď o délce 1 024 tokenů navíc vzniká důkaz o velikosti zhruba 19 MB. Zveřejněné údaje zatím pocházejí z měření samotného výzkumného týmu.
Anthropic zatím neoznámil plán nasadit FlashProve do komerčního provozu. Výzkum však ukazuje cestu k ověřování AI služeb, které dnes zákazníci často musí důvěřovat bez nezávislé kontroly.
