Šéf Anthropicu přiznává zásadní problém umělé inteligence. Lidé jí jednoduše nevěří

Krize důvěry v AI: Proč marketing technologických gigantů přestává fungovat?

Umělá inteligence se ve Spojených státech stále častěji setkává s odporem veřejnosti. Podle šéfa společnosti Anthropic Daria Amodeie však hlavní problém netkví ve varováních před riziky AI ani v příliš negativní komunikaci technologických firem. Jde podle něj o mnohem hlubší krizi důvěry vůči technologickým korporacím a institucím obecně.

Amodei těmito slovy reagoval na kritiku investora Gavina Bakera, který mu vyčítal způsob, jakým o umělé inteligenci veřejně mluví. Baker tvrdí, že neustálé zdůrazňování katastrofických scénářů vyvolává negativní nálady, což se projevuje například odporem proti výstavbě datových center. Vyzval proto šéfa Anthropic, aby se stal pozitivnějším ambasadorem technologie, kterou sám vyvíjí.

Vize budoucnosti vs. realita

Amodei však s takovou interpretací nesouhlasí. Upozorňuje, že jeho vyjádření dlouhodobě vyvažují rizika a potenciální přínosy. Jako příklad uvádí svou esej Machines of Loving Grace, kde vykreslil budoucnost, v níž AI dramaticky urychluje:

• Vědecký výzkum a vývoj nových léků.
• Modernizaci medicíny a diagnostiky.
• Celkový ekonomický rozvoj společnosti skrze vysoce schopné systémy.

Samotný marketing veřejnost nepřesvědčí

Negativní postoj části veřejnosti je podle Amodeie fakt, který nelze napravit pouhým lepším marketingem. Lidé podle něj jednoduše přestali věřit, že technologické společnosti budou jednat v jejich zájmu. Aktuální data jeho slova potvrzují.

Ještě vyhrocenější situace panuje kolem fyzické infrastruktury. Průzkum Reuters/Ipsos odhalil následující skutečnosti:

• Pouze 14 % Američanů by souhlasilo s výstavbou datového centra ve svém okolí.
• Celých 77 % lidí se obává, že rozšiřování center povede ke zdražení elektřiny.
• V prvním čtvrtletí letošního roku narazilo na odpor místních komunit 75 projektů v hodnotě přibližně 130 miliard USD.

Šéf Anthropic zdůrazňuje, že AI společnosti zatím nedokázaly naplnit většinu svých slibů. Prázdná hesla o záchraně světa už nestačí.

Jako příklad použil léčbu rakoviny – skutečný průlom by měl pro důvěru veřejnosti větší význam než další dekády slibů o tom, co všechno AI jednou dokáže.

Regulace jako nástroj proti monopolům?

Dalším bodem sporu je otázka regulace. Gavin Baker varuje, že přísná pravidla mohou paradoxně nahrávat největším hráčům na trhu. Giganti si mohou dovolit rozsáhlé právní týmy a nákladné bezpečnostní testy, což pro menší konkurenty představuje nepřekonatelnou bariéru vstupu na trh.

Anthropic však prosazuje odlišný přístup. Firma podpořila například kalifornský zákon SB 53, který vstoupil v platnost 1. ledna 2026. Tento zákon cílí na:

• Transparentnost: Povinné zveřejňování informací o nejpokročilejších modelech.
• Řízení rizik: Přísnější nároky na bezpečnost u hraničních modelů.
• Ochranu malých hráčů: Výslovné osvobození menších společností od části nákladných povinností.

Proč AI přirozeně směřuje ke koncentraci moci?

Podle Amodeie není regulace jediným faktorem. Samotná podstata vývoje AI směřuje k centralizaci, protože vyžaduje enormní zdroje:

• Masivní výpočetní výkon.
• Nejmodernější a nedostatkové čipy.
• Obrovský finanční kapitál.

Anthropic proto navrhuje model nezávislého hodnocení modelů, který by dokázal včas identifikovat rizika spojená s kybernetickými útoky či biologickými hrozbami, a v krajním případě by umožnil zabránit nasazení nebezpečného systému.

Činy musí nahradit slova

Debata jasně ukazuje, že technologický sektor stojí na rozcestí. Schopnosti umělé inteligence rostou exponenciálně, ale důvěra veřejnosti stagnuje nebo klesá. Pokud má Amodei pravdu, k obratu nepovedou líbivé kampaně, ale pouze měřitelné výsledky, které přinesou prospěch celé společnosti, nikoliv jen úzké skupině akcionářů.