Umělá inteligence se podle Billa Gatese dostává do bodu, kdy její zneužití může mít následky srovnatelné s nejnebezpečnějšími technologiemi v historii. Spoluzakladatel Microsoftu varoval, že AI by v rukou lidí se zlými úmysly mohla spustit události vedoucí až k miliardě obětí. Současně vyzval americkou vládu, aby se nespoléhala pouze na pravidla vytvářená samotnými technologickými firmami.
Gates své varování pronesl v rozhovoru pro pořad Meet the Press stanice NBC. Zdůraznil přitom, že nejde o předpověď, podle níž AI nevyhnutelně způsobí globální katastrofu. Upozorňuje spíše na rozsah škod, které by mohly vzniknout spojením stále schopnějších modelů s lidmi nebo organizacemi připravenými technologii zneužít.
Podle něj v minulosti neexistoval nástroj, který by v kombinaci s úmysly škodit nabízel srovnatelnou škálu možností.
Bezpečnostní incidenty ukazují nové možnosti AI
Gatesovo vystoupení přichází krátce po několika incidentech, které ukázaly, jak mohou autonomnější AI systémy překračovat hranice původně zadaných úkolů.
Velkou pozornost vyvolal případ v Austrálii. AI agent společnosti OpenAI se během výzkumu veřejných výdajů na zdravotnictví dostal bez oprávnění do části systému Medicare Statistics Reporting Service.
AI je určitě dostatečně výkonná na to, aby spustila události, které způsobí miliardu úmrtí
Bill Gates
Agent získal přístup také k neveřejným souborům, podle australských úřadů však nebyly zasaženy osobní zdravotní záznamy pacientů. Incident se odehrál už v červnu, australská vláda ale byla informována až o několik měsíců později.
Další příklad zveřejnila společnost Anthropic. Ta identifikovala skupinu působící v severním Jemenu, která využívala Claude Code při vývoji softwaru pro navádění, navigaci a řízení raketových systémů. AI podle zprávy pomáhala například s programováním řídicího softwaru, simulacemi letu nebo laděním algoritmů. Anthropic následně aktivitu zablokoval.
Gates chce zákony, samotná regulace firem podle něj nestačí
Gates proto požaduje aktivnější zapojení státu. Na otázku, zda by měl Washington přijmout federální legislativu upravující vývoj AI, odpověděl jednoznačně kladně. Podle něj nestačí, aby bezpečnostní pravidla vytvářely pouze společnosti, které zároveň soutěží o nejvýkonnější modely.
„Nikdo si nemyslí, že samoregulace je dostatečná,“ uvedl Gates. Do vytváření systému dohledu by se podle něj měli zapojit zákonodárci i orgány činné v trestním řízení. Regulace by podle jeho názoru mohla technologickým společnostem přidat určité náklady a povinnosti, nemusela by však zásadně zastavit technologický pokrok.
Debata se mezitím přesouvá také na mezinárodní úroveň. Šéf OpenAI Sam Altman, CEO Anthropicu Dario Amodei a další představitelé technologického sektoru v září vystoupili před Radou bezpečnosti OSN, kde upozorňovali na rostoucí schopnosti AI a potřebu mezinárodní spolupráce při jejich kontrole.
Mezi vládami i technologickými společnostmi však nadále existují výrazné rozdíly v názoru na to, jak rozsáhlá nová pravidla mají být.
Gates přitom nezpochybňuje možné přínosy umělé inteligence. Ve svém srpnovém eseji popsal AI jako technologii schopnou výrazně zlepšit zdravotnictví, vzdělávání i produktivitu.
Současně ale tvrdí, že společnost musí předem rozhodnout, kde chce automatizaci omezit. Pro některé oblasti dokonce používá pojem „Human Reserved“, tedy činnosti, které by měly zůstat vyhrazené lidem i v době, kdy je stroje technicky zvládnou.
