Společnost Meta řeší vážné otázky kolem soukromí svého AI asistenta Muse. Ten měl během testování zobrazovat bankovní zůstatky, informace o bitcoinech a zprávy, které uživatelé nikdy neposlali. Vyplývá to z interních příspěvků zaměstnanců, které prostudovala agentura Reuters.
Muse patří mezi takzvané AI agenty. Na rozdíl od běžného chatbota dokáže pracovat s aplikacemi, vyhledávat informace nebo samostatně plnit úkoly. Od zářijového spuštění zaznamenal přes 10 milionů stažení. Právě rozsáhlá oprávnění ale vyvolávají obavy.
Bankovní údaje uprostřed rozhovoru o rybaření
Jeden zaměstnanec Mety se asistenta ptal na počasí a podmínky pro rybaření. Muse mu náhle oznámil údajné zůstatky na účtech u Capital One a Charles Schwab. Zaměstnanec přitom tvrdil, že mu žádné bankovní informace neposkytl.
Další testeři popisovali nevyžádaná upozornění na nákupy, žádosti o péči o dítě nebo konverzace, které jim nepatřily. Objevovaly se také domnělé údaje o bitcoinových zůstatcích. Jeden pracovník upozornil na možnost, že asistent zaměňuje informace mezi jednotlivými účty.

Jiný tester uvedl, že mu agent změnil pojištění psa na výrazně dražší tarif. V dalším případě podle zaměstnanců rezervoval nevratné ubytování bez souhlasu. Problémy tedy nemusely končit jen matoucí odpovědí.
Reuters ovšem nedokázal ověřit, zda šlo o skutečná data jiných lidí. Podle Mety byly mnohé zprávy pouhými halucinacemi, tedy informacemi, které si AI vymyslela. Únik bankovních údajů proto zatím nebyl potvrzen.
AI se dostala také k soukromým zprávám
Odlišný problém se týká přístupu k šifrovaným konverzacím v aplikaci Signal. Jednu zaměstnankyni překvapilo, že jí Muse připomněl zprávu od sestry, přestože aplikaci vědomě nepropojila.
Reuters následně ve spolupráci s odborníky postup zopakoval. Na Androidu Muse využil přístup k oznámením. Na počítači Mac použil systémová oprávnění a pořizování snímků obrazovky. Na iPhonu stejný pokus neuspěl.
Neznamená to však prolomení šifrování Signalu. Asistent pracoval s obsahem, který mohl zobrazit už samotný telefon nebo počítač.
Meta označuje případy za izolované a tvrdí, že problémové chování průběžně opravuje. Kauza nicméně ukazuje zásadní riziko AI agentů. Uživatel může povolit přístup k zařízení, aniž přesně chápe, k jakým osobním údajům tím asistent získá přístup.


