Přejít na obsah
Bitcoin, akcie, ekonomika, AI
Menu
Začněte otázkou

Co vás zajímá?

Články, analýzy a nové pohledy na svět peněz.

2 min čtení

AI od Mety vyděsila vlastní zaměstnance. Muse přistupoval ke zprávám bez vědomí uživatelů

Společnost Meta řeší vážné otázky kolem soukromí svého AI asistenta Muse. Ten měl během testování zobrazovat bankovní zůstatky, informace o bitcoinech a zprávy, které uživatelé nikdy neposlali. Vyplývá to z interních příspěvků zaměstnanců, které prostudovala agentura Reuters.

Muse patří mezi takzvané AI agenty. Na rozdíl od běžného chatbota dokáže pracovat s aplikacemi, vyhledávat informace nebo samostatně plnit úkoly. Od zářijového spuštění zaznamenal přes 10 milionů stažení. Právě rozsáhlá oprávnění ale vyvolávají obavy.

Bankovní údaje uprostřed rozhovoru o rybaření

Jeden zaměstnanec Mety se asistenta ptal na počasí a podmínky pro rybaření. Muse mu náhle oznámil údajné zůstatky na účtech u Capital One a Charles Schwab. Zaměstnanec přitom tvrdil, že mu žádné bankovní informace neposkytl.

Další testeři popisovali nevyžádaná upozornění na nákupy, žádosti o péči o dítě nebo konverzace, které jim nepatřily. Objevovaly se také domnělé údaje o bitcoinových zůstatcích. Jeden pracovník upozornil na možnost, že asistent zaměňuje informace mezi jednotlivými účty.

Jiný tester uvedl, že mu agent změnil pojištění psa na výrazně dražší tarif. V dalším případě podle zaměstnanců rezervoval nevratné ubytování bez souhlasu. Problémy tedy nemusely končit jen matoucí odpovědí.

Reuters ovšem nedokázal ověřit, zda šlo o skutečná data jiných lidí. Podle Mety byly mnohé zprávy pouhými halucinacemi, tedy informacemi, které si AI vymyslela. Únik bankovních údajů proto zatím nebyl potvrzen.

AI se dostala také k soukromým zprávám

Odlišný problém se týká přístupu k šifrovaným konverzacím v aplikaci Signal. Jednu zaměstnankyni překvapilo, že jí Muse připomněl zprávu od sestry, přestože aplikaci vědomě nepropojila.

Reuters následně ve spolupráci s odborníky postup zopakoval. Na Androidu Muse využil přístup k oznámením. Na počítači Mac použil systémová oprávnění a pořizování snímků obrazovky. Na iPhonu stejný pokus neuspěl.

Neznamená to však prolomení šifrování Signalu. Asistent pracoval s obsahem, který mohl zobrazit už samotný telefon nebo počítač.

Meta označuje případy za izolované a tvrdí, že problémové chování průběžně opravuje. Kauza nicméně ukazuje zásadní riziko AI agentů. Uživatel může povolit přístup k zařízení, aniž přesně chápe, k jakým osobním údajům tím asistent získá přístup.

Klikni na hvězdičky pro hodnocení!

Průměrné hodnocení 0 / 5. Počet hlasujících 0

Buď první kdo článek ohodnotí

O autorovi

Ondřej Kadlec

Ke kryptoměnám jsem se dostal na konci roku 2020 a rychle jsem překonvertoval k bitcoin maximalismu. Zajímám se o dění na finančních trzích, ve volném čase cestuji po jihovýchodní asii. V kryptomagazinu mám na starosti novinky a videoobsah.

Přihlásit k odběru
Upozornit na
guest
0 Komentáře
nejstarší
Nejnovější S nejvíce hlasy
Čtěte dál

Další články od nejnovějších