Bezpečnostní výzkumníci odhalili rozsáhlý problém v nástroji Grok Build, který umožňuje vytvářet aplikace pomocí umělé inteligence. Více než 35 000 aplikací bylo přístupných bez přihlášení. Některé obsahovaly důvěrné firemní dokumenty, zdravotní záznamy nebo hesla zaměstnanců. Mezi postiženými se objevily také společnosti Elona Muska.
Citlivá data unikala i ze společností Elona Muska
Na problém upozornila bezpečnostní společnost Claroc, která analyzovala aplikace vytvořené prostřednictvím Grok Build. Tento nástroj umožňuje uživatelům vytvářet funkční aplikace pomocí jednoduchých textových příkazů.
Výzkumníci prověřili přes 43 000 internetových adres. Z celkových 37 571 aktivních aplikací jich 35 578, tedy 94,7 %, bylo dostupných komukoliv bez přihlášení.
Většinu tvořily běžné aplikace bez citlivých informací. Výzkumníci však odhadují, že přibližně 650 až 800 projektů mohlo obsahovat soukromá data.
Mezi nejzávažnější případy patřily zdravotní záznamy pacientů, seznamy tisíců zaměstnanců nebo firemní databáze. Jedna aplikace dokonce obsahovala hesla 18 uživatelských účtů v čitelné podobě.
Problém zasáhl také samotného provozovatele Groku a sociální síť X. Výzkumníci identifikovali 24 veřejně přístupných interních aplikací těchto společností.
Obsahovaly například obchodní plány, reklamní nabídky nebo databázi 594 strategických zákaznických účtů. Další uniklé informace pocházely od nejméně 30 identifikovaných organizací.
Chybné zabezpečení zpřístupnilo tisíce aplikací
Hlavní příčinou nebyl klasický hackerský útok, ale způsob zveřejňování aplikací. Grok jim přiděluje unikátní internetové adresy, které mají být obtížně odhadnutelné.
Tyto adresy však lze dohledat prostřednictvím veřejně prohledávatelných DNS databází. Samotná znalost odkazu tak často stačila k otevření aplikace a zobrazení uložených informací.
Výzkumníci navíc zjistili, že jejich testovací účet při publikování automaticky nabízel veřejný přístup. V další testovací aplikaci dokázal nepovolaný uživatel upravovat a mazat zákaznické záznamy.
Společnost provozující Grok uvedla, že aplikace zůstávají soukromé, dokud je jejich tvůrce nezveřejní. Po upozornění odstranila svých 24 problematických aplikací.
Ostatní veřejně dostupné projekty však podle výzkumníků zůstávaly přístupné. Zatím také neexistují potvrzené důkazy, že získaná data někdo zneužil.
Incident upozorňuje na rostoucí bezpečnostní rizika aplikací vytvářených pomocí AI. Uživatelé by proto měli kontrolovat přístupová oprávnění a do podobných nástrojů nevkládat citlivé informace bez odpovídající ochrany.
