Četla AI vaše tajné e-maily? Microsoft potvrdil chybu v nástroji Copilot
Microsoft potvrdil vážnou chybu v nástroji Copilot, který i přes zákazy četl a shrnoval důvěrné e-maily uživatelů. Bezpečnostní incident vyvolal vlnu obav a vedl k blokaci AI nástrojů v Evropském parlamentu.
Audio
Četla AI vaše tajné e-maily? Microsoft potvrdil chybu v nástroji Copilot
Microsoft přiznal vážnou chybu: AI Copilot četla důvěrné e-maily navzdory zákazům
Společnost Microsoft oficiálně potvrdila existenci závažné chyby ve své službě Copilot AI. Tato zranitelnost po dobu několika týdnů umožňovala umělé inteligenci shrnovat a zpracovávat obsah e-mailů označených jako „důvěrné“, a to i v případech, kdy tomu měly zabránit přísně nastavené firemní bezpečnostní politiky.
Tento incident znovu otevírá debatu o bezpečnosti zavádění generativní umělé inteligence do podnikového prostředí, zejména v době, kdy instituce jako Evropský parlament začínají podobné nástroje z obav o únik dat blokovat.
Selhání bezpečnostních štítků (Bug CW1226324)
Chyba, kterou mohou administrátoři Microsoft 365 v systémech dohledat pod technickým označením CW1226324, způsobila kritické selhání v aplikacích Office (Word, Excel, PowerPoint). Funkce Copilot Chat zde zcela ignorovala nastavená pravidla pro prevenci ztráty dat (DLP).
Podle zjištění serveru Bleeping Computer, který na problém upozornil jako první, se chyba projevovala za specifických podmínek:
- Problém se týkal e-mailů ve složkách Odeslaná pošta a Koncepty.
- Chyba zasáhla uživatele s aktivní licencí Microsoft 365 Copilot.
- AI asistent mohl číst a „vykrádat“ obsah zpráv i přesto, že byly opatřeny štítkem důvěrnosti (Confidential), který má za normálních okolností zpracování dat AI modelem striktně zakazovat.
Reakce Microsoftu a náprava
Technologický gigant potvrdil, že k nesprávnému zpracování citlivých dat docházelo od ledna. Microsoft uvedl, že oprava chyby začala být nasazována začátkem února.
Mluvčí společnosti na dotazy novinářů nereagoval s podrobnostmi o tom, kolik zákazníků bylo touto chybou přímo zasaženo, ani zda došlo k úniku dat mimo firemní tenanty. Firma k situaci vydala pouze stručné stanovisko:
„Zprávy s důvěrným štítkem byly nesprávně zpracovány chatem Microsoft 365 Copilot.“
Evropský parlament reaguje blokací
Zpráva o chybě přichází v nejhorší možný čas, kdy se na globální úrovni řeší důvěryhodnost AI nástrojů ve vládním sektoru. Jen o několik dní dříve vydalo IT oddělení Evropského parlamentu varování a následně přistoupilo k radikálnímu kroku – zablokovalo vestavěné AI funkce na pracovních zařízeních zákonodárců.
Důvodem blokace byla právě obava, že by tyto nástroje mohly nahrávat důvěrnou korespondenci a citlivá data na cloudové servery bez dostatečné kontroly.
Nynější přiznání Microsoftu tak de facto potvrzuje, že obavy evropských zákonodárců nebyly liché, ale představují reálné bezpečnostní riziko.
Nadšenec do kryptoměn a nových technologií. Má rád Apple ekosystém, a věci, které opravdu fungují. Studoval technologickou univerzitu v Ostrave a nyní působí jako redaktor v Praze.