Fake news (nepravdivé/vymyšlené zprávy) – problém, který již delší dobu sužuje (nejen) internet. Rusové nimi (prý) ovlivnili americké prezidentské volby, jiní nimi zas polarizují společnost na Twitteru a sociálních sítích… Spojte je s obrovskými sítěmi inteligentních botů na ovlivnění online anket a máte zde recept na ovládání moderní internetové civilizace.
Dnes jsem na internetu narazil na stránku, na které umělá inteligence generuje lidské tváře, a napadl mě skvělý způsob, jak ještě více zhoršit tuto situaci. Nad tématem fake news a způsobem, jak proti nim bojovat, jsem se totiž už delší dobu zamýšlel. Myslím si, že schopnost procedurálně generovat lidské tváře a její využití na rozšiřování fake news pomocí sociálních sítí může otřást základy naší společnosti.
Tip redakce: 21 největších úniků dat za poslední roky – týká se to miliard lidí, možná i vás!
Prelude
Kdysi dávno před 30 lety, když vznikal internet, si lidé mysleli, že toto médium nás spojím. Momentálně to však vypadá trochu opačně. Jistě, existují různá fóra a weby (mezi nimi i Kryptomagazín), které spojují lidi se stejnými zájmy. Věnujte však pozornost posledním třem slovům – se stejnými zájmy!
Je to logické. Nebudu dívat / číst to, co mě nezajímá. V konečném důsledku se tak uzavíráme do bublin, ve kterých se neustále ujišťujeme, že právě ty naše názory jsou „správné“ a stále spíše sporadické přicházíme do kontaktu s lidmi, kteří s námi nesouhlasí.
Tyto bubliny se vytvářejí i na sociálních sítích. Je v zájmu každého webu nabídnout návštěvníkům příjemné prostředí, aby tam strávili více času. Právě proto můžeme v posledních letech sledovat prudký vzestup hnutí, která jsou absolutně stupidní. Jeden příklad za všechny – Flat Earth society.
Falešné profily a ovlivňování názorů
Co to má společného s umělou inteligencí, která je schopna generovat lidské tváře? Všechno! Zmíněné stupidní extrémní názory získávají stále více a více stoupenců. Získávají tak takzvaný social proof. Jde o formu autority která vychází z toho, že čím více lidí má nějaký názor, tím je pravděpodobnější, že daný názor je správný (alespoň v určitém kontextu).
Lidé jsou ovce (bez urážky) a rádi následují dav. Platí to o davech v reálném světě, ale i na internetu. Pokud nějaké hnutí získá velkou podporu na sociálních sítích, je pravděpodobnější, že se k němu přidají noví lidé. Ale jak získat velkou podporu na sociálních sítích?
Nuže, můžete dělat to co my a dlouhá léta publikovat zajímavé články o nějakém tématu, nebo můžete použít armádu botů. Facebook, Twitter a další sociální sítě jsou však stále lepší v rozeznávání skutečných profilů od těch fejkových.
A tu mohou boty využít vygenerované fotografie neexistujících lidí. Umělá inteligence je dnes schopna vygenerovat lidskou tvář, ale v budoucnosti pravděpodobně bude schopna vygenerovat různé fotografie. Fotografie na pláži s koktejlem, fotografie narozeninových oslav, fotografie ze školy, práce, restaurace, k těmto fotografiím vytvořit smysluplné popisky a příspěvky následně publikovat (například) na Facebooku.
V konečném důsledku tak budou mít tvůrci těchto botů kontrolu nad obrovským množstvím přesvědčivých fejkových profilů. Profily budou žádat o přátelství náhodných lidí, pak jejich přátel, publikovat příspěvky, které získají množství lajků, komentářů a sdílení…
Mohlo by vás zajímat: Proč hyperinflaci předchází deflacie? – Takto imploduje dolar
AI > člověk
A řekněme si na rovinu, tyto umělé inteligence budou pravděpodobně úspěšnější ve vytváření příspěvků, které zaujmou. Přece jen, umělá inteligence může rigorózně analyzovat nástěnky svých „přátel“ a vytvářet příspěvky o kterých si myslí, že budou mít největší dopad a získají nejvíce lajků. My, reální lidé, jim budeme dávat feedback v reálném čase.
A pak přijde na lámání chleba. Boti začnou psát a sdílet různé nepravdivé zprávy a aktivně se budou snažit ovlivnit individuální lidi, a tedy i celou společnost. Můžeme debatovat o tom, na co všechno by se takový mocný nástroj dal použít. Ovlivňování demokratických voleb, zdiskreditování nepřátel, států, vlád, šíření nenávisti, ale i lásky.
Je důležité uvědomit si, že toto v žádném případě není sci-fi. Podobné sítě botů reálné existují a v budoucnu budou stále větší a přesvědčivější. Je dost možné, že v následující dekádě budete mít v komentářích zanícenou debatu s umělou inteligencí. A dostatečně vyspělá umělá inteligence vás pravděpodobně ovlivní.
Google, Facebook, Amazon a další technologičtí giganti o vás vědí prakticky všechno a nemají problém nasbírané informace za poplatek sdílet se svými business partnery, s Advertiser, tajnými službami…
Fu! Téměř jsem zapomněl. Zde je ta stránka, na které AI generuje lidské tváře (klik). ENJOY!
Co číst dál?
Putin chce obejít sankce – Rusku má pomoci kryptoměna krytá zlatem
Přeloženo ze slovenského originálu, který pro Kryptomagazín napsal Samuel S.