Zásadní problém data miningu spočívá v tom, že o něm jako uživatelé málokdy víme a netušíme, jak je s daty dále naloženo, kdo všechno k nim získal přístup. Pro provozovatele sociálních sítí je to nejcennější artikl, se kterým mohou obchodovat – který je živí. A tak naše data mohou prodat obchodním společnostem, které na jejich základě formulují svoji nabídku tak, aby nás zaujala.

Kromě obvyklých negativ spojených se shromažďováním osobních údajů, jako je záměrný i nezáměrný únik dat a jejich využití k různým nečestným aktivitám od spamu až po vydírání, je i skutečnost, že sociální sítě sledují chování uživatelů i mimo vlastní stránky – tedy i jinde na internetu.

Na základě tohoto chování pak sestavují marketingové modely na míru, které pak mohou být zneužitelné i v politice, zejména v předvolebním souboji. K tomu ostatně odkazuje právě výše zmíněná kauza okolo společnosti Cambridge Analytica, které Facebook přepadával informace a data svých uživatelů. Cambridge Analytica pak byla schopná v rámci kampaní cílit na uživatele Facebooku způsoby, které jsou odbornou veřejností považovány minimálně za kontroverzní. Za všechny příklady můžeme uvést kampaně pro Brexit ve Velké Británii či prezidentskou kampaň Donalta Trumpa v USA v roce 2016.

Jako deepfake se označuje technologie, která umožňuje za užití umělé inteligence, nejčastěji neuronových sítí, vyměnit ve videu tvář jednoho člověka za tvář někoho jiného. Zpravidla se jedná o známé osobnosti, neboť umělá inteligence potřebuje jako podklad spoustu fotek či videí – a těch od celebrit je plný internet. Zvýšené pozornosti se tento fenomén těší od roku 2017, kdy začala vznikat první pornografická a posléze i politická deepfake videa. Od té doby se vede debata, nakolik škodlivý tento fenomén vlastně je. 

I když by se mohlo zdát, že možnost alternovat obsah videa přinesly až moderní technologie, opak je pravdou. Tvůrci videí manipulovali jejich obsahem prakticky od okamžiku, kdy bylo možné zachytávat realitu na filmový pás (úplně stranou teď nechme fotky, které se upravují vskutku jak na běžícím páse – viz např. „zeštíhlovací kůra“ prezidenta Trumpa). Nemluvíme teď úplně nutně o trikových sekvencích ve starých filmech, i když ty byly vskutku kouzelné (jako třeba Cesta na měsíc George Mélièse, otce zvláštních video efektů).

Zhruba do konce třicátých let 20. století se umělý obsah objevoval dokonce i ve zpravodajských filmech, které byly promítány v kinech. Jejich tvůrci totiž pro nedostatek či nedostupnost obrazového materiálu podstatný díl filmu dotáčeli ve studiu. Ostatně, ono nemusí jít ani o manipulované video, ale o obsah vytržený z jeho původního kontextu. Většinou totiž chceme vidět to, čemu už dávno věříme, a tak i drobné pošťouchnutí při interpretaci tím správným směrem může vést k manipulaci. 

V České republice jsme se s krásným příkladem manipulativního videa mohli setkat v roce 2007, kdy skupina Ztohoven hacknula vysílání České televize a odvysílala jaderný výbuch v Krkonoších. K tomu samozřejmě niky nedošlo, ale i tak záběry vyvolaly minimálně pohoršení, když ne přímo paniku. 

Když se videi manipuluje tak dlouho, proč se bát právě deepfake? Jde o to, že se možnosti produkovat deepfake videa poměrně rozšířily a dosah takových videí může být enormní. Nemluvíme teď o pornografii, ale především o politice. Je totiž možné vyprodukovat video, ve kterém někdo z politiků může říkat prakticky cokoliv. Nebo nemusí ani mluvit. Může se objevit tam, kde bychom ho nečekali. A čistě teoreticky by takové video mohlo způsobit velké problémy. Jen si představte, jak v deepfake videu třeba americký prezident uráží toho ruského. Jak se bránit? Zatím se nemůžeme spoléhat na technologie. I když pokusy o algoritmy odhalující deepfake videa existují, tvůrci těchto videí jsou stále o krok napřed. Algoritmy se totiž učí od sebe navzájem. Jde tak o nikdy nekončící hru kočky s myší. 

Úplně nejlepší variantu obrany je přistoupit na to, že ne všechno, co v médiích vidíme, se muselo nutně stát. Tím spíš to platí o internetu. Je třeba zapojit kritické uvažování a s obezřetností přistupovat k jakémukoliv mediálním obsahu, který konzumujeme. Opatrnost je na místě zejména v okamžiku, kdy šokující obsah přichází z ne úplně známého či ověřeného zdroje.