Projekt známý jako "Chat Control" – návrh nařízení EU, jehož oficiálním záměrem je předcházet šíření materiálů obsahujících pohlavní zneužívání dětí a navazování kontaktu s dětmi – a s ním spojené sporné otázky již několik měsíců vyvolávají silný odpor jak odborníků, tak i občanů.
Základní principy této legislativy jsou jasné:
"Do aplikací pro zasílání zpráv a do operačních systémů by byl zabudován detekční software, který by skenoval obsah zpráv a automaticky by předával veškerý materiál označený jako zakázaný orgánům činným v trestním řízení."
Automatické skenování soukromého obsahu (textů, obrázků, videí) odeslaného prostřednictvím platforem pro zasílání zpráv, jako jsou WhatsApp a Telegram, a podnětů odeslaných na platformy umělé inteligence (např. ChatGPT) by se provádělo "na straně klienta" před jeho šifrováním, tedy přímo ve vašem telefonu, tabletu a počítači. Vítejte v roce 1984. V prvním návrhu projektu Chat Control z roku 2022 bylo skenování zpráv povinné. V aktuálním návrhu je volitelné, ale důrazně doporučené.
Kdykoliv se někdo snaží posílit kontrolu nad Evropany, tak se odvolává na "terorismus" nebo pedofilii. Je to chytrá taktika: kdo by chtěl být vnímán jako podporovatel teroristů nebo sympatizant pedofilů?
To však zřejmě není skutečným cílem tohoto nařízení. Skutečným problémem je spíše touha evropských vlád kontrolovat, regulovat, hlídat a detailně sledovat své občany.
Nezvolená, netransparentní a nezodpovědná EU se nestará o vaši svobodu, ale naopak proti ní bojuje (například zde a zde).
Proč mnoho odborníků považuje automatickou detekci za nebezpečnou
Důležitá technická omezení
Osmnáct evropských výzkumníků v oblasti kybernetické bezpečnosti a ochrany soukromí podepsalo otevřený dopis adresovaný Radě EU, ve kterém varují, že rozšíření "skenování na straně klienta" (skenování obsahu v zařízení uživatele) otevírá cestu k masovému sledování. To je eufemismus: skenování komunikace desítek milionů uživatelů je v podstatě masovým sledováním.
Původní návrh EU vyžadoval skenování všech zpráv v EU – bez výjimky. Tváří v tvář drtivé opozici se EU vrátila s textem, který přesně stejnou praxi pouze umožňuje – skenování je nepovinné. Píšete SMS svému dítěti nebo snad své bance? Vaše zpráva je skenována. Posíláte zprávu ChatGPT? Vaše zpráva je skenována. Váš život je nepřetržitě skenován a vše, co napíšete a monitorovací software vyhodnotí jako "zakázané", předá orgánům činným v trestním řízení.
100% transparentnost a 100% kontrola: leitmotiv všech totalitních projektů od 20. století.
Akademická studie Bugs in Our Pockets: The Risks of Client-Side Scanning (Štěnice v našich kapsách: rizika skenování na straně klienta) varovala před nebezpečím, které s sebou tento přístup nese. Podle autorů této studie – odborníků z Cornellovy univerzity – skenování "nebrání účinně zločinu ani nechrání soukromí". Studie dokazuje, že takový systém lze obejít, zneužít nebo zahltit falešnými poplachy a že by z hlediska bezpečnosti vytvořil nová zranitelná místa.
Zdá se, že tyto algoritmy nedokážou spolehlivě rozlišit mezi nevinnou komunikací a nelegálním chováním. Tento problém se týká zejména písemné komunikace, kde kontext, ironie, sarkasmus a rodinné zvláštnosti mohou snadno vést k nesprávné interpretaci. Vezměme si například novorozence, který je často nahý. Pošlete fotografii svého dítěte příbuznému a algoritmus vás může nahlásit úřadům jako pedofila. Policie si vás následně předvolá, abyste jí vysvětlili "dětskou pornografii", kterou údajně šíříte.
Hodně falešně pozitivních výsledků – a jejich důsledky
Chat Control představuje podle signatářů výše zmíněného otevřeného dopisu pro společnost značná rizika, aniž by to dětem přineslo jasné výhody.
Jsem šťastným otcem 18měsíční holčičky. Z profesních důvodů její matka a já nežijeme vždy spolu a neustále si vyměňujeme fotografie naší dcery – třeba i desetkrát denně. Stačí, aby algoritmus chybně vyhodnotil jedinou naši fotku, a staneme se podezřelými, tiše nás zařadí do nesčetných kriminálních databází, což ospravedlní naše sledování, oficiální zásahy a další opatření. O takové moci nikdy nesnila ani východoněmecká Stasi.
Tato náchylnost k falešně pozitivním výsledkům je známá již z existujících systémů: fotografie z dovolené – například děti hrající si na pláži – jsou automaticky označeny, což spouští neopodstatněné postupy, vyšetřování a úniky informací odhalující soukromý život nevinných lidí. Tyto případy ilustrují nebezpečí další expanze orwellovské policejní činnosti a narušují právní princip presumpce neviny.
Porušení šifrování — a celkové bezpečnosti
Hlavní námitka zastánců ochrany soukromí a služeb pro bezpečné zasílání zpráv — WhatsApp, Telegram, Signal a dalších — spočívá v tom, že skenování zásadním způsobem narušuje koncové šifrování – de facto ho ruší.
Jaký smysl má šifrovat něco, co je již špehováno? Chat Control v podstatě promění každý telefon a počítač v nástroj sledování a narušování soukromí. "Siri, řekni mi: kolik úředníků čte naše rozhovory?" Samozřejmě jen preventivně: bojují přece proti zlu.
Některé společnosti, například Signal, pohrozily, že raději opustí EU, než aby ohrozily šifrování. K tomu, aby Evropská komise od svého záměru ustoupila, je však zapotřebí mnohem více: evropská ekonomika vzkvétá koneckonců tak "skvěle", že si může snadno dovolit vyhnat nejlepší společnosti světa.
Nejnovější verze návrhu Chat Control – předložená Dánskem, které nyní předsedá Radě EU – mění povinné skenování na "dobrovolnou možnost", což zvyšuje možnost politické dohody mezi členskými státy. Jedná se ale jen o kosmetickou změnu: tento návrh zachovává všechny mechanismy, které v praxi zavádějí rozsáhlou, svévolnou a masivní kontrolu. V podstatě je to totalitní struktura.
Nextcloud, organizace zabývající se ochranou soukromí a šifrováním, varovala, že navrhované nařízení představuje "fatální hrozbu pro naše demokracie". Chat Control povede k vytvoření infrastruktury schopné ve velkém měřítku špehovat soukromou komunikaci a zpřístupňovat ji jediným kliknutím i těm nejbezvýznamnějším úředníkům.
Někteří kritici navrhovaného nařízení poukazují na porušování listovního tajemství, základních práv a svobod a také práva na spravedlivý proces. Skenována bude komunikace mezi právníky a jejich klienty, stejně jako vaše komunikace s lékařem přes WhatsApp o problémech s erektilní dysfunkcí nebo o podezření na rakovinu. Pečlivému dohledu neunikne nic. Vše je podezřelé. Vy jste podezřelí.
Rafinované mysli členů Evropské komise ale bohužel žádná z těchto námitek pravděpodobně neovlivní. Ideologové mají občas tendenci být necitliví jak k realitě, tak i k rozumu a k hodnotám jiných lidí. V chodbách EU je dominantní hodnotou kontrola. Tito lidé rozumí pouze síle.
A přesně to nás asi čeká.
Monstrózní regulace
Většina cílových poskytovatelů internetových a technologických služeb jsou americké společnosti, Chat Control proto i ve své nové zmírněné pokrytecké podobě nevyhnutelně povede ke konfrontaci s americkou vládou. Chat Control by se vztahoval nejen na komunikaci z Evropy a do Evropy, ale také na občany členských států EU na americkém území a na komunikaci odkudkoliv do Evropy.
Stručně řečeno, platformy pro zasílání zpráv a umělé inteligence by brzy byly nevyhnutelně nuceny rozšířit Chat Control na veškerou komunikaci. Je to další příklad regulačního imperialismu tak charakteristického pro neschopné lidi řídící EU.
Opravdu věříme, že Američané budou tuto další represi tolerovat a budou nečinně sledovat, jak dekadentní Evropa pošlapává principy, které kdysi učinily západní civilizaci velkou?
Drieu Godefridi, je právník a filosof, absolvent Saint-Louis University of Louvain. Má doktorát z teorie práva z Université Paris IV-Sorbonne. Je také podnikatel, generální ředitel skupiny evropského soukromého vzdělávání a ředitel společnosti PAN Medias Group. Je autorem knihy The Green Reich (Zelená říše).