Stroj na pravdu

Stroj na pravdu neexistuje. Stroj na odhalování manipulace by ale existovat mohl. O tom, proč sto zdrojů nemusí znamenat sto důkazů, proč pravdivá informace může být propagandou a proč internet zapomíná, co tvrdil včera.

Úvod — Může existovat stroj na pravdu?

Představme si stroj, kterému položíme zdánlivě jednoduchou otázku: Co se skutečně stalo? Zadáme mu konkrétní událost, místo a čas. Stroj prohledá veřejně dostupné zdroje, najde články, fotografie, videa, tiskové zprávy, příspěvky na sociálních sítích, historické dokumenty a další dostupné záznamy. Vše porovná, vyhodnotí a předloží nám odpověď.

V době umělé inteligence to na první pohled nemusí znít ani příliš fantasticky. Vyhledávače dokážou během zlomku sekundy najít miliony dokumentů, neuronové sítě rozumějí textu, obrazu i zvuku a výpočetní systémy dokážou zpracovávat množství dat, které by člověk nebyl schopen prostudovat za celý život.

Mohli bychom tedy postavit „stroj na pravdu“? První problém nastane ještě dříve, než začneme řešit jeho technickou architekturu. Museli bychom totiž určit, co přesně po něm požadujeme.

Má rozhodnout, která publikace říká pravdu? Má spočítat, kolik zdrojů potvrzuje jednu verzi události a kolik druhou? Má více věřit médiu s dlouhou historií než neznámému svědkovi? Má považovat za pravdivější informaci, kterou publikovalo sto médií, než informaci uvedenou pouze na jediném místě?

Každé takové pravidlo se velmi rychle dostává do problémů. Sto článků totiž nemusí představovat sto zdrojů. Všech sto mohlo převzít jedinou původní informaci. Respektované médium může publikovat chybnou zprávu a neznámý člověk může být jediným svědkem, který událost skutečně viděl. Fotografie může být autentická, ale její popisek nepravdivý. Dvě události mohou následovat bezprostředně po sobě, aniž by první způsobila druhou. A dvě vzájemně si odporující výpovědi ještě neznamenají, že jeden ze svědků musí lhát.

Postupně tak zjišťujeme, že problémem není nedostatek informací. Právě naopak. Máme jich příliš mnoho.

Současný člověk může během několika minut získat více informací o jediné události, než kolik jich měl před několika desetiletími k dispozici profesionální novinář. Současně však jen obtížně zjišťuje, odkud jednotlivé informace skutečně pocházejí, které jsou na sobě nezávislé, které pouze opakují stejný původní zdroj a jak se jejich obsah v průběhu času změnil.

Možná tedy pokládáme špatnou otázku. Namísto stroje, který nám řekne „toto je pravda“, bychom mohli chtít stroj, který dokáže říci: Kdo toto tvrzení zveřejnil? Odkud je získal? Kdo jej nezávisle potvrdil? Kdo jej pouze převzal? Jak se tvrzení v čase změnilo? Co mu odporuje? A kde končí veřejně doložitelná informační stopa?

Možná je totiž dobře, že skutečný stroj na pravdu postavit neumíme. Představa instituce, která by měla technologickou autoritu určovat, co je pravda, totiž až nepříjemně připomíná jedno známé Ministerstvo pravdy.

Takový stroj by nerozhodoval za člověka. A právě proto by mohl být mnohem užitečnější než stroj na pravdu.

Dva lidé, jedna událost, dva popisy

Než začneme hledat manipulaci, musíme připustit něco méně pohodlného: Dva lidé mohou popsat stejnou událost rozdílně, a přitom ani jeden nemusí lhát. Představme si dva svědky stojící vedle sebe. Sledují stejnou událost ve stejném okamžiku, ze stejného místa a za stejných podmínek. Přesto jejich následný popis téměř jistě nebude totožný.

Jeden si všimne člověka, který právě přichází. Druhý sleduje automobil, který zastavil opodál. Jeden zaznamená nejprve zvuk a teprve potom pohyb. Druhý obráceně. Některý detail považuje jeden z nich za důležitý, zatímco druhý jej vůbec nezaregistruje. Oba přitom mohou být přesvědčeni, že popsali přesně to, co viděli.

Pozorování totiž není úplným záznamem reality. Je pouze její částí, kterou byl konkrétní pozorovatel schopen zachytit a následně popsat.

A problém se ještě zvětší, jakmile mezi událost a její popis vložíme čas. Do hry vstupuje paměť, později získané informace, otázky dalších lidí i způsob, jakým je událost zpětně interpretována. Z původního pozorování postupně vzniká výpověď — a výpověď už není samotnou událostí.

Pro náš hypotetický stroj z toho plyne zásadní problém. Pokud svědek A tvrdí, že událost proběhla způsobem X, a svědek B ji popisuje jako Y, systém nesmí automaticky hledat vítěze.

Musí nejprve zjistit, v čem přesně se jejich tvrzení liší. Mohou se totiž shodovat v deseti skutečnostech a rozcházet pouze v jedenácté. Jeden mohl vidět něco, co druhý vidět nemohl. Oba mohou používat různá slova pro stejný jev. A mohou se také skutečně mýlit — jeden, oba, nebo každý v jiné části svého popisu.

Rozpor je proto sám o sobě informací. Ukazuje nám místo, kde se jednotlivé výpovědi přestávají překrývat. Neříká však ještě proč.

To je důležité právě při hledání manipulace. Pokud bychom každý rozpor automaticky označili za lež, vytvořili bychom systém, který by manipulaci nehledal. Vyráběl by ji. Z rozdílu dvou výpovědí by totiž sám vytvořil tvrzení o úmyslu, pro které nemá žádný důkaz.

První pravidlo našeho stroje proto může být překvapivě jednoduché: ROZPOR ≠ NEPRAVDA.

Stroj může ukázat, že dvě tvrzení nemohou být současně správná ve všech svých částech. Může hledat další svědectví, fotografie, video, dokumenty nebo jiné nezávislé stopy. Může určit, která část výpovědi má větší oporu v dostupných důkazech.

Neměl by však překročit hranici mezi tím, co lze doložit, a tím, co si pouze domýšlíme. A právě tady můžeme náš hypotetický stroj poprvé pustit na skutečnou historickou událost.

Malý krok pro člověka — první test stroje

Teorii máme. Zkusme tedy náš hypotetický stroj poprvé pustit na událost, kterou zná téměř každý.

Dne 21. července 1969 vstoupil Neil Armstrong jako první člověk na povrch Měsíce. Okamžik sledovaly stovky milionů lidí a s událostí je neoddělitelně spojena věta: „Je to malý krok pro člověka, ale obrovský skok pro lidstvo.“ Položme stroji jednoduchou otázku: Řekl Neil Armstrong tuto větu při prvním kroku na Měsíci?

Na první pohled snadnější úkol téměř nemůžeme vymyslet. Událost byla přenášena živě, existuje její obrazový i zvukový záznam, přepisy komunikace, technická dokumentace NASA i pozdější Armstrongova vyjádření. Přesto už tady narazíme na problém.

Podrobná rekonstrukce záznamu v Apollo 11 Lunar Surface Journal uvádí, že Armstrong položil levou nohu pevně na měsíční povrch přibližně šest sekund předtím, než začal pronášet slavnou větu. Samotný historický fakt se tím samozřejmě nemění. Armstrong byl na Měsíci, právě provedl první lidský krok na jeho povrchu a bezprostředně poté pronesl slavná slova. Jen velmi přesné tvrzení „řekl tuto větu v okamžiku prvního kroku“ už není úplně totéž jako to, co zachycuje detailní časová rekonstrukce.

A můžeme jít ještě hlouběji. Po desetiletí se diskutuje dokonce o jediném písmenu. Armstrong tvrdil, že zamýšlel říci „one small step for a man“, tedy malý krok jednoho člověka, a domníval se, že neurčitý člen skutečně vyslovil. V pozemském záznamu jej však sám nedokázal slyšet a připouštěl zápis v závorce. NASA proto v některých přepisech pracuje s formulací „for (a) man“.

Náš stroj tak dostal jednu jednoduchou otázku a téměř okamžitě místo odpovědi ANO/NE objevil několik různých tvrzení.

Armstrong pronesl slavnou větu. Existuje její zvukový záznam. Pronesl ji na povrchu Měsíce během prvních okamžiků své chůze. Detailní rekonstrukce však umisťuje její začátek několik sekund po prvním kontaktu nohy s povrchem. A dokonce ani přesné znění jedné z nejslavnějších vět 20. století není v dochovaném zvukovém záznamu zcela jednoznačné.

Právě tady vzniká prostor pro něco mnohem zajímavějšího než obyčejnou chybu. Můžeme totiž odpovědět: „ARMSTRONG NEŘEKL SLAVNOU VĚTU PŘI PRVNÍM KROKU NA MĚSÍCI.“

A přestože lze takové tvrzení při velmi úzkém chápání okamžiku prvního dotyku povrchu opřít o časovou rekonstrukci, čtenář si z něj může odnést podstatně širší sdělení, než jaké důkaz skutečně podporuje.

Odtud je už jen malý krok — tentokrát nikoli Armstrongův — k argumentu, že pokud byl nepřesně popsán tento detail, mohl být nepřesně popsán i jiný. A další. A nakonec třeba celá událost.

Jenže takový závěr z původního zjištění nevyplývá. Náš stroj proto musí umět oddělit dvě věci: pravdivost nebo doložitelnost premisy a oprávněnost závěru, který z ní někdo vytváří.

Drobná nepřesnost v populárním popisu historické události není důkazem, že se událost nestala. Stejně jako existence skutečného rozporu není automaticky důkazem manipulace.

A než začneme rozhodovat, kolik důkazů pro nějaké tvrzení vlastně máme, čeká nás ještě jeden problém. Musíme zjistit, kolik zdrojů skutečně máme.

Sto článků není sto zdrojů

Představme si, že náš stroj najde sto článků, které shodně tvrdí totéž. Na první pohled máme velmi silný výsledek. Sto publikací potvrzuje tvrzení X. Proti nim stojí například jediný článek, který tvrdí Y. Prostým počítáním bychom dostali výsledek 100 : 1. Jenže stačí položit jednu další otázku: Odkud těch sto článků svou informaci získalo?

Pravda se nevolí většinou.

První článek mohl zveřejnit informaci s odkazem na tiskovou agenturu. Druhý ji převzal z prvního. Dalších deset použilo stejnou agenturní zprávu. Desítky dalších článků vznikly jejich přepisem, překladem nebo zkrácením. Následovaly agregátory, blogy, příspěvky na sociálních sítích a další média, která už původ informace ani neuvedla.

Stroj stále vidí sto publikací. Ve skutečnosti však může sledovat jedinou informační větev: 100 publikací → 1 původní zdroj. To samozřejmě neznamená, že informace je nepravdivá. Jeden jediný zdroj může mít naprostou pravdu. Znamená to pouze, že jsme nenašli sto nezávislých potvrzení stejného tvrzení.

Na opačné straně přitom může stát pouhých sedm publikací. Při jejich rozboru ale zjistíme, že jedna vychází z přímého svědectví, druhá z nezávislého obrazového záznamu, třetí z úředního dokumentu a další dvě z různých zdrojů, které mezi sebou nemají zjistitelnou informační vazbu. Výsledek 100 : 7 se nám najednou rozpadá.

Ne proto, že bychom jej měli jednoduše obrátit na 1 : 5 a vyhlásit vítěze. Pravda se nevolí většinou. Počet nezávislých zdrojů pouze říká něco jiného než počet publikovaných článků. Náš stroj proto nesmí počítat pouze dokumenty. Musí se pokusit rekonstruovat jejich informační genealogii.

Kdo tvrzení zveřejnil jako první? Uvedl vlastní pozorování, dokument nebo jiný původní podklad? Odkázal na někoho dalšího? Které pozdější publikace provedly vlastní ověření a které pouze převzaly již existující informaci? A lze vůbec zjistit, zda dva zdánlivě nezávislé zdroje ve skutečnosti nevycházejí ze stejného člověka, stejného dokumentu nebo stejného obrazového záznamu?

Výsledkem by potom nebylo prosté: Tvrzení X — 100 zdrojů. Mnohem přesnější informace by mohla vypadat například takto: Tvrzení X — nalezeno ve 100 publikacích, dohledatelných 6 informačních větví, 3 nezávislé původní zdroje, u 2 větví nelze jejich nezávislost z veřejných informací určit.

A právě poslední část je důležitá. Stroj nesmí chybějící vazbu zaměnit za nezávislost. Pokud nedokáže zjistit, odkud zdroj informaci získal, neznamená to, že ji získal nezávisle. Znamená to pouze, že veřejně dohledatelná stopa na tomto místě končí.

Internet přitom vytváří přesně opačný dojem. Čím více se nějaké tvrzení šíří, tím více různých webů, titulků, příspěvků a autorů jej vidíme. Jediná informace tak může postupně získat podobu společenského konsenzu, aniž by k ní přibyl jediný nový důkaz.

Proto by náš stroj musel důsledně oddělovat dvě veličiny: „Jak široce je informace publikována“ a „Jak široce je nezávisle potvrzena.“ Teprve když je od sebe oddělíme, přestane nám počet výsledků ve vyhledávači předstírat počet důkazů.

Kdy jsou dva zdroje skutečně nezávislé?

V předchozí kapitole jsme narazili na pojem, který vypadá samozřejmě: nezávislý zdroj. Jenže co přesně znamená? Představme si dvě média, která ve stejný den zveřejní stejnou informaci. Mají jiné vlastníky, jiné redakce, jiné autory a sídlí v různých zemích. Na první pohled jde o dva nezávislé zdroje. Oba články však mohou vycházet ze stejné zprávy tiskové agentury.

Nebo mohou citovat dva různé politiky, kteří svou informaci získali na stejném jednání od stejného člověka. Dva novináři mohou hovořit se dvěma různými svědky, kteří ale událost sami neviděli a pouze opakují stejnou zprávu. Dvě televize mohou odvysílat rozdílně sestříhané záběry pocházející z jediného původního videa. Formálně máme dva zdroje. Informačně však stále můžeme mít jen jeden.

Nezávislost proto nemůžeme určovat podle názvu média, počtu autorů ani počtu nalezených dokumentů. Musíme sledovat cestu konkrétního tvrzení co nejdále proti směru jeho šíření.

Řekněme, že článek A tvrdí X a odkazuje na agenturu B. Agentura B se odvolává na představitele instituce C. Článek D přináší stejné tvrzení X, ale uvádí vlastního reportéra E, který byl události přítomen.

Na internetu máme čtyři nebo pět různě pojmenovaných zdrojů. Pro konkrétní tvrzení X však mohou existovat pouze dvě skutečně oddělené informační cesty: „C → B → A“ a „E → D“. Teprve takové rozlišení nám umožňuje říci, že tvrzení má dvě navzájem nezávislé opory. Ani tehdy jsme však nedokázali jeho pravdivost. Pouze jsme zjistili, že stejné tvrzení k nám přišlo dvěma cestami, mezi nimiž jsme nenalezli společný informační původ.

A právě slovo nenalezli je podstatné. Reportér E mohl před svou reportáží vidět vyjádření instituce C. Svědek mohl před rozhovorem sledovat televizní vysílání. Dva údajně nezávislí představitelé mohou čerpat z neveřejného dokumentu, o jehož existenci nevíme.

Absolutní informační nezávislost proto často nelze dokázat. Lze pouze zjistit, zda mezi zdroji existuje veřejně doložitelná vazba. Náš stroj by tedy neměl používat pouze dvě možnosti — nezávislý a závislý. Potřeboval by přinejmenším třetí: „NEZÁVISLOST NELZE Z DOSTUPNÝCH INFORMACÍ URČIT.“

To může působit jako slabina systému. Ve skutečnosti by to byla jedna z jeho nejdůležitějších vlastností. Stroj, který musí na každou otázku odpovědět ANO nebo NE, bude v okamžiku nedostatku informací nucen chybějící část reality nějak doplnit. Moderní umělá inteligence dokáže takové mezery vyplňovat mimořádně přesvědčivě. Přesvědčivost však není důkaz.

U systému, jehož úkolem je sledovat původ informací, by proto měla existovat odpověď, která je stejně legitimní jako všechny ostatní: „NEVÍM.“

Nevím, zda zdroj B získal informaci nezávisle. Nevím, kdo byl anonymním informátorem. Nevím, zda dva svědci před svou výpovědí vzájemně komunikovali. Nevím, co se nachází před nejstarším veřejně dohledatelným bodem informačního řetězce.

Můžeme pouze ukázat, kam až jsme se dostali. A někdy je přesné označení hranice našeho poznání hodnotnější než sebejistá odpověď, která za ní pokračuje.

Internet si nepamatuje, co tvrdil včera

Doposud jsme předpokládali, že nalezený článek je stabilní dokument. Jednou byl zveřejněn a od té chvíle představuje zdroj, ke kterému se můžeme kdykoli vrátit. Jenže internet takto nefunguje.

Čas totiž není jen údaj připojený ke zdroji. Čas je součástí důkazu.

Tištěné noviny vydané včera už dnes jejich vydavatel nepřepíše. Může následující den zveřejnit opravu, ale původní výtisk zůstane zachován. U internetového článku může autor změnit jedinou větu, číslo, titulek nebo celý odstavec — a přitom ponechat stejnou adresu. URL totiž není dokument. Je to pouze adresa, na které se dokument právě nachází.

Představme si, že médium zveřejní v 8:12 zprávu obsahující tvrzení X. Během několika hodin ji převezmou desítky dalších médií. Ve 13:46 původní zdroj získá nové informace a tvrzení X změní na Y. Pokud se na původní článek podíváme večer, najdeme Y. V desítkách článků, které z něj mezitím čerpaly, však stále najdeme X.

Budeme-li tuto událost zkoumat o rok později pouze podle aktuálního obsahu internetových stránek, můžeme dojít k absurdnímu výsledku. Původní zdroj tvrdí Y, zatímco desítky jiných zdrojů tvrdí X. Pokud u nich není původ informace uveden, může se dokonce zdát, že X vzniklo někde mezi nimi a původní médium jej nikdy nepublikovalo.

Internet nám ukazuje současný stav dokumentů, nikoli nutně jejich stav v okamžiku, kdy ovlivňovaly informační prostor. Náš stroj proto nemůže ukládat pouze adresu zdroje. Musel by zaznamenávat také čas, kdy jej pozoroval, a podobu, kterou měl právě v tomto okamžiku.

Vzniká tak něco úplně jiného než seznam odkazů: „URL → čas pozorování → konkrétní verze obsahu.“ Pokud se obsah změní, původní verze nesmí zmizet. Vznikne další záznam a systém může porovnat, co bylo přidáno, odstraněno nebo změněno. Teprve potom můžeme rekonstruovat nejen to, co zdroj tvrdí, ale také co tvrdil.

Ani takový systém samozřejmě nedokáže cestovat časem. Pokud začal stránku sledovat až v pátek, nemůže s jistotou vědět, co na ní bylo v pondělí. Může však hledat starší zachované kopie ve veřejných webových archivech, archivovaných kanálech, převzatých článcích nebo dalších dobových záznamech. A musí mezi nimi důsledně rozlišovat.

Jinou důkazní hodnotu má obsah, který systém sám zaznamenal v konkrétním čase. Jinou archivní kopie vytvořená třetí stranou. Jinou pozdější článek, který tvrdí, že původní text obsahoval určitou větu. A úplně jinou pouhá vzpomínka člověka, že „tam tehdy něco takového bylo“.

Ani technický otisk uloženého souboru tento problém nevyřeší. Může nám pomoci prokázat, že konkrétní uložená verze nebyla následně změněna. Nemůže však prokázat, že obsah této verze byl pravdivý.

Náš stroj tak získává další rozměr. Nestačí vědět, kdo něco tvrdil a odkud informaci získal. Musíme vědět také, kdy to tvrdil a jak přesně tehdy jeho tvrzení vypadalo. Čas totiž není jen údaj připojený ke zdroji. Čas je součástí důkazu.

Opravená informace může dál žít vlastním životem

V předchozí kapitole jsme nechali původní zdroj změnit tvrzení X na Y. Pro náš stroj tím ale problém teprve začíná. Informace totiž nemá tlačítko ZPĚT.

Jakmile byla jednou zveřejněna, může během několika minut opustit původní zdroj. Převezme ji tisková agentura, další média, blogy, sociální sítě nebo jednotliví uživatelé. Vznikají kopie, překlady, zkrácené verze a nové články, které už původní zdroj ani nezmiňují.

Představme si jednoduchý případ. V 8:12 zveřejní důvěryhodné médium tvrzení X. Do 13:46 jej převezme 613 dalších publikací. Ve 13:46 původní médium zjistí, že informace byla chybná, a nahradí ji tvrzením Y. Udělalo tedy přesně to, co od odpovědného média očekáváme: chybu opravilo. Jenže původních 613 kopií se tím automaticky nezměnilo.

Některá média si opravy všimnou a své články aktualizují. Jiná doplní viditelné upozornění. Některá text pouze tiše přepíší. Další jej nechají v původní podobě. A část webů už možná původní informaci převzala bez odkazu, takže ani není zřejmé, že by měla nějakou změnu sledovat. Po několika dnech tak může informační prostor obsahovat současně X i Y. A obě tvrzení budou mít své „zdroje“.

Kdyby náš stroj pouze spočítal aktuálně nalezené publikace, mohl by dojít například k výsledku, že 443 článků tvrdí X a 170 článků tvrdí Y. Zdánlivě tedy existují dvě konkurenční verze události.

Ve skutečnosti ale jejich historie může být úplně jiná. X vzniklo v jediném zdroji, masově se rozšířilo a později bylo právě tímto zdrojem opraveno na Y. To je podstatně důležitější informace než poměr 443 : 170.

Ještě zajímavější situace nastane, pokud se oprava šíří pomaleji než původní zpráva. Nová informace už nemusí být tak atraktivní, algoritmy ji nemusí zobrazovat stejnému publiku a lidé, kteří sdíleli původní zprávu, se k ní nemusí nikdy vrátit. Část veřejnosti tak může dál znát X, přestože zdroj, ze kterého X původně pocházelo, už tvrdí Y.

Náš stroj by proto neměl sledovat pouze šíření informace, ale také šíření její opravy.

Mohl by například ukázat:

• Původní tvrzení X — převzato 613 publikacemi.
• Později změněno na Y.
• 127 publikací obsah aktualizovalo.
• 43 zveřejnilo viditelné upozornění na opravu.
• 443 ponechalo původní tvrzení X.

Ani tato čísla nám sama neřeknou, zda někdo manipuloval. Původní chyba mohla vzniknout obyčejným nedorozuměním. Oprava mohla být provedena poctivě a rychle. Média, která X převzala, nemusela mít žádný technický mechanismus, jak se o pozdější změně dozvědět.

Stejná struktura by však mohla vzniknout také záměrně. Stačilo by zveřejnit působivou informaci, nechat ji dostatečně dlouho šířit a následně ji na původním místě opravit. Původce by již uváděl správnou informaci, zatímco tisíce jeho informačních potomků by dál šířily původní verzi.

Samotný průběh by nám ovšem ještě nedovoloval tvrdit, že šlo o úmysl. Umožnil by nám něco jiného: takový vzorec přesně změřit a ukázat.

A pokud by se u stejného zdroje opakoval znovu a znovu, mohli bychom porovnat jeho četnost, rychlost oprav a jejich další šíření s jinými zdroji. Stále bychom nemuseli vědět, proč k tomu dochází. Už bychom ale věděli, že k tomu dochází.

To je důležitá hranice. Stroj nemusí dokázat manipulaci, aby dokázal odhalit strukturu, která může mít manipulativní účinek.

Propaganda nemusí lhát

Doposud jsme pracovali především s informacemi, které mohou být správné, chybné, opravené nebo vzájemně rozporné. Manipulace však může vzniknout i v situaci, kdy jsou jednotlivé použité informace pravdivé.

Propaganda totiž nemusí potřebovat lež. Někdy jí může stačit správně vybraná pravda na správném místě.

Představme si čtyři doložitelné události:

• A se stalo.
• Potom se stalo B.
• Následovalo C.
• Nakonec se stalo D.

Autor nemusí jedinou z těchto událostí vymyslet. Nemusí změnit datum, počet lidí ani obsah dokumentu. Stačí, když je vhodně vybere z mnohem většího množství dostupných skutečností a seřadí je do příběhu: „A → B → C → D.“

Čtenář má přirozenou tendenci hledat mezi po sobě následujícími událostmi souvislost. Pokud je text navíc doplněn slovy jako „proto“, „následkem“, „v reakci na“ nebo jen vhodně vystavěnou posloupností vět, může vzniknout dojem, že A způsobilo B, B způsobilo C a C nakonec vedlo k D. Jenže z časové posloupnosti takový závěr automaticky nevyplývá. Chronologie není kauzalita.

Událost B mohla mít několik příčin. Mezi C a D mohly proběhnout další důležité události, které autor vynechal. Některý aktér mohl tvrdit, že jednal v reakci na A, což dokládá jeho deklarovanou motivaci, nikoli nutně skutečnou nebo jedinou příčinu jeho jednání.

Všechny jednotlivé věty tedy mohou být pravdivé a výsledný obraz přesto může být zavádějící. Právě zde narážíme na hranici klasického ověřování faktů. Pokud budeme kontrolovat každé tvrzení odděleně, můžeme u všech čtyř napsat: PRAVDA. Přesto jsme ještě neověřili vztahy, které mezi nimi text vytváří.

Náš hypotetický stroj by proto musel rozkládat sdělení nejen na jednotlivá tvrzení, ale také na vztahy mezi nimi. Tvrdí text pouze, že B následovalo po A? Nebo tvrdí, že A způsobilo B? Je tato příčinná souvislost doložena nezávislými informacemi, nebo ji uvádí pouze jeden z aktérů? Jde o autorův závěr, citované stanovisko, nebo pouze o dojem vytvořený způsobem, jakým jsou fakta seřazena?

Podobný problém vzniká výběrem informací. Z tisíce pravdivých skutečností o jedné události můžeme vybrat deset, které podporují určitý obraz. Jiný autor může ze stejného souboru vybrat jiných deset a vytvořit obraz téměř opačný. Ani jeden přitom nemusí zveřejnit jedinou faktickou nepravdu. Manipulace tedy nemusí spočívat v tom, co bylo řečeno. Může spočívat také v tom, co řečeno nebylo.

Tady se ale náš stroj dostává na nebezpečné území. Nemůže automaticky označit každou vynechanou informaci za manipulaci. Žádný článek nemůže obsahovat všechno. Autor vždy vybírá, zkracuje a rozhoduje, co považuje za podstatné.

Systém by proto neměl vydávat verdikt: „TOTO JE PROPAGANDA.“

Mohl by však ukázat něco podstatně užitečnějšího: Z jakých ověřitelných tvrzení je text sestaven. Které příčinné vztahy skutečně dokládá. Které pouze přebírá od některého z aktérů. Které významné skutečnosti běžně přítomné v ostatních nezávislých popisech události zde chybějí. A jak se výsledný obraz liší od obrazu vytvořeného jiným výběrem doložitelných skutečností.

Propaganda totiž nemusí potřebovat lež. Někdy jí může stačit správně vybraná pravda na správném místě.

Propaganda může začínat jediným slovem

Dosud jsme hledali manipulaci ve výběru informací, jejich pořadí a ve vztazích, které mezi nimi vytváříme. Existuje však ještě jednodušší nástroj. Stačí pojmenovat věc.

Představme si ozbrojenou skupinu působící proti státní moci. Jeden zdroj její členy označí za povstalce, druhý za separatisty, třetí za teroristy a čtvrtý za bojovníky za svobodu. Všechny čtyři texty mohou následně uvést naprosto stejná fakta. Stejný počet lidí. Stejné místo. Stejné zbraně. Stejný průběh události. Stejné datum.

Přesto čtenář nevstupuje do těchto čtyř textů se stejnou informací. Ještě před prvním faktickým tvrzením dostal prostřednictvím jediného slova návod, jak má aktéry události vnímat.

Podobně může být stejná státní moc označena jako vláda nebo režim. Stejný člověk jako aktivista, radikál či extremista. Stejná změna územního uspořádání může být různými aktéry nazývána připojením, sjednocením, anexí nebo okupací.

Některé z těchto pojmů přitom mohou mít přesnou právní nebo odbornou definici. Jiné vyjadřují především hodnocení. A další mohou být současně odborným termínem i slovem zatíženým politickým nebo emocionálním významem.

Problém proto nelze vyřešit vytvořením seznamu „zakázaných slov“. Náš stroj musí především poznat, kdo dané označení používá.

Pokud vláda označí určitou skupinu za teroristickou, je doložitelným faktem, že ji tak vláda označila. Ještě z toho však automaticky nevzniká oprávnění systému převzít stejné označení jako svůj vlastní neutrální popis skupiny.

Rozdíl mezi větami: „Vláda označila skupinu za teroristickou“ a „Teroristická skupina provedla…“ může vypadat nepatrně. Z hlediska práce s informací je však zásadní. V první větě popisujeme tvrzení konkrétního aktéra. Ve druhé jsme jeho označení převzali a zabudovali do vlastního popisu reality.

Stejná past čeká i na systém, který má manipulaci odhalovat. Při naší úvaze o hypotetickém stroji jsme například narazili na možnost tajné koordinace několika aktérů. Bylo velmi snadné takovou úvahu označit za konspirační teorii. Jenže tím bychom už provedli první hodnocení.

Neutrálnější formulace „hypotéza o koordinovaném jednání“ zatím neříká, zda k nějaké koordinaci skutečně došlo, zda pro ni existují důkazy ani, zda je představa pravděpodobná. Pouze přesněji popisuje tvrzení, které má být teprve zkoumáno.

To samozřejmě neznamená, že bychom měli přestat používat slova jako terorismus, okupace, propaganda nebo konspirace. Znamená to, že bychom měli vědět, zda jimi něco popisujeme na základě doložených kritérií, citujeme označení někoho jiného, nebo jimi už předem nabízíme čtenáři závěr.

Jazyk totiž není jen obalem informace. Je její součástí. A pokud má náš stroj sledovat, jak vzniká obraz určité události, musí zachovat ještě jedno pravidlo: „JAZYK ZDROJE NESMÍ NEPOZOROVANĚ PŘEJÍT V JAZYK SYSTÉMU.“

Jinak by se mohlo stát, že nástroj určený k odhalování informačního rámování začne při samotné analýze vytvářet rámování vlastní.

Dějiny jsou databáze s chybějícími záznamy

Náš stroj zatím pracoval s představou, že někde existují zdroje, které může nalézt, porovnat a propojit. U současné události je to alespoň částečně realistické. Máme internet, digitální fotografie, video, sociální sítě, tiskové agentury a množství současně vznikajících záznamů.

Jakmile se ale začneme pohybovat do minulosti, objeví se další problém. Ne všechno, co se stalo, po sobě zanechalo záznam. A ne každý záznam se dochoval. Část dokumentů byla zničena úmyslně. Jiné zmizely během válek, požárů nebo stěhování archivů. Některé zůstaly utajené, další skončily v soukromých sbírkách a část možná stále existuje, jen o ní nevíme. A obrovské množství informací nebylo zaznamenáno vůbec.

Známé tvrzení, že dějiny píší vítězové, je proto zajímavější, než jak zní ve své zkratce. Vítěz totiž nemusí pouze napsat učebnici. Může získat archivy poraženého, rozhodovat o jejich zpřístupnění, vytvářet vlastní dokumentaci, vést vyšetřování, vyslýchat zajatce a určovat, které instituce budou po konfliktu pokračovat. Poražená strana naopak může přijít nejen o politickou moc, ale také o značnou část vlastní informační paměti.

To ještě neznamená, že dokument vítěze je nepravdivý nebo dokument poraženého pravdivý. Znamená to něco podstatně méně pohodlného: soubor dochovaných pramenů nemusí být reprezentativním obrazem původního informačního prostoru.

Poválečné Německo nabízí téměř laboratorní příklad. Po porážce nacistického Německa nezískal kontrolu nad jeho informačním prostorem jediný vítěz. Země byla rozdělena mezi okupační mocnosti a samotný Berlín mezi čtyři sektory. Z bývalých spojenců se navíc během několika let stali geopoliticky soupeřící protivníci.

Stejnou německou minulost tak začaly zkoumat, archivovat a interpretovat různé mocenské a informační systémy.

Na jedné straně mohly existovat americké, britské či francouzské dokumenty, na druhé sovětské. Vedle nich původní německé materiály, ukořistěné archivy, výslechy, soudní spisy, osobní deníky, pozdější svědectví a postupně odtajňované dokumenty. Po vzniku dvou německých států k nim přibyly další instituce, archivy a politické interpretace.

Pro náš stroj by proto nestačilo zjistit pouze, kdo dokument vytvořil. Musel by sledovat také jeho druhý život. Kdo jej uchoval? Kdo jej získal? V jakém archivu se nacházel? Kdy byl zpřístupněn? Byl veřejně dostupný na obou stranách železné opony? Známe originál, kopii, překlad, citaci, nebo pouze pozdější popis jeho obsahu?

Vedle provenience informace tak vzniká ještě provenience její dostupnosti. To může zásadně změnit způsob, jakým čteme statistiku zdrojů. Pokud najdeme 271 dokumentů pocházejících z informačního prostředí jedné strany konfliktu a pouze 31 dokumentů druhé strany, nemůžeme automaticky říci, že první verzi události potvrzuje téměř devětkrát více důkazů.

Možná skutečně vzniklo devětkrát více relevantních dokumentů. Možná se jich pouze devětkrát více dochovalo. A možná zbytek stále leží v archivu, ke kterému nemáme přístup.

Náš stroj nemá jak zjistit, kolik důkazů bylo nenávratně ztraceno. Může však upozornit, že dostupný soubor důkazů je asymetrický a že tato asymetrie omezuje závěry, které z něj můžeme bezpečně vyvozovat.

Ještě zajímavější situace nastane, když se po desetiletích otevře dosud nepřístupný archiv. Historická událost se tím nezměnila. Změnilo se pouze množství informací, které o ní máme k dispozici. Analýza provedená v roce 1970 proto může na základě tehdy dostupných důkazů dojít k jinému výsledku než analýza stejné události v roce 2026.

Ani jedna z nich přitom nemusí být podvodem. Náš stroj by proto neměl minulost potichu přepisovat pokaždé, když objeví nový dokument. Měl by uchovat i předchozí stav a ukázat: Toto bylo veřejně doložitelné tehdy. Toto je veřejně doložitelné dnes. A toto nově nalezené mezi oběma stavy změnilo náš obraz události.

Dějiny totiž nejsou databáze, ve které čekají všechny řádky na správný dotaz. Jsou databáze, u níž nikdy nevíme, kolik řádků bylo smazáno ještě předtím, než jsme ji začali číst.

Internet a sociální sítě změnily množství v iluzi důkazu

Ještě před několika desetiletími bylo zveřejnění informace poměrně drahé. Bylo potřeba mít noviny, rozhlas, televizi, tiskárnu nebo alespoň přístup k instituci, která některý z těchto prostředků měla. Internet tuto bariéru téměř odstranil.

Popularita informace je vlastností její distribuce, nikoli její pravdivosti.

Jedna informace dnes může během několika hodin projít cestou od tiskové zprávy přes zpravodajskou agenturu a média až k milionům uživatelů sociálních sítí. Ti ji dále sdílejí, komentují, zkracují, překládají nebo doplňují vlastním výkladem.

Na konci může náš stroj nalézt desetitisíce dokumentů, ve kterých se objevuje stejné tvrzení. Jenže už víme, že jejich počet nám sám o sobě téměř nic neříká o počtu nezávislých důkazů. Tentokrát se však objevuje ještě jeden problém. Informace se nejen kopíruje. Je také zesilována.

Představme si, že státní instituce zveřejní tvrzení X. Převezme jej tisková agentura, z ní několik desítek médií, následně stovky účtů na sociálních sítích a nakonec tisíce dalších uživatelů. Po několika hodinách může informační prostor vypadat tak, jako by tvrzení X přicházelo ze všech stran.

Ve skutečnosti může jeho genealogie stále začínat v jediném bodě: „1 původní tvrzení → 40 médií → 2 000 příspěvků → 100 000 sdílení.“ Sto tisíc výskytů však nevytvořilo sto tisíc důkazů. Vzniklo sto tisíc distribučních událostí.

A sociální sítě k nim přidávají něco, co klasická média v takové míře neměla: algoritmický výběr. Člověk nevidí reprezentativní vzorek všech publikovaných informací. Vidí výběr vytvořený platformou podle pravidel, jejichž výsledkem má být mimo jiné jeho další pozornost a interakce.

Dva lidé tak mohou ve stejný den otevřít stejnou sociální síť a získat velmi rozdílný obraz stejné události. Pro jednoho může být tvrzení X všudypřítomné. Druhý se s ním téměř nesetká. Náš stroj proto už nemůže sledovat pouze: „KDO → CO → ODKUD.“

Potřebuje další vrstvu: „PŮVOD → PUBLIKACE → REPLIKACE → ZESÍLENÍ → DOSAH.“ Teprve tím začínáme oddělovat důkazní hodnotu informace od její viditelnosti.

To je důležité i proto, že současného informačního prostoru se přímo účastní státy, jejich instituce, armády, politické organizace, firmy, neziskové organizace, aktivisté i jednotlivci. Každý z těchto aktérů může mít vlastní zájem na tom, aby určité informace získaly větší pozornost než jiné.

Samotný zájem ale ještě nedokazuje manipulaci. Stejně jako skutečnost, že informaci zveřejnilo ministerstvo, neznamená, že je nepravdivá. A skutečnost, že ji zveřejnil anonymní účet, neznamená, že pravdivá být nemůže. Pro náš stroj je důležitější jiná otázka: Jak se informace dostala od svého doložitelného původu až k člověku, který ji právě čte?

Právě tuto cestu totiž běžný uživatel internetu téměř nikdy nevidí. Vidí desítky článků, stovky příspěvků a tisíce reakcí. Opakování pak může vytvořit intuitivní pocit, že tvrzení musí být dobře potvrzené, protože se s ním setkáváme všude. Jenže všude nemusí znamenat nezávisle. A do tohoto prostředí nyní vstupuje ještě umělá inteligence.

Model přečte tisíce internetových textů, vytvoří z nich nový text a ten je znovu zveřejněn na internetu. Další systém jej později může nalézt a považovat za další zdroj. Informace tak může začít obíhat v kruhu, ve kterém je stále obtížnější určit, kde vlastně vznikla.

Mohli bychom tak jednou dojít k absurdnímu informačnímu řetězci: „Zdroj → článek → AI → nový článek → další AI → další článek“ a na jeho konci nalézt tisíce textů, které se navzájem zdánlivě potvrzují. Přesto všechny mohou být potomky jediné původní informace.

Internet nám dal téměř neomezenou možnost informace šířit. Sociální sítě nám daly téměř neomezenou možnost jejich dosah zesilovat. Umělá inteligence nám dává téměř neomezenou možnost vytvářet jejich nové formulace.

Ani jedna z těchto technologií však sama o sobě nevytváří nový důkaz. Popularita informace je vlastností její distribuce, nikoli její pravdivosti.

Informační válka nemusí nikoho přesvědčit

Když se řekne propaganda nebo informační válka, snadno si představíme jednoduchý cíl: přesvědčit člověka, aby uvěřil tvrzení X místo tvrzení Y. Jenže to nemusí být jediný možný výsledek.

Představme si informační prostor, ve kterém se během několika dnů objeví několik vzájemně rozporných verzí stejné události. Jedna je intenzivně publikována první den. Druhý den ji vystřídá jiná. Třetí den se objeví nové svědectví, které zpochybní část obou předchozích. Následují fotografie, videa, údajné opravy, jejich zpochybnění a další vysvětlení.

Každá nová informace získá stovky nebo tisíce dalších publikací. Po týdnu už nemusí být největším problémem člověka rozhodnout, zda je správně X nebo Y. Může mít problém vzpomenout si, co vlastně kdo tvrdil na začátku.

Informační prostor tak nemusí člověku vnutit jednu konkrétní verzi reality. Může vytvořit prostředí, ve kterém přestane věřit, že je vůbec možné nějakou verzi spolehlivě zjistit. Výsledkem pak není: „Věřím X,“ ale: „Stejně se nedá věřit ničemu.“

Pro manipulaci by to byl mimořádně zajímavý výsledek. Člověka není nutné přesvědčit o vlastní verzi události, pokud se podaří dostatečně oslabit jeho důvěru ve schopnost rozlišovat mezi jednotlivými verzemi. Tady se vrací problém informační paměti.

Původní zdroj zveřejní X. Později jej změní na Y. Další média stále obsahují X. Následně se objeví Z, které tvrdí, že X bylo od počátku nesmyslem. Jiný zdroj vytáhne původní kopii X a použije ji jako důkaz, že autor Y změnil svůj příběh. Autor Y namítne, že šlo o běžnou opravu.

Všechny tyto informace mohou být v určitém smyslu správné. X skutečně bylo zveřejněno. Y jej skutečně nahradilo. Z může správně upozorňovat na chybu v X. A původní snapshot může skutečně dokazovat, že ke změně došlo. Spor už se nevede pouze o samotnou událost. Vede se také o historii informací o této události.

Běžný internet je pro takovou situaci špatně vybaven. Vyhledávač nám zpravidla ukáže to, co je dostupné nyní. Sociální síť to, co je právě viditelné nebo populární. Člověk si navíc jen obtížně uchová přesnou chronologii desítek měnících se tvrzení. Náš hypotetický stroj by zde mohl mít jednu ze svých nejzajímavějších funkcí. Nemusel by rozhodovat, kdo vede informační válku. Stačilo by, kdyby nezapomínal.

Zdroj A tvrdil v čase T1 X. V čase T2 změnil X na Y. Do té doby X převzalo 613 dalších publikací. V čase T3 vzniklo Z. Čtyřicet procent původních kopií X bylo později změněno, zbytek zůstal. Po roce se na internetu stále nachází několik stovek původních verzí.

Najednou před sebou nemáme informační chaos. Máme jeho historii. Ani zde však nesmíme udělat poslední, velmi lákavý krok. Pokud objevíme podobnou strukturu, ještě jsme nedokázali, že ji někdo vytvořil úmyslně.

Chaos může být výsledkem informační operace. Může však také vzniknout rychlostí zpravodajství, obyčejnými chybami, neúplnými informacemi, technickými vlastnostmi internetu nebo současným jednáním mnoha aktérů, kteří se navzájem vůbec neřídí.

Náš stroj proto nesmí zaměnit pozorovaný účinek za prokázaný úmysl. Může však uchovat něco, co člověk v dnešním informačním prostředí ztrácí velmi snadno: možnost vrátit se k přesné posloupnosti toho, co bylo veřejně tvrzeno.

Možná právě proto není největším nepřítelem manipulace jiná informace. Možná je jím paměť.

Jak by tedy vypadal hypotetický stroj?

Po všech předchozích problémech začíná být zřejmé, že jsme původní myšlenku stroje na pravdu téměř obrátili naruby. Na začátku jsme chtěli zadat událost a získat odpověď. Teď už víme, že právě odpověď by mohla být tou nejnebezpečnější částí celého systému.

Pokud by stroj na konci analýzy zobrazil: „PRAVDA — 87 %“ vytvořili bychom pouze novou autoritu. Člověk by už nemusel věřit novináři, politikovi, státní instituci nebo anonymnímu účtu na sociální síti. Mohl by začít věřit číslu vytvořenému algoritmem.

A z našeho stroje by se velmi rychle mohlo stát technologické Ministerstvo pravdy, před kterým jsme se snažili utéct už na začátku. Musíme tedy změnit jeho úkol. Stroj nebude určovat pravdu. Bude mapovat veřejně dostupný informační prostor kolem konkrétní události nebo tvrzení.

Jeho práce by mohla začít rozložením zkoumaného sdělení na co nejmenší samostatně ověřitelná tvrzení. Ne „článek A tvrdí něco jiného než článek B“, ale například: oba uvádějí stejné datum, liší se v počtu účastníků, používají rozdílné označení jednoho aktéra a pouze jeden z nich tvrdí, že událost X způsobila událost Y.

Teprve potom začne hledat původ jednotlivých tvrzení. Postupně tak vznikne struktura: „UDÁLOST → TVRZENÍ → ZDROJ → PROVENIENCE → VERZE → NEZÁVISLOST → ROZPOR → DISTRIBUCE → OPRAVA.“ U každého tvrzení bychom mohli vidět, kde se poprvé veřejně objevilo, které další zdroje jej převzaly, které k němu přinesly vlastní nezávislou informaci, jak se měnilo v čase a které důkazy nebo výpovědi mu odporují.

Kliknutím na číslo 847 bychom nezískali dalších 847 výsledků vyhledávání. Mohli bychom zjistit, že 847 publikací vzniklo z 216 bezprostředních převzetí, ta lze seskupit do 43 informačních větví, z nichž pouze sedm obsahuje vlastní původní informaci a šest z těchto sedmi nakonec vede ke stejnému veřejně dohledatelnému zdroji.

Najednou se množství mění ve strukturu. Stejně by systém pracoval s časem. Nezobrazoval by pouze současnou podobu článku, ale jeho dostupné historické verze. Ukázal by, kdy bylo tvrzení přidáno, změněno nebo odstraněno a kolik dalších publikací mezitím převzalo jeho předchozí podobu.

U fotografie nebo videa by oddělil samotný digitální artefakt od tvrzení, které má dokazovat. Autentické video totiž může být zveřejněno s nepravdivým popiskem stejně, jako upravený záznam může být použit k podpoře pravdivého tvrzení. Pravost média a pravdivost jeho interpretace nejsou stejná otázka.

A protože ani internet není na všech místech stejný, musel by systém zaznamenávat také, odkud byl obsah pozorován. Stránka dostupná v Praze může být nedostupná v Moskvě, Pekingu nebo New Yorku. Stejná URL může být blokována, přesměrována nebo dokonce poskytovat rozdílný obsah podle země. Ani zde by stroj neměl automaticky rozhodnout, že jde o cenzuru. Zaznamenal by pouze pozorovatelný stav: z tohoto místa byl v tomto čase dostupný tento obsah.

Umělá inteligence by v takovém systému měla obrovské využití. Mohla by vyhledávat významově podobná tvrzení v různých jazycích, rozkládat text na jednotlivé výroky, porovnávat formulace, hledat možné vazby mezi dokumenty nebo upozorňovat na změny významu. Neměla by však být posledním soudcem.

Provenience, časové značky, uložené verze, vazby mezi zdroji a statistiky musí zůstat dohledatelné. Pokud systém tvrdí, že 847 publikací vede k jednomu původnímu zdroji, člověk musí mít možnost tuto cestu otevřít a zjistit proč.

Jinak bychom pouze nahradili větu: „Věřte nám“ větou: „Věřte algoritmu.“ Skutečným výsledkem našeho hypotetického stroje by proto nebyl verdikt. Byla by to mapa důkazů, tvrzení, jejich původu, proměn a hranic našeho poznání. A čím dokonalejší by tato mapa byla, tím zřetelněji bychom možná viděli poslední problém.

Kolik dat, výpočetního výkonu a infrastruktury bychom potřebovali, abychom ji vůbec dokázali vytvořit?

Proč „stroj na pravdu“ nakonec stavět nechceme

V tuto chvíli už máme poměrně dobrou představu, jak by náš hypotetický stroj měl fungovat. A zároveň začínáme chápat, proč jej nejspíš nikdy nepostavíme. Největším problémem totiž nemusí být umělá inteligence. Rozpoznat podobná tvrzení, porovnat texty, analyzovat obraz nebo hledat vztahy mezi dokumenty jsou úlohy, které současné technologie v různé míře zvládají a budou je zvládat stále lépe.

Skutečný problém začíná u dat. Abychom mohli sledovat, co internet tvrdil včera, nestačí prohledávat internet dnes. Museli bychom jeho relevantní části průběžně zaznamenávat. Uchovávat jednotlivé verze článků, fotografie, videa, příspěvky na sociálních sítích, dokumenty institucí i jejich pozdější změny.

Nestačilo by přitom sledovat několik velkých médií. Informace může vzniknout na malém lokálním webu, v tiskové zprávě úřadu, na účtu neznámého svědka nebo v dokumentu zveřejněném pouze několik hodin. Může být napsána v jazyce, který žádný z pozdějších článků nepoužije. Může být odstraněna dříve, než si jí náš systém všimne.

A pokud chceme vědět, zda je určitý obsah skutečně veřejně dostupný, nestačí ani jeden počítač připojený k internetu.

Potřebovali bychom síť pozorovacích míst v různých částech světa. Stejnou adresu bychom museli zkoušet z různých zemí a zaznamenávat, zda poskytuje stejný obsah, přesměrování, chybovou stránku nebo vůbec nic. Museli bychom odlišit technickou poruchu od geografického omezení, rozhodnutí provozovatele od zásahu státu a skutečné odstranění obsahu od jeho pouhé nedostupnosti z jednoho místa.

Náš stroj se tak nenápadně mění v něco mnohem většího. Potřebuje vlastní webový archiv, vyhledávač, multimediální úložiště, systém uchování verrzí, překlady, rozpoznávání obrazu a zvuku, databázi vztahů mezi zdroji, geograficky distribuované pozorování internetu a výpočetní infrastrukturu schopnou tuto obrovskou informační mapu neustále přepočítávat. A čím více historie bychom chtěli analyzovat, tím větší část práce bychom museli dělat zpětně z neúplných stop.

Můžeme mít vlastní neuronovou síť a datové centrum plné nejvýkonnějších počítačů. Přesto nedokážeme analyzovat fotografii, která nebyla nikdy pořízena. Nenajdeme rozhovor, který nikdo nezaznamenal. Neobnovíme dokument, jehož všechny kopie byly zničeny. A nedokážeme zjistit obsah neveřejného rozhovoru pouze proto, že bychom jej velmi rádi zahrnuli do své databáze.

Výpočetní výkon nedokáže dopočítat chybějící minulost. Právě zde se definitivně rozpadá původní představa stroje na pravdu. I kdybychom dokázali shromáždit a dokonale analyzovat všechny veřejně dostupné informace, stále bychom analyzovali pouze veřejně dostupné informace. Nikoliv samotnou realitu v celé její úplnosti.

A ani pojem „všechny“ bychom nemohli používat bez výhrady. Mohli bychom mluvit pouze o všech informacích, které systém v určitém čase, na určitém území a v rámci svých technických možností dokázal nalézt.

To není technická drobnost. Je to hranice poznání. Možná tedy nemá smysl stavět gigantický systém, který by se snažil tuto hranici skrýt za stále větším množstvím dat a stále dokonalejší umělou inteligencí.

Mnohem užitečnější by mohl být podstatně skromnější stroj. Dostane jediné konkrétní tvrzení. Najde jeho veřejně dohledatelný původ. Ukáže, kudy se šířilo. Oddělí kopie od nezávislých informačních větví. Zachytí jeho změny v čase. Najde rozpory. Připojí dostupné důkazy. A tam, kde už veřejná stopa nepokračuje, udělá něco, co bývá pro člověka i umělou inteligenci překvapivě obtížné.

Řekne: „TADY KONČÍ DOLOŽITELNÁ STOPA. CO JE PŘED NÍ, NEVÍM.“  Možná by právě takový malý stroj byl mnohem cennější než velký stroj na pravdu. Protože by se nesnažil nahradit lidské rozhodování. Snažil by se mu dát lepší podklady.

Nehledejme stroj, který rozhodne za nás

Začali jsme jednoduchou otázkou: Může existovat stroj na pravdu? Po cestě jsme zjistili, že dva poctiví svědci mohou stejnou událost popsat rozdílně. Že skutečný rozpor ještě nemusí znamenat nepravdu. Že drobná nepřesnost v popisu skutečné události nemění automaticky samotnou událost. Že sto článků může pocházet z jediného zdroje a několik málo zpráv může naopak představovat několik skutečně nezávislých informačních cest.

Neříkal by nám, čemu máme věřit. Ukazoval by nám, odkud pochází to, čemu máme uvěřit.

Zjistili jsme také, že internet není archivem vlastní minulosti. Články se mění, zatímco jejich adresy zůstávají stejné. Opravená informace může dál existovat ve stovkách svých kopií. Pravdivá fakta lze sestavit do zavádějícího příběhu. Jediné slovo může změnit způsob, jakým čtenář vnímá všechno, co následuje. A ani obrovské množství dochovaných historických pramenů nám nedokáže říci, kolik jiných pramenů se nedochovalo vůbec.

S příchodem sociálních sítí jsme navíc získali schopnost zaměňovat rozsah distribuce za rozsah potvrzení. Informace, která se k nám dostane tisíci cestami, může mít jediný původ. Algoritmy mohou její viditelnost znásobit a umělá inteligence ji může převyprávět do tisíců dalších podob. Počet dokumentů roste, aniž by nutně přibýval jediný nový důkaz.

Původní otázka se proto postupně změnila. Už nehledáme stroj, který nám řekne, co si máme myslet. Hledáme nástroj, který nám umožní lépe zjistit, z čeho vůbec můžeme svůj názor vytvořit. To je podstatný rozdíl.

Technologie má přirozenou tendenci převádět složitý svět na jednoduché výsledky. Procenta, skóre, pořadí a barevné ukazatele působí přesně. U informace však může být právě tato zdánlivá přesnost nebezpečná. Výsledek PRAVDA 87 % totiž skrývá všechny otázky, které jsme si v tomto textu položili.

Kolik skutečně nezávislých zdrojů existuje? Co mohli jednotliví svědci pozorovat? Odkud pochází fotografie? Změnil se původní článek? Kdo převzal jeho starou verzi? Je uvedená příčina skutečně doložena, nebo pouze následuje po jiné události? Je použité označení popisem systému, nebo jazykem jednoho z aktérů? A kolik relevantních informací se nikdy nedochovalo?

Jedno číslo může všechny tyto otázky zakrýt. Mapa je naopak ukazuje. Možná je tedy nejdůležitější vlastností našeho hypotetického stroje právě to, že nemá poslední slovo.

Může člověku ukázat zdroje. Může rekonstruovat jejich vztahy. Může oddělit původní informaci od tisíců jejích kopií. Může uchovat starší verzi dokumentu, najít rozpor, upozornit na změnu formulace nebo ukázat, že zdánlivě všeobecně přijímané tvrzení pochází z jediného veřejně dohledatelného bodu.

Může také říci, že něco neví. Rozhodnutí, co všechny tyto informace znamenají, však musí zůstat na člověku. Možná proto skutečný stroj na pravdu nejen neumíme postavit.

Možná bychom jej ani stavět neměli. Protože ve chvíli, kdy technologii svěříme právo rozhodovat, co je pravda, už nevytváříme nástroj pro poznávání reality. Vytváříme autoritu, která ji začne vykládat za nás.

A odtud už není daleko k onomu Ministerstvu pravdy, které jsme potkali na začátku.

Mnohem zajímavější by byl stroj, který žádnou pravdu nevyhlašuje. Jen trpělivě rozmotává informační vlákna, uchovává jejich historii a ukazuje člověku, kde se spojují, kde si odporují a kde jejich veřejně doložitelná stopa mizí.

Neříkal by nám, čemu máme věřit. Ukazoval by nám, odkud pochází to, čemu máme uvěřit.