Ivan Srba: Ako na boj s dezinformáciami?

Dátum: 13. 12. 2023

Rozmachom sociálnych sietí sa stali dezinformácie a nenávistné prejavy na internete jednými z najpálčivejších problémov modernej spoločnosti. Práve boju proti nim sa vo svojom výskume venuje odborník na umelú inteligenciu a strojové učenie, Ing. Ivan Srba, PhD., žijúci v Lamači. Pôsobí v Kempelenovom inštitúte inteligentných technológií (KInIT) v Bratislave, čo je nezávislý výskumný inštitút zameraný na umelú inteligenciu. Tento rok bol nominovaný na prestížnu cenu ESET Science Award v kategórii Výnimočná osobnosť vedy do 35 rokov. 
V našom rozhovore sa venujeme téme dezinformácií a tomu, ako umelá inteligencia dokáže pomôcť v procese overovania faktov, tzv. fact-checkingu, ktorému sa venujú profesionálni overovatelia faktov – fact-checkeri.

Aktuálne pracujete spolu s kolegami na nástroji, ktorý spraví skríning online obsahu a poskytne analýzu kredibility. V rámci nej odhalí napríklad prítomnosť argumentačných chýb. Ako by sme to vedeli priblížiť našim čitateľom?
Tento nástroj pomôže fact-checkerovi identifikovať obsah, ktorý je potenciálne problematický, čo predchádza samotnému overovaniu. Funguje to tak, že pomocou umelej inteligencie prebehne automatický skríning. Výsledkom skríningu je informácia, či obsah vyzerá nedôveryhodne a stojí za to, aby ho fact-checker prečítal hlbšie. Môže tam objaviť tvrdenie, ktoré si zaslúži overenie. Alebo naopak – ak žurnalista potrebuje citovať spoľahlivé zdroje–vieme vďaka tomuto nástrojurýchlo povedať, či obsah pôsobí dôveryhodne.
Okrem toho pracujeme na aplikácií, ktorá na základe príspevku zo sociálnej siete dokáževyhľadať súvisiace fact-checkingové články a vyhodnotiť tak, či ide o dezinformáciu alebo nie.

Kto má prístup do spomínanej aplikácie, kde si môžu ľudia overovať informácie?
Aplikácia je vyvinutá v rámci európskeho projektu CEDMO, ktorý pôsobí na Slovensku, v Čechách a v Poľsku. V rámci neho sa snažíme pomáhať lokálnym fact-checkerom a žurnalistom. Táto aplikácia im bola v prvom kole sprístupnená na testovanie, momentálne pracujeme na tom, aby bola voľne dostupná. Tým, že je táto aplikácia viacjazyčná, dokáže ju používať ktokoľvek v rámci Európy.

Aká je spätná väzba od používateľov? 
Veľmi pozitívna, lebo na Slovensku sme donedávna mali len jedného autorizovaného fact-checkera, ktorý mohol overovať pre Facebook a Instagram. Pred parlamentnými voľbami k nemu pribudol ďalší, a tak dnes máme dvoch. Ich kapacita je však stále obmedzená, preto je dôležité im pomáhať. Zrazu sa im vďaka našej aplikácii otvorili nové možnosti. Dokážu vyhľadávať, či už niekto overoval danú informáciu kdekoľvek na svete v ľubovoľnom jazyku. Pre nich je to zásadná zmena. Vedia zabrániť tomu, aby overovali niečo, čo už overované bolo.

V našom rozhovore skloňujeme anglický pojem fact-checking – ako by sme ho čitateľom vysvetlili?
Znamená to proces overovania faktov. Prebieha tak, že vyškolení žurnalisti sledujú online priestor, kde identifikujú také správy, ktoré sú populárne a zároveň ich bežní ľudia nahlasujú ako potenciálne problematické. Tieto príspevky následne vyhodnocujú,či sú vôbec hodné overovania. Musí totiž ísť o faktickú informáciu, nemôže to byť názor. Zároveň vyhodnocujú,či má tvrdenie šancu pre našu spoločnosť spôsobiť škodu, napríklad takú, že ľudia nepôjdu voliť, alebo budú požívať nebezpečné látky,ktoré sú vydávané za liek. Následne sa snažia overiť, či toto tvrdenie už bolo overované predtým a tu vstupuje do hry naša aplikácia, ktorá tento krok zásadne zjednodušila. A potom vyhľadávajú odborné spoľahlivé zdroje, na základe ktorých dokážu tvrdenie overiť. Pozerajú do vedeckých publikácií alebo idú za autoritami či na rôzne úrady. Prípadne kontaktujú kolegov priamo v teréne – to sa často deje napríklad na Ukrajine, kde na mieste overia, či to je pravda. Nakoniecfact-checker napíše tzv. fact-checkingový článok, v ktorom zhodnotí a zdôvodní, či je daná informácia pravdivá.

Kedy vás začala zaujímať problematika dezinformácií?
Približne pred šiestimi rokmi som vypísal tému diplomových prác, ktoré sa zaoberali dezinformačnými správami. Bolo to ešte pred relatívne veľkým boomom tejto témy. Začali sme pomerne skoro, teraz je to jedna z našich primárnych tém.

Kedy ste si uvedomili že dezinformácie sú problémom, ktorý bude exponenciálne rásť?
Vo svete takéto precitnutie začalo po prezidentských voľbách v USA v roku 2016. Ja osobne som sa ešte pred tým v rámci dizertačnej práce venoval systémom pre podporu vzdelávania, kde si študenti vedia navzájom radiť. Tam som identifikovalexistenciu používateľov, ktorí sa takéto systémy snažia zneužívať. Toto isté sa deje so sociálnymi sieťami. Ich pôvodným účelom bolo, aby ľudia boli v kontakte, komunikovali spolu a mali rýchly prístup k informáciám. Približne pred ôsmimi rokmi sa to začalo výraznejšie meniť k horšiemu. Ľudia boli zahltení veľkým množstvom informácií, sociálne siete začali teda pre nich online obsah selektovať a mnohým tak, že im odporúčajú práve dezinformačný obsah.

K dezinformačným textom sa pridávajú deepfake videá a zmanipulované nahrávky či fotografie. Pracujete aj na aplikácii, ktorá vie rozlíšiť aj tieto prvky?
My sa v KInITe zaoberáme textom. Zároveň sme súčasťou európskych výskumných projektov, kde sa kolegovia sústreďujú na ďalšie typy obsahu, akými sú zvuk, obraz, video a potom to celé spájame. Pred parlamentnými voľbami sme si mohli všimnúť viacero deepfakeov - generovaného zvuku či obrazu. Sme presvedčení, že to bude čím ďalej tým väčší problém. Posledné mesiace sme strávili tým, že sme sa viac venovali generovanému textu, ktorí ľudia poznajú najmä vďaka ChatGPT. V našom výskumesme ukázali, že je možné pomocou týchto modelov generovať nielen relatívne dôveryhodne vyzerajúci, ľudsky pôsobiaci text,ale tieto modely sú schopné na požiadanie „vyrábať“aj dezinformácie. Je veľká šanca, že sa to zneužije podobne, ako to vidíme pri deepfake obrázkoch alebo videách.

Keď sa bavíme o dezinformáciách, prirodzene sa musíme dostať k téme absencie kritického myslenia a taktiež k systému vzdelávania na Slovensku, kde ešte stále memorujeme namiesto uvažovania a argumentácie. Čo by bolo podľa vás potrebné urobiť, aby naše deti boli na tom lepšie, ako sú naši rodičia a my?
Jedným z pilierov, ktoré je potrebné rozvíjať na boj s dezinformáciami je určite mediálna a internetová gramotnosť. Neexistuje však jediné riešenie. Mediálna gramotnosť je dôležitá, vidíme jej silnú absenciu naprieč všetkými generáciami. Je to spôsobené aj tým,že sa de facto nevyučuje, a pritom staršie ročníky ju ani nikdy nemohli mať, keďže v kontexte internetu a sociálnych sietí ide stále o relatívne nový fenomén. Potrebujeme vzdelávať ľudí, aby vedeli kriticky vyhodnocovať zdroj informácií, pravdivosť a kredibilitu. Naše nástroje ich k tomu môžu viesť, ale v konečnom dôsledku je už na ľuďoch, aby to vedeli interpretovať.

Ako sme na tom na Slovensku so šírením dezinformácií?
Sociálne siete musia v Európskej únii pravidelne reportovať, ako zabránili šíreniu dezinformácií. Vďaka fact-checkingu vedia označovať príspevky na sieťach ako falošné. To znamená, že vám vyskočí okno s oznamom, že informácia bola nezávislým fact-checkerom vyhodnotená ako nepravdivá a keď ju chcete zobraziť, musítetoto upozornenie najprv akceptovať. A keď ju chcete zdieľať, opäť sa toto upozornenie zobrazí. No napriek všetkým týmto opatreniam sa deje to, že na Slovensku podľa najčerstvejšieho reportu viac ako dve tretiny ľudí pokračujú v zdieľaní. To znamená, že boli priamo upozornení, bolo to nezávisle overené a napriek tomu to vo svojej komunite ďalej šíria. Toto sa dá pripísať absencii mediálnej gramotnosti.
Zároveň jednoduché fact-checkingové techniky a postupy dokáže zvládnuť aj bežný človek. Napríklad veľakrát vidíme, že sa šíria rôzne fotografieumiestnené alebo interpretované v zlom kontexte. Môže ísť o starý záber prezentujúci sa ako aktuálna situácia, ktorá sa deje vo svete teraz – napríklad pri vojnových konfliktoch či počas pandémie. Každý z nás vie jednoduchým spôsobom túto fotku vyhľadať a zistiť, že je niekoľko rokov stará, tým pádom je to jednoznačný podvrh.  

Dve tretiny je obrovské množstvo ignorancie. Ako sú však na tom iné štáty?
Sú krajiny, ktoré sú na tom o dosť lepšie, napr. vo Švédsku si zdieľanie označenej dezinformácie na Facebookurozmyslí viac ako polovica používateľov.V celoeurópskom meradle však vidíme, že aj vyspelé krajiny majú stále vysoké percento zdieľania dezinformácií. Ukazuje sa, že sociálne siete pre boj s dezinformáciami nerobia dostatočne veľa a účinne. Lebo pre nich je obsah, ktorý polarizuje zaujímavý. Základným stavebným kameňom všetkých sociálnych sietí je totiž tzv. ekonomika pozornosti, kde sa bojuje o to, ako tam používateľa udržať čo najdlhšie. Všetky sociálne siete majú na pozadí algoritmy - odporúčacie systémy, ktoré rozhodujú o tom, čo sa nám zobrazí. Napriek tomu, že nevieme ako sú presne naprogramované, lebo spadajú podobchodné tajomstvo, vieme povedať, že algoritmy sú spravené tak, že uprednostňujú emočne nabitý obsah. Lebo taký vás prinúti pozrieť si ďalšie video, pridať komentár či reagovať emotikonom. Nuž, a aký je to obsah? Často dezinformačný alebo nenávistný.Odporúčacie systémy nie sú teda úmyselne naprogramované tak,aby šírili takýto obsah, ale sú naprogramované tak, že nepriamo podporujú šírenie škodlivého obsahu. Práve preto je ďalšoutémou, ktorej sa v našom inštitúte venujeme to, že sa chceme pozrieť dovnútra sociálnych sietí. Aj keď sa nedá dostať priamo k informáciám, ako sú odporúčacie systémy presne naprogramované, my to dokážeme tak, že ich zvonka nezávisle auditujeme.

Ako?
Sme schopní simulovať správanie používateľova pozorovať, ako sociálna sieť na ich správanie reaguje. Nedávno sme robili štúdiu, kde sme simulovali správanie používateľov na platforme YouTube. Používateľ si pozeral videá a sledovali sme,ako sa mu mení odporúčanie, čo si má pozrieť ďalej. Najskôr sme ho nechali pozerať dezinformačný obsah a postupne sa to nabaľovalo. Čím viac takýto obsah konzumoval, tým viac dezinformačných odporúčaní sa mu objavovalo. Potom sme urobili pokus, či sa z tejto dezinformačnej bubliny dá dostať a používateľa sme nechali pozerať pravdivé videá. Dobrá správa je, že odporúčací systém rýchlo zareagoval a tie dezinformačnépotlačil. Otázkou však je, prečo sa dezinformácie do odporúčaní vôbec v takom množstve dostanú a ako vieme motivovať ľudí, aby si pozreli pravdivý obsah. S touto prácou v roku sme v roku 2021 získali ocenenie na významnej medzinárodnej konferencii v Amsterdame.

Venujete sa umelej inteligencii (AI) – to je rozporuplný nástroj. Časť ľudí sa ho obáva, viete nás nejako upokojiť? Že nás nevyhubí, keď napríklad zistí, že jediný, kto škodí planéte, sme my sami?
Toto je záležitosť sci-fi filmov (smiech). Umelá inteligencia je tu s nami dlhé roky a väčšina ľudí si to ani neuvedomuje. Keď máte spam filter v maili alebo keď vyhľadávate na internete, to je predsa tiež umelá inteligencia. Tento rok sa medzi ľudí dostali veľké jazykové modely ako ChatGPT. Ľudia dostali možnosť umelú inteligenciu napriamo ovládať a má absolútne pozoruhodné vlastnosti. Vidíme jej silu. Ale to, že má umelá inteligencia aj negatívne stránky,vieme taktiež dlhé roky. Ale nepredstavujme si, že príde Terminátor a ovládne zemeguľu. Umelá inteligencia má na nás skôr nepozorovaný negatívny vplyv. Ovplyvňuje naše životy tak, že my to vlastne chceme. Rozhoduje, čo sa nám zobrazí na sociálnych sieťach, a teda buduje náš názor na rôzne veci okolo nás. V istom zmysle je to oveľa horšie ako ten Terminátor, lebo takýto postupný negatívny vplyv si ľudia štandardne neuvedomujú.

To sú tie úskalia.
Áno. Na druhej strane má umelá inteligencia veľký potenciál na to, aby uľahčovala ľuďom život. Dokáže prerozprávať zložitý text tak, aby bol zrozumiteľný aj pre dieťa, dokáže veľmi dobre sumarizovať či prekladať. Ale je aj schopná potenciálne škodlivý obsah generovať a to relatívne lacno.

Umelá inteligencia je teda dobrý sluha, ale zlý pán?
Presne tak. Dôležité je, aby ľudia pochopili, že to nie je akýsi robot. Máme ju všade naokolo, v mobiloch, počítačoch, napr. ako hlasových asistentov. Pred niekoľkými mesiacmi boli dosť veľké diskusie o tom, že jej vývoj je na nejaké obdobie potrebné zastaviť. Nemyslím si, že toto je riešenie, pretože napriek dohode by vývoj pokračoval ďalej. Situácii to nepomôže, progres je rýchly, paradoxne by to veci mohlo zhoršiť, lebo by sme ich na nejaký čas nevideli. Takto aspoň vidíme, ako napredujú.

Máte skúsenosti s projektmi, v rámci ktorých ste úzko spolupracovali aj s Harvardovou Univerzitou (USA) či Univerzitou v Sheffielde (UK). Čo vás vlastne drží na Slovensku?
Okrem toho, že som na Slovensku vyrastal a mám k nemu vzťah, zostávam aj preto, že sú tu veľmi šikovní ľudia, ktorí nám, žiaľ, odchádzajú vo veľkej miere do zahraničia. Celou motiváciou nášho inštitútu je vychovávať expertov na umelú inteligenciua poskytnúť im taký priestor, aby sa aj tu na Slovensku vedeli uplatniť. Drží ma tu aj to, že trénujeme umelú inteligenciu na to, aby bola viacjazyčná. Nikto za nás vo svete nenatrénuje niečo, čo bude fungovať na slovenčinu. To si musíme urobiť my na Slovensku. 

Ako sa vám býva v Lamači?
S rodinou sa nám tu býva veľmi dobre. Je to rodinne prívetivá mestská časť, páči sa mi kombinácia sídliska so starým Lamačom a blízkosť prírody. 

Ktoré sú vaše obľúbené miesta?
Rád chodím s deťmi na Železnú studničku či na Kačín. 
ROZHOVOR: MARÍNA GORGHETTO
FOTO: LINDA KISKOVÁ BOHUŠOVÁ / ESET SCIENCE AWARD