Deepfake technologies have been used for entertainment for years. But they also represent a relatively new and difficult-to-detect digital threat. At European level, they will be regulated by the Artificial Intelligence Act, for which the member states are still preparing. In the meantime, even in Slovakia, the cases can be resolved by reporting and even through the courts.

Deepfake technológie slúžia už roky na zábavu. Predstavujú však aj relatívne novú a ťažko odhaliteľnú digitálnu hrozbu. Na európskej úrovni ich bude regulovať zákon o umelej inteligencii, na ktorý sa členské štáty ešte pripravujú. Zatiaľ sa prípady dajú aj na Slovensku riešiť nahlasovaním, a dokonca aj súdnou cestou. 

Na princípe technológie deepfake fungujú okrem iného rôzne zábavné aplikácie. Takýto obsah sa šíri aj na sociálnych sieťach. Ide o alternované fotografie, videá, audio nahrávky či celé textové časti. Technológia využíva princíp hĺbkového učenia, podskupinu funkcií umelej inteligencie.

Pri obrazových materiáloch ide o dva „súperiace“ algoritmy, pričom jeden sa snaží ten druhý oklamať a druhý musí falošné prvky rozoznať. Týmto spôsobom sa technológia učí. Umelá inteligencia tiež na tvorbu obrazových deepfake-ov musí rozpoznať hlavné body tváre.

Na vytvorenie deepfake-u je zväčša potrebné mať základ, do ktorého tvorca vloží želané prvky. Ide najmä o videá, kde postava, ktorá vo videu skutočne vystupuje, za pomoci alternácií úplne zmení identitu.

Medzinárodný tím odborníkov z viacerých svetových univerzít zostavil štúdiu, v ktorej rozlišuje prijateľné a škodlivé použitia tejto technológie. V rámci neškodných deepfake-ov je uvedené kreatívne využitie na zábavu či komerciu. Ide o tvorbu reklám, ktorých produkcia je často finančne nákladná, využitie deepfake-u v dabingu, pričom možno pre hlas herca alebo herečky použiť iný jazyk či vytvorenie audio stopy zosnulého. Aj takéto využitie technológie má však podľa autorov štúdie etické rámce.

Oveľa nebezpečnejšie je však zneužívanie umelej inteligencie na produkciu falošných pornografických videí či nahrávok verejných osobností, napríklad ako súčasti politickej antikampane.

Deepfake v praxi

Príkladom problematického deepfake-u bolo aj falošné video ukrajinského prezidenta Vladimíra Zelenského, kde vyzýva svojich vojakov na zloženie zbraní.

Takéto deepfake-y majú manipulačný charakter a možno ich radiť medzi dezinformačné obsahy. Nebezpečné sú najmä pre svoju ťažkú odhaliteľnosť. Techniky manipulácie fotografií poznáme už od vzniku fotografie samotnej. Pri profesionálne upravených video alebo audio nahrávkach však ide o relatívne nový, menej častý fenomén.

Technológia je známa aj slovenskému mediálnemu prostrediu. Na problém dezinformácií a najmä ťažko identifikovateľných falošných obsahov bolo potrebné poukázať najmä počas pandémie. Šírené falošné obsahy podkopávali dôveru ľudí v protipandemické opatrenia či očkovanie.

Na problém upozorňovala napríklad kampaň mobilného operátora, v ktorej boli demonštrované dosah a vierohodnosť deepfake-ov. V rámci kampane bolo vytvorené falošné video, na ktorom moderátorka Zlatica Švajdová Puškárová zdanlivo spochybňuje nosenie rúšok či očkovanie.

Deepfake-om je aj reklama slovenskej finančnej inštitúcie, v ktorej sa Slovákom prihovára už zosnulý Július Satinský. Skutočná nahrávka bola upravená, aby znela ako nahovorená Satinského hlasom.

Legálne rámce

V súčasnosti by v priestore Európskej únie prípady potenciálne problematických deepfake-ov mali čiastočne pokrývať niektoré existujúce zákony a smernice, napríklad Akt o digitálnych trhoch, Akt o digitálnych službách alebo GDPR smernica.

Legislatívne prístupy jednotlivých krajín k využívaniu umelej inteligencie sa ale líšia. Európska únia chystá zákon o umelej inteligencii, ktorý bude mať skôr regulačný charakter, zatiaľ čo pripravované nové pravidlá v Spojenom kráľovstve hlásajú podporu inovácií a zvýšenie dôvery ľudí v tejto oblasti.

Spojené štáty aktuálne nemajú regulačný rámec pre použitie umelej inteligencie. Existujú však viaceré inštitúcie, ktoré sa problematikou a vývojom zaoberajú.

Pripravovaný zákon o umelej inteligencii z dielne Európskej únie by mal pokrývať aj legálne rámce deepfake technológie. Juraj Čorba z Ministerstva investícií, regionálneho rozvoja a informatizácie napríklad vysvetľuje, že v terajšom návrhu je okrem iného pravidlo, podľa ktorého by mali osoby vystavené deepfake–om, teda ich príjemcovia, byť upozornení na to, že sledujú upravený obsah.

Uvažuje sa aj o obmedzení „systémov, ktoré môžu ovplyvniť volebné a iné demokratické procesy“. Detaily sú však stále v štádiu diskusie.

Prístup Slovenska

Ani slovenská legislatíva zatiaľ neobsahuje špecifickú zmienku o používaní umelej inteligencie. Naše online prostredie však bude podliehať pravidlám na európskej úrovni. Deepfake-y ale môžu za určitých okolností spadať pod manipulatívne alebo dezinformačné obsahy.

„Technológia sama o sebe problematická nie je. Problematickou sa stáva, keď je využitá za účelom šírenia dezinformácií, prípadne na online obťažovanie, šikanovanie, online podvody a podobne,“ uvádza hovorkyňa Rady pre mediálne služby Lucia Michelčíková.

Rada, teda jediný zákonný regulátor, môže upozorniť platformy ako je Meta alebo TikTok na nelegálny obsah na ich stránkach a požiadať o jeho stiahnutie. Zväčša dôjde k odstráneniu hneď po nahlásení, takzvanej eskalácii. V prípade, že sa tak nestane, začne Rada právne konanie na zamedzenie ďalšieho šírenia.

Podľa hovorkyne Michelčíkovej od augusta minulého roka, keď prišiel do platnosti nový zákon o mediálnych službách, ktorý rozširuje právomoci regulátora aj na online platformy, Rada žiadne problematické deepfake-y nezaznamenala.

Po zavedení Aktu o umelej inteligencii bude na Slovensku potrebné vybudovať ľudské a technologické kapacity, ktoré zatiaľ chýbajú. Čas na prípravu máme podľa Čorbu dva až tri roky.

Článok bol publikovaný 05/06/2023 na EURACTIV.sk