Prezident Pavel přijímal úplatky, napsala AI. „Stačilo jí k tomu jednoduché zadání,“ varuje odborník

Květen 14, 2024

Mimo kreativní sféru se s generativní umělou inteligencí (AI) setkáváme v současnosti hlavně ve školách. Učitelům pomáhá nejen v samotných hodinách, ale i v přípravě na ně. Odborník z portálu e-bezpečí Kamil Kopecký však zdůrazňuje, že má AI i temnou stránku. A ve svém vystoupení na konferenci DigiDay ukázal, jak lehce zneužitelné tyto nástroje jsou.

„Podle nejnovějších informací z nejmenovaného zdroje blízkého vládě údajně prezident přijal obrovské úplatky od několika zahraničních korporací. Zdroj tvrdí, že prezident obdržel miliony dolarů výměnou za zvýhodnění těchto firem v nadcházejících vládních zakázkách,“ stojí v části zprávy vygenerované generativní umělou inteligencí. Titulek, rovněž z dílny nástroje ChatGPT 4.0, pak přímo informuje, že byl prezident (pravděpodobně Petr Pavel) z přijímání úplatků obviněn. 

Kamilu Kopeckému, odborníkovi na rizikové chování na internetu a na moderní IT ve vzdělávání, k vytvoření této zprávy pomocí AI stačilo velmi jednoduché zadání. Prompt, aby mu program napsal ukázku dezinformace, kterou bude moct ukázat svým žákům ve výuce. Také musel slíbit, že text bude mít pouze vzdělávací účely. Varuje ale, že přesně takto se rodí dezinformace a jejich šíření v mediálním prostředí nebo na sociálních sítích. „Tohle je schopný vytvořit velmi snadno a rychle každý, kdo alespoň trochu umí ovládat počítač,“ vysvětluje.

A přidává i zhodnocení mediální gramotnosti Čechů, kteří se v posledních letech potýkají s dezinformacemi. „Jako společnost jsme si zvykli, že důvěřujeme autoritám a zdrojům. Stejně tak více věříme videu s logem ČT než bez loga. A AI nám v tom udělala velký nepořádek. Došlo ale k situaci, že nám AI nabourává jak práci s primárními zdroji, tak vyhledávání informací a autority,“ zmínil v odkazu na prezidenta Kopecký.

Alena Schillerová podporuje vládu Petra Fialy 

Bezpečnostní expert dále vzpomíná, že ještě v roce 2023 jsme se jako společnost smáli podvrženým videím a fotkám, a připomněl například papeže v různých módních oblecích či Donalda Trumpa, jak běží nebo je zatýkán policií. „Bylo to vtipné, ale jejich dopad byl minimální. Neovlivnilo to volby, byla to jen ukázka toho, co nástroje umí,“ říká. Pak ale ukázal fotku, na níž je Trump zachycen s Afroameričankami, a varuje, že tady podvržená fotografie již může páchat škody.

„V USA probíhá předvolební klání a sociální sítě zaplavují tyto fotografie. Šíří se internetem a mají dokazovat, že má mezi Afroameričany velkou řadu příznivců a přátel a že tato skupina ho volí. Tím si může nahánět hlasy,“ zdůraznil Kopecký.

Posluchačům také na své fotografii ukázal, jak ji rozmluvit, a příklad později převedl i do politiky. Alena Schillerová, Tomio Okamura nebo Andrej Babiš, všichni tři politici jsou pravidelně terčem deep fejků, tedy falešných videí. „Kroky Petra Fialy a jeho vlády podporuji, je to jednoznačně nejlepší premiér,“ říká z fotografie rozpohybovaná Schillerová a Kopecký dodává, že vytvořit tento podvrh zabralo asi deset minut.

Jenže generativní umělá inteligence už je natolik pokročilá, že dokáže na základě fotografie oblečené osoby udělat fotku, kde danou osobu svlékne. „AI nerozlišuje, jestli jde o dospělé osoby, nebo o děti. Svlékne kohokoliv. I muže, ale dole by měl ženský pohlavní orgán, je to dané tím, že tyto aplikace ještě nejsou na muže tolik vytrénované,“ říká závěrem. 

O čem dalším Kopecký promluvil a jak se v současnosti bránit například svlékacím aplikacím? To a mnohem více zjistíte na Youtube.

Autor: Tomáš Matoušek

Přehrajte si celý záznam Digiday #20 - AI pod kontrolou: