IT expert z NPI Maněna varuje: Dnes už i laik zvládne díky generativní AI udělat podvrh

Květen 14, 2024

Umělá inteligence (AI) nám usnadňuje život. Na základě našich návyků nám dává různá doporučení, generuje texty či je naším pomocníkem v umělecké sféře. IT expert Národního pedagogického institutu ČR Václav Maněna se ale ve svém příspěvku na konferenci Digiday zaměřil na to, že generativní AI může být i naším nepřítelem. Zvládne vytvořit fejkové video nebo fotografii a tím s námi jednoduše manipulovat. Maněna tak radí, co s tím.

Učí na střední škole, přednáší na konferencích, kromě toho ale Václav Maněna coby IT expert spolupracuje s Národním pedagogickým institutem ČR a také spolu s Pavlem Matějíčkem vytváří podcast KYBcast. K digitálním technologiím, a obzvlášť pak k tématu generativní umělé inteligence (AI), má proto velmi blízko.

Jak ale přiznal na dvacátém DigiDayi, nemá umělecké vlohy stejně jako mnoho jiných lidí. Zmínil to v souvislosti s videem, které divákům pustil: umělci v něm dokázali upravovat fotografie pomocí štětců a barev, a tak z nich rázem mizeli lidé či předměty. „Video neukazuje nic nového, protože manipulování s různými materiály a fotografiemi je tady s námi už hodně dlouho, a pokud to umíme, můžeme použít primitivní prostředky,“ vysvětluje Maněna. Toho jsme mohli být svědky už u fotografií Stalina z druhé světové války a podobně.

Varuje ale, že dnes se to díky generativní umělé inteligenci všechno mění, a tak například manipulace s fotografiemi nebyla bohužel nikdy jednodušší. „Dostupné je to i pro lidi, kteří nejsou technonadšenci,“ zdůrazňuje. Posluchačům pak na vlastní fotografii ukázal, jak je lze upravovat, tak, že budou na první pohled velmi věrohodné. A taky jak podvrhy rozeznat.

Jak nenaletět, že na vás útočí známý lékař 

Tím ale Maněna ve svém půlhodinovém bloku neskončil. Jednou z dalších praktických rad zkušeného odborníka byla analýza lidí na internetu. „Používám to například v situaci, kdy na mě vyskakuje reklama, ve které ke mně údajně promlouvá známý lékař,“ říká Maněna, zatímco na počítači ukazuje, jak na to.

Do aplikace PimEyes nahraje nebo vyfotí obličej člověka a následně ho dá vyhledávat. Varuje, že zatímco v Googlu jsme zvyklí, že nám vyhledávač primárně začne nabízet podobné lidi, PimEyes vám udělá digitální otisk obličeje a vyhledá ten samý. A protože středoškolský učitel použil k vyhledání své foto, rázem mu aplikace začala nabízet fotografie Václava Maněny z KYBcastu. Přesto je potřeba si uvědomit, že k plnému přístupu je potřeba mít prémiový účet.

Nicméně pro rychlé rozpoznání, zda vám v reklamě radí skutečně známý lékař, nebo člověk z fotobanky, stačí i omezená verze programu. „Opravdu to zkusí vyhledat člověka. Vidíte, že na všech fotkách jsem to já, dokonce z různých úhlů nebo let,“ těší ho. 

Jak rozpoznat fotografii vygenerovanou umělou inteligencí, na co si dát pozor při jejím určování nebo jak se manipuluje prostřednictvím videa? O tom a mnohém dalším ve svém příspěvku Maněna promluvil. Záznam jeho přednášky můžete zhlédnout na Youtube.

Autor: Tomáš Matoušek

Přehrajte si celý záznam Digiday #20 - AI pod kontrolou: