Je skvělou inspirací i pomocníkem, přesto se před AI musíme mít na pozoru

Listopad 14, 2023

Co jí nezadáte, to prozatím neudělá, ale v rukách zkušených odborníků může umělá inteligence (AI) napáchat velkou paseku, varuje konceptuální a sklářský umělec Pavel Kopřiva. Ve své přednášce na liberecké vzdělávací akci Educa popsal, v čem AI umělcům ulehčuje práci, zmínil ovšem i negativa. V budoucnu navíc může nahradit některé pozice. 

Při vaší přednášce zaznělo, že z některých fotografií nelze poznat, jestli je jejich autorem člověk, nebo umělá inteligence (AI). Může nás to jednou doběhnout?

Rozhodně kolem nás bude iluze, na to si musíme dát velký pozor. Jak jsem zmínil, naše smysly přestávají mít rozlišovací schopnost, kterou měly ještě před čtyřiceti lety. Bude proto nutné, aby se lidské oko, a možná i sluch, více precizovaly.

Hlavně také musíme vědět o možnosti, že může jít o falešné fotografie. Když netušíme, že umělá inteligence umí tak skvěle generovat fotky, budeme lehkou obětí. Jako budeme využívat AI na vytváření, stejně tak budeme muset mít jinou na rozpoznávání, co je vytvořené umělou inteligencí. Naše mozky to už nebudou zvládat.

Možná jsme lehkou obětí i z toho důvodu, že miliony lidí využívají sociální sítě, přičemž značná část z nich nekriticky přijímá konzumovaný obsah. Když jsou už nyní nekritičtí, v případě obsahu AI to je ještě nebezpečnější…

Tohle je velmi nebezpečná oblast, kterou člověk a lidstvo musí intenzivně řešit. Umělá inteligence totiž perfektně nahrává fake news, protože je umí vygenerovat tak dokonale, že nikdo nebude schopný rozlišovat pravdivost. V tomhle si proto myslím, že je nutný zvednutý prst, který nám řekne: „Milé lidstvo, zabývejte se tím, co jste na sítě dali. Protože i tím jste umělou inteligenci vyučili k tomu, aby se chovala tak, jak se chová.“

Pořád je to ale stroj, nejde o lidskou bytost. Existují ale lidé, kteří tento nástroj dokáží luxusně zneužít na falešné kampaně a politickou propagandu, o čemž se dříve politikům ani nesnilo. A my se tomu musíme bránit. 

Kdo je Pavel Kopřiva?

Pavel Kopřiva je konceptuální a sklářský umělec z Prahy a Kamenického Šenova, kde řídí Střední uměleckoprůmyslovou školu sklářskou. Kromě toho vede již šestnáct let Ateliér interaktivních médií na Purkyňově univerzitě v Ústí nad Labem. Mimo jiné učil v německém Bild-Werku, přednášel i v Corning Glass Studio v USA a v portugalském Marinha Grande.

Nahrávají zdokonalování těchto technologií i aplikace jako BeReal a podobně, kam lidé nahrávají denně fotky svého obličeje ze všech možných úhlů a za různých situací?

Přesně tak. Podobné to je i v naší umělecké oblasti. Lidé dnes už nemusí jezdit za historickými památkami, protože jsou digitalizované archivy, obrazy nebo knihy. A lidé si posílají miliony obrázků čehokoliv. Takže fotku pyramid vám umělá inteligence vygeneruje úplně dokonale. Ale má to háček, chybí tam lidský kontakt. Budeme mít plné monitory úžasných vizualit, zvuků a videí, ale bude nám chybět dotyk prstu.

Netýká se to ale pouze výtvarníků, může umělá inteligence ohrozit i profese hudebníků, filmařů a dalších uměleckých oborů?

Rozhodně jsou oblasti, ve kterých by se lidé bát měli. Jsou to oblasti stereotypních činností. Kreativita lidského mozku je nezastavitelná, ale i kreativita generativních softwarů je velká. Bát by se měli třeba lidé, kteří sestavují software –⁠ třeba programátoři. Nebo lidé, kteří pracují s databázemi. Ve výtvarné oblasti by se měli bát fotografové, ale nezabije je to. Stejnou otázku, co bude s kreslíři, když máme počítačovou grafiku, dostávali lidé v 70. a 80. letech minulého století. Změna nastala, protože v Hollywoodu animovaný film už nekreslí pánové ve studiu na celuloid, ale furt existuje pozice člověka, který navrhne motiv, s nímž následně pracují stroje a AI.

Z lidské činnosti často díky chybě vznikly velké věci. Úplným omylem například penicilin. Jenže s příchodem AI a přenesením výkonu na ni o krásu nechtěného a chyby můžeme přijít, nebojíte se toho?

Myslíme si, že stroje do emocí a chyb nepůjdou, ale jsme v tom brutálně naivní. Dneska jsou už chaty zaměřené právě na to, aby uměly emoce nebo chybu. To, co jsme si mysleli, že bylo rozlišovacím znakem našeho lidského chování a myšlení, tak už nebude jen naší devízou. Umělá inteligence se od nás učí úplně všechno. 

Naštěstí je to pořád jenom reprodukční nástroj. Například co nedám do 3D programu, tak v něm není. Před deseti lety jsem byl šťastný, že mi na internetu vyjely na dotaz fotky kytky a já se tak mohl inspirovat. Dnes zadám mnohem sofistikovanější prompt, tím pádem mi vyleze mnohem sofistikovanější obrázek. Je to pro mě úžasná inspirace. Ale ten stroj neví, co dělá, pouze skládá to, co jsem mu zadal. A náš mozek pak má selektivní roli, kdy nám řekne, co použít a co vyloučit. Tohle stroje ještě neumí, prozatím jen kombinují jedničky a nuly. 

Připravil: Tomáš Matoušek

Zdroj obrázků: Prezentace Umění na cestě nebo na rozcestí od Pavla Kopřivy


Související odkazy a zdroje


Konference Educa 2023

Pavel Kopřiva: Ruce a oči na rozcestí

Prezentace Pavla Kopřivy