Roboti nemají fantazii a bude těžké je to naučit, říká vědec z Uberu

Kenneth O. Stanley Profesor na katedře informatiky na Univerzitě střední Floridy a působí zde jako vedoucí skupiny pro výzkum evoluční komplexity. Zároveň je spoluzakladatelem společnosti Geometric Intelligence Inc., kterou koupila společnost Uber a vytvořila z ní výzkumné centrum Uber AI Labs se sídlem v San Francisku. Kenneth je zde nyní vedoucím výzkumu.

Koncem srpna 2018 se v pražském Divadle Hybernia sešly stovky světových odborníků a fanoušků umělé inteligence. Sobotním programem vrcholila mezinárodní konference Human-Level AI pořádaná českou společností GoodAI, jejímž cílem bylo představit nejzajímavější příspěvky z oblasti vývoje tzv. silné neboli obecné AI, tedy samostatné umělé inteligence na lidské úrovni. Nikdo neví, kdy a zda vůbec takové technologie lidstvo dosáhne, přesto byla v sále cítit naděje, že možná chybí už jen krůček. Vystoupení profesora Kennetha Stanleyho z Uber AI Labs v tomto směru mohlo vyznít překvapivě. „Co když obecné umělé inteligence dosáhneme jen tehdy, když ji nebudeme hledat?“ zeptal se vědec, jehož hlavním tématem je výzkum počítačové kreativity.

Říkáte, že základní ingrediencí lidské inteligence je kreativita. Ale co to vlastně znamená, být kreativní?
Na definici kreativity neexistuje jednoznačná shoda, ale pro mě je důležitý tento aspekt: kreativita je schopnost neustále tvořit artefakty, které jsou pro uživatele (lidi) neotřelé a zajímavé. Ještě silnější definice by spočívala v tom, že kreativní systém dokáže takové artefakty tvořit neomezeně dlouho a čím dál komplexnější a sofistikovanější.

Myslíte, že umělá inteligence (AI) někdy schopnost kreativity získá a možná bude dokonce vytvářet umění?
Kreativita je podle mě při vývoji AI jeden z nejtěžších problémů, a to proto, že je navýsost subjektivní. Prostě je těžké objektivně určit, co je „zajímavé“. U ostatních problémů – řekněme třeba když chcete naučit robota uchopit nějaký předmět – je cíl jasný, a tudíž jej snadno můžete definovat a optimalizovat. U kreativity je to mnohem těžší, protože nemůžete nijak formalizovat něco, co jste ještě neobjevili. Problém kreativity je ve skutečnosti ten, že ani nevíme, co chceme najít!

Možná prostě to, co nám přijde zajímavé…
Ale tím je to ještě těžší. Museli bychom totiž formalizovat, co se vlastně lidem líbí, a to dosud nikdo nedokázal, nehledě na to, že se preference liší člověk od člověka. Proto asi první úspěchy vyplynou z kreativních programů, které budou zahrnovat vstupy od lidí, a tak budeme schopni nějak přesněji určit, co se člověku líbí, na základě vyjádření pocitů skutečných lidí.

A co velké databáze obrázků, uměleckých děl? Nemůže se umělá inteligence učit z nich?
Kreativitě se nemůžete naučit pouhým pozorováním mnoha dříve zajímavých a kreativních artefaktů. To dopadne jen tak, že budete tvořit stejné věci. Samá podstata kreativity je ale právě v tom, že nevytváříte stejný druh věcí. Takže tato data nám nepomohou. Když se dívám na tyto podmínky, nemyslím si, že by jakýkoli algoritmus v současnosti byl k lidské kreativitě blízko.

Je však vůbec možné takový kreativní algoritmus najít?
Myslím, že ano. Jak jsem říkal dříve, jednodušší to je tehdy, když jsou do procesu zapojeni lidé. Pak vás samozřejmě nařknou z podvodu, protože počítač plus člověk (nebo víc lidí) samozřejmě není „pouze algoritmus“, ale něco více. Pokud jde o samotný algoritmus, který by běžel bez lidí, myslím, že to možné je, ale výsledkem by bylo pravděpodobně něco více abstraktního, v tom smyslu, že to nebude zasazeno do rámce lidské psychologie. Stejně to pro nás může být zajímavé. 

Jak by takový algoritmus vypadal?
Jestli vás to zajímá, podívejte se na příklad evoluce na planetě Zemi. Evoluční proces běží už miliardy let bez lidského vedení a vytvořil veškerou diverzitu přírody, od letu ptáků až po inteligenci lidského mozku. To je bezesporu extrémně kreativní proces a kromě několika posledních let také nezávislý na člověku. Kreativní algoritmy, které budou fungovat zcela nezávisle na člověku, se tedy určitě mohou inspirovat z výtvorů evoluce a asi budou i podobně vypadat. 

Navíc pokud „vyřešíme“ obecnou umělou inteligenci, jako vedlejší efekt určitě získáme i kreativitu, ale od tohoto bodu jsme aktuálně stále daleko. Také si všimněte, že kreativní výtvory naší civilizace v průběhu staletí nejsou produkty jednoho lidského mozku, ale spíše komunity interagujících bytostí, což při zpětném pohledu opět trochu připomíná evoluční proces – příkladem může být historie lidských vynálezů.

Říkal jste, že evoluce je kreativní. Ale je tomu opravdu tak? Podle toho, jak dnes chápe evoluci většina lidí, jde jen o přírodní výběr a náhodné mutace.
Záleží samozřejmě na vaší definici kreativity – ale myslím, že evoluce s naším vnímáním kreativity hluboce souvisí. Ve skutečnosti evoluce není jen přežití nejzdatnějších a náhodné mutace – to je velké zjednodušení. Kdyby to tak bylo, už dávno bychom dokázali stvořit živou přírodu s celou svou slávou v nějaké počítačové simulaci. Prostě kdyby byl ten základní princip tak jednoduchý, mohli bychom jej jednoduše naprogramovat. Ale to se dosud nestalo, protože evoluce je mnohem jemnější a komplexnější. 

O ty „nejzdatnější“ ve skutečnosti nejde vždy, důležitou roli při vývoji hraje interakce mezi mnoha jednotlivci, které se říká koevoluce. Evoluce také spočívá v průběžném vytváření nových životních prostředí ze starých a tyto nové niky vytvářejí příležitosti k tomu, aby se objevily nové druhy, které zase vytvářejí nová prostředí, a tak dále. Ve výsledku je v přírodě vidět vývoj s otevřeným koncem, a právě tuto otevřenost zatím nedokáže napodobit žádný umělý proces – zatím.

V jednom z vašich veřejných experimentů s názvem Picbreeder se lidé mohou účastnit evoluce počítačových obrázků. Co důležitého jste při experimentu zjistili?

Základní poznatek byl ten, že zajímavé motivy, které se v programu objevily, například lebka, automobil, motýl nebo tvář, skoro nikdy nebyly cílem uživatelů, kteří obrázky vyvíjeli. Jinými slovy, v Picbreederu můžete najít věci jen tak, že je nehledáte. Toto zjištění nám pomohlo lépe pochopit podstatu hledání a kreativity – konkrétně to, že kreativní algoritmy nemohou být definovány cílem, alespoň ne úplně. 

Když chcete něco objevit, je nezbytné, abyste měli svobodu otevřeně zkoumat, aniž byste věděli, kde skončíte. Toto pochopení vedlo k tzv. novelty search algoritmům a nakonec k algoritmům, kterým se dnes říká quality diversity algoritmy. Takže Picbreeder byl významný krok k tomu, abychom porozuměli kreativním procesům a tomu, jak na hlubší úrovni fungují.

Celá naše společnost je však na cíle hodně orientovaná. Myslíte, že to brání kreativitě? Kdyby se objevila kreativní umělá inteligence, změnilo by nás to?
Věřím, že ano. Odhalení principů kreativní umělé inteligence by nám pomohlo podívat se, kam se ubírá naše společnost. A ta je skutečně hodně orientovaná na dosahování cílů. Kdybychom se z našich algoritmů naučili, že takový zkostnatělý systém zaměřený na cíle brání inovacím, mohlo by to iniciovat změny v našich institucích a jejich provozu. 

Vlastně už teď nějaké poznatky začínají společnost alespoň trochu ovlivňovat, díky výsledkům Picbreederu a novelty search. Kniha, kterou jsme napsali společně s Joelem Lehmanem, je přesně o této myšlence, a také o tom, co to znamená pro společnost. Jmenuje se Mýtus cíle: Proč velké věci nelze plánovat. 

Co to je neuronová síť a jak se učí Umělá neuronová síť do jisté míry napodobuje způsob, jakým informace zpracovává lidský mozek Počítačem simulovaná struktura pro zpracování dat - tzv. neuronová síť nebo umělá neuronová síť - se inspirovala u anatomie lidského mozku. Skládá se obvykle z vrstev velkého množství „neuronů“, což je samostatná jednotka, která má vstupy a výstupy. Více takových neuronů a vrstev znamená síť náročnější na simulaci (je třeba velký výpočetní výkon). Neuronová síť se učí (trénuje) na základě vstupních (testovacích, trénovacích) dat a zpětné vazby. Neuronová síť může také „učit sama sebe“, což zjednodušeně znamená, že sama sobě dává otázku, na kterou zná správnou odpověď, a trénuje sama sebe tak dlouho, dokud tuto odpověď není schopna poskytnout s určitou spolehlivostí. Příkladem může být třeba neuronová síť učící se rozpoznávat obličeje, hrát poker, analyzovat rizika nebo překládat cizojazyčné texty. Ukázka jednoduché neuronové sítě se čtyřmi vrstvami po šesti neuronech. Spojnice mezi neurony ukazují „dráhy“, kudy nejčastěji proudí komunikace. Tyto dráhy se posilují nebo oslabují na základě zpětné vazby. Tedy neuron, který dává neužitečný výstup, se buď poučí, nebo zůstane nevyužit.

Článek jsme rozšířili o vysvětlení neuronové sítě.