22. prosince 2010

O strojích a lidech

Jsme nahraditelní.
Ne, nemám na mysli levnou práci lidí z Asie a Afriky, jde mi o hrozbu poněkud časově vzdálenější: Veškerou naši práci jednou lépe zastanou stroje -- i tu intelektuální.

Být přesvědčen o vlastní nenahraditelnosti je běžné a zdravě seběvědomé. Snad ještě častější je pochybovat o vlastní nenahraditelnosti, ale zároveň být přesvědčen o tom, že některé lidské schopnosti jsou z principu nenahraditelné.
Kdo ale tvrdí, že lidé jsou, co se týče veškerého myšlení, nahraditelní strojem, je ostatními vnímán jako extremista. Proč? Co nás na odmítnutí lidské intelektuální výjimečnosti znepokojuje? Je to podvědomý lidský strach z neznámého predátora, jímž by se mohl stát nějaký náš vlastní výtvor? Jakési antropocentrické tabu, zakazující klást si otázky o vlastní výjimečnosti a nahraditelnosti? Nepodložená domněnka, že evoluce se s příchodem Homo sapiens sapiens zastavila? Humanitní přesvědčení o nekonečné hloubce lidské kultury?

Má člověk patent na rozum? Obsahuje naše myšlení nějakou magickou, jedinečnou složku, vzpírající se racionálnímu uchopení a jasné definici? A pokud ano, ochrání nás toto magické myšlení před vzpourou robotů?
Tyto otázky se dotýkají mnoha z nás.

Ústup bílých límečků

Překladatelům stroje komplikují život už dnes -- nekvalitní, ale snadno dostupné produkty strojového překladu snižují cenu jejich práce -- aby se překladatel uživil, musí se specializovat. Beletrie (více významů, emoce) a překlady smluv a právničtiny (jednoznačnost, přesnost) jsou a ještě dlouho budou pevnostmi, v nichž se lidští předkladatelé mohou dobře bránit. Dobyvatelé ale nespí a budují stále dokonalejší katapulty a beranidla, takže jednou padne i ta poslední citadela -- poezie.
Další lidské profese, ohrožené počítačem, jsou v pořadí. Na světě je mnoho intelektuálních činností, při nichž se počítače dají využít nějakým alespoň pomocným způsobem pro zpracování dat, jejich filtraci, analýzu, apod. Čím mechaničtější a předvídatelnější tato činnost je, tím více by se měl mít na pozoru ten, kdo si jí vydělává.
Lidští prodavači mají již dlouho konkurenci v podobě e-shopů. Pokladní v supermarketech nahradí průjezdní rámy, které v několika sekundách přečtou informace pomocí RFID čipů na zboží v nákupním košíku a odečtou celkovou cenu z bankovního účtu nakupujícího.
Jistě namítnete, že prodej není intelektuální profese. Avšak mnohé překvapí, že nahraditelní jsou i třeba lidští makléři.
Klidní by neměli zůstat ani programátoři nebo elektroinženýři -- počítač jednou nebude při návrhu software nebo elektronických obvodů potřebovat lidskou obsluhu.
Co se ale stane, až dojde k automatizaci matematiky nebo hudby?

Nemůžeme ignorovat neustálý ústup zastánců lidské nenahraditelnosti, čehož známou ukázkou jsou šachy: To, že nejlepší lidský šachista vždy porazí stroj, bylo považováno za důkaz nepřekonatelnosti lidského intelektu. Po porážce Kasparova v roce 1997 jednoduše zastánci lidské nenahraditelnosti odešli hledat jiné mety a jiné definice lidského intelektu a výjimečnosti.

Přeháním? Jistě, podobných proroků strojové inteligence už tu bylo, řeknete si. Nikdo nenahradí lidský mozek v jeho úplnosti -- včetně jeho emocí, fantazie a kreativity. Nikdo nevytvoří umělého člověka. Mechanické úkony vykonávají počítače lépe než člověk, to ano, ale stroj přece nikdy nebude schopen nahradit třeba umělce a jeho prožitek vtělený do díla.
Opravdu? Odkud se bere přesvědčení, že kreativitu nelze strojově nahradit?

Algoritmus kreativity

Produktem intelektuální nebo umělecké lidské činnosti je informace. Ano, dopouštím se zde určitého zjednodušení, ale ne až tak velkého: Veškeré materiální produkty je možné digitalizovat, vytvořit jejich popisy, recepty, algoritmy, výrobní postupy. Podstatné není vyrobit materiální objekt podle přesného popisu. To stroj umí, v tom je dobrý a v tom postupně nahrazuje člověka už od dob průmyslové revoluce. Podstatné je tento postup vymyslet. Zde, namítnou kritici, spočívá jádro lidské kreativity. Stroj jednoduše nevymyslí nový postup.

Co je tedy lidská tvořivost, ta domnělá bašta, v níž se schovává dobrá lidská výjimečnost před zlým a rozmáhajícím se mechaničnem? Definic kreativity je více, např.: Tvořivost je generování nových, neobvyklých, ale přijatelných, užitečných myšlenek, řešení, nápadů.

Myšlenka, aby byla užitečná, musí být vyjádřena nějakým popisem. Nejběžnější je popis slovní, nicméně "popis" je možné pro naše účely značně rozšířit -- může jít třeba o elektrické schema, obrázek (topologický, grafický jazyk), notový zápis, počítačový program, obecně pak o jakoukoliv konstrukci vytvořenou z nějakých symbolů.
Představme si prostor všech možných myšlenek. Jde o množinu všech konstrukcí, které se dají pomocí symbolů a podle pravidel daného jazyka vyjádřit. Představme si dále, že kreativní člověk (objevitel, vynálezce) se v tomto prostoru myšlenek pohybuje. Má určitou představu o jejich užitečnosti, danou jeho zkušeností, racionálně dokáže dedukovat nové myšlenky na základě těch již existujících a popsaných. Ba co víc -- pomocí své intuice, na základě inspirace a iracionálních postupů dovede vytvářet zcela nové a logicky neodvoditelné myšlenky. A pokud je geniální, dovede objevit i dosud nepoznané oblasti myšlenkového prostoru.
Racionální postupy jsou metodickým procházením tohoto prostoru, zatímco výbuchy inspirace jakési skoky v něm. Důležité je, že ať už je výchozí pohnutka jakákoliv, jde pouze o pohyb ve světě myšlenek (po cestě od známých myšlenek k novým) a tímto pohybem je vždy manipulace se symboly podle pravidel daného jazyka.

Představme si nyní stroj, jenž dovede naším myšlenkovým světem procházet. Je schopen odlišit myšlenku užitečnou od neužitečné porovnáním s realitou. Je schopen vytvářet nové myšlenkové konstrukce na základě konstrukcí známých. Je schopen logické chůze i kreativních skoků v myšlenkovém prostoru.
Na rozdíl od člověka je tento stroj rychlý a neúnavný, při řešení této optimalizační úlohy nejí, nespí, nebere plat, nemusíte za něj platit zdravotní a sociální pojištění.

Princip nahraditelnosti lidského myšlení není zdaleka něčím novým. Kořeny tohoto filozofického přístupu jsou naopak hodně staré a možná o nich psal už Gottfried Leibniz, ale až v dnešní době se technologie pomalu blíží do bodu, kdy má smysl se znepokojovat jeho praktickými dopady.
Nejde o nějakou katastroficky rychlou změnu, nicméně každý rodič školou povinného dítka by se už dnes měl ptát, zda se jeho dítě na budoucí svět "chytrých strojů" připravuje tím nejlepším možným způsobem.

Nahrazení lidského myšlení neproběhne nějakým velkým revolučním skokem. Nebude zkonstruován Golem, jenž po zapnutí vyhraje ve všech IQ testech a během další hodiny zajistí světový mír a lásku. Fígl je v tom, že vůbec není třeba vytvořit umělého člověka, protože umělý člověk je poněkud neekonomickým konceptem.
Místo toho dochází k postupnému, pragmatickému nahrazování lidské mysli tam, kde je to proveditelné a úsporné. Počítače stále považujeme a budeme považovat za nástroje (byť sofistikované), nikoliv za umělé osobnosti, které nás připraví o práci. Jak praví známý městský mýtus: Živé žáby musíte vařit pozvolna, jinak z hrnce vyskočí.

Automatický umělec

Dobrá, naše intelektuální dřina bude automatizovaná, zbyde více času na zábavu a umění. Jak je to tedy s prožíváním emocí a dalšími, hluboce niternými a výhradně lidskými věcmi, které jsem zmínil jen okrajově? Jak je to s uměleckou kreativitou?
Považujeme-li za podstatný pouze výsledek tvořivé činnosti, tedy kreativní dílo, není třeba komplikovat naše úvahy podobnými nadbytečnými koncepty. Tvoření nepochybně obohacuje či proměňuje tvůrce, ale vzhledem k cíli není tento proces podstatný. Máte-li v ruce emotivní obrázek, není důležité, zda malíř emoce prožíval nebo je jen dokonale předstíral. Herec po padesáté repríze na jevišti už emoce neprožívá a -- pokud jde o opravdu dobrého herce -- je to z pohledu diváka jedno.

Nicméně, se zastánci lidské nenahraditelnosti se asi shodnu v tom, že nahradit člověka v umění je obtížné a že tato emocionální bašta bude posledním útočištěm člověka poté, co ostatní pozice dobydou stroje. Neshodnu se ale s nimi v v odpovědi na otázku, zda k tomu dojde -- nevidím žádný důvod k přesvědčení, že člověk tuto poslední pozici uhájí.

Výstižně to formuloval David Gelernter:
Jednou, až vyřešíme všechny problémy, bude dosaženo umělé mysli. Avšak i potom nebude uměle inteligentní počítač nic pociťovat a nebude si nic uvědomovat. Řekne "Jsem šťastný," ale nebude cítit štěstí. Nicméně bude jednat, jako kdyby šťastný byl. Bude jednat jako inteligentní lidská bytost.
A co pak?

10 komentářů:

Rene řekl(a)...

Moc pěkný článek a i když si myslím, že pojednává o hodně vzdálené budoucnosti, tak souhlasím a jsem rád, že v tu dobu budu už spokojeně nekreativně mrtvý:)

BTW:Jen malá poznámka:
Transkripci příjmení "Leibnitz" v této podobě jsem ještě neviděl.
Neměl by být spíš: Leibniz? Nebo je to nějaký kreativní test pro čtenáře? :)

Karel Javůrek řekl(a)...

Hodně vzdálená budoucnost to rozhodně není, v roce 2020 by měl být výkon superpočítače schopen simulovat jeden lidský mozek, exponenciální vývoj znamená, že v roce 2030 bude výkon dostatečný pro tisíc mozků a v roce 2050? Nechte se překvapit.

Článek dobře ukazuje směr, má ale řadu špatných úvah, kterými trpí i starší filozofové.

Lidský mozek je ze samotné podstaty biochemický stroj, pseudo-představy o štěstí jsou jen zvýšené hladiny dopaminu a dalších látek, které jsou vyloučeny po splnění nějakého úkolu a podobně. Odměňovací systém mozku byl už dávno prozkoumán (je to také důvod všech závislostí).

Celé umění je také něco neopodstatněného, každý člověk považuje za umění něco jiného. Náhodně vylitá barva, věrně překreslená či pokřivená realita? Nic zajímavého.

Myšlenka vzpoury strojů je také špatná. Je třeba si uvědomit, že i my jsme stroje, takže tvoříme své nástupce, kteří budou z jiného materiálu a budou rychlejší, chytřejší a odolnější. Budou lepší než my, stejně jako se to snažíme u dětí.

První milník bylo rozšiřování fyzických schopností našeho těla (třeba i lopata), v poslední době přichází na řadu i psychické schopnosti (třeba první kalkulačka).

Mozek má zatím stále výhodu v komplexnosti a možnosti optimalizace a přeprogramování, takový buněčný mix hardwaru a softwaru. Současné programy a stroje se zatím specializuji na konkrétní úkoly, ve kterých jsou nejlepší, integrace však také pomalu přichází a začínáme mít první zařízení, které zvládnou více úloh najednou a dobře.

Karel Javůrek řekl(a)...
Tento komentář byl odstraněn autorem.
bver řekl(a)...

René: Děkuji za upozornění, opraveno.

Karel Javůrek: Díky za doplnění, to je skoro na samostatný blogpost.

Ještě bych uvítal zdrcující kritiku z řad obhájců nenahraditelnosti. :)

akb řekl(a)...

Tvořivost není ani tak skokem v daném fázovém prostoru, jako spíš (aspoň v některých případech, vesměs těch důležitějších) jeho redefinováním, opuštěním dosavadního schématu - což platí od lepší pastičky na myši po obecnou teorii relativity. To se dá možná ve prospěch tvé úvahy vyřešit dalším patrem zobecnění (fázový prostor fázových prostorů) a možná taky ne.

Počítače opravdu přebírají leccos z toho, co se dřív pokládalo za nenahraditelnou kreativní činnost, ale do té kdysi patřilo i třídění dopisů na poště. Jakmile se to stane, my si najdeme zas nový prostor pro tvořivost. Nahrazování člověka strojem je proces, pohyblivý rámeček na škále, ale ta se pořád rozšiřuje. Neboli: v nahraditelnost nevěřím. My si vždycky najdeme zas něco nového. Singularita se mi líbí jako sci-fi koncept, ale v realitě v ni věřím stejně málo jako v inteligentní Marťany.

Anonymní řekl(a)...

@akb: vzhledem k tomu, ze si @bver dostatecne sikovne definoval prostor, ve kterem se pohybuji lide i stroje, natolik abstraktne, jako to udelal, tak se mi tva prvni namitka zda byt lichou.

Mimochodem: vsiml jsi si, ze podstata te druhe se argumentacne podoba snaze teologu vytvorit "boha mezer"?

Anonymní řekl(a)...

@bver: Mam na podobne tema uz pekne dlouho text "z 80% hotovy", zkusim ho procistit a o vikendu ti ho poslat. Kazdopadne by mne zjaimalo, zda je lepsi ucit ted deti abstraktni casti matematiky nebo radeji zachazet s Sa-58. Nebo je odlozit, dokud nemohou prijit na svet dostatecne augmentovane.

Karel Javůrek řekl(a)...

@akb Mozek má velmi omezené schopnosti ohledně abstrakce. Záporné hodnoty nebo komplexní čísla jsou ještě v pohodě, ale o několik řádů dál to zvládne jen několik desítek matematiků na světě. Představa či dokonce počítání desetirozměrné koule je nad naše schopnosti, ale co když dokážeme naprogramovat stroj, který bude běžet v desetirozměrném prostředí a dokáže se postupně naučit a získat tak nové znalosti v této oblasti?

To je jediná cesta, mozek už se zkrátka nestačí přizpůsobovat vývoji.

@satai: Nejlépe obojí :) Je jasné, že nahrazení stroji bude nejdéle odolávat právě kreativita a tvorba, proto bude asi nejlepší učit děti univerzálně s vysokou schopností naučit se cokoli/kdykoli a pracovat s informacemi, které jsou dostupné.

bver řekl(a)...

@akb: Z původní verze jsem, v rámci stravitelnosti celku, vyškrtl odstavec-dva pojednávající o "povaze nekonečna prostoru myšlenek." O vztahu symbolů a reality byla napsána nejedna kniha (a sám se v praxi přesvědčuji o tom, jaká svízel je se samotným jazykem).
Můžeme v tom samozřejmě šťourat i dál, symboly, jazyky a mapování reality začlenit do strojově prohledávaného prostoru myšlenek, na principu to nic nemění. Šlo mi hlavně o demystifikaci tvořivosti.

Pointa je v tom, že ani nemusíme sahat k těmto technikám -- na to, abychom předkladatelům zatopili, stačí Bayes, dostatečně velký textový korpus a hrubá výpočetní síla.
Také doufám, že strojová konkurence posune lidskou kreativitu na novou úroveň, cena za to ale bude vysoká -- na jedné straně úzká elita vysoce tvůrčích konstruktérů nových kreativních strojů, na straně druhé otroci v Matrixu, chléb a hry.
Tvou víru v nenahraditelnost tedy nesdílím, nevím ani, zda ti ji závidím. Každopádně utěšovat se jí můžeme. :)

@satai: Sem s textem, těším se.
Někdy mám pocit, že jsem četl až moc scifáren, jindy si zase říkám, že už v tom jsme sakra až po uši. A výchova dětí je svízel sama o sobě, viz Diamantový věk. :)

bver řekl(a)...

Na tento text zareagoval @grasevina svou úvahou Co není na člověku nahraditelné? Doporučuji.