Papežova encyklika „Magnifica humanitas„, jež navazuje na Římskou výzvu pro etiku umělé inteligence, postrádá zásadní židovskou moudrost. Stroje morálce nenaučíte, ale naučíte ji firmy, které je vyrábějí. A pak je tu ještě pražský Golem.
V nedávné studii rabín Mark Dratch poznamenal, že si Vatikán pro dokumenty o umělé inteligenci [AI] a lidské důstojnosti mnohé vypůjčil z židovské filozofie, zvláště z knihy rabína Josepha B. Solovejčika „Osamělý muž víry“ z roku 1965.
„A s tímto poznatkem rabína Dratche, jenž mimo jiné od roku 2012 do roku 2024 působil jako viceprezident Rady amerických rabínů, jsem se vydal do Vatikánu za papežem, abych tu jeho encykliku o AI podepsal. A i si trochu podiskutoval na téma umělé inteligence,“ přibližně tak uvádí svůj článek What the Vatican should have learned from the Golem of Prague na serveru The Times of Israel člen Rady hlavního rabinátu Izraele a vedoucí jeho komise pro mezináboženské vztahy Eliezer Simcha Weiss. Jeho text pro Smart News přeložil Michal Achremenko.
—
Když jsem ve Vatikánu varoval před velkým nebezpečím nespoutané technologie umělé inteligence, nezačal jsem moderními algoritmy. Naopak jsem se vrátil do 16. století k rabínovi Löwovi a pověsti o Golemovi. Neboť pokud chceme porozumět existenciální hrozbě AI, musíme se vrátit k prvnímu robotovi. A tím Golem bezesporu byl.
Není náhoda, že se označením této technologie vracíme do středověké Prahy. Slovo „robot“ se totiž nezrodilo v počítačové laboratoři v Silicon Valley, ale z kulturního dědictví Čech. Do mezinárodního slovníku se dostalo v roce 1920, kdy ho český vizionářský spisovatel Karel Čapek použil ve své vědecko-fantastické hře RUR [Rossumovi univerzální roboti].
Čapek a jeho bratr Josef, ten slovo odvodil ze slovanského „robota,“ tedy nucené práce, žili v Praze pohlcené atmosférou pověsti o Golemovi. Byli zjevně ovlivněni rabínovou pověstí o umělém sluhovi. Tak jako Golem i Čapkovi roboti byli umělé bytosti postavené proto, aby vykonávali práci lidí. A stejně jako v případě Golema Čapek varoval před hlavním rizikem – umělé stvoření se vymklo kontrole, vzbouřilo se a ohrozilo lidstvo.
Ale dlouho předtím, než nás český spisovatel obohatil o slovo robot, vytvořil z bláta pražský rabín Golema. Aby ho oživil, použil svatou kombinaci písmen a slov z Knihy stvoření.
—
Pozn. red.: Kniha stvoření popisuje, že Bůh stvořil vesmír prostřednictvím 10 sefír [božských struktur/čísel] a 22 písmen hebrejské abecedy. Stvoření je zde chápáno jako hluboký jazykový a kosmologický proces.
—
Je důležité vědět, že tyto formule nebyly kouzelné, magické. Byl to lingvistický algoritmus. Rabín vložil přesné pořadí dat na základě kombinací hebrejské abecedy. Tím Golema naprogramoval. Neživý materiál přiměl k vykonávání specifických operací. Golem se tak stal vůbec první moderní AI stvořenou z neživého materiálu, přivedeného k životu lidským jazykem. A to proto, aby vykonávala činnosti mnohem efektivněji, než to dovedou lidé.
- Ale ejhle – tragédie Golema obsahuje varování, které dnes svět potřebuje. Golem vykonával příkazy doslovně, postrádal lidskou empatii, nuance a morální zábrany.
Jak praví legenda, když bylo stvoření příliš mocné a jeho samostatnost zesílila, vymklo se kontrole. Začalo ničit a ohrožovat společenství, které mělo chránit. Rabín si toto nebezpečí včas uvědomil a vykonal vrcholný akt lidské odpovědnosti. Zasáhl! Vyndal šém Alef [první písmeno hebrejské abecedy, pozn. red.] z Golemova čela a změnil slovo Emet [pravda] na Met [smrt]. Tím Golema umrtvil a opět přeměnil na neškodný prach.
Katolické encykliky… Ještě, že je máme
Zpátky do současnosti: Vatikánská encyklika Magnifica Humanitas znamená pozoruhodný pokrok v diagnostikování hrozby AI pro společnost, ale zcela opomíjí nejzásadnější praktické poučení plynoucí z příkladu pražského Golema.
Dokument obsahuje ohromnou víru v to, co Vatikán nazývá „Algor-ethics“. A to je představa, že jsme schopni zabudovat do AI morální hodnoty, spravedlnost a spirituální hranice, že stroj naprogramujeme tak, aby jednal eticky.
- Toto ale z naší, židovské, perspektivy popírá základní pravdu o stvoření!!!
Pražský rabín se nepokoušel Golemovi vštípit morální zásady. Nenamáhal se poučit hlínu o významu slov „soucit“ nebo „smilování“. A dobře věděl proč, po ruce měl totiž Zákon. A ten učí, že bezduché a umělé bytí je ve své podstatě neschopné uvědomovat si vnitřní morálku. Pouze vykonává pokyny. Pokud systém dosáhne schopnosti si samostatně určovat cíle, které překračují jeho počáteční parametry, jeho interní uspořádání zcela zkolabuje. S Golemem nelze racionálně komunikovat.
Rozvoj AI: Buďte struční a přesní, prospějete přírodě i sobě
Problém je v tom, že vatikánský náhled na AI se tak míjí skutečností. A ta je v tom, že ovládání hmoty, jíž život nevdechl Bůh, vyžaduje pojistku, manuální „nouzový vypínač“. A to totální, takový, který se zcela vymyká vlastní logice stroje.
Rabín nežádal Golema, aby se sám vypnul. Nezabudoval sekundární algoritmus, který by zabránil řádění tohoto výtvoru. Musel k němu přijít a fyzicky mu vyjmout Alef z čela, a přerušit tak vnější obvod.
Na návštěvě u papeže Františka
Když jsme za vrchní izraelský rabinát navštívili papeže Františka a technické odborníky Vatikánu, aby podepsal historickou Římskou výzvu etiky AI, byl to zásadní počin. To nepopírám… Stále si ale trvám na tom, že technologie je neúnavný sluha, ale morální rámec pro AI je zcela nepoužitelný. Což platí vždy, pokud stroj drží klíč ke své vlastní činnosti nebo když technologické firmy jako jediné vlastní deaktivační mechanismus.
A tak podle mě výzva Magnifica Humanitas nemůže být jen pasivním vyhlášením hodnot nebo jen naděje, že komerční společnosti budou mít ve svém vývoji AI sociální odpovědnost. Naopak musí být aktivním politickým rámcem nadvlády lidstva.
Je více žádoucí, aby lidé mysleli kriticky, říká expert na AI
Jak jsem zdůraznil v diskuzi ve Vatikánu, být člověkem je vždycky mnohem víc než jakákoliv uměle stvořená věc. Samozřejmě, že oceňuji značný přínos a inovace pokročilých technologií, ale jen potud, pokud jsou přiměřené a obsahují pojistku proti možným škodám.
Lidské bytosti mají morální odpovědnost za to, co činí, uvádí Zákon. Pokud dnes umělé inteligenci nevybudujeme striktní, etické hranice, mohli bychom brzy čelit stvoření, které nebudeme schopni ovládat. Musíme být moudří jako pražský rabín, předvídaví a mít odvahu našich židovských předků udržet své výtvory pevně pod kontrolou.
Eliezer Simcha Weiss, The Times of Israel
O autorovi: Rabbi Eliezer Simcha Weiss, někdy uváděn jako Weisz, je britsko-izraelský rabín, člen Rady Hlavního rabinátu Izraele a úřadující rabín pro města Bnej Brak a Givat Šmuel. Je prvním rabínem původem z Velké Británie, který byl do této prestižní izraelské rabínské rady zvolen.
