Co je další pro lidstvo: Automatizace a nová morálka

Jak bude vypadat naše budoucnost – ne za sto let, ale za pouhá dvě desetiletí?

Děsivé, pokud chcete věřit Yuval Noah Harari, izraelskému historikovi a autorovi “Sapiens” a “Homo Deus”, pár odvážných knih, které nabízejí rozsáhlou historii lidstva a předpověď toho, co leží před sebou: věk algoritmy a technologie, které by mohly vidět, že jsme se změnili v “super-lidi” s božskými vlastnostmi.

Na akci, kterou pořádají The New York Times a Jak na akademii, pan Harari dal své předpovědi časopisu Times Thomasovi Friedmanovi. Lidé, varoval, “vytvořili tak složitý svět, že už nedokážeme rozumět tomu, co se děje.” Zde jsou nejdůležitější body rozhovoru.

Umělá inteligence a automatizace vytvoří “globální zbytečnou třídu”

Stejně jako průmyslová revoluce vytvořila dělnickou třídu, automatizace by mohla vytvořit “globální zbytečnou třídu”, řekl Harari a politické a společenské dějiny nadcházejících desetiletí se budou otáčet kolem nadějí a obav z této nové třídy. Rozbíjející se technologie, které pomohly přinést obrovský pokrok, by mohly být katastrofální, pokud se dostanou z ruky.

“Každá technologie má dobrý potenciál a špatný potenciál,” řekl. “Jaderná válka je očividně strašná. Nikdo to nechce. Otázkou je, jak tomu zabránit. S rušivou technologií je nebezpečí mnohem větší, protože má nějaký úžasný potenciál. Existuje mnoho sil, které nás rychleji a rychleji vyvíjejí k rozvoji těchto rušivých technologií a je velmi obtížné předem vědět, jaké budou mít důsledky z hlediska komunity, pokud jde o vztahy s lidmi z politického hlediska. ”

Nové technologie by mohly útočit na demokracii a dokonce i na náš smysl pro sebe

Kombinace biotech a I.T. může dosáhnout místa, kde vytváří systémy a algoritmy, které nám rozumějí lépe než my sami.

“Jakmile budete mít externí odlehčení, které vás lépe rozumí, než vy rozumíte, liberální demokracie, jak jsme ji poznali za minulé století nebo tak, je odsouzena,” předpověděl pan Harari.

“Liberální demokracie věří v pocity lidských bytostí a to fungovalo tak dlouho, dokud nikdo nerozuměl vašim pocitům lépe než vy sám – nebo vaše matka,” řekl. “Ale pokud existuje algoritmus, který vás lépe chápe než vaše matka a ani nepochopíte, že se to děje, pak se liberální demokracie stane emoční loutkovou show,” dodal. “Co se stane, když vaše srdce je cizí agent, dvojitý agent, který slouží někomu jinému, kdo ví, jak stisknout vaše emocionální tlačítka, kdo ví, jak vás rozzlobit, jak vás učinit odvážné, jak vás radovat? To je druh hrozby, kterou začínáme dnes vidět, například ve volbách a referendu. ”

Technologie bude novým nástrojem diskriminace – nikoliv proti skupinám, ale i jednotlivcům

Ve 20. století byla diskriminace použita proti celé skupině na základě různých předsudků. Byla však fixovatelná, protože tyto předsudky nebyly pravdivé a oběti se mohly spojit a podnikat politické kroky. V nadcházejících letech a desetiletích však pan Harari řekl: “budeme čelit individuální diskriminaci, a to by mohlo být skutečně založeno na dobrém posouzení toho, kdo jste.”

Pokud algoritmy, které firma používá, vyhledávají váš profil nebo DNA na Facebooku, procházejí školní a profesionální záznamy, dokážou docela přesně zjistit, kdo jste. “Nejdříve nebudete moci dělat nic o této diskriminaci, protože jste jen vy,” řekl pan Harari. “Nevylučují vaše bytosti, protože jste židovský nebo homosexuální, ale protože jste vy. A nejhorší je, že to bude pravda. Zní to divně, ale je to strašné. ”

Čas se zrychluje

Trvalo to staletí, dokonce tisíce let, abychom mohli sklízet odměny rozhodnutí našich předků, například pěstování pšenice, která vedla k zemědělské revoluci. Už ne.

“Čas se zrychluje,” řekl Harari. Dlouhodobý termín již nemusí být definován ani po staletích ani tisíciletích – ale za 20 let. “Je to poprvé v historii, kdy nebudeme mít ponětí, jak bude lidská společnost za pár desetiletí,” řekl.

“Jsme v bezprecedentní situaci v historii v tom smyslu, že nikdo neví, jaké jsou základy toho, jak svět vypadá za 20 nebo 30 let. Nejde jen o základní geopolitické poznatky, ale o to, jak vypadá trh práce, o tom, jaké dovednosti budou lidé potřebovat, o tom, jaké rodinné struktury budou vypadat a jak budou vypadat genderové vztahy. To znamená, že poprvé v historii nemáme ponětí, co učit ve školách. ”

Vedoucí se soustředí na minulost, protože jim chybí smysluplná vizi budoucnosti.
Vedoucí představitelé a politické strany se stále nacházejí v 20. století, v ideologických bojích, které se nacházejí napravo proti levici, kapitalismu a socialismu. Dokonce ani nemají realistické představy o tom, jak vypadá trh práce za pouhé dvě desetiletí, řekl pan Harari, “protože nevidí.”

“Místo formulování smysluplných představ o tom, kde bude lidstvo v roce 2050, přebalují nostalgické fantazie o minulosti,” řekl. “A je tu určitá konkurence: kdo se může dívat dál. Trump se chce vrátit do padesátých let; Putin se v podstatě chce vrátit do carské říše a máte islámský stát, který se chce vrátit do Arabie sedmého století. Izrael – porazili všechny. Chtějí se vrátit zpět do věku Bible o 2500 let, a tak vyhrajeme. Máme nejdelší vizi zpět. ”

“Neexistuje žádná předem určená historie”

“Teď žijeme s rozpadem posledního příběhu nevyhnutelnosti,” řekl. V devadesátých letech minulého století došlo k nápadům, že historie skončila, že velkou ideologickou bitvu 20. století zvítězila liberální demokracie a kapitalismus volného trhu.

To se zdá být extrémně naivní, řekl. “Moment, kdy jsme nyní, je okamžik extrémní deziluze a zmatenosti, protože nemáme tušení, odkud to bude odtud. Je velmi důležité si uvědomit nevýhodu, nebezpečné scénáře nových technologií. Korporace, inženýři, lidé v laboratořích se přirozeně zaměřují na obrovské výhody, které nám tyto technologie přinášejí, a klesá na historiky, filozofy a sociální vědce, kteří myslí na všechny způsoby, jak by se věci mohly pokazit. ”

V složitém propojeném světě musí být morálka znovu definována

“Aby se dalo dobře, nestačí mít dobré hodnoty,” řekl Harari. “Musíte rozumět řetězcům příčin a účinků.”

Krádež, například, se v dnešním světě stalo tak komplikovaným. V biblických časech pan Harari řekl, že pokud jste krást, věděli jste o vašich činnostech a jejich následcích na vaši oběť. Dnešní krádež však může znamenat investování – i nevědomky – do velmi ziskové, ale neetické společnosti, která poškozuje životní prostředí a zaměstnává armádu právníků a lobbistů, aby se ochránila před soudními spory a předpisy.

“Jsem vinen krádežím řeky?” Zeptal se Harari a pokračoval ve svém příkladu. “I když si to uvědomuji, nevím, jak korporace vydělává peníze. Bude trvat měsíce a dokonce i roky, než zjistím, co dělají mé peníze. A během té doby se budu dopustit tak mnoha zločinů, o kterých bych nic nevěděla. ”

Problém, jak řekl, je chápání “extrémně komplikovaných řetězců příčin a účinků” ve světě. “Můj strach je, že homo sapiens nejsou jen na to. Vytvořili jsme tak složitý svět, že už nedokážeme rozumět tomu, co se děje. ”

Zdroj:

Největší morální výzva naší doby? To je to, jak si myslíme o samotné morálce

Bylo by snadné vyvodit závěr, že dnešní svět je ve mravním deficitu. Že pokud by byli lidé více motivováni chovat se eticky, kdyby jen učinili morálku prominentnější v jejich myšlení, pak by svět byl lepší místo.

Ale když nastane jedna největší morální výzva naší doby, tvrdím, že na světě není nedostatek morálky; tam je příliš mnoho.

Ve skutečnosti si myslím, že největší morální výzvou naší doby je naše chybné pojetí morálky samo. Způsob, jakým mluvíme a mluvíme o morálce, potlačuje naši schopnost angažovat se s jinými názory, než je naše vlastní, ztěžuje zvládnutí rozmanitosti a neshody a má tendenci nás zablokovat do myšlenek, které vytvářejí více příkladů utrpení a nepokojů, než vyřeší .

Správně, špatně, černě, bílá

Vražda je špatná. Není to jen otázka subjektivní osobní preference, je to objektivní skutečnost. To znamená, že pokud je to pravda pro mě, pak je to pravda pro vás i pro všechny ostatní. A pokud někdo tvrdí, že vražda je v pořádku, pak se mýlí.

To je způsob, jakým mnozí z nás mají tendenci myslet a mluvit o mnoha morálních otázkách, ne jen o vraždě. Odkazujeme na morální fakta. A dokazujeme, že náš morální postoj je správný tím, že apelujeme na tyto skutečnosti.

Někteří z nás ospravedlňují tyto skutečnosti tím, že apelují na přikázání, která nám byla doručena některá božská bytost. Jiní to ospravedlňují tím, že apelují na přirozená práva nebo základní fakta o lidské přirozenosti, jako je to, že utrpení je skutečně špatné, a proto bychom mu měli zabránit všude tam, kde je to možné.

Mnoho z nás vidí morálku jako vědu, kde se můžeme naučit nové morální fakty o světě, jako když jsme zjistili, že otroctví je špatné nebo že ženy by měly mít stejná práva jako muži, a aktualizovali jsme tak naše morální postoje.

Tři problémy

Domnívám se, že existují tři velké problémy s tímto rozumným pohledem na morálku.

Za prvé: je to špatné.

Nejsem přesvědčen, že existuje nějaký objektivní zdroj morálky. Strávil jsem spoustu času hledat jednoho, ale ještě jsem našel něco, co není hluboce přesvědčivé.

Dokonce i když věříte, že existuje božský morální zdroj, který může diktovat absolutní právo ze špatného, ​​je stále na nás jen obyčejní smrtelníci, aby našli správný výklad své vůle. A historie ukázala, že neshody nad rivalovými interpretacemi božské dobroty mohou způsobit nevýslovné utrpení a dodnes to dělají, když se dogmatičtí pokoušejí prosadit svou verzi morálky na neochotu.

Druhým problémem je, že myšlenka, že existuje jedna pravá morálka, je v zásadě v rozporu s obrovskou mírou morální rozmanitosti, kterou vidíme po celém světě. Existuje například široká neshoda ohledně toho, zda by stát měl být schopen spáchat zločince, ať již mají smrtelně nemocní lidi právo zemřít, a jak může být sexualita vyjádřena a vykonávána v soukromí a veřejnosti.

Pokud si myslíte, že morálka je věc objektivní pravdy, pak tato rozmanitost znamená, že většina (ne-li všichni) lidé na celém světě prostě prostě špatně o svých nejhlubších morálních přesvědčeních. Pokud tomu tak je, pak mluví špatně o naší kolektivní schopnosti pochopit, co je morálka vůbec.

Třetím problémem je, že tento pohled na morálku nás vede k myšlení v černobílém pojetí. Řídí morální diskusi k prokázání nesprávnosti ostatních lidí nebo k ohrožení morálních názorů. Je to mnohem těžší, ne-li nemožné, aby lidé brali vážně morální hledisko a angažovali se v etickém vyjednávání nebo kompromisu.

To je jeden z hlavních důvodů, proč sociální média, nemluvě o stolním stolem, diskurzu, jsou právě teď v tak hrozném stavu. Ti, kteří na jedné straně jednoduše odpisují své oponenty jako morálně zvrácené, zastaví jakoukoli možnost pozitivní angažovanosti nebo dvoustranné spolupráce.

Morální reforma

Abychom reagovali na největší morální výzvu naší doby, musíme vážně přehodnotit morálku sama.

Nejlepší způsob, jak přemýšlet o morálce, je jako kulturní nástroj, který my, lidé vynalezli, abychom nám pomohli žít a pracovat společně v sociálních situacích. Koneckonců, každý z nás má naše zájmy, které chceme vykonávat. Oni se liší od jednotlivce k jednotlivci, ale obecně obsahují věci, jako je schopnost zajistit sebe a naše blízké, vyhýbat se utrpení a utrpení a usilovat o příjemné a naplňující zážitky.

Nejlepším způsobem, jak tyto zájmy uspokojit, je žít společensky, spolupracovat a spolupracovat s ostatními. Ale často naše zájmy nebo prostředky uspokojení je v rozporu s ostatními. A tento konflikt může být pro každého špatný.

Takže morálka je soubor pravidel, jichž žijeme, které usilují o snížení škod a pomáhají nám efektivně žít spolu. Zjistili jsme to nejenom. To nám nebylo předáno shora. Museli jsme na to přijít.

Samozřejmě, že jsme v těchto termínech nepřemýšleli o morálce, a tak jsme ospravedlňují to mnoha způsoby, často tím, že apelujeme na náboženství nebo tradici. Ale nedokončili jsme naše myšlení o morálce, abychom jej vyčistili ze zavazadel, který přicházel s náboženstvím a pevnou kulturní shodou minulosti.

Nyní víme, že existuje mnoho způsobů, jak usilovat o plnění života a pravidla, která propagují jednu verzi, mohou být v rozporu s jinými způsoby. Takže morální pravidla, která povzbuzují silné komunální vazby, mohou například být v rozporu s pravidly, která lidem umožňují zvolit si vlastní životní cestu.

Také problémy, které se morálka snaží řešit, se liší od místa na místo. Lidé, kteří žijí v malé komunitě v oblasti s omezeným přírodním bohatstvím, jako je arktická tundra, mají různé problémy vyřešit než lidé žijící v moderní metropoli, jako je Sydney nebo Melbourne, obklopeni hojností. Použijeme-li morálku prvního na druhé prostředí, můžeme spíše konflikt než vyřešit.

To vše znamená, že morálka by neměla být o “dokazování” vašeho názoru a více o toleranci a vyjednávání. Musíme se naučit pochopit, že různí lidé – a různé komunity a kultury – mají odlišné představy o dobrém životě. A musíme si uvědomit, že problémy společenského života a jejich řešení neplatí stejně dobře ve všech komunitách.

To také znamená, že se musíme naučit stát se méně morálně dogmatickým a morálně přizpůsobivějším. Především musíme upustit od myšlenky, že morálka se týká objektivních skutečností, které platí pro všechny lidi za všech okolností.

To neznamená, že morálka se stává formou relativismu “něco jde”. Existují způsoby, jak posoudit užitečnost určité morální normy, konkrétně: pomáhá skutečně pomoci při řešení problémů společenského života pro lidi, kteří je používají? Mnoho z nich ne, tak si zaslouží být zpochybňováno nebo reformováno.

Ve stále více propojeném, různorodém a multikulturním světě je důležitější než kdy jindy, že reformujeme způsob, jakým myslíme a mluvíme o samotné morálce. Pokud nevíme, bez ohledu na to, jakou další morální výzvu si myslíte, že čelíme, bude jen těžší vyřešit.