Mozkové implantáty, deepfakes (falešný obsah) a nanoroboty (velmi malé roboty) mohou být prvními kroky ke vzniku singularity. Říká futurista Ray Kurzweil. Píše o tom Sean Gorman v Popular Mechanics.
Singularita
Tento termín se často používá k popisu hypotetického okamžiku, kdy umělá inteligence (UI) překoná tu lidskou a následně se začne nekontrolovatelně zlepšovat. Jednoduše řečeno, termín singularita se často používá k označení okamžiku, kdy se UI stane vědomou. Podobně jako si Skynet uvědomil sám sebe ve filmu Terminátor.
Koncept „technologické singularity“ se však původně jevil jako širší metafora bodu, za kterým se technologické změny stávají tak rychlými, že budoucnost je pro lidi obtížné předvídat.
V roce 1958 matematik Stanisław Ulam zmínil rozhovor s fyzikem Johnem von Neumannem o urychlení technologického pokroku. Ten měl dosáhnout „určitou významnou jedinečnost“ v lidské činnosti. V té době se tento termín nevztahoval na teorii strojního vědomí.
Ale v roce 1993 matematik a spisovatel sci-fi Vernor Vinge rozšířil tento koncept v kruzích zabývajících se umělou inteligencí. Vinge ve své knize „Příchozí technologická singularita“ tvrdil, že vytvoření inteligence nadřazené lidské inteligenci by mohlo způsobit nekontrolovatelné změny v civilizaci. Po nich by naše schopnost předpovídat události ztratila svůj význam.
Singularita je blízko
Futurista Ray Kurzweil tento výraz později zpopularizoval. Zejména svou knihou z roku 2005 „Singularita je blízko“. V této práci dal singularitě konkrétnější význam. Tvrdil, že do roku 2045 se lidé spojí se stále silnější nebiologickou inteligencí. Proto, přestože se mnozí z nás dnes obávají nebezpečí UI a někteří odborníci se dokonce domnívají, že singularita již nastala, Kurzweilova myšlenka je mnohem radikálnější.
Nepředpokládá jen to, že stroje budou rozvíjet stejné schopnosti jako lidský mozek. Namísto toho říká, že stroje poháněné UI se spojí s naším mozkem a stanou se s ním jedním. A z Kurzweilova techno-optimistického hlediska je to dobrá věc.
V roce 2005 se to mohlo zdát poněkud přitažené za vlasy. Ale vzhledem k nedávnému pokroku v nervových protézách a rozhraních mozek-počítač a samozřejmě v UI, se zdá být Kurzweilova předpověď singularity mnohem pravděpodobnější.
Některé aspekty jeho kybernetické singularity však zůstávají kontroverzní. Pokud ne zcela nepravděpodobné. Jak přesně se stroj pojí s člověkem? Jak se lidské vědomí nahrává do cloudu? Dokud budu „já“, když se stanu nesmrtelnou digitální kopií sebe sama žijící v nebiologickém těle?
Singularita je bližší
V opětovném vydání své knihy z roku 2024 s názvem „Singularita je bližší“ se Kurzweil věnuje těmto a mnoha dalším podobným otázkám. Zdůrazňuje, že přenos lidského vědomí z našich těl do nebiologických systémů se nestane okamžitě nebo pouze jedním způsobem.
Ve skutečnosti tento přenos již údajně začal ve formě digitálních simulací našeho vzhledu, způsobů myšlení a řeči. Kurzweil zůstává optimistou. Vidí pozitivní aspekty také v moderním problému deepfakes.
Domnívá se, že “prostřednictvím našich digitálních aktivit už vytváříme neuvěřitelně bohaté záznamy o tom, jak myslíme a cítíme. A ještě v průběhu tohoto desetiletí se naše technologie na zaznamenávání, ukládání a organizování těchto informací budou rychle vyvíjet. Do konce 20. let tyto údaje oživíme ve formě nebiologických simulací. Co jsou?”
Robotické verze lidí
Proces přenosu lidských částí do digitálních kopií již probíhá ve formě zařízení, jako jsou ušní implantáty. Ty umožňují neslyšícím slyšet. Dále systémů, které dávají lidem s paralýzou schopnost ovládat počítače. A novějších implantátů jako je Neuralink.
Kurzweil naznačuje vznik stále pokročilejších forem těchto a dalších umělých orgánů, které brzy výrazně zlepší naše přirozené ukazatele síly a dlouhověkosti. V určitém okamžiku se tyto různé náhrady a simulace stanou složitějšími. Spojí se do robotických verzí nás samých, které budou tak přesvědčivé, že je nebude možné odlišit od našeho skutečného já.
Kurzweil si půjčuje název pro tuto fázi našeho vývoje směrem ke kybernetické singularitě z klasiky sci-fi Philipa K. Dicka z roku 1968 s názvem „Sní Androidi o elektrických ovcích?“. Později byla adaptována jako film „Blade Runner“.
„Nakonec mohou být replikanti dokonce umístěni do kyberneticky modifikovaných biologických těl vypěstovaných z DNA původního člověka,“ uvádí.
„Vy 2“
A tady je otázka, kdo je kdo a co je co. A to se poněkud komplikuje. Protože je-li vaše simulace skutečně vytvořena z vaší DNA a obsahuje všechny vaše vzpomínky a charakterové vlastnosti, kdo může říci, že to ve skutečnosti nejste vy? Kurzweil nazývá tak celistvý replikant „Vy 2“.
„Je důležité, že replikant byl vytvořen pomocí UI a analýzy údajů, na rozdíl od plně přemístěné mysli „Vy 2“ z mozku někoho živého?“ ptá se. Přestože implikovaný význam je zřejmý. Přesvědčivý deepfake je jedna věc, ale živá kopie, obdařená všemi vlastnostmi originálu, je úplně jiná.
Kurzweil poznamenává, že to vyvolává množství kardinálních otázek o replikantech „Vy 2“.
“Měli by se považovat za lidi se všemi lidskými a občanskými právy? Jak je volební právo a právo uzavírat smlouvy? Jsou zodpovědní za podepsané smlouvy nebo trestné činy, které dříve spáchala osoba, kterou nahrazují? Mohou být výsledky práce a činnost osoby, kterou nahrazují, považovány za jejich vlastní? Je třeba znovu se oženit se zesnulým manželem nebo manželem? nebo diskriminováni? Za jakých podmínek by mělo být omezeno nebo zakázáno vytváření replikantů?“
Odpovědi na tyto a podobné otázky sloužily desetiletí jako zdroj inspirace pro populární sci-fi. Takže v žádném případě nejsou cizí. Přesto zůstávají příliš zvláštní, aby nám připadaly přirozené.
Ale co je nejdůležitější, všechny tyto úspěchy povedou k revoluci vedené nanoroboty. Nanoroboty se v současnosti používají především k dodávání léků. Ale pro Kurzweila jsou klíčem k našemu případnému kybernetickému vývoji na nebiologické lidi.
A co je nejdůležitější, učiní náš mozek milionkrát silnějším, než nyní. Jak píše, \”ve 40. až 50. letech tohoto století přebudujeme svá těla a mozky tak, aby výrazně převyšovaly možnosti naší biologie. Včetně jejich zálohování a přežití. S pokrokem v nanotechnologii budeme moci libovolně vytvářet optimalizovaná těla. Budeme moci běžet mnohem rychleji a déle. křídla, chceme-li. Budeme myslet milionkrát rychleji. Ale co je nejdůležitější, nebudeme záviset na přežití žádného z našich těl pro naše vlastní přežití“.
„Šedý sliz“?
To vše má samozřejmě potenciální nevýhody. Podle Kurzweila je nejvýznamnějším nebezpečím, že se nanoroboty mohou vymknout zpod kontroly a začít se nekontrolovatelně množit. Mohou se množit tak rychle, že doslova spotřebují veškerý organický materiál na zemském povrchu a vše přemění na hromady beztvaré hmoty.
„Nejčastěji diskutovaným nejhorším scénářem je potenciální vytvoření „šedého slizu“. Tedy samoreplikujících se strojů, které spotřebovávají hmotu obsahující uhlík a přeměňují ji na jiné samoreplikující se stroje. Tento proces může vést k nekontrolovatelné řetězové reakci, která potenciálně přemění celou zemskou biomasu na takové stroje,“ uvádí.
Co bude znamenat „být člověkem“?
Předpokládejme ale, že se to nestane. A že se dočkáme „kybernetické singularity“. Potom? Asi nejnaléhavějším problémem je, že nebude možné rozlišit, kdo skutečně jsme, od našich protějšků nebo nebiologických přídavků. Jinými slovy, co bude v konečném důsledku znamenat „člověk“ v kontextu lidské kontroly. Když začneme zavádět nebiologickou složku do rozhodovacího procesu začátkem 30. let pomocí rozhraní mozek-počítač.
Tato nebiologická složka bude růst pouze exponenciálně. Zatímco naše biologická inteligence zůstane nezměněna.
Do konce roku 2030 tedy bude naše myšlení do značné míry nebiologické. Kde bude lidský rozhodovací proces, kdy naše vlastní myšlení bude spoléhat hlavně na nebiologické systémy? Existuje nějaký způsob, jak odlišit jedno od druhého?
https://zavtra.ru/blogs/nastupaet_singulyarnost_sliyanie_cheloveka_i_ii
