Latest / Týdeník Respekt / Nick Bostrom: Čeká nás krok do neznáma. AI může změnit skoro vše, co znamená být člověkem
Transcript
- 0:02Here and progue. Výtvarná tvorba kultovního
- 0:11režiséra Davida linše na výstavě flames v centru současného umění
- 0:16docs v Praze www.dox cz. Nikdostrorom je švédský filozof
- 0:24a 1 z předních představitelů transhumanismu.
- 0:27Myšlenkového směru prosazujícího radikální vylepšování lidí s
- 0:31využitím technologií a vědy. A také 1 z dvaašedesáti
- 0:35myslitelů a myslitelek, jejichž profil najdete v nové knize
- 0:39vydavatelství respekt s názvem světový intelektuálové průvodce
- 0:43myšlením neklidné doby. Kterou můžete koupit také na
- 0:46našem webu. Obchod tečka, respekt tečka CZ.
- 0:50Jaká budoucnost nás čeká? Pokud se podaří vyvinout obecnou
- 0:54umělou inteligenci a do jaké míry to může změnit lidské
- 0:57možnosti hodnoty i po dobu nejen o tom uslyšíte v tomto
- 1:01podcastovém rozhovoru s nickem vostromem příjemný a podnětný
- 1:05poslech vám přeje Štěpán Sedláček.
- 1:12Vaše kniha deep utopia life and meaning in solv world hluboká
- 1:16utopie života smysl ve vyřešeném světě je do velké míry spojená s
- 1:20klasickou filozofickou otázkou po smyslu lidského života tak,
- 1:23jaký je teď smysl, nebo hlavní účel života nikabostroma?
- 1:27Vůbec ten meaning of live of think out.
- 1:31Prostě loppening. Tak tomu říkám opatrná úvodní
- 1:37otázka. Asi vám raději nejdřív řeknu,
- 1:40jaký je smysl mé poslední knihy deep youtopia, což s tím
- 1:43souvisí. V roce 2014 vyšla super
- 1:45inteligence, kde jsem především rozebíral, co všechno by se
- 1:48mohlo v souvislosti s vývojem umělé inteligence pokazit její
- 1:51potenciální obří pozitivní dopady tam zmiňuji spíše
- 1:54nepřímo. Více se věnuji zásadní otázce,
- 1:57jak vyřešit problém sladění umělé inteligence s lidmi,
- 2:00takzvaný aliinmen problém a dalším věcem v nejnovější knize
- 2:04se dívám na opačnou stranu mince a rozebírám, co by se mohlo
- 2:07stát, pokud by se věci naopak vyvíjely.
- 2:09Dobře, byl jsem trochu zklamaný úrovní debaty o téhle otázce.
- 2:13Přišla mi velmi povrchní lidé mluví o tom, že kvůli AI možná
- 2:17poroste nezaměstnanost a že by pak řešení mohla být nějaká
- 2:20forma základního nepodmíněného příjmu nebo něco podobného?
- 2:24A tam se ty úvahy většinou zastaví.
- 2:26Ale pokud vezmeme opravdu vážně v potaz scénáře, že umělá
- 2:29inteligence 1 dne dokáže dělat úplně všechno, to, co my, tak to
- 2:33bude mít mnohem hlubší důsledky. Změní to význam toho, co znamená
- 2:36být člověkem a otázkou pak je, jaký život bychom mohli vést AO,
- 2:40co bychom měli usilovat? To jsem se ve své nové knize
- 2:42rozhodl prozkoumat. What the can of lifes we coo
- 2:46this pire two in that context. So that's the questilice out to
- 2:50investigate. Your representative.
- 2:52For trans humanisum. Wis jako filozof řadíte mezi
- 2:56představitele transhumanismu i longtermismu, jak jste se jím
- 3:00stal? Fascinovali vás myšlenky na
- 3:03překonání člověka už jako chlapce, když jste ještě žil ve
- 3:06Švédsku? Let sazein a my medeens.
- 3:12Awa canning that. Asi tak v 15 letech jsem prožil
- 3:18jakési intelektuální probuzení. Jako dítě jsem nesnášel školu,
- 3:22ale pak jsem 1 odpoledne náhodou vkročil do místní knihovny.
- 3:26Tam jsem si najednou uvědomil, že existuje svět, myšlenek,
- 3:29vzdělávání, vědy, filozofie a umění, který se velmi liší od
- 3:33toho, co jsme se učili ve škole. Tehdy jsem měl pocit, že jsem
- 3:36promarnil dosavadní léta svého života.
- 3:39Soustředil jsem se na to, abych to dohonil.
- 3:42Vzpomínám, že už v 17. Jsem četl 1 knihu o neuronových
- 3:45sítích, k níž jsem se dostal díky meziknihovní výpůjčce.
- 3:49To byla 1 z raných prací. O tomhle tématu dnešní generace
- 3:52AI je samozřejmě založena. Na neuronových sítích ale tehdy
- 3:55byl tenhle obor ještě v plenkách a mě to téma fascinovalo.
- 3:59Věnoval jsem se mu IV rámci univerzitního studia počítačové
- 4:01neurovědy v jateborgu, a když jsem pak v roce 19 196 odjel
- 4:05studovat do Londýna. Poprvé jsem poznal další lidi,
- 4:09které zajímaly stejné otázky. Může to znít překvapivě, protože
- 4:12už jste asi vyrůstal s internetem, ale tehdy to tak
- 4:15nebylo, zvlášť když žijete ve Švédsku a nepocházíte z rodiny
- 4:19akademiků, což byl můj případ. Když jsem začal používat
- 4:22internet, tak jsem rychle zjistil, že tam venku jsou
- 4:25roztroušení lidé s podobnými zájmy, různé knihy a konference.
- 4:29Byl to takový zárodek komunity? S adf embryonic community of
- 4:34people so that so dotn connective mete you the
- 4:38preesisting let on the stave. Wel the buk super intelligend
- 4:41was published mode and ten years ago.
- 4:44Vaše kniha super inteligence o vývoji umělé inteligence, která
- 4:48by mohla překonat člověka ve všech aspektech, vyšla před více
- 4:52než 10 lety. Rozebíráte tam zejména temné
- 4:55scénáře i možnosti, jak jim předejít, jak se v tomhle světě
- 4:59díváte na současný vývoj AI například tu popisujete dynamiku
- 5:04podobné té, kterou známe ze závodu ve zbrojení.
- 5:07Toho jsme teď svědky, ne? Umíte striking the last
- 5:14torneyer's how profundy sodof a we are dnes has change.
- 5:18Ano uplynulo jen 10 let, a skutečně se to děje?
- 5:21Je pozoruhodné, že tehdy to zajímalo jen úzkou skupinu lidí
- 5:24a bylo to bráno spíš jako nějaké scifi nebo druh futulogie.
- 5:28Dnes už všechny přední laboratoře mají výzkumné týmy,
- 5:31které řeší problém s ladění, AIS cíli a zájmy lidí na co nejširší
- 5:35úrovni. Některé vlády přicházejí s
- 5:37prohlášeními o existenčních rizicích nebo o tom, že ai
- 5:41považují za klíčovou geopolitickou veličinu.
- 5:44Těmto otázkám se dnes věnuje mnohem víc lidí než před 11
- 5:47lety, ale stále si myslím, že většině lidem to ještě úplně
- 5:51nedošlo. Mnozí mluví o umělé inteligenci,
- 5:53jakoby to byl web 2, tečka, 0 mobilní internet nebo třeba
- 5:57cloud 1 z těch cool a trošku nadhodnocených věcí, kolem nichž
- 6:00se dělá humbuk. Ale myslím, že AI se zásadně
- 6:03liší od jakýchkoliv předešlých procesů.
- 6:05Etikespa dame metalli the fred its it is like politite li
- 6:08different from fromenos previes ken of protif.
- 6:12Now we cit, it's not state is not the meditory.
- 6:15Navíc vývoj nevedou primárně státy ani armáda, ale velké
- 6:19soukromé firmy korporace, i když v případě číny tam je podíl
- 6:23státu zřejmý a tihle hráči teď spolu závodí o to, kdo vyvine
- 6:28obecnou umělou inteligenci HI, která by se mohla plnohodnotně
- 6:33vyrovnat člověku. Jak tenhle scénář hodnotíte?
- 6:36It hered abych to sucabols positive negative aspect sophat
- 6:41i yes probubly poslat that the challenge with the pearly
- 6:45commercial i fours. Of the je těžké to hodnotit, má
- 6:48to pozitivní i negativní aspekty.
- 6:50Myslím, že problém komerčního přístupu může do budoucna vést k
- 6:53situaci, kdy spolu soutěží 10 různých firem či laboratoří o
- 6:57to, kdo bude 1. Ale ukazuje se, že v závěrečných
- 7:00fázích vývoje je dobré postupovat opravdu opatrně a
- 7:03pomalu. Když už víte, jak to provést,
- 7:05možná není dobré hned otočit všemi čudlíky na maximum, ale
- 7:09udělat z toho postupně v průběhu 1 nebo 2 let.
- 7:12Jenže to se těžko dělá, když vám na záda dýchá 9 konkurentů a to
- 7:16ve výsledku může zvýšit existenční riziko spojené s
- 7:19vývojem AI, ovšem v jisté chvíli bude zapotřebí spolupráce AV
- 7:23tomhle by mohly být vlády nápomocné na 2.
- 7:25Stranu je pozitivní, že ve vývoji převažuje civilní
- 7:27zaměření, to je podstatný rozdíl ve srovnání s vývojem jádra,
- 7:31které bylo od počátku primárně spojené s vojenskými.
- 7:34Technologiemi v kontextu soupeření supervelmocí.
- 7:37Myslím, že pro budoucnost je lepší, když je umělá inteligence
- 7:40především ekonomickou věcí, která může pomáhat ve
- 7:43zdravotnictví zábavním průmyslu vědě IV dalších oblastech.
- 7:47Samozřejmě má i vojenská využití, ale není to její
- 7:50výhradní účel. Pokud vám nejde pouze o získání
- 7:53prostředků k ovládnutí a zničení ostatních, tak jsou do vývoje
- 7:56zapojené jiné typy lidí, institucí i způsobu uvažování.
- 8:00People institutions in volal in the proces if its noth shuilly
- 8:04something that is vide sa means to dokonce others.
- 8:08No oni, the progress in the. S, když sledujete rychlý vývoj v
- 8:12posledních letech od těch jednoduchých modelů k pokročilé
- 8:16generativní AI napojené na internet.
- 8:19Myslíte, že máme dost času se připravit na to, co možná
- 8:23přijde? No.
- 8:26I that s white like try tod that is prok pak to je in somerely
- 8:29retings to predtuget the started but with at ashic like really a
- 8:33mean mean it? It was quight for seabal.
- 8:36Času je málo, proto jsem se snažil některé věci popsat s
- 8:39předstihem. Ten vývoj šlo předvídat už v 80.
- 8:43A 90. Letech.
- 8:44Lidé vyvíjeli umělou inteligenci počítače byly rok od roku
- 8:48rychlejší a neurovědy začaly dešifrovat.
- 8:50Jak funguje lidský mozek? Bylo pravděpodobné, že 1.
- 8:54Dne přijdeme na to, jak inteligence funguje a dokážeme
- 8:56je vestavět do stroje i to, že se pak nezastaví na úrovni
- 9:00člověka, ale tehdy ještě nebylo jasné, jak dlouho to bude trvat.
- 9:04Ani jsme neznali přesný způsob, jakým toho dosáhneme a to byl
- 9:07úkol pro celý obor umělé inteligence.
- 9:09Nešlo přitom jen o automatizaci konkrétních úkonů bylo třeba
- 9:13přijít na to, jak probíhá proces učení, jak funguje plánování, co
- 9:17je inteligence s algoritmického hlediska, ale premisou celého
- 9:21oboru je, že se do toho bodu nakonec.
- 9:23Dostaneme a také bylo jasné, že když vytvoříme mysl, která bude
- 9:26mnohem chytřejší než lidská, rázem se ocitneme před výzvou,
- 9:30jak zajistit, že bude jednat v souladu s lidskými hodnotami
- 9:33čas, který nám zbývá, bychom měli využít ke splnění tohoto
- 9:37úkolu. Lidstvo už promarnilo desítky
- 9:39let a teď se musíme snažit co nejlépe využít zbývající měsíce
- 9:42či roky. Dobrou zprávou je, že na těchto
- 9:45otázkách je teď snazší pracovat, protože už máme k dispozici
- 9:48systémy na velmi vysoké úrovni, na kterých to lze zkoumat.
- 9:52V 90. Letech by to byla velmi
- 9:54abstraktní debata a otázkou je, jak relevantní by dnes byly její
- 9:57výsledky. Ale možná už tady mohla být
- 10:00generace badatelů, která by položila jisté základy.
- 10:02Stále si myslím, že jde o jakýsi závod mezi zvyšujícími se
- 10:06schopnostmi umělé inteligence padícími vpřed a mezi
- 10:09bezpečnostními nároky, které snad dokážou dohnat.
- 10:12Inglementitan bude tam. Barez is nothing ghetsic o the
- 10:16for rase that between so thei capebo lety a gal loping forward
- 10:20done the air safety hop poly being about to cu myslíte.
- 10:24Že obecné umělé inteligence dosáhneme už v tomto desetiletí.
- 10:29Teda dát si very posilbalting. We are it a point now we are
- 10:35recont. Bi konferent budete it wand com
- 10:39withing streamly shot pare of time like years of likehou this
- 10:43noth the most like liting but we cand.
- 10:46Pefuly conferent ano to se zdá být velmi pravděpodobné nelze
- 10:50ani vyloučit, že se to stane v extrémně krátkém čase, jako
- 10:53třeba za rok, i když to není nejpravděpodobnější scénář, ale
- 10:56jsme tak daleko, že se může stát, že někdo ve společnostech
- 10:59jako open ai nebo antropic přijde s nápadem, který najednou
- 11:03vše odemkne. Mám za to, že to potrvá spíše
- 11:05déle. Ovšem jsme v situaci, kdy se na
- 11:08to musíme už opravdu připravit. Position world just caed of.
- 11:13Cat predy. Bude mít the decution is the
- 11:15definition Wright. Wall would be a jak si,
- 11:18představujete onu obecnou umělou inteligenci?
- 11:21Co podle vás bude její hlavní rys, kterým se odliší od toho,
- 11:25čeho jsme byli doposud svědky? Jak bude vypadat ta zpráva, po
- 11:28které si řekneme? Tak je to tady.
- 11:30Fanda mentaly a teď je tu willyn wall a lee incidiano.
- 11:34To je ztlácal the was there son the so much with can there?
- 11:40I to understand this systems whatstele be some extrapolation
- 11:43on i scale. To systém start we can savely
- 11:45test ruvely super toho. Tahle změna v podstatě bude
- 11:50skokem do neznáma přiškálování systému, které můžeme bezpečně
- 11:54testovat zhruba na lidské úrovni bude stále existovat určitá
- 11:58extrapolace na super inteligenci.
- 12:00Myslím, že se prostě musíme smířit s tím, že kdykoliv to
- 12:03provedeme, bude tady riziko, které sice můžeme minimalizovat,
- 12:07ale nikdy ho neodstraníme, když se dáme dohromady, můžeme naše
- 12:11vyhlídky trochu zlepšit. Do jisté míry platí, že v
- 12:13technologii je z podstaty zakořeněná buď nějaká tendence k
- 12:17bezpečnosti nebo k ohrožení, a to můžeme limitovat a ovlivnit
- 12:21jen v omezené míře. Limity distanc no a když se.
- 12:24Ohlížíte za dosavadními snahami sladit umělou inteligenci s
- 12:28našimi hodnotami a pravidly? Řekl byste, že jsme na dobré
- 12:31cestě? Láda a dgarso advanced a tobě
- 12:36made. With an differ france soft from
- 12:39from the learning values to it like a interpretability.
- 12:43Much pase to on chech on language, and.
- 12:49Myslím, že už jsme dosáhli velkého pokroku v různých
- 12:51oblastech od sladění, umělé inteligence s hodnotami až po
- 12:55schopnost vysvětlit rozhodnutí a závěry, k nimž AI došla.
- 12:59Systémy, které dnes používáme, jsou do značné míry založené na
- 13:02lidském jazyce a vytvořené jako otisk všech lidských znalostí na
- 13:06internetu jsou tedy do jisté míry formovány k našemu obrazu.
- 13:10Ale pak vycvičeny, aby byly velmi zdvořilé a milé.
- 13:13Otázkou je, do jaké míry tohle přetrvá poté, co se případně
- 13:16systémy posunou za lidskou sféru, nebo pokud se vrátí k
- 13:20učení pomocí zpětné vazby. Jak jsme viděli u některých
- 13:23jazykových modelů IV rámci snah budovat II agenty tam pak
- 13:27funguje jiná dynamika než v případě jednoduchých systémů
- 13:30zodpovídajících otázky, protože se bavíme o umělé inteligenci,
- 13:33která je schopná dlouhodobě plánovat a přemýšlet nad
- 13:37důsledky. To otevírá možnost pro vznik
- 13:39nepředvídatelných systémů. Keems your rice?
- 13:47No. A jaký vztah máte k současným
- 13:49modelům? Používáte je na každodenní bázi?
- 13:52Je frimachia. Ano celkem často, ale spíš pro
- 13:56různé praktické věci než pro hlavní oblasti výzkumu.
- 13:59Třeba když jsem zjišťoval nutriční hodnotu ovesných
- 14:02vloček, nebo když řeším problém s nějakou elektronikou a podobné
- 14:06věci. Takže vám třeba nepomáhá se
- 14:13psaním? Na co much for whiteing asystant
- 14:16no a my like as it for the malloye of so word.
- 14:19Ne to ne tu a tam se zeptám na etymologii některých slov, ale
- 14:23velmi obecně 1 jsem si nechal vyrobit kratší verzi textu,
- 14:26kterou jsem potřeboval do 1 publikace.
- 14:28Posloužilo mi to jako 1 návrh, který jsem pak dotvořil.
- 14:31Usnadnilo mi to práci, ale nepoužívám je k samotnému psaní
- 14:35či výzkumu. Theing the regionu withing
- 14:37really are the rigen not researchted was more se of of
- 14:39thistal and longer thing in to je short thesting.
- 14:42Měl jste s chatbotty i nějaký strašidelný zážitek, kdy vám
- 14:46třeba řekli něco, co jste od nich nečekal?
- 14:55Inteligence, které jsem používal, byly zatím velmi
- 14:57užitečné a ohleduplné víc než mnozí.
- 14:59Lidé. Musely think witch we should
- 15:05really and dres in the public the bate and we done.
- 15:09Do its co důležitého bychom měli v roce 2025 ve veřejné debatě
- 15:13řešit. Právě v souvislosti s vývojem
- 15:17umělé inteligence. A zatím to příliš neděláme.
- 15:20So im really all of the ste di from thanks are the car still
- 15:26even the parts that receve the most thatation probob ist the
- 15:29resive lase cention thern. Co dopadá abs lidsky, ale day
- 15:32what thesere. Všechno to, co už jsme zmínili
- 15:34jako geopolitika nebo propojení AIS našimi hodnotami, ale i ty
- 15:39oblasti, kterým se dostává největší pozornosti, by si
- 15:42zasloužily ještě víc poměrně přehlížené téma je morální
- 15:46status digitálních bytostí, kde je teď debata na úrovni asi jako
- 15:50v případě bezpečnosti umělé inteligence.
- 15:52Před 10 lety pár lidí o tom mluví, ale není to součástí
- 15:56hlavního proudu společenské debaty a je na čase začít to
- 15:59téma brát vážně. Umělá inteligence, kterou
- 16:01používáme, by v budoucnu mohla mít nějakou formou morálního
- 16:05statusu. Pokud se ukáže, že může mít
- 16:07vědomí schopnost vnímat nebo další vlastnosti související s
- 16:10právem na morální ohledy. More starres me a in the becolse
- 16:14and my to beconsur besantant thor have preferences war other
- 16:18atherbete toť with give the some right to more consederation.
- 16:23V 1 rozhovoru se vás ptali, jestli jste ohledně budoucnosti
- 16:28AIA lidstva optimista nebo pesimista?
- 16:30Vy jste tuším řekl, že se považujete za ostražitého
- 16:33optimistu. Co tím myslíte?
- 16:37Tatonce za jafftengatsh, chasternent.
- 16:41Fred forlap ju is your like to somextend the mored festival
- 16:44list is notther in the sens a is a there there that the think two
- 16:49a largestant its fake. News také by se dalo říct, že
- 16:52jsem umírněný fatalista, jak už jsem řekl, do značné míry je už
- 16:56v technologii zakořeněné, kudy se bude vývoj dál ubírat.
- 16:59Ale umírněný jsem proto, že věřím, že v závislosti na našem
- 17:03snažení ještě můžeme mírně zvýšit či snížit šance na to,
- 17:07jak to dopadne. How we to form.
- 17:10Vaše kniha deep utopia je složená ze série přednášek a
- 17:14fiktivních rozhovorů se studenty o utopickém období, kdy lidstvo
- 17:18s využitím super inteligence vyřeší všechny myslitelné
- 17:22problémy. Je to myšlenkový experiment
- 17:25zkoumající smysl lidského života, limity lidstva i naší
- 17:28imaginace. Proč jste se do něj pouštěl?
- 17:33Investication in to human walle use.
- 17:38Particulaly. Je to svým způsobem výzkum
- 17:42lidských hodnot. Je to analogické k tomu, když
- 17:44fyzici postaví obří urychlovač částic, aby vytvořili extrémní
- 17:48podmínky s vysokým množstvím energie.
- 17:51Ten tunel je dlouhý mnoho kilometrů a uvnitř se srazí 2
- 17:54nepatrné částice. Můžeme si říct, že to je celkem
- 17:58neobvyklý způsob. Pokud se chcete něco dozvědět o
- 18:00hmotě. Neměli bychom se na ně spíše
- 18:03dívat za běžných okolností, ale ukázalo se, že právě v těchto
- 18:07extrémních podmínkách se věci rozpadají a jsou vidět základní
- 18:11komponenty a pak z nich můžete vyvodit principy, které lze
- 18:14aplikovat obecněji tam, kde je. Nemůžeme tak snadno vidět a
- 18:17myslím, že pokud se zaměříme na lidské hodnoty v extrémních
- 18:20podmínkách světa, kde jsou všechny problémy vyřešené, je to
- 18:24podobné. Můžete je analyzovat a
- 18:26postřehnout věci, které jsou mnohem hůře rozpoznatelné v
- 18:29běžných podmínkách. Kdy jsou hodnoty skryté za
- 18:31praktickými úvahami a starostmi, které musíme řešit?
- 18:38The automat will you sare soft of conceal behind a or Cannes of
- 18:42practical consideration sa dnes assities instrumental thinks
- 18:46with you re about. No a proč jste zvolil právě
- 18:48formu přednášek a rozhovorů mezi učitelem a studenty?
- 18:53No a já třeba bat voy this former it it to wade kebout ist
- 18:58that than some crand s keed the started with but i think it dost
- 19:03reflect. Popravdě řečeno to nějak
- 19:04vyplynulo, není zatím žádný velký.
- 19:06Plán, ale myslím, že to odráží skutečnost, že je to takový
- 19:09průzkum a kniha pojednává spíše o otázkách než o odpovědích.
- 19:14Nesnaží se čtenáři předat moje učení a pak ho prokazovat.
- 19:17Je to spíše pozvánka ke společnému přemýšlení a
- 19:20objevování neprobádané krajiny. Neznám všechny odpovědi, ale
- 19:24můžeme lépe zaostřit na důležité otázky, které je někdy těžké
- 19:27rozpoznat, AK tomu se hodí forma dialogu, umožňuje jistý odstup
- 19:31od textu a také nabízí odlišné postavy, které tlumočí různé
- 19:35perspektivy. Je to otevřenější formát, kde si
- 19:37lze pohrávat s myšlenkami a nahlížet je z různých stran, ale
- 19:41zároveň je to myšleno jako jistý druh uměleckého či literárního
- 19:44díla, které vyjevujeme malý fragment 1 z možných utopických
- 19:48existencí. Je tam skupina přátel, kteří si
- 19:50spolu povídají a vedou svým způsobem idylický život chodí k
- 19:54horkým pramenům a na večírky, takže to odráží specifického
- 19:58ducha i intelektuální teze, které jsem se snažil vyjádřit
- 20:01nebo zprostředkovat. Ve formě otevřeného zkoumání,
- 20:04při němž stále záleží na laskavosti a lidských hodnotách,
- 20:08ale zároveň je velmi otevřené spoustě věcí, kterým nerozumíme
- 20:11a můžou nás přitahovat. Time is kated open minded to the
- 20:17ideavet, the isolat of things that we done, the stand that we
- 20:21com becures about some some of night bea peeling.
- 20:23Také se lišíte od jiných utopií v té vaší už lidé nejsou tak
- 20:28úplně lidmi. Doslova vše je možné proměnit
- 20:31pomocí superinteligence, takže většina omezení, která souvisejí
- 20:35s naší lidskou přirozeností, tam už neplatí, ne?
- 20:38In ty s hype pottetical podle world it with its pe possibol to
- 20:44eliminates parn it save the orboun theresti let that point
- 20:48it will by becast there charleson.
- 20:50Ano v tomto hypotetickém stavu vyřešeného světa by bylo možné
- 20:54tato omezení přinejmenším odstranit, tudíž pokud by stále
- 20:58nějaké limity existovaly. Bylo by to proto, že si je lidé
- 21:01zvolili. Měli by k dispozici technologie
- 21:03umožňující sebe sama měnit, ovšem můžou se rozhodnout to
- 21:07neudělat. Jenže to vás pak nutí k položení
- 21:10otázky, proč chceme změnit hranice a pokud ano, které do
- 21:13jaké míry a jakým tempem a jakými omezeními je nahradíme,
- 21:17pokud vůbec nějakými a které hodnoty jsou v sázce při každé z
- 21:20těchto voleb? Z této.
- 21:25Takových hypotetických světech zbývá vyřešit.
- 21:28Došel jste k nějakému v uvozovkách objevu jejím třeba
- 21:32to, že nějaké hranice jako lidé zkrátka potřebujeme?
- 21:37I zde 2 needsume boundery or. Hole its it her to samrrise it.
- 21:43To se těžko shrnuje. Jakmile si uvědomíte, že by naše
- 21:46současná existence nedávala v takových utopických podmínkách,
- 21:50žádný smysl vyvstane jistý odpor.
- 21:53Nesnažím se popsat nějakou krásnou utopii a prodat ji
- 21:56lidem. Spíše mi jde o to je přinutit,
- 21:58aby viděli, jak fundamentálně odlišný druh existence by to
- 22:02mohl být. Z dnešního pohledu není v mnoha
- 22:04ohledech lákavý. Rozhodně ne na 1 pohled, ale
- 22:08jsem optimista. Myslím, že když to překonáte, je
- 22:11tam něco nesmírně cenného. Ovšem předpokládalo by to, že se
- 22:14vzdáme některých hodnot a věcí, na kterých nám v naší současné
- 22:18existenci záleží. Zároveň by se podařilo něco
- 22:21zachovat a najít nové věci, na nichž lze stavět.
- 22:24Nakonec je to pozitivní, ale ambivalentní cesta spíš než
- 22:28dokonale nablýskané řešení, které by bylo plné zmrzliny a
- 22:32sladkostí. Vzrušující je ale také velmi
- 22:34odlišné od toho, jak žijeme dnes.
- 22:36Otázkou samozřejmě je, jak dlouho budeme chtít pokračovat v
- 22:39lidské existenci, když se začnou nabízet jiné možnosti?
- 22:43Na kolektivní úrovni tak to žijeme několik 100000 let, ale
- 22:46chceme být stejnými bytostmi i po příštích 100 milionech let.
- 22:51Budeme dál chodit do kanceláří, psát na počítači, řešit, jestli
- 22:55nejíme příliš a pak se dívat na televizi.
- 22:58V jistém bodě si možná řekneme, že je čas přejít na novou úroveň
- 23:01existence. Má smysl o tom přemýšlet spíše
- 23:03jako o možných trajektoriích, než jako o nějakém stavu, kdy se
- 23:06lusknutím prstu proměníme na supermozky planetárních rozměrů.
- 23:11Možná že tak skončíme za milion let, ale k tomu vedou jiné
- 23:14cesty, na kterých se možná vyvineme v něco, co bude
- 23:17radikálně post lidské. A nemusíme to uspěchat.
- 23:21Powers a growing the somessing is what the call posem on the
- 23:29might not bere. Rush, takže je třeba se
- 23:31připravit na hlubší změny, než je proměna práce a pracovního
- 23:35trhu, o které je teď hodně slyšet?
- 23:39A larochi podle world forlyving lie the world chill the right
- 23:44off ten sim to perfectling good live.
- 23:48Rozhodně. Ano už dnes řada lidí nepracuje
- 23:52kvůli obživě. Zdá se, že děti často vedou
- 23:55skvělý život, aniž by přitom museli být jakkoliv ekonomicky
- 23:59přínosné běhají kolem, učí se, hrají si s kamarády a dělají si
- 24:03na svých malých projektech mnozí zdraví.
- 24:06Senioři také nepracují a třeba raději cestují po světě.
- 24:09Dny bohatých lidí jsou mnohdy naplněné rozličnými aktivitami
- 24:13na místo práce. Takže ta proměna nebude tak
- 24:16zásadní, i když bude spojená s ekonomickými apolitickými
- 24:19změnami, zvlášť pokud k tomu dojde rychle.
- 24:22Jestli se najednou změní velká část pracovního trhu, bude to
- 24:25vyžadovat sociální politiku, která by to řešila.
- 24:28Ale dobrá zpráva je, že scénáře, v nichž umělá inteligence
- 24:31zautomatizuje spoustu pracovních míst, zároveň počítají s tím, že
- 24:35to povede k velmi rychlému hospodářskému růstu.
- 24:38To neznamená, že se problémy automaticky vyřeší, ale sociální
- 24:41programy by mohly být štědřejší, protože by díky bezprecedentnímu
- 24:45ekonomickému boomu mohlo být k dispozici víc prostředků.
- 24:48V tomhle ohledu jsem optimista. A ten on prezident in the rade
- 24:51ten dan iv tadyscardascare city so afhee come pred the
- 24:56optomistic that canne. Když je řeč o překonání člověka,
- 25:02máte vy osobně oblíbenou vizi post lidského světa vy ve své
- 25:06knize zmiňujete některé příklady z populární kultury, jako je
- 25:10román ostrov altuse, hackslyho nebo teologické dílo Tomáše
- 25:14akvinského. Laudi on hey live considers.
- 25:22Quinskij radikálnější jako teolog, přemítá nad blaženým
- 25:25patřením, což označuje stav naprostého štěstí.
- 25:28A naplněného lidského života v nebi, kdy člověk vstane v tváří
- 25:31v tvář bohu, takže tady opravdu nejde o vizi světa s létajícími
- 25:36auty. Je to jakási destilace lidské
- 25:38duše až k jejímu konečnému blahořečení.
- 25:41Ve srovnání s povrchními vizemi budoucnosti.
- 25:43Některé tyto teologické diskuze možná nabízejí věrohodnější
- 25:46obrázek, pokud jde o žádoucí konečné cíle, velká část
- 25:50utopické literatury se soustředí na sociální politiku a kulturu.
- 25:54Řeší otázky typu, jaký je nejspravedlivější způsob
- 25:57organizace výrobních sil, jaký je správný vztah mezi pohlavími?
- 26:02Jak by měly být vychovávány děti, ale o tyto otázky v mé
- 26:05knize nejde, soustředím se na to, co je nejlepší možný lidský
- 26:08život. Pokud ho abstrahujete od
- 26:10současných omezení a nepřemýšlíte o něm v podmínkách
- 26:13současné technologické rozvinutosti.
- 26:22From the contindent constraints that limit what is a bol today
- 26:28and t and cake about it in this condition of tag modecl
- 26:30maturity. Jak inspirativní pro vás tedy
- 26:33byly právě teologické spisy, v nichž autoři sní o nějakém ráji
- 26:38či nebi nebo přemítají o pekle? V případě dystopií využívají
- 26:43jiný jazyk a jiné metafory, ale také řeší, jak může vypadat
- 26:46život po lidském životě. Many owa CD is your a whatsade
- 26:50noth the ract lees phetum not worry well read in the ladys
- 26:53are. It's not like dreadsoned might
- 26:55Peter when our hallno agas westing culture son of shape pie
- 27:01and it it legassive from the tases of fears of christianet
- 27:04and the other religans. V řadě ohledů jsou inspirativní,
- 27:07ale nepřímo. Já nejsem příliš sečtělý v
- 27:10teologické literatuře, ale celá naše západní kultura je
- 27:14tvarovaná dědictvím 2000 let křesťanství.
- 27:17A pak jsou tady další náboženství, která do toho
- 27:19prosakují, většinou spíše filtrovaně skrze obecné kulturní
- 27:23dědictví, spíše než že by to vycházelo z přímého čtení textů,
- 27:27ale vliv tady určitě je. Pozoruhodné je, že ke stejným
- 27:30otázkám lze dospět, i když nezačnete u nadpřirozena, ale
- 27:34vyjdete z empirického východiska, díváte se na to
- 27:37skrze současné přírodní vědy a snažíte se promyslet všechny
- 27:40důsledky nakonec opravdu skončíte u obdobných otázek jako
- 27:44teologové. Je to podobné jako v případě
- 27:46simulačního argumentu. Počáteční bod je velmi odlišný,
- 27:50ale závěr k němuž dojdete, je strukturován velmi podobně.
- 27:56Is world different the your the conclutions atlyst stracly
- 28:01quight civille to varies of the lage call conseptions.
- 28:05No, když zmiňujete simulační argument, který v knize také
- 28:08figuruje, vy jste tomuto tématu věnoval filozofický článek.
- 28:13Před 20 lety, v němž docházíte k hypotéze, že pravděpodobně
- 28:18všichni žijeme v nějaké ze simulací, kterou mohla vytvořit
- 28:21pokročilá civilizace. Pořád si za tím stojíte?
- 28:26A thanks lock lee comfort with the specific number for like the
- 28:33promobilety and thesay berete sirius a possibility myslím.
- 28:38Že jsem nikdy veřejně tuto pravděpodobnost přesně
- 28:41nevyčíslil, ale stále si myslím, že je to reálná možnost.
- 28:45Sami se blížíme k možnosti vytvářet realistické simulace,
- 28:48které by mohly obývat myslící bytosti s vědomím.
- 28:52Virtuální realita se stále vylepšuje a vyvíjíme umělou
- 28:55inteligenci, z níž se může stát super inteligence, která by
- 28:58podobné simulace mohla z různých důvodů vytvářet na lidi
- 29:02vyrůstající s brýlemi pro virtuální realitu.
- 29:04AS chatboty už dnes představa, že možná žijeme v nějaké
- 29:07simulaci, asi působí méně přitažená za vlasy a méně
- 29:11překvapivě než v minulosti. Lir les super single vytvořil
- 29:17sim wind the. Pust má tato hypotéza dopad na
- 29:19váš každodenní život i na rozhodování, když si že si třeba
- 29:24někdy říkáte, možná je to všechno nějaký matrix a třeba i
- 29:28přemýšlíte o nějakých chybách, z nichž by to šlo poznat?
- 29:32O havno. Ne po žádných anomáliích
- 29:38nepátrám, ať už žijeme v simulaci nebo ne, tak tady budou
- 29:42vždy lidé. Kteří se budou pozastavovat nad
- 29:44nějakými podivnostmi a něco z toho, jsou prostě halucinace
- 29:47nebo mylně interpretované jevy. To se čas od času stane každému
- 29:51lidskému mozku a pak také záleží, jaké teoretické
- 29:54představy máte o světě. Někteří lidé dřív mluvili o
- 29:57posednutí démony, když to odpovídalo světonázoru dané doby
- 30:01a společnosti. Jindy to mohli vykládat třeba na
- 30:03základě teorií Zikmunda freuda a vidět v tom projevy potlačených
- 30:07myšlenek a tužeb. A teď to třeba čtou v
- 30:09souvislosti se simulací. Také si myslím, že pokud žijeme
- 30:13v simulaci, jsou její tvůrci schopni eliminovat podobné chyby
- 30:16nebo zabránit tomu, abychom si jich všimli.
- 30:18A pokud bychom je zaznamenali, mohli by zpětně upravit naše
- 30:21vzpomínky. AI, kdyby existovala nějaká
- 30:23cesta, jak to obejít, tak vůbec není jisté, jestli je žádoucí se
- 30:27o to pokoušet. Ne nical jsem nutit to bere
- 30:31design abold to gorand trike to evin of the world s inway to
- 30:34final to what the dot beag good think to do your noth. 1 z
- 30:37vašich nejnovějších textů nese název vytvoření umělé
- 30:41inteligence a vesmírný hostitel. Týká se mimo jiné hypotetického
- 30:46vztahu s božskou entitou, na kterou bychom mohli narazit.
- 30:50Má to pro vás stejnou váhu jako hypotéza že žijeme v simulaci.
- 30:55Pamatujete si milen argument is a constraint on what with and
- 30:58con here and thebili about youture nor crod place in the
- 31:02world so už to structure of the let in ho location inted.
- 31:06The castmere cast sushi is a most reset paper.
- 31:08Really more likes draft. That simulační argument vrh
- 31:11jisté omezení na to, čemu můžeme koherentně věřit v souvislosti s
- 31:15budoucností strukturou reality a naším místem v ní myšlenku
- 31:20kosmického hostitele. Ještě nemám pořádně
- 31:22rozpracovanou a bude postupně krystalizovat.
- 31:25V podstatě jde o to, že pokud 1 dne skutečně vytvoříme super
- 31:29inteligenci, tak by mohla přijít do kontaktu s jinými
- 31:32existujícími super bytostmi. Mohla by to třeba být nějaká
- 31:36mimozemská superinteligence vytvořená před mnoha miliony
- 31:39let, ale když budeme chápat vesmír jako čtyřrozměrný
- 31:42prostor, tak to také můžeme být my z budoucnosti a námi
- 31:45vytvořená super inteligence. A pokud platí simulační
- 31:48hypotéza, je tam venku nějaký simulátor, který je základem
- 31:52naší reality a pak se nabízí v úvahu také přítomnost klasických
- 31:56božských existencí na obecné úrovni.
- 31:59Můžeme tento soubor super bytostí označit za kosmické
- 32:02hostitele. A super inteligence, kterou
- 32:04vytvoříme, by se tak možná mohla zařadit do podobné společnosti
- 32:09jako juniorní člen to vrhá na naše snažení novou perspektivu.
- 32:13Stále platí, že nechceme vyvinout něco, co nám ublíží
- 32:16stejně jako rodič nechce, aby jim jeho vlastní dítě pohrdalo
- 32:21nebo ho zavraždilo. V ideálním případě by nás mělo
- 32:25milovat a pomáhat nám, když zestárneme.
- 32:27Ale také chceme, aby vedlo dobrý a naplněný život.
- 32:30Ovšem pak také vstoupí do společnosti a můžete chtít, aby
- 32:33bylo dobrým občanem. Spolupracovalo s ostatními a
- 32:36pozitivně přispělo k chodu světa.
- 32:38No a podobně bychom měli myslet na to, že námi vytvořená super
- 32:42inteligence by měla vystupovat jako dobrý vesmírný občan, který
- 32:46spolupracuje s existujícími strukturami a přinese něco
- 32:49pozitivního celku. Tyto morální ohledy a opatrnost
- 32:53bychom měli zohlednit při jejím utváření.
- 32:55Aby méně chamtivě maximalizovala užitek pro úzce pojaté lidstvo.
- 33:00Možná že třeba získáme sluneční soustavu, ale další věci, které
- 33:04bychom mohli dělat, mohou záležet na schválení nějakého
- 33:07kosmického hostitele. Mibisom.
- 33:08Of the other things it can, there will be for for this kosmy
- 33:13colester something with the průvan.
- 33:15Jestli vám tedy správně rozumím, tak jde o to brát ohledy na
- 33:18dlouhodobé dopady, které můžeme mít na jiné ekosystémy ve
- 33:22vesmíru či mnoho vesmíru. Were small mayd a holt universt
- 33:30tesent paillan tos allake with behumbal here like we are coming
- 33:34protescially in to contact with. Ain šancioperbings bast with
- 33:39thun we can evenny madan powers we cunt the when consie and.
- 33:43Ano, jde o to být o něco pokornější, možná nám celý
- 33:46vesmír nepatří. Možná přijdeme do kontaktu s
- 33:49prastarými super bytostmi, které jsou větší a mocnější, než si
- 33:53vůbec dokážeme představit. V takovém případě nechceme
- 33:56najednou vtrhnout do dveří a začít si klást nároky, aniž
- 33:59bychom vůbec chápali, jaké tam platí normy.
- 34:02Spíš je na místě pozdravit, představit se jako ti noví.
- 34:05A možná s sebou přinést nějaký dárek, jako když jdete na
- 34:08večírek a vezmete láhev vína. To je trochu jiný přístup oproti
- 34:12dosavadním úvahám o tom, jak sladit umělou inteligenci s
- 34:15lidskými hodnotami. Tradičně se kladl důraz na
- 34:18užitek a maximalizaci. Ale mám za to, že je na místě k
- 34:21tomu přistupovat s větší pokorou.
- 34:23A byly to atiqueas luck yeah so just warf on at it your of
- 34:28morefoun to mility as we reprogetys buspect.
- 34:31Ve své knize také zmiňujete hinduistický koncept božské hry
- 34:35zvaný leela, což je představa, že bohové sami sebe dobrovolně
- 34:40omezují, aby se mohli věnovat hravým činnostem mezi
- 34:43smrtelníky. Říkal jsem si, jestli právě hra
- 34:47není klíčový koncept pro život ve světě, kde by super
- 34:50inteligence dokázala vyřešit všechny problémy od těch
- 34:53osobních. Po klimatickou krizi v takovém
- 34:56hypotetickém světě by se post lidské bytosti mohli sami
- 34:59dobrovolně omezit a uzavřít do nějakých snů simulací.
- 35:03Nebo her, které by jim dávaly smysl, mohly by se jim oddávat
- 35:07třeba několik let a pak se třeba pustit do jiné hry.
- 35:11Meaning is mean purpers like II colet areficial purpus as.
- 35:17You can for get proposely for sometime and play something.
- 35:21And Beatles, so i so it fory lock and notral probus we can
- 35:26make our ond probud luc basically luck in agay lucky
- 35:28sation south some or Betty call. Ano říkám tomu.
- 35:31Umělý smysl, pokud se nenabízí žádný cíl sám od sebe, tak
- 35:35můžeme vytvořit libovolný úkol jako ve hře.
- 35:39Lze se třeba snažit dostat golfový míček do 18 jamek?
- 35:43Navíc se rozhodneme, že k tomu využijeme zvláštní sadu
- 35:46prostředků a odpalujeme míček holemi.
- 35:48Bylo by přece jednodušší ho jen tak zvednout a dát do jamky, ale
- 35:52tato omezení vymezují hru a její uměle vytvořený smysl kategorie
- 35:56hry je ovšem mnohem širší a vztahuje se na vytváření cílů,
- 36:00abychom pak měli důvod něco dělat.
- 36:02A myslím, že to by mohlo utvářet velkou část existence ve
- 36:05vyřešeném světě. Tady nejde o hraní nějaké
- 36:08deskové hry. Mám na mysli mnohem
- 36:10komplexnější, dlouhodobější, sociálně interaktivnější,
- 36:13emotivní, intelektuální a umělecké hry, které se vymykají
- 36:17tomu, co děláme dnes. A pokud by to někoho nudilo,
- 36:21bude mít technologické prostředky, jak jak se s pocity
- 36:23nudy vypořádat. Fixac maturete a ty jste
- 36:28subjektivalem soft pardon. 3 a gim ta ta krby allor fun and
- 36:33games in a way. We're combas.
- 36:36That we are not player game of being filosof and.
- 36:39Being journalist tray. V jistém smyslu nemůžeme
- 36:42vyloučit, že teď právě nejsme pohlceni nějakou takovou hrou na
- 36:47novináře a filozofa, že? Já will dead tour be consistent
- 36:51tweets imidation hypetes as well prihubs.
- 36:54Ano to je myslím v souladu s hypotézou, že žijeme v simulaci.
- 36:58Thank your much. Thank.
- 37:01Your much for time. Your.
- 37:04No and nice tady. By to byl nick bostron za dabing
- 37:09patří velký dík filipu rambůskovi.
- 37:11Tento rozhovor se stal také podkladem.
- 37:13Pro bostromuv profilu. V knize světový intelektuálové
- 37:17průvodce myšlením neklidné doby, kterou připravila redakce
- 37:20týdeníku respekt. Na jejich stránkách najdete více
- 37:23než 60 dalších osobností, které výrazně ovlivňují.
- 37:26Jak dnes přemýšlíme o světě? Podnětné čtení vám za svou
- 37:30redakci přeje Štěpán Sedláček.