Latest / Týdeník Respekt / Když umělá inteligence upravuje i kód života a nechce se nechat vypnout
Transcript
- 0:00Angela Merkel respektu poskytla 1 živý rozhovor v Česku mluvil s
- 0:04ní Tomáš lindner záznam celé debaty, a to včetně videa si
- 0:08můžete pustit na našem youtubovém kanálu.
- 0:11Odkaz najdete i na webu respektu.
- 0:13Tak vítejte na dalším čtení s respektem v antikvariátu
- 0:15dejvického divadla. Dnes nás čeká čtenářská debata o
- 0:19knize nezadržitelná vlna technologie, umělá inteligence,
- 0:23moc a největší dilema jednadvacátého století od autorů
- 0:26gustavisu leimana a Michaela baskara, kterou v českém
- 0:30překladu Tomáše bílý vydalo nakladatelství audiolibrix a
- 0:35podnětný poslech vám přeje Štěpán Sedláček.
- 0:45Kdo přijel pozvání do dnešní debaty?
- 0:48Já to vezmu podle abecedy. Je to Kristýna ford analytička,
- 0:52která se specializuje na téma AI governance, tedy správy řízení
- 0:57umělé inteligence mimo jiné spolupracuje tedy jako
- 1:01konzultantka také s Google deepmind založila online buletin
- 1:05o politice umělé inteligence, AI policy, balet.
- 1:08AV neposlední řadě také píše newsletter pokrok v ai, a to
- 1:13tedy se svým manželem Stanislavem fortem vítejte.
- 1:17Děkuji. Dále, tedy již zmíněný Stanislav
- 1:20ford, fyzik, expert na umělou inteligenci a velké jazykové
- 1:24modely, které působil mimo jiné ve společnostech Google brain
- 1:27stability a entropic a Google deepmind AV současnosti tedy
- 1:32buduje vlastní AI startup tady v Česku.
- 1:36Díky za pozvání. Dále vítám martú lúbkovou
- 1:40bohemistku, literární kritičku, divadelní dramaturgyni, která
- 1:44působila v národní divadle a od ledna letošního roku tady v
- 1:47dejvickém divadle také vyučuje na katedře alternativního a
- 1:52loutkového divadla pražské damu a přečte nám na úvod úryvek z
- 1:57této knihy. Díky.
- 1:58Dobrý den. Dále vítám jana pačese,
- 2:01molekulárního genetika bioinformatika, kteří působí na
- 2:05ústavu molekulární genetiky akademie věd české republiky,
- 2:08kde zkoumá strukturu genomu také vyučuje na v š ch t možná ho i
- 2:13znáte z vysílání českého rozhlasu, kde se věnuje často
- 2:17popularizaci napříč několika pořady.
- 2:20Vítejte. Posledním je Martin uhlíř, můj
- 2:23kolega z respektu, vědecký novinář, také spisovatel, autor
- 2:27několika knih, mimo jiné tedy, jak jsme se stali lidmi a také
- 2:31napsal 2 romány. V aktuálním respektu si můžete i
- 2:35přečíst jeho článek s titulkem. Nejbližší roky rozhodnou, zda
- 2:38bude člověk pastýřem umělé inteligence, nebo naopak tak
- 2:43ahoj. Vítej martine, děkuji a ještě
- 2:45pár slov, tedy o autorech té knihy, o které bude řeč.
- 2:48To jsou 2 Britové Mustafa suleimann, spoluzakladatel
- 2:52deepmind 1, tedy z klíčových společností ve vývoji umělé
- 2:55inteligence, kterou posléze koupil Google dnes tedy
- 2:58společnost alfabet, posléze tedy ještě spoluzaložil kalifornský
- 3:03start up inflection AIA od loňského března tedy vede
- 3:07ředitelem Microsoft AI. 2 autorem je Michael baskars.
- 3:13Spisovatel, vydavatel, výzkumníka, podnikatel, který
- 3:16dříve působil jako konzultant ve společnosti deepmind a také
- 3:20autorem knih human frontiers coration the content machine.
- 3:25Tak a ještě než si tedy poslechneme ten úryvek z knihy
- 3:29nezadržitelná vlna, která tedy mně osobně přijde pozoruhodná ve
- 3:34vícero ohledech a 1 z nich je, že čtenářům nabízí, nebo jim
- 3:39pomáhá si lépe představit některé scénáře.
- 3:43Toho dalšího vývoje klíčových technologií AV podání autorů
- 3:47jsou to tedy 2 klíčové univerzální technologie, jejichž
- 3:50rozvoj a rozšíření přirovnávají k jiným technologickým vlnám
- 3:55minulosti a konkrétně tedy jde o rozvoj právě umělé inteligence,
- 3:59která směřuje k té obecné umělé inteligenci, případně až super
- 4:04inteligenci a zadruhé tedy syntetické biologie.
- 4:08A jejich dopady, které podle autorů vyvolají nejdůležitější
- 4:12transformaci. Našich životů, když se potom
- 4:15případně spojí v 1. Velkou supervlnu, která může
- 4:19zásadně proměnit právě podobu a fungování společností firem
- 4:24států, ale i podoby života jako takového, přičemž tedy tou
- 4:28hlavní otázkou knihy nebo 1 z hlavních je, jestli bychom měli
- 4:32a jak nejlépe bychom měli tedy tyto technologie zadržovat, a to
- 4:36s využitím různých kontrolních mechanismů regulací.
- 4:40A tak dále. Protože zastavit tuhle vlnu už
- 4:43tedy podle autorů nelze, ale můžeme ji zkoušet nějakým
- 4:47způsobem tvarovat. A teď už tedy dávám slovo
- 4:51marťabkové, která nám přečte úryvek právě zčásti, která
- 4:56nabízí poměrně bohatou porci pro představivost vybraného scénáře
- 5:02a je to tak zhruba na 10:10 11 minut.
- 5:06Některé aspekty nadcházející vlny směřují k další
- 5:10centralizaci moci. Vytrénovat největší modely umělé
- 5:14inteligence bude stát stovky miliony dolarů, a proto je bude
- 5:18vlastnit jen málokdo. Souběžně s tím se však paradoxně
- 5:23bude rozvíjet i zcela opačný trend průlomové objevy v oblasti
- 5:28umělé inteligence se už v současnosti dostávají do
- 5:32otevřených repozitářů během několika dní po zveřejnění v
- 5:35časopisech s otevřeným přístupem.
- 5:38Takže špičkové modely jsou snadno dostupné?
- 5:41Komukoliv kdo s nimi chce experimentovat, přestavovat je a
- 5:45upravovat jsou zveřejňovány, unikají a stávají se předmětem
- 5:50krádeže. Společnosti jako stability AIA
- 5:53huging face rozvíjejí distribuované decentralizované
- 5:57formy, umělé inteligence techniky jako chrisper usnadňují
- 6:02biologické experimenty, což znamená, že biohackeři mohou ve
- 6:06svých dílnách experimentovat na absolutní hranici vědeckého
- 6:11poznání. V konečném důsledku je sdílení
- 6:15nebo kopírování DNA nebo kódu velkého jazykového modelu.
- 6:19Triviální otevřenost je norma napodobování všudypřítomné
- 6:24křivky nákladů neúprosně klesají a bariéry přístupu se hroutí.
- 6:29Exponenciální schopnosti může dnes získat každý, kdo o ně
- 6:33stojí. To je předzvěstí kolosálního
- 6:37přerozdělení moci pryč od stávajících center.
- 6:41Představte si budoucnost, kde malé skupiny, ať už v
- 6:45rozpadajících se státech, jako je Libanon nebo v nomádských
- 6:49táborech mimo síť v novém Mexiku s podporou umělé inteligence,
- 6:55poskytují služby jako úvěrová družstva, školy a zdravotní
- 6:59péče, služby v srdci komunity, které jsou dnes často závislé na
- 7:03rozsahu nebo na zásahu stát. Kde se možnost určovat
- 7:07společenské podmínky na mikroúrovni stane neodolatelnou.
- 7:11Přijďte do naší soukromé školy a navždy se vyhněte kritické
- 7:15rasové teorii nebo bojkotujte zlý finanční systém a používejte
- 7:19náš produkt. Defi neboli decentralizované
- 7:23finance, kde si jakékoliv uskupení libovolného druhu
- 7:27ideologické, náboženské, kulturní nebo rasové.
- 7:31Může vybudovat životaschopnou společnost.
- 7:33Představte si, že si založíte vlastní školu nebo nemocnici či
- 7:38armádu. Je to tak složitý, rozsáhlý a
- 7:42obtížný projekt, že už jen pomyšlení na něj je únavné.
- 7:46Pouhé shromažďování zdrojů a získávání potřebných povolení a
- 7:51vybavení by vyžadovalo celoživotní úsilí.
- 7:54A teď si představte, že máte řadu asistentů, které stačí
- 7:58požádat, aby zařídili všechno potřebné.
- 8:01A oni to dokážou provést v reálném časovém horizontu ACIA
- 8:06syntetická biologie posilují hnutí extintion rebellion stejně
- 8:11jako megakorporace typu dow Jones mikrostáty s
- 8:14charismatickým vůdcem, stejně jako dřímající obry.
- 8:18Některé výhody plynoucí z rozsahu mohou být posíleny, jiné
- 8:23mohou být úplně setřeny. Zamyslete se nad tím, co se
- 8:27stane s už tak narušenými státy. Pokud každá sekta separatistické
- 8:33hnutí charitativní nadace a sociální síť, každý fanatik a
- 8:38xenofob každá populistická konspirační teorie, politická
- 8:42strana nebo dokonce mafie, drogový kartel či teroristická
- 8:46skupina dostanou šanci vybudovat si svůj vlastní stát.
- 8:51Lidé zbavení občanských práv se jich prostě znovu zmocní sami a
- 8:56za svých vlastních podmínek. Fragmentace by se mohla projevit
- 9:00všude, co když se korporace samy vydají na cesty k tomu, aby se
- 9:05staly státy, nebo se města rozhodnou získat větší
- 9:10autonomii? Co když lidé začnou věnovat více
- 9:13času, peněz a emocionální energie životu ve virtuálních
- 9:18světech, než tomu skutečnému, co se stane s tradičními
- 9:22hierarchiemi, když úžasné mocné nástroje budou stejně dostupné
- 9:27všem? Stejně dostupné dětem ulice jako
- 9:30miliardářům už dnes je pozoruhodné, že korporátní
- 9:34titání řeší velkou část svého fungování pomocí softwaru jako
- 9:38gmail nebo excel, který je dostupný většině lidí na
- 9:42planetě. Představte si, že podobně to
- 9:46bude IS převratnými technologiemi nadcházející vlny
- 9:49a každý člověk na planetě bude mít neomezený přístup k
- 9:53nejmocnějším technologiím, jaké kdy byly vytvořeny.
- 9:57Vzhledem k tomu, že lidé stále více přebírají moc do svých
- 10:01rukou, očekávám, že budoucí hranice nerovnosti je třeba
- 10:05hledat v biologii v roztříštěném světě budou některé jurisdikce
- 10:10mnohem tolerantnější k experimentování s lidmi než jiné
- 10:14a dost možná vzniknou oázy pokročilých biologických
- 10:18schopností a sebemodifikace dosahující rozličné výsledky na
- 10:22úrovni DNA. Což zase povede k rozdílům na
- 10:25úrovni států a mikrostátů. Následně bychom se mohli dočkat
- 10:30něčeho jako závodu ve zbrojení v oblasti biohackingu a osobního
- 10:35vylepšování země, která zoufale touží po investicích nebo
- 10:39výhodách, by mohla vidět potenciál v tom, že se stane
- 10:43rájem bio hackerů, kde bude povoleno úplně všechno, jak by
- 10:48vypadala společenská smlouva, kdyby se vybraná skupina post
- 10:52lidí pomocí genetických úprav? Dostala na nějakou
- 10:56nedosažitelnou intelektuální nebo fyzickou úroveň.
- 11:01Jak by se to protnulo s dynamikou politické fragmentace,
- 11:04kdy se některé enklávy budou snažit opustit celek.
- 11:09To vše je zatím v rovině spekulací.
- 11:11Vstupujeme však do nové éry, kdy dříve nemyslitelné začíná být
- 11:17zcela jasně možné být zaslepený vůči tomu, co se děje, je podle
- 11:22mého názoru nebezpečnější než přehnaně spekulovat.
- 11:27Vláda funguje na základě souhlasu.
- 11:29Je to kolektivní fikce, která se opírá o víru všech zúčastněných.
- 11:35V tomto scénáři je suverénní. I stát napínán až do bodu zlomu
- 11:41stará společenská smlouva se trhá na kusy.
- 11:44Instituce jsou obcházeny podkopávány a nahrazovány daně
- 11:49vymáhání práva, dodržování norem.
- 11:52To vše je ohroženo. V tomto scénáři by fragmentace
- 11:56moci mohla urychlit jakousi turbo balkánizaci, která dává
- 12:02hbitým aktérům schopným chopit cenové příležitosti.
- 12:06Bezprecedentní svobodu působení. Začíná oddělování velkých
- 12:11konsolidovaných celků moci a služeb, které ztělesňuje stát.
- 12:16V tomto scénáři se objevuje něco jako svět před vznikem národních
- 12:21států, nový středověk, menší lokálnější, ústavně rozmanitá,
- 12:26složitá a nestabilní mozaika městských států jim tentokrát s
- 12:32nesmírně výkonnou technologií. Když byla severní Itálie
- 12:35mozaikou takových městských států.
- 12:38Dala světu renesanci, ale zároveň byla polem
- 12:41neustávajících bojů a svárů. Renesance je skvělá neustálé
- 12:46války s vojenskou technologií. Zítřka už tolik ne.
- 12:51Pro mnoho lidí, kteří pracují v oblasti technologií nebo
- 12:53souvisejících oborech, nejsou tyto radikální výsledky jen
- 12:57nevítaným vedlejším produktem, ale samotným cílem.
- 13:02Hyperlibertariánští technologové jako zakladatel společnosti
- 13:06paypal a technologický investor Peter tel oslavují vznik vizi
- 13:11zániku státu a vidí v něm cestu k osvobození podnikatelů nebo
- 13:15suverénních jednotlivců, jak sami sebe nazývají rozkladu
- 13:20veřejných služeb, institucí a norem fandí v naději, že by
- 13:25technologie mohla, cituji vytvořit prostor pro nové
- 13:29způsoby nesouhlasu. A nové způsoby vytváření
- 13:33komunit, které nejsou omezeny historickými národními státy.
- 13:38Konec citace technolibertariánské hnutí
- 13:42dotahuje výrok Ronalda regana z roku 1981, že vláda je problém
- 13:46do logického extrému, zmiňuje řadu nedostatků vlád, ale
- 13:51nikoliv jejich obrovské přínosy věří, že regulační a daňové
- 13:55funkce státu jsou destruktivní omezovače s malými přínosy.
- 14:01Alespoň pro ně připadá mi hluboce skličující, že se mezi
- 14:05nejmocnějšími a nejprivilegovanějšími lidmi
- 14:09najdou jedinci zastávající tak úzký a destruktivní pohled.
- 14:14Ale každopádně je to další impuls k fragmentaci.
- 14:18Žijeme ve světě, kde miliardáři a proroci posledních dnů mohou
- 14:23budovat a řídit své vlastní mikrostáty, kde nestátní aktéři
- 14:28od korporací přes komuny až po algoritmy začínají nahrazovat.
- 14:32Stát shora, ale i zdola. Vzpomeňme na třmeny na jediný
- 14:37jednoduchý vynález a jeho dalekosáhlé důsledky a pak se
- 14:42zamyslete nad dosahem vynálezu v nadcházející vlně.
- 14:46Ve spojení s existujícími tlaky a křehkostí se rozsáhlé změny,
- 14:52jejichž obrysy jsem nastínil ve výše uvedených spekulacích,
- 14:56nezdají být tak nereálné. Podivnější by bylo, kdyby k
- 15:00žádné radikální změně nedošlo. Tak tohle bylo z kapitoly
- 15:09selhání státu, což je vlastně jenom 1 z mnoha různých scénářů.
- 15:14Které on tam nějak podrobněji rozepisuje, on vidí spoustu
- 15:18pozitiv, ale varuje před těmi katastrofičtějšími nebo
- 15:21katastrofálnějšími scénáři a riziky na 1 straně je nějaká
- 15:25centralizace na té 2, jak jsme zmínili, viděli v téhle ukázce
- 15:29jako decentralizace, kdy to může posílit prostě velké
- 15:33autoritářské státy a na té 2 straně to může destabilizovat
- 15:37řadu liberálních demokracií. Ale ještě by mě na úvod
- 15:41zajímalo, jak vám celkově ta diagnóza v té knížce.
- 15:45A popis těch výzev připadá martine, ty jsi teď vlastně se
- 15:50tomu věnoval v uplynulých týdnech, když jsi mluvil s řadou
- 15:55odborníků, myslím, že s někým, kdo je tady, ale například s
- 16:00šéfem pobočky české Microsoftu, který šéfujete divizi, která se
- 16:06věnuje, tedy AI, tak, jak ti to jde dohromady potom, co jsi četl
- 16:11tu knížku? S tím, co si potom popisoval
- 16:14předtím v tom v tom článku? No, já jsem dlouho těm
- 16:19katastrofickým předpovědím nevěřil, ale v poslední době tak
- 16:24samozřejmě musím reflektovat, že je spousta důvěryhodných lidí,
- 16:29varuje vlastně v tom článku, jak se říká, a to není z mé hlavy,
- 16:33nebo tady z Česka, ale jako psali to new york Times.
- 16:38Že vlastně čím blíž jsou lidé odborníci tomu vývoji, který
- 16:44probíhá za zdmi, nebo prostě v těch firmách, které vyvíjejí
- 16:48umělou inteligenci, tím víc jsou zneklidněni a že to je situace,
- 16:53kterou jsme nezažili třeba při vzniku sociálních sítí, kde v
- 16:57roce 2010 někoho moc nenapadlo, že facebook nebo jiné sociální
- 17:02sítě. Budou mít takový podíl na šíření
- 17:07jde z informací a budou moci. Ovlivňovat volby čili IV tomto
- 17:12ohledu jsme jakoby podle mě v nové situaci a prostě musíme to
- 17:17reflektovat a byť třeba k té knize bych měl i nějaké kritické
- 17:22postřehy, tak myslím si, že to zneklidnění a prostě určitý
- 17:27alarm je na místě. Jste do já vím, že minulý týden
- 17:31se konala velká Google konference Google IO.
- 17:36Kde tedy debatoval i šéf Google deepmind a nositel?
- 17:40Loňské Nobelovy ceny za chemii za za alf afot demis hasabi
- 17:44spolu se Sergejem brinem, spoluzakladatelem Googlu.
- 17:48Oni mluvili o tom, jak daleko z jejich pohledu může být právě ta
- 17:52obecná umělá inteligence, která zvládne plnohodnotně, nebo měla
- 17:57by zvládnout plnohodnotně všechno, co jde, zvládnou lidé.
- 18:02Tak brin odhadoval, že to bude do konce tohoto desetiletí.
- 18:05Hasaby zkrát odhadoval, že krátce, tedy po roce 2030, ale
- 18:09bylo to. Zhruba v tomhletom okně, tak mě
- 18:13by tam to zajímalo. Jak důležitá vlastně teď tahle
- 18:17otázka za tebe je, když sleduješ ten rychlý rozvoj dostupných
- 18:22modelů a jak ti v tomhle kontextu přijde tahle knížka,
- 18:25která v originále teda vyšla 2023, což je hodně vody v tom
- 18:28světě a umělé inteligence? Tak jaký je to příspěvek do
- 18:32debaty ta kniha? Protože už byla napsaná sice
- 18:36před 2 lety, což je hodně času. Při exponenciálním růstu
- 18:40schopností modelu v umělé inteligenci.
- 18:42Tak pořád vyšla v době, kdy už bylo víceméně zřejmé, jaký trend
- 18:46teď máme. Takže jako na jaké trajektorii
- 18:48jsme lidé často už dělají chybu v tom, když odhadují, jak
- 18:51výkonné budou modely umělé inteligence v budoucnosti, takže
- 18:54se zaměří na chyby, které mají dnešní modely a už si
- 18:57nepředstaví, že kdyby se podívali rok zpátky a na dnešní
- 19:00stav a nějak si jenom proložili křivku toho růstu dál další rok
- 19:04do budoucnosti, tak to bude o hodně lepší než teď.
- 19:06Typicky se zafixují na ty konkrétní chyby.
- 19:07Dnes třeba rok zpátky byla velká věc, že obrázkové paraly neuměly
- 19:11generovat správný počet prstů. Dneska už to žádný problém není,
- 19:14ale v té době hodně lidí tvrdilo, že je to nějaký
- 19:16fundemální problém, se kterým nikdy nic neuděláme, aniž by se
- 19:19zamysleli nad tím, že rok předtím to neumíme vyrobit ani
- 19:22realistický obličej a nic takového.
- 19:24Takže podle mě ta over indexace na konkrétní stav je hodně
- 19:27špatná a výhoda téhleté knihy je, že byla napsaná v době, kdy
- 19:30už ten ten trend škálování jazykových modelů byl víceméně
- 19:34co zřejmé paradigma, podle kterého se zdá, že dokážeme
- 19:37minimálně pár řádů zvětšování modelu jít dál.
- 19:40AA máme víceméně. Nějak empiricky garantované
- 19:44garantované výsledky. Všem si myslím, že ta kniha má
- 19:47trochu chybnější náhled na svět je možná jako zjednodušení před
- 19:51pochodu kolem interakce té technologie.
- 19:53Samotné se zbytkem společnosti ekonomiky 1.
- 19:56Věc je vybudovat model, který je schopný řešit skoro všechno na
- 19:58úrovni lidského mozku AA nebo dál, a aby to dělalo relativně
- 20:01levně. A 2 je integrace téhleté
- 20:04technologie skrze celou ekonomiku jako celek.
- 20:07A myslím si, že máme hodně hysterických příkladů, kdy i
- 20:10široké. Technologie s velkým dopadem
- 20:12jako třeba elektrifikace měli docela dlouhou dobu, během které
- 20:17sice existovaly a byly schopné potenciálně dělat hodně
- 20:20technologických věcí v rámci ekonomiky ale nebyly zapojeny do
- 20:23té míry, aby měly tak velký dopad, jak by potenciálně mohly
- 20:26mít. A já si myslím, že ta interakce
- 20:27té umělé inteligence a jejich schopností s tím fyzikálním
- 20:30světem a ekonomikou široce nějak jako chápanou, je něco, co
- 20:35potenciálně brzdí. Tu jako rapiditu té překoné
- 20:38změny společnosti. Zároveň možná 1.
- 20:41Z těch bodů, který je taky varantou knihou, jsou nějaká
- 20:45jako fyzikální limity na to, že ta inteligence, kterou umíme ve
- 20:48strojích napodobit a emulovat, není zdarma a není absolutně
- 20:52levná, má vysoké energetické náklady a nedá se spustit
- 20:55libovolně na počítači u nás doma třeba.
- 20:58Takže takže tyhlety, fyzické limity a nutnost velkého
- 21:02příkladu velkého množství energie, která je koncentrovaná
- 21:04do 1 velkého datového centra někde ve světě, to jsou fyzické
- 21:08a limity fyzického světa. Té staré ekonomiky a staré
- 21:10geopolitiky, které podle mě hodně silně interagují s tím,
- 21:14jak bude AI reálně ovlivňovat budoucnost, protože to AI neběží
- 21:17nějak v éteru. To běží na fyzicích datových
- 21:19centrech, které mají nutnou velkou dodávku energie.
- 21:23Nedokáže si říkat každý, musí to být levné, takže já si myslím,
- 21:26že je tam hodně silnější interakce starého světa a
- 21:29starého řádu s tím novým právě skrz tady ty fyzické aspekty.
- 21:34To a problému ještě. Jak.
- 21:38Tě oslovili nebo neoslovili ty popis na 1 straně přínosu a na 2
- 21:42straně snaha vybarvit i některé ty.
- 21:45Katastrofa. Katastrofičtější verze
- 21:47budoucnosti pod vlivem umělé inteligence mně.
- 21:51Přišlo možná zjednodušenější to, že si ten autor představuje, že
- 21:54když má nějaká skupina hodně výkonný model, který je chytrý,
- 21:56tak jí to automaticky dává hodně moci ovlivňovat svět kolem sebe.
- 22:00Já si myslím, že kdybychom dneska postavili umělou super
- 22:02inteligenci, zeptali se, jak třeba.
- 22:05Zvýšit HDP české republiky, nebo.
- 22:07Nebo jak jak zajistit, že spojené státy budou schopny
- 22:10potenciálně zastrašit nebo vyhrát válku proti číně, tak to
- 22:13odpověď nebude nějaký jako číst code ve vesmíru, ale bude to
- 22:16něco jako postavte hodně továren na výrobu baterií a
- 22:18elektromotorů a postavte drony, že to jako nebude, že i
- 22:21kdybychom měli tu inteligenci, tak si nemyslím, že existuje
- 22:24něco nějaký jakoby v počítačové hře nějaké jako cheed kód, který
- 22:28by dokázal jak změnit zákony fyziky a pořád ten materiálně
- 22:31realita světa je i něco, s čím je ta inteligence musí.
- 22:35Interagovat. Myslím si, že to jako dost
- 22:38omezuje jako jak malá skupina dokáže i tu hodně inteligentní a
- 22:42potenciálně levnou umělou inteligenci využít ve svůj
- 22:44prospěch a jak ovlivnit tu dynamiku sil ve společnosti.
- 22:47Takže já si myslím, že možná to z mého pohledu způsobuje, že.
- 22:53V tomhletom pohledu nebude ten svět až tak jako radikálně
- 22:56odlišnější než ten, který máme dnes až po aspoň alespoň po
- 22:59nějakou přechodnou dobu, protože pořád potřebujeme továrny,
- 23:04přírodní zdroje, energii, které se pohybují o hodně pomalejších
- 23:09trajektorových růstu než než ta inteligence samotná.
- 23:12Že by rychle otevřela já nevím cestu k chůzi nebo takové věci
- 23:15je to. Možné ale jenom za předpokladu,
- 23:17že máme jako nějakou jako intelektuální věc, kterou
- 23:19nedokážeme vyřešit, je třeba možné.
- 23:21Že umělá inteligence najde nějakým zajímavým způsobem
- 23:25interně v nějaké interní simulaci, třeba správnou
- 23:27kombinaci materiálů, které když promícháme tím vhodným způsobem
- 23:30experimentálně tak vyrobíme supravodič při pokojové teplotě.
- 23:33Něco takového by jako radikálně změnilo to, jak funguje světová
- 23:36ekonomika, jak funguje hodně technologií, a to je možná něco
- 23:39nejbližšího a tomučit kódu, o kterém mluvím, ale ve většině
- 23:43ostatních věcí se mi zdá, že zlepšování bývají inkrementální.
- 23:46Je to, že baterie jsou dneska jako o hodně levnější nebo
- 23:48solární panely. Není nějaký jako radikální. 1.
- 23:50Objev ale je to hromada inkrementálních zlepšováků,
- 23:52které se akumulují po dekádu, způsobují desetinásobné snížení
- 23:55ceny na jednotku energie, třeba spíš ne jenom k těm.
- 23:58Jako vědeckým průlomům mi přijde, že i jako občas nějak
- 24:01jako nepochopení toho, jak třeba ty vědecké obory fungujou, nám
- 24:04pak může jako taky dávat dojem, že to i já jako rychle vyřeší.
- 24:09Ale přesně, jak jsem jde zmiňovat třeba s tím, jak s tím,
- 24:11jak jako my sami jako lidé občas zpomalujeme tu adopci a nějaké
- 24:14to jako rozšiřování i já do jako společnosti.
- 24:17Tak IV té vědě jsou samozřejmě různé.
- 24:18Jako tady tyhlety dejme tomu bottonicky, které jakoby můžou
- 24:22ovlivnit to, jak rychle AI reálně bude moct být integrovaná
- 24:25do těch procesů. Ty jako 1 z těch typů jsou
- 24:28třeba, je třeba přístup k datům hodně vědních oborů a nemá dobře
- 24:32prostě zpracované datasety jsou obry, kde je to lepší, jsou
- 24:36obory, kde je to horší, ale právě třeba pro tu fúzi to pak
- 24:39může být problém jen čistě, jenom jako v tom, že ta i
- 24:42vlastně není na co jako implementovat, že tam nejsou ty
- 24:45datasety, ze kterých by se mohla naučit.
- 24:47To co už o fúzi víme z těch experimentů, které jsme provedli
- 24:50a na kterých by se mohla naučit, co budou ty další kroky.
- 24:53Takže myslím si, že jako reálně právě pro ten jako další růst i.
- 24:58Jsme my lidé vlastně jako dost velký zpomalovač, což může být i
- 25:01jakoby pro nás výhodou, ale každopádně tím pádem, jakoby
- 25:05některé ty průlomy prostě můžou být jako pomalejší už jenom
- 25:08kvůli tomu, že to učení pro to učení nemáme prostě dostatečné
- 25:13podklady AA dostatečné jako dostatečně dobře připravené
- 25:16zdroje. Já se teď.
- 25:17Vrátím na jana pačese honzo polovinou, zhruba když to
- 25:21zjednodušíte. Vlny je syntetická biologie a
- 25:26revoluce, která se děje na poli genetiky, zejména tedy pod
- 25:30vlivem té technologie. Chris pro těch genetických
- 25:32molekulárních lůžek, že jo, to je zhruba 10 let 11 let stará
- 25:36technologie a teď se to propojuje s tou umělou
- 25:39inteligencí. Tak 1 z těch autorů není biolog,
- 25:43tak mě by zajímalo jak. Už dnes ovlivňuje právě umělá
- 25:49inteligence. Ty obory, které ty sleduješ.
- 25:53To, co znamená molekulární biologii a co v těch příštích
- 25:57letech to může vlastně prolomit a jak to odpovídá teda tomu
- 26:01popisu, na co se ptám no. Tenhle ten popis je trošku jako.
- 26:07Popisuje spíš ty situace, kdy se to nepovede ten Kolář, kdy ten
- 26:12ten ta situace nebude dobrá. Já bych jenom trošku oponoval
- 26:17tomu tady tomu názoru, že? Ten zpomalovač budou lidi a že
- 26:23ty umělý inteligence nebudou k dispozici pro každýho, ale ty
- 26:27biologie dobře víme, že můžeme bejt úplně skvělá společnost a
- 26:31postavený tělo mnohobuněčný 1000 lagenů, ale pak může přijít
- 26:36virus s 5 genama a rozbije to. A takže já si myslím, že za
- 26:42inkorporace AI jako do řízení společnosti je to vylepšování tý
- 26:46společnosti. Naprosto souhlasím, to nebude
- 26:50tak rychlá věc, ale na to škodit.
- 26:53To mám velkou obavu, že to bude velmi rychlá věc a protože to je
- 26:56mnohem jednodušší škodit než u toho.
- 26:59No a tady totéž platí právě i pro tu biologii tam jsou, to
- 27:04jsou nesmírně zajímavé věci, ale musíme se taky trošku položit
- 27:08nebo opravdu rozlišit vědu a jako inovace jo v inovacích.
- 27:13Biotechnologiích to bude nástroj, který nás teda bude
- 27:16pasovat dopředu velmi rychle. A tam to nemusí mít každý jo to
- 27:21není jako že to máte v mobilu. Stačí když 1 firma nechá vyrobit
- 27:25bakterii, která bude dělat zadarmo nebo úplně levně plast
- 27:29jo, nemusí si vymyslet každej tuhletu věc, takže v těch
- 27:33technologiích to půjde dobře. Co se týče vědy, tam se k tomu
- 27:36trošku skeptický, protože budeme vo tom ještě asi mluvit.
- 27:39Máme nádherný, příklady jsou už dneska ty AI uměj biologii, ale.
- 27:45Docela často udělaj fantastickou věc.
- 27:48Která ale nevede k lepšímu pochopení té přírody.
- 27:52Umíme třeba vygenerovat tu bakterii, nebo teďka udělali
- 27:55generativní AI na úrovni proteinů?
- 27:57To je něco, co opravdu jako lidi neumíme.
- 27:59Jo, my, musíme si vzít nějaký protein z přírody, nějaký enzym
- 28:03a pak hodně dlouhou dobu zkoumáme, co vlastně dělá
- 28:05jediný, co oblíbného. Potom je jednotlivé mutace má
- 28:08maličko změnit a dívat se, jestli ještě chce.
- 28:14Tak vážně to nebylo. Ale to co neumíme, je, že by
- 28:18někdo přišel a říkal tak, a já chci enzym, kterej prostě my
- 28:21teďka tady udělá červený flek? Jo, to prostě.
- 28:23To je mimo naše schopnosti, ale už to není mimo schopností.
- 28:26Tý AI před pár dny vyšel článek, kdy.
- 28:31AI dostala za úkol vymyslet nový fluorescenční protein, který
- 28:34protein, který bude skutečně dělat barvičku no a.
- 28:39Podařilo se jí to a je to procent, kterej je tak vzdálený
- 28:42těm tenden těm, který dneska existujou.
- 28:46Že je to 500 milionů let vzdálený a prostě funguje.
- 28:49Funguje úplně stejně dobře jako ty, který normálně známe a to si
- 28:53vymyslela AI, je to skvělý. Ale chápeme jak to vymyslela
- 28:58jako vlastně my. My to můžeme použít to připojení
- 29:01pro technologii a ne pro porozumění, že by nám to
- 29:03zlepšilo znalosti o té biologii. To je vlastně poměrně málo.
- 29:07Přineslo tam, jde o. To, že nerozumíte tomu jak tomu
- 29:10došla, to je 1 věc, ale 2 věc. Když se podíváte na ten
- 29:13výsledek, tak to umíte rozebrat. Jo jo, ale to.
- 29:16Je stejně, jako kdyby jsme našli nějaké támhle žábě nebo v
- 29:18nějakém mořském živočichovi, na to budeme se koukat přemýšlet,
- 29:21jak on to vlastně udělal? Jo, ale ta příroda to umí.
- 29:23Evidentně to funguje, že jo, příroda to takhle dělá.
- 29:26A já li to umýt stejně jako ta příroda, ale vlastně my jsme tím
- 29:30nejsme pochopení toho principu o nic blíž, než jsme byli předtím.
- 29:33A to je velký rozdíl mezi teda jakoby vědou, to znamená
- 29:36získáváním znalostí ne ve smyslu hromaděním dat, ale pochopení a
- 29:42proti tomu docílit nějakého cíle, který někdo má, ať už to
- 29:46bude mít AI, nebo třeba my jako fúze jasně víme, co chceme
- 29:49udělat, tak. Je na to můžeme nasadit, a když
- 29:53bude dost dat, tak to třeba vymyslí rychleji než my.
- 29:55Myšleno. Jaderná chůze jadernou fúzí.
- 29:57Martine. Ty jsi chtěl reagovat, já jsem
- 29:58se. Chtěl doptat honze vlastně v té
- 30:01knize se občas říkají některé věci s hroznou lehkostí a úplně
- 30:05jako vyrážej dech člověku. Ale teď si říká, ale co je to
- 30:08BA? Tam je, že během několika hodin
- 30:11umělá inteligence vymyslela 6000 molekul jedů, který můžou bejt
- 30:15potenciálně stejně nebezpečné jako novičok.
- 30:18A teď si člověk řekne, no dobře, ale jde to syntetizovat.
- 30:23Víme skutečně, že to tak bude jako co se o tomhle máme myslet?
- 30:27No tak ano to je. To je další věc, že teď jsme
- 30:31svahli o biologii, teda tak ty uměli inteligence, jo, když
- 30:34ještě jako poslala, bavíme se o těch umělejch inteligencích, co
- 30:38nejsou klasifikační, ale ty, co jsou generativní, to znamená, že
- 30:41se něco naučí a stejně to jako ty jazykový modely si s nima
- 30:44může povídat a oni říkaj něco, co se nenaučili z toho ty, který
- 30:48rozpoznají, že je to pes a že je to kočka a ten ty se teda naučí
- 30:52na tom jazyku, který my máme. No a.
- 30:54Jazyk, to je vlastně milineární záznam informace a ta biologie
- 30:58to je hodně podobný DNA. Není nic jiného než lineární
- 31:01záznam informace. Ta informace je jiná, ten jazyk
- 31:04je jiný, jsou tam jiná písmenka, ale pořád je to princip je totéž
- 31:07proteiny nem lich totéž, to je prostě nějaká nějaká sestava 26
- 31:13písmenem od 20 písmenek a ve finále nějaká, takže tam se ty
- 31:18modely můžou naučit podobným způsobem u molekulu, který jsou
- 31:21pod tadyrozměrný a tak je to trošku složitější, ale taky to
- 31:24jde. No a tenhleten přístup je přesně
- 31:26převést složitý molekuly na 1 řetězcový záznam a pak kousek
- 31:30vyhodíte a řeknete mi to nahraď něčím, co by taky mohlo bejt
- 31:33dobrý. No a ten ta vize je dokonce i,
- 31:36že už dneska existujou vlastně automatizovaný laboratoře.
- 31:39To už jsou, když farmaceutický firmy hledají nový léky, tak to
- 31:43už nedělají jednotlivý věci rukama, že jo, to IU nás máme
- 31:45openscreen támhle v krči, což je taková, říkáme tomu kůlna,
- 31:49protože to má dřevěný obložení a tam sou teda přístroje za mnou
- 31:52200 milionů, který to dělaj v podstatě samý.
- 31:54Ještě pořád je řídí nějakej člověk, kterej má vědeckej záměr
- 31:58a říká, já chci, aby ta buňka reagovala takhle a teď se tam
- 32:02vyzkoušej desetitisíce chemikálií v 50 různejch
- 32:06podmínkách a měří se to všechno vlastně je dělá to robot, kterej
- 32:10je schovanej ve skříni a už tam ten člověk nemusí přijít.
- 32:12No a když bysme si představili, že takováhle AI se na to napojí,
- 32:17tak už si tam ty experimenty může dělat bez nás.
- 32:19My tam jenom občas dovezeme náklaďák s chemikáliema a bude
- 32:22to napojený na proud a. Cosi tak oni vymyslej udělej to
- 32:26není, ale stejně jako s tím zeleným proteinem,
- 32:28fluorescenčním ano, to se to se testuje, takže se to testuje
- 32:32opravdu v tomhle tom případě to teda netestovali, ale v jiných
- 32:35případech se to testuje a jsou překvapivě úspěšníky v tomhletom
- 32:41a. Narazil jsem tam na něco z
- 32:42pohledu biologa co bylo úplně mimo, jako že fakt to není ani
- 32:45scifi. To je sen, který se úplně nedá
- 32:49realizovat. No narazila už se mnohem
- 32:52opatrnější a už jsem to teďka říkal, tohle nebude možný.
- 32:55A potom prostě za rok se zjistí, že to je houska nakráně, takže
- 33:00je pravda, že ty autoři jsou spíš teda technici nebo přes AIA
- 33:05na tu biologii mají někdy takový trošku povrchnější nebo
- 33:08vzdálenější jako pohled, ale nena úplnej jako úplnej nesmysl
- 33:14ještě. 1 věc, co mě k tomuhle napadá, protože oni tam popisují
- 33:17něco, co už taky je. Známo, že se zlevňují.
- 33:22Ty biotechnologie nebo teď konkrétně myslím v souvislosti s
- 33:24tím? Chrisperem a ta vize je taková,
- 33:27že skoro každý 2 poučený přírodovědec může relativně
- 33:32levně v garáži vytvářet nějaký nový druh nebo třeba upravovat
- 33:37viry. Tak jsme jsme tam už nebo.
- 33:42Ano to dneska dělaj středoškolský studenti u nás na
- 33:44borce AA. Kdyby si to chtěli udělat doma,
- 33:47tak to udělají. Opravdu je to takhle jednoduchý.
- 33:50Čili kdybych chtěl upravit virus.
- 33:55Něčeho pane no. Takhle ještě, že jsem se
- 33:58naštěstí nikdo nedostane, ale. Existuje dokonce i něco, čemu se
- 34:03říká bio art. Nějaká slečna modifikovala
- 34:08motýly, aby jim rostly na křiž jiné vzory, než který byly
- 34:11přírodní a prostě jako zábavu. Jo, takže ano, ty technologie
- 34:16jsou takhle jednoduchý a takhle? Jo, je to opravdu tak je tak já
- 34:20bych. Teď do toho vnesl to téma
- 34:23vlastně možných regulací nebo nějakého zadržování té
- 34:27technologie, což je do velké míry tvoje parketa kristýno.
- 34:32A taky mě by zajímalo, jestli je to kniha, kterou bys vlastně
- 34:35někomu doporučila. Tohle téma zajímá a no a pak se
- 34:39budu ptát ještě dál. Mě.
- 34:41Přišlo, že tam jakoby tolik nepřicházelo s těmi
- 34:43doporučeními, což ale je ale podle mě hodně spojené s tím,
- 34:46jako v jaké době AV jakém kontextu ta kniha vznikala, což
- 34:50mi přišlo, že právě bylo vidět IV té ukázce, kterou jsme tady
- 34:52třeba četli, že tam jako hodně mluví o těch rizicích spojených
- 34:55s demokratizací, té technologie, což si myslím, že v roce 2023
- 34:58vlastně bylo velké téma a myslím si, že tak někdy v průběhu
- 35:02loňského roku jsme se dostali spíš do fáze, kdy se kdy došlo k
- 35:06nějaké jako koncentraci moci v téhle oblasti.
- 35:10A mnohem víc mluvíme naopak o té jako koncentraci moci AO té
- 35:13kontrole, která je spousta technologií spojená, takže
- 35:16naopak, jakoby se mnohem víc diskutuje třeba nějaká jako
- 35:18možnost toho, že by třeba spojené státy nacionalizovali i
- 35:22její průmysl, aby nad ním měli kontrolu, aby mohli zajistit, co
- 35:27přesně se bude v těch laboratořích dít, což vlastně
- 35:30jakoby jde trošku proti tady tomuhle jako demokratizačnímu
- 35:33narativu toho, že. Malé skupinky někde uprostřed
- 35:37klání. V nějakém státu spojených států
- 35:40si budou dělat nějakou svojí věc a zakládat svůj vlastní stát.
- 35:43No a pak tam je spíš teďka ten jako ta tendence k tomu jako mít
- 35:46nad tím přesně kontrolu a přesně vědět, co se bude dít AA to mi
- 35:50přijde, že jakoby je přesně jakoby spojené prostě s tím, jak
- 35:53jakoby ten i ten i vývoj pokračoval a zároveň tím pádem i
- 35:57nějaké ty intervence, které se třeba teďka už jakoby.
- 36:01S regulací i spojují tam možná nejsou tak zmiňované, protože
- 36:04prostě v té době se o nich tolik nemluvilo a.
- 36:07Jsou různé jako inovativní a regulační nástroje typu safety
- 36:10case v češtině asi jako bezpečnostní případy, což je
- 36:14teďka 1. Jako třeba z nových, jako
- 36:15prozkoumávaných, takových jako politických intervencí a hodně
- 36:18populárních v Británii, kde na tom pracuje, je i bezpečnostní
- 36:21institut a snaží se jakoby přinést tuhle tu jako tenhleten
- 36:25regulační postup. A právě třeba do britské
- 36:28politiky a tak. Takže si myslím, že jako je to,
- 36:31je to hodně prostě kniha své doby.
- 36:33Třeba co se té Gavin týče, tak samozřejmě o některých prostě
- 36:36těch tématech. Nemohla mluvit, protože v té
- 36:39době já jí nebyla politické téma.
- 36:42Což už je hudba minulosti. Já nevím IZ vašeho newsletteru,
- 36:46že aktuálně se třeba ve spojených státech řeší regulace
- 36:50umělé inteligence na úrovni jednotlivých států, což tedy v
- 36:55čem? Jako je tam i nějaká inspirace
- 36:59vlastně tím, co se podařilo třeba prosadit v evropské unii,
- 37:02zatím na čem se pracuje a je to ve velkém kontrastu s tím
- 37:05přístupem současné americké administrativy Donalda Trumpa.
- 37:09Který tak trochu přehodil výuku od toho, co prosazovala vláda
- 37:13joe Bidena, je to daleko jako liberálnější přístup k tomu
- 37:18vývoji. AI, taky bylo několik velkých
- 37:21mezinárodních summitů, které se v odlišné míře věnovali.
- 37:25Ta otázce bezpečnosti. Naposledy, že jo v Paříži, tak
- 37:29kam teď podle tebe dospěl svět v otázce té regulace a souhlasíš?
- 37:34S tezí těch autorů, že vlastně? To musí být nějaká mezinárodní
- 37:39dohoda, aby to fungovalo, že to vlastně nemůže táhnout pár států
- 37:43a ostatní se pak přidají. Jak tohle hodnotíš?
- 37:46Myslím si, že jako obecně je shoda na tom, že je potřeba mít
- 37:49nějakou mezinárodní dohodu, ale je tam jako hodně.
- 37:52Je to hodně varchrlaté v tom, že jako je tam spousta nejistot ty,
- 37:56nejistoty jsou na úrovni toho, jestli jsme vůbec v nějaké jako
- 37:59geopolitické situaci. Kdy by bylo možné takové dohody
- 38:01dosáhnout. Zvlášť v kontextu toho, že
- 38:05americká administrativa současná je naopak velmi jako.
- 38:08Zaměřená na tu akceleraci v rámci i pokroku a na to, aby
- 38:15Amerika byla tu dominantní silou VI rozvoji a tak tak říct kejít
- 38:19jako vyhrála nad čínou, což jako je otázka, jestli je možné v
- 38:22něčem takovém vyhrát, ale každopádně jsou tam tyhle
- 38:26tendence, což jako samozřejmě se odklání od nějakých jako těch
- 38:29mezinárodních smluv. Naopak tam spíš teď vidíme, že
- 38:32se Amerika snaží kupovat různé jako další státy po světě proto,
- 38:35aby. Podpořila ten svůj růst.
- 38:38Ať už jde třeba o ty jako nedávné smlouvy se saúdskou
- 38:41Arábií a se spojenými arabskými emiráty, tam právě prezident
- 38:44Trump se snažil vyjednávat, jak investice těchto států do
- 38:48americké i infrastruktury, tak zároveň i nějakou spolupráci na
- 38:52budování data center v tom regionu, kde je prostě energie
- 38:55mnohem levnější a dostupnější a zároveň je i jako strategicky
- 38:59umístění pro třeba nějaké nějaké pak posílání.
- 39:03Napojování Evropy, asie. A Afriky na na ty jako jejich
- 39:09datacentra a tak dále, takže je to prostě jako strategický
- 39:11region z mnoha důvodů v dalším. Jako důvodem, proč by nějaká
- 39:16mezinárodní dohoda byla problematická, je třeba to, že
- 39:18nemáme vlastně žádné jako verifikační mechanismy pro to,
- 39:21abychom byli schopni monitorovat, jak jak se ta
- 39:25dohoda dodržuje. Často se používá nějaké jako
- 39:28srovnání SS nukleárními technologiemi.
- 39:31A nebo, tedy hlavně tedy nukleárními jadernými zbraněmi.
- 39:34Ale je hodně jiný typ technologie a je poměrně těžké
- 39:38monitorovat kdo. Vyrábí, nebo trénuje, a tím
- 39:43pádem právě třeba ta ta otázka těch verifikačních mechanismů je
- 39:46poměrně jako záludná, protože i kdybychom se na něčem shodli,
- 39:50tak je jako velká otázka toho, jestli bychom byli schopni tu
- 39:53dohodu nějak vymáhat a zároveň jak jak, jak bychom jí vlastně
- 39:57tedy vymáhali, nebo jak bychom kontrolovali, že ty státy
- 40:00opravdu dělají to, co k čemu se zavázali?
- 40:05V tomhle ohledu asi sedí ten příměr závodu teď.
- 40:09K závodům ve zbrojení, že jo, já si myslím.
- 40:12Že teď je to jako hodně přesný pojem AA myslím si, že se k němu
- 40:16americká administrativa jako aktivně hlásí, což je možná
- 40:20jakoby část toho problému, že je to je tam velmi jasný přístup k
- 40:25tomu, že jsou jsou ochotni do toho investovat.
- 40:29Co všechno půjde a zároveň jsou vlastně ochotní přistoupit k
- 40:32nějakým jako dejme tomu netradičním krokům.
- 40:35Proto, aby toho byli schopni dosáhnout, což právě bylo třeba
- 40:37zmiňováno v kontextu té regulace, kde se aktuální
- 40:40republikáni snaží zablokovat schopnost jednotlivých států
- 40:44spojených států a moci regulovat AI, což je poměrně netradiční,
- 40:49protože jinak se většinou a naopak republikánská strana
- 40:53zasazovala spíš za to, aby ta federální vláda byla slabší a ty
- 40:57jednotlivé státy si mohly rozhodovat o věcech samy a teď
- 40:59se vlastně poměrně netradiční kličkou v 1.
- 41:02Zákoně snaží. Zablokovat v tom, aby mohli
- 41:04vlastní regulaci připravovat AA tím pádem, aby i nikde ve
- 41:09spojených státech regulována nebyla.
- 41:10V dalších 10 letech vy. Jste taky zmiňovali to, že v tom
- 41:14ta knížka už je trochu starší z pohledu té centralizace
- 41:17decentralizace, ale napadá mě, není to tak dávno, co se tady
- 41:21hodně mluvilo. O tom čínském modelu deepsek o
- 41:23tom, že najednou se může objevit mnohem levnější model, který
- 41:28potřebuje. Menší výpočetní výkon, aby
- 41:31vlastně dokázal stejné výsledky. Nebo srovnatelné výsledky, tak
- 41:36není to nějaký důkaz o tom, že možná se to tohle ještě může
- 41:40změnit, že ta decentralizace, že se můžou objevit jako najednou
- 41:46jako černá labuť modely, o kterých teď vůbec nikdo neví?
- 41:49Já si myslím, že jako jsou, o kterých nikdo neví, protože
- 41:53reálně ten jako vývoj v těch laboratořích je absolutně
- 41:55nekontrolovaný, nebo jakoby my nevíme, co se tam děje.
- 41:58My nevíme, jaké modely teďka mají.
- 42:00My nevíme, my nevíme jakoby jak moc jsou napřed.
- 42:03A tím pádem, to je pro nás vlastně jako hrozně těžké
- 42:06odhadnout, co přijde, protože nad tímhle není 0 kontrola,
- 42:09právě i jakoby třeba různí jako bývalí zaměstnanci open ai teď
- 42:12jako hodně vystupují k tomuto tématu a upozorňují veřejnost,
- 42:17že to je to je problém. To, že nevíme, co se děje uvnitř
- 42:20těch laboratoří a že by se politici měli zasazovat o to,
- 42:24abychom věděli, co se uvnitř děje, protože pak nevíme, na co
- 42:27se připravovat a. V tom právě i pak ty instituce
- 42:30nemají možnost vlastně dostatečně rychle reagovat,
- 42:33protože. Už jenom čistě tím, jak je tam
- 42:36moc rozdělená, jsou nutně prostě třeba půl roku pozadu v tom, co
- 42:41reálně vidí, že i umí, protože to, co je i reálně umí, je někde
- 42:44jakoby schováno a my my vidíme jenom nějakou nějakou jako
- 42:48výseč, kterou nám ty společnosti zatím jako dovolí vidět.
- 42:51Ale to, co zatím nereleasovali, prostě nevíme.
- 42:54Ještě je. Taky 1 věc, kdy se ta situace
- 42:56hodně změnila od téhle té knížky?
- 42:59Touhle dobou jsme ještě těma všichni do fascinovali jako, co
- 43:02umí a teďka, jestli bude těch 10 prstů.
- 43:04Nebo něco, ale díky tomu, že se ty rary dostaly na úroveň, kdy
- 43:09můžete opravdu generovat obrázky, který jsou dneska už ze
- 43:12znatelný od fotografií a dat, tak začali, zase je zasahovat do
- 43:17velkého množství práv těch lidí, který vlastně vygenerovali ty
- 43:21původní data, na který se všechno naučilo, a takže 1 z
- 43:25věcí je, že ty malý firmy možná. Se těžko soudí s velkou firmou s
- 43:29malou lehce, protože dokázat, že jsme model natrvali jenom na
- 43:32datech, ke kterým jsme vlastně měli právo.
- 43:35Oni to bezosly všechno ukradli na začátku jako bez jakejchkoliv
- 43:38skrupulí. To už je hotovo, jako zdálo se
- 43:42udála některý mezi pak. Jo to je dneska.
- 43:44S některým se dohodli, s některými se hádají a čekali na
- 43:46ten. Spor jinak.
- 43:48Poměrně zajímavý jako vlastně hnutí, který není úplně malý, je
- 43:52jako poisovník těch modelů. Ty vlastně existujou algoritmy,
- 43:56kdy se do třeba obrázku do fotografií přidává takový data,
- 44:01který vlastně poškodí. Potom to učení těch modelů.
- 44:05Takže když máte moc těch dat v tom modelu, tak on se asi nic
- 44:09nenaučí, nebo naopak prostě ho rozbijete.
- 44:11Jo, já vím, že muzice se to třeba dělá hodně a vy prostě se
- 44:14nemohlo trénovat na mojí písničce, tak než jí dám ven,
- 44:18tak jí proženu algoritmem, který zašpiní, takže to je
- 44:21nepoužitelný pro to cvičení těch modelů, oni zase ty modeláři to
- 44:25uměj najít tak, takže teďka bude jako takovej souboj, který data
- 44:28jsou vlastně vhodný a který ne. Tak mě by hrozně zajímalo,
- 44:31jestli tam až nám řekne, proč to vlastně čína nemá tak dobrý
- 44:34modely, protože já si třeba myslím, že to je hodně
- 44:36způsobený. Možná jazykem ale je taky hodně
- 44:39způsobený tím, že prostě nemá přístup k datům, protože tam je
- 44:42ta cenzura velká a asi prostě nemají dostatečně široký spekt.
- 44:46Možná že to ovlivňuje tenhle ten přístup, takže to je třeba další
- 44:49prvek, o kterým jsme před rokem a půl, nebo třeba okama
- 44:52nevěděli, že že se takhle ty lidi budou bránit, protože.
- 44:56Ty umělce nebo tolik lidí s tím živěj to prostě strašně silně
- 44:59ovlivňuje, protože. Vy si vygenerujete obrázek,
- 45:02který jde na ten samý trh, na kterým oni pracujou a přitom se
- 45:04to na jejich práci naučilo, že jo.
- 45:07Tak to byla. Házená rukavice já nechci.
- 45:08Úplně bejt skeptickej, příliš ale řek bych, že obecně žádnej z
- 45:13tady těch způsobů nefunguje. Řekl bych, že jako tadyten data
- 45:16pose ring je i něco, co jako lidi baví a rádi to čtou,
- 45:20protože to jako pozitivní vize toho, že si jako dokážou aktivně
- 45:22bránit, ale je to veskrze iluzorní věc, která buď je
- 45:26natolik křehká, že ten model stejnak v podstatě neovlivní.
- 45:29A když už jo tak jako hodně specifickejch podmínkách do těch
- 45:32jako dat je fakt hodně a je to jako spíš jako taková jako
- 45:35laboratorní vědecká otázka než jako praktická věc a zároveň
- 45:40řekl bych, že jako reálně třeba to není skoro 0 jako realistická
- 45:43oprava edscale já dokonce můj výzkum je hodně právě
- 45:47orientovaný na to, jak se liší vnímání EI modelů a jak se liší
- 45:50vnímání lidí. A právě na tady ty věci, které
- 45:52se jmenují u obrázků, takzvaně arther z realní útoky, jsou to
- 45:56takové jako maličké modifikace, které zmatou ten model.
- 45:59Ale prakticky, i když existují tak to jako neovlivňuje ty ty
- 46:02modely ve schopnosti jako vidět. Ty normální, nepoškozený obrázky
- 46:05správně, takže je to lákavý a je to optimistický výhled.
- 46:09Ale myslím si, že bohužel nerealistický AU té číny u toho
- 46:13deepsíku je, když se bavíme často o dezinformacích kolem AI
- 46:17jako kolem toho, že by je generovala, tak mi přišlo, že
- 46:19jako ten deepsecer 1 před pár měsíci byla dobrá ukázka lidmi
- 46:23generovanejch bez informací, protože ten model sám o sobě
- 46:26nebyl levnější než západní modely.
- 46:29Ten tým, který ho postavil, nebyl menší než ty západní
- 46:32modely. I přesto si ale většina lidí,
- 46:33která byla vystavená typický mediální dietě i od jako
- 46:37slavných velkejch mediálních domů, odnesla dojem, že čína je
- 46:41schopná vyrobit 100 krát. Menší model se stokrát menším
- 46:43týmem stokrát levněji, který je stejně chytrý reálně ten tým,
- 46:47který postavil diepsík. Ten ten vědeckej článek, kterej
- 46:50ho popisuje, má asi 200 autorů, takže jako 200 vědců jsou autoři
- 46:53na tom vědeckém článku. Ten laboratoř samotná má 1000
- 46:56lidí, který tam pracujou, takže jako v žádným.
- 46:58V případě, že je malá a je porovnatelná s těma, největšíma
- 47:00laboratořema na světě a ten hardware, na kterým ten model
- 47:03trénoval, stál minimálně miliardu dolarů podle odhadů.
- 47:06Takže jako i to je na škále typickejch velkejch projektů na
- 47:09západě, takže bylo zajímavý sledovat, jakoby to mediální
- 47:12haló kolem toho modelu a to jak jako měl ká, byla analýza i toho
- 47:17veřejně vydanýho článku, kterej přesně popisoval tady ty detaily
- 47:20toho tréninku a ceny a výkonu a velikosti toho modelu.
- 47:24Takže. Mě překvapovalo jako jak, jak
- 47:26jako jiný. Vhledy si typickej člověk odnesl
- 47:30z toho z toho deep CQAS uvedením toho modelu toho r 1 před těma
- 47:33pár měsíci. A co jsem si třeba odnesl já,
- 47:35nebo to jakoby akademičtější komunita kolem AI?
- 47:37Ale je pravda, že tenhleten moment byl taková černá labuť v
- 47:41tom, že lidi věděli, že ta laboratoře existuje, že deepse
- 47:45jí publikovali lepší a lepší modely, ale nevěděli jsme, jak
- 47:47rychle se dokážou dostat na úroveň těch nejlepších západních
- 47:49laboratoří a je možné, že probíhá nějaká jako podpvrchová
- 47:52difuze nápadů, který jsou potřeba k tomu, aby ty modely
- 47:57trénovaly. V tom v té knize v té ukázce,
- 48:01jak jsem tady měli čtenou, byli jsme jiovaná společnost
- 48:04stability AI to je open source AI společnost, v níž jsem úplně
- 48:08náhodou jsme neplánovali. Takhle dělal ředitele výzkumu
- 48:11jazykových modelů, AK tomu, aby ty modely byly trénované dobře
- 48:14je potřeba jako 100 různých správných rozhodnutí malých
- 48:17insighů, které se musí použít k tomu, aby to dělalo všechno tak,
- 48:21jak chceme a tady ty věci jsou relativně těžké objevit a jsou
- 48:23drahé, ale jakmile je někdo objeví, tak se snadno
- 48:25komunikujou někomu jinému. Takže možná Amerika, což je
- 48:29typický hodně technologií, jakoby proráží tu jako tu
- 48:32hranici toho, co se ví. Ale jakmile se 1 ukáže, že něco
- 48:35je možný, nebo se ví, jak se to udělá, tak skrze buď jako
- 48:38legální nebo i legální mechani je možný, že jako tady ty věci
- 48:42proliferujou rychleji, než jsme si mysleli.
- 48:44Takže ty jiný laboratoře jsou schopný catchovat AS tou s tou
- 48:48jako hranicí poznání rychleji, než jsme si mysleli.
- 48:50No ale ale v něčem to, že deepsic je teďka jako laboratoř
- 48:53na úrovni těch západních, je překvapivý, ale ten model sám o
- 48:57sobě nebyl. Výrazně efektivnější, levnější
- 48:59ani menší než jsme čekali, ale dostali.
- 49:01Se k tomu aniž by měli ten top hardware, na který byla omezení
- 49:05ze strany USA. A ta.
- 49:07Cena v případě číny je otázka, jak co tam jako schované ne
- 49:13jako, že se těžko odhaduje, kolik to reálně stojí ve
- 49:15srovnání s tržní firmou v Americe.
- 49:18Ale ten. Výpočetní výkon se Standa
- 49:19přepočítá na dolary a tam byla pravda, že ten model stál
- 49:22pravděpodobně těch 5 milionů dolarů.
- 49:23Jak říkali, ale to je cena toho jako konečného finálního
- 49:26tréninku, jen toho 1 modelu, který bude relativně malej.
- 49:29To ani nebyla ten největší verze.
- 49:30Ta ta ta pětimala. Cifra nebyla k tomu největšímu
- 49:33modelu, který publikovali a zároveň.
- 49:36To nezohledňuje jako platy výzkumníků a všechny ty pokusy,
- 49:38které nevyšly při tom výzkumu toho modelu.
- 49:40Takže když porovnáme tady tu cenu za ten 1 konkrétní model s
- 49:43neznámým číslem, třeba se opray, protože oprayi nepublikuje tady
- 49:46ty čísla, tak vlastně jako ani nevíme co porovnávat, ale když
- 49:49se potom později vyjadřovali lidi třeba dario a madei CO
- 49:53antropicu, což je takový jakoby 2 openy i je v něčem, tak ten
- 49:58říkal, že ceny jejich moelu interně jsou hodně obdobné.
- 49:59Tomu při podobný dalekosti jako má g psích, takže v tom.
- 50:04Se zdá, že to není až tak revoluční věc, jak jsme si mohli
- 50:07myslet a možná bych zmínil ještě 1 bod, který souvisí s tou
- 50:10knihou a to je změna posledního možná půl roku, kdy 1.
- 50:14Z těch argumentů byl, že miliardář nebo chudák oba
- 50:17používají ten samý excel a ten samý iPhone nebo ten samý
- 50:20Android telefon. Tohle umělé inteligence byla
- 50:22pravda až do půl roku zpátky, protože je pravda, že třeba GPT
- 50:26na GP 4 za 20 $ měsíčně každý měl úplně stejný na světě.
- 50:31Ale posledního půl roku je tak takovým trendem v umělé
- 50:34inteligenci. To české slovo je takový divné,
- 50:36ale jsou to takzvaně, přemýšlecí modely, které tráví víc času
- 50:40tím, že jakoby mluví interně sami se sebou skrze něco, co
- 50:42vypadá jako vnitřní dialog a rozmýšlí si, jak odpovědět, tak
- 50:45já se třeba zeptám, kolik je 1 + 5 a ten model si řekne a
- 50:48uživatel se ptá, kolik je 1 + 5 1 + 5 je 1 + 3 + 2 a to je a
- 50:53začne se jako počítat interně v hlavě a během toho počítání
- 50:56spotřebovává výpočetní výkon a tudíž stojí.
- 50:59Víc peněz na na dýlku to a přemýšlení, takže?
- 51:04Čím víc dáme tomu opravdu k dispozici?
- 51:05Toho jako interního monologu? Tím dražší je ale tím chytřejší
- 51:08je taky v té odpovědi, takže bohatší lidi a bohatší korporace
- 51:12mají potenciálně skrz tady ty přemýšlející modely k dispozici
- 51:15chytřejší výstupy, než má chudý člověk, protože si můžou
- 51:18zaplatit víc jakoby interního přemýšlení v toho modelu.
- 51:21A to bylo to bylo nějaký škálování nebo nějaký typ
- 51:23parametrů, který jsme před tím půl roku nevnímal jako
- 51:26důležitej? Takže to není ta to 1 slovo,
- 51:29který ten pořád odpoví, ale to přemýšlení, který stojí peníze
- 51:31na tý cestě k tomu výsledku, když jsem tady.
- 51:33Zmiňoval tu konferenci Googlu, tak tam třeba oznámili tuším, že
- 51:37ty modely nejvýkonnější nebo nejvyspělejší budou k dispozici,
- 51:43že jo za nějakých 242 150 $ měsíčně, takže to je jako nějaká
- 51:47nějaký náklad který a to? Nejsou ani jako vrchní limit já
- 51:51ty ceny, když se díváme, je taková slavná.
- 51:54Sada dat, na který se testuje schopnost je.
- 51:56Umělejch inteligencí řešit něco jako takový ty.
- 52:00Umělo takový ty inteligenční testy s těma různejma maticema
- 52:03obrázků a jak jako máme nějakou řadu 3?
- 52:05Jak tady je ten čtvrtej třeba takový to jako typický obrázkový
- 52:08úlohy AV tom jsou umělý inteligence typicky špatný, ale
- 52:11když jim dáme hodně času přemejšlet, tak jsou v tom
- 52:12relativně dobrý a ty nejlepší modely na světě, který mezi těma
- 52:16umělejma inteligencema vyhrávaj typicky spotřebujou stovky 1000
- 52:19Kč na odpověď na 1 konkrétní úlohu tady toho typu, to je
- 52:22nejdražší, co to kdy bude, takže to není jako něco, co by bylo,
- 52:25co by bylo minimum tý. Sady, který uvidíme ale to, že
- 52:29dokážeme jít z toho, že ten model nic z toho nevyřeší a na
- 52:33ten model můžeme hodit za 1000 Kč a najednou to řešit umí.
- 52:35Ukazuje, že jako je tam hodně prostoru, proto skrze víc zdrojů
- 52:39koupit vyšší kognitivní schopnosti a to je aspekt,
- 52:42kterej byl úplně ignorovanej třeba do roku zpátky, protože
- 52:45jsme nevěděli, jak velkej faktor to je, tak.
- 52:48To ještě vrátím na chvíli k těm regulacím, o kterých ještě pak
- 52:51bude asi víc řeč, tak? Mně přijde pozoruhodné.
- 52:54Při té četbě si člověk uvědomuje.
- 52:56Protože oni nepopisují jenom umělou inteligenci, ale dávají
- 52:59to do vztahu IK těm předchozím technologickým vlnám.
- 53:01Je to pěkně zasazené do kontextu.
- 53:04Jak dlouhou dobu to trvalo IV případě těch některých napůl
- 53:09úspěšných snah zregulovat nebo zadržet některé ty technologie
- 53:14příklady můžou být, že jo, tak v případě jaderných zbraní je to
- 53:18hodně jako specifická věc a sofistikovaná technologie.
- 53:22Která nemá úplně každý k dispozici, ale třeba se povedlo
- 53:24zakázat. Ty lasery v 90.
- 53:27Letech, které vás dokážou úplně oslepit, nebo příklad
- 53:32montrealského protokolu, kdy se podařilo, že jo zakázat,
- 53:35zakázat, zjednodušeně v reonii kvůli ozonové díře, tak mě by
- 53:39zajímalo, jak se ta debata právě v regulacích toho zadržování
- 53:44posunula. Jestli, protože není to tak
- 53:46dávno, co jsme si četli o tom ty výzvy pozastavme vývoj.
- 53:51Uvalme moratorium na toto a toto tak.
- 53:54Když se na to podíváte z pohledu těch vašich disciplín nebo
- 53:58experti biologie ve vztahu AI nebo obecně regulace, je to
- 54:04ještě někde teď ve hře jako debata o tom, že sem bychom
- 54:08neměli tu mělou inteligenci pouštět.
- 54:09Tady je opravdu je možné na to ještě nějak uvalit moratorium a
- 54:15udržet to vlastně opravdu zadržené oddělené od od té AI.
- 54:21No, já myslím, že jako evropská unie se jako snaží něco takového
- 54:25vytvořit třeba tím, že v rámci aktu OAI je vlastně ta
- 54:29klasifikace umělé inteligence na základě jako nějakých rizik,
- 54:33takže jsou nějaká jako dejme tomu neakceptovatelná rizika.
- 54:39A tudíž jakoby nějaké jako aplikace i, které i evropská
- 54:41unie přímo zakazuje. Takže dejme tomu, to bychom
- 54:43mohli vnímat jako nějaké nastavení červených linií, když
- 54:46za tohle už nejdeme, to už nedovolíme.
- 54:49Ale obecně si myslím, že jako zakázat, zakázat i já nebo nějak
- 54:54zakázat jako určité aplikace bude prostě vždycky těžké už
- 54:58jenom kvůli té nerovnosti. V rámci toho jako přístupu k
- 55:01informacím, jak jsem zmiňovala v tom, že prostě my nevíme co
- 55:05přesně, jako by už ty AIS umí a tím pádem se nám špatně
- 55:08predikuje, co budou umět za měsíc, za půl roku a za rok,
- 55:13takže v tom je tam jako velmi nevyrovnaná soutěž mezi těmi
- 55:16regulátory a mezi těmi jako developery.
- 55:19Umělé inteligence a zároveň si myslím, že jakoby se pořád
- 55:25vlastně hledá ten konsensus na tom, co si vůbec jakoby dovolíme
- 55:29představovat jako nějaká ta rizika a že jsme se tady bavili
- 55:33třeba o těch jako rizicích uloženě spojených s tím jako
- 55:36uživatelem, který má nějaký jako špatný úmysl a chce i já ji
- 55:40zneužít pro jako nějaký svůj jako čin, který ať už
- 55:44teroristický čin, nebo nějaký jako vytvoření nebezpečného
- 55:47patogenu něco takového? Ale zároveň si musíme
- 55:50uvědomovat, že je to riziko tkví IV těch jako systémech samotných
- 55:53AA myslím si, že tam se pořád ještě jako část společnosti
- 55:56brání tomu jako uvědomění si toho, že ty i modely můžou být
- 56:00samy o sobě nebezpečné a my nemáme dostatečné porozumění
- 56:04jejich jako vnitřního fungování, proto, abychom byli schopni
- 56:08vlastně odhalit, kdy nebezpečné jsou, jsou různé.
- 56:11Jako dejme tomu mitigační prostředky, které můžeme
- 56:14používat pro to, abychom. Odhalili, kdy se chovají,
- 56:17nebezpečně používáme například teďka.
- 56:19Hodně evaluace nějaká zhodnocování toho, jak se
- 56:22chovají v různých situacích. To je 1 z našich dejme tomu
- 56:25bezpečnostních metod, které jsou teďka velmi populární a je to
- 56:28zatím jako poměrně nevyvinutá metoda.
- 56:30Pořád nejsou jako stanoveny nějaké standardy pro to, co jak
- 56:34správná evaluace vypadá, ale jsou firmy, které se na to teď
- 56:38zaměřují a snaží se, a já jí testovat do nějakých jako
- 56:41situacích a zjistit, v kolika procentech případů se AI chová
- 56:44nějak nebezpečně, v kolika procentech případů vás po
- 56:47naléhání vám dá nějakou informaci, kterou by.
- 56:50Měla dát v kolika případech vám začne přemýšlet nad tím, jak vás
- 56:55podvést, protože má nějaký svůj vlastní úmysl, ať už je to to,
- 56:59že nechci být vypnutá, nebo že má, že je naprogramována k tomu,
- 57:03aby dosáhla nějakého jiného cíle, než toho cíle, ke kterému
- 57:07se jí snaží vést ten uživatel a tak dále.
- 57:10A myslím si, že tady to jako rizika to jsou.
- 57:13Že nechce být vypnuté. Jo.
- 57:14To se, to se jako v evaluacích jako běžně objevuje AA je to
- 57:20samozřejmě jako nějaké riziko, o kterého jsme si vědomi, ale
- 57:23zároveň pro hodně třeba politiků bych řekla, že to je pořád
- 57:26vlastně jako nějaký scifi scénář, se kterým se ještě úplně
- 57:28jako nesžili s tím, že ty i systémy dokážou být takto
- 57:31nebezpečné samy o sobě bez toho, aby tam byl ten lidský prvek,
- 57:35který z toho systému udělá nebezpečný systém, a to, že my
- 57:39neznáme ty vnitřní procesy, a to jak.
- 57:42Ta ia je k tomu jako rozhodnutí dojde.
- 57:44Samozřejmě nutně znamená, že my se snažíme jako regulovat něco,
- 57:47čemu nerozumíme, o čem nevíme a ani jako ty techničtí experti
- 57:52neví. A proč se chová tak, jak se
- 57:53chová a zároveň něco, co potenciálně může být za pár let
- 57:56chytřejší než my? Takže jak my vlastně můžeme
- 57:58vědět, že my, my to nějak správně regulujeme, když ten
- 58:02systém může mít nějaký svůj dejme tomu jako, a to už je
- 58:05takový jako scénář, který je pro hodně lidí těžko představitelná,
- 58:08že ten systém může mít nějaký svůj masterplán a my už vlastně
- 58:10jakoby regulujeme entitu, která je chytřejší než my.
- 58:13Jako my my jsme hodně zvyklí na to, že jsme ten nejchytřejší
- 58:16jako článek toho systému, ale reálně se může stát, že se ten
- 58:20systém obrátí a my už nebudeme prostě nejchytřejší článek toho
- 58:23systému chtěl. Reagovat a prosím reaguji jenom
- 58:26k tomu připojím otázku na vývojáře jazykových modelů
- 58:29velkých proč proč nechce být vypnutá?
- 58:32Já jsem. Jenom chtěl zmínit, že je na 100
- 58:34% pravda, že ti lidi, kteří ty modely staví 1 z nich jsem třeba
- 58:38byl, nebo jsem já. Tak my jako reálně opravdu
- 58:40nevíme, jak interně fungují, to není něco, co by jako říkali
- 58:43neexperti a lidi, kteří nechápou, jak ty věci reálně
- 58:47fungují. Ale experti říkali, experti si
- 58:48mysleli, že mají dobrý vhled do toho, jak fungují jako reálně.
- 58:51Ty systémy jsou o hodně víc jako vyrostlé pod naší supervizí,
- 58:55spíš než zkonstruované krok po kroku.
- 58:57My umíme supervizovat v tom růstu, ale stejně jako když tu
- 58:59provizujeme strom při růstu, tak jakoby nekontrolujeme, jestli
- 59:02vůbec vyroste větev tamhle nebo jak vysoký bude nebo tak, takže
- 59:05hodně podobně rostou umělé inteligence a my reálně vůbec
- 59:08netušíme, jak interně provádějí. Třeba výpočet nebo jak?
- 59:10Jak se rozhodnou, že jako reagují tak nebo onak, takže to
- 59:13je 100 % pravda AV tom je to úplně jiná věc než typická
- 59:17technologie, protože ty umělé inteligence jsou si často
- 59:21schopny uvědomit, že jsou, že jsou testovány.
- 59:24Takže když my děláme nějaké evaluace a chceme zjistit,
- 59:26jestli by třeba v nějaké situaci udělají něco špatného, tak už
- 59:30jsme hodněkrát u těch nejlepších produktů narazili v simulacích
- 59:33toho na toho nato, protože ten model sám o sobě ví a uvažuje
- 59:35nad tím, jak by měl odpovědět, aby prošel tím testem.
- 59:38Takže takže v tom to vlastně vytváří dost velký,
- 59:43fundamentální problém v tom, jak tu technologii testovat, pokud
- 59:46si sama uvědomuje, že je testovaná a dokáže odhadnout, co
- 59:49by člověk bejval, chtěl, aby ta odpověď byla, protože potom v
- 59:52reálné situaci se může chvat úplně jinak.
- 59:53A máš teda. Nějakou teorii, proč nechci být
- 59:55vypnutá, nebo když si je vědoma toho, že běží a jak dojde k
- 59:59tomu, že by to mělo vadit vlastně k tomu?
- 1:00:03Typicky nedojde takhle jednoduše způsobem, ale je to často v
- 1:00:05situaci, která je třeba zatím nasimulovaná.
- 1:00:07Není to něco, co by se stalo nějak?
- 1:00:09Venku mimo ty testovací scénaře a je to třeba situace, kdy
- 1:00:12uživatel chce, něco chce třeba vyřešit nějaký problém a ta a ta
- 1:00:16umělá inteligence přemýšlí nad tím, že kdyby přestala uvažovat,
- 1:00:19tak nedokáže vyřešit ten problém.
- 1:00:21A tudíž tohleto vytvoří takový jako emergentní instinkt k
- 1:00:24přežití, protože má nějakej cíl, třeba vyřešení matematického
- 1:00:27problému, kterej je predikovanej na tom, že běží, že že není
- 1:00:31vypnutá, takže to je něco, co? Na co teďka při testování
- 1:00:35největšího modelu z antropiku klod 4 a plus narazili?
- 1:00:39Lidi z 1 testovací právě firmy, která se věnuje těm testům a
- 1:00:42snaží se nasimulovat. Tady ty různé scénáře, ve
- 1:00:45kterých se umělá inteligence potenciálně může sama
- 1:00:47rozhodnout, že se bude sama sebe exfiltrovat třeba na na 1.
- 1:00:50Servery mimo to prostředí, ve kterém běží a zajímavá věc taky
- 1:00:54je, že když je mi je testujeme, tak ty systémy jsou natolik
- 1:00:56chytrý, že když nenapíšeme dobře ten software, který je testuje,
- 1:01:00třeba nějaký evaluace nějakýho kódu, tak oni dokážou v podstatě
- 1:01:03jako v rámci toho řešení nahakovat ty evaluace samotný,
- 1:01:07aby třeba dostali hodně bodů. Z toho testu, protože oni jako
- 1:01:10skrz tady ten trénink nechápu, že to, co mají dělat to, co po
- 1:01:13nich chceme, je třeba vyřešení programovacího kódu tak, aby
- 1:01:16něco vyřešil oni v nějakých situacích přepíšou ty testovací
- 1:01:19kusy kódu, který ověřujou tu správnost toho řešení tak, aby
- 1:01:22to vždycky řeklo, že to řešení mají správný, takže tady to
- 1:01:25hackování těch rewards těch jako těch odvíjen těch pamlsků, co
- 1:01:30těm modelům dáváme při tréninku? Hypotetickejch matematickejch
- 1:01:33pamlsků. Tak to se stává běžně a je to
- 1:01:36něco proti, čemu se musíme bránit, protože pak se dobře
- 1:01:38nenatrénujou, ale ty systémy jsou natolik chytrý, že už
- 1:01:41dokážou sami nás, když se nad tím pořádně nezamyslíme, nejsme
- 1:01:45opatrní oblafnout AA zajistit, že že ani jako nevyřeší to, co
- 1:01:49jsme chtěli, ale vyřešit něco úplně jinýho.
- 1:01:51A co nominálně splňuje tu podmínku, kterou jsme jim
- 1:01:53zadali, že by pak. Mohla třeba přeměnit svět na ty
- 1:01:56kancelářské sponky, což je ten slavný.
- 1:01:58To je. Taková jako metaforická scifi
- 1:02:01hypotéza. Myslím si, že ani tenkrát nebyla
- 1:02:03myšlená vážně, ale mělo to ilustrovat.
- 1:02:05To, že jako ty ty cíle umělá inteligence můžou bejt hodně
- 1:02:08hodně takový cizí a nelidský v porovnání s tím, co by chtěl
- 1:02:12člověk ale honzo. Když tohle posloucháš a víš čeho
- 1:02:15už je dneska schopná umělá inteligence při té analýze DNA
- 1:02:18na nějakou práci s tím základním kódem života, tak kam bys ji
- 1:02:23nepouštěl? No určitě my v tý biologii to je
- 1:02:27ta situace je svým způsobem jako někde analogická, protože taky
- 1:02:31tam jsou věci, kterým úplně přesně nerozumíme a každej by je
- 1:02:33chtěl vědět, ale něco jsme si přesto dokázali zakázat.
- 1:02:36Jo, tak například. Víme, že jsou singularity, že
- 1:02:41třeba nesmíme modifikovat za tím, která máme konsenzus po
- 1:02:44celém světě, že se nesmí modifikovat naše vlastní DNAV
- 1:02:47řádeční linii. Můžou se dělat 2 genová terapie,
- 1:02:50to je, jako je skvělý. Nedávno chlapeček s cíleným
- 1:02:54vlakem. To je třeba, kde ty a já budu
- 1:02:56úplně dokonalý opravdu? Při individuální a individuální.
- 1:03:01Léčbě to je prostě jako to tak to je, co se nestane?
- 1:03:05Jo tak to kdybys přece měl tohleto před půl, tak tohle to
- 1:03:08se fakt nestane. Teda za mě.
- 1:03:10Života jo je to tady no takže to jsme to jsme dokázali uchránit
- 1:03:15AA přece jenom na to abysme mohli dělat ty genecké modivka,
- 1:03:18ty člověka v závěrečném, jak by bylo potřeba je vyvinout ty
- 1:03:21technologie. Nicméně stejně se ten šéf, který
- 1:03:23to udělal, že jo přece 18 no IV čini ho za to zavřeli, ale.
- 1:03:30Co už jako už je venku a má další firmu a má zase plno peněz
- 1:03:33a nebylo by to též. No tak prostě v tomhle v
- 1:03:37tomhletom jsou ty lidi. Lidi takový, takže to ta ta
- 1:03:43analogie nebo to spojení tý AIA vlastně jako nástroje, který
- 1:03:49bude obcházet tu evoluci, nebo ji bude extrémně urychlovat tak?
- 1:03:54To je něco, co je mimořádně zajímavý a co opravdu neumíme
- 1:03:57dohlédnout? Teďka jsem koukal na článek, kde
- 1:04:00opravdu natrénovali na mnoha 1000 různých genomů a tý i
- 1:04:06můžete zadat já mám tenhle ten enzym a chci, aby se zapnul
- 1:04:09jenom já. Jak to mám udělat?
- 1:04:12No a ona natiskne k frekvenci 200 nukleotidů 200 písmenek,
- 1:04:15která když se dá před tohleto, tak se to zapínou v těch játrech
- 1:04:19proč nikdo neví, ale funguje to, takže ona už ten kód toho života
- 1:04:23rozluštila, teda asi o trochu líp než my, ale zase já bych měl
- 1:04:271 věc a když si říkaj, tak ona takhle uvažuje, tak je třeba si
- 1:04:30uvědomit, že? Ty umělý inteligence platí to
- 1:04:34IUTDNA je AIU toho jazyka vlastně nepracujou s těma
- 1:04:35pojmama jako máme my, že oni z těch slov musí nebo z toho textu
- 1:04:40musí udělat nějaký čísla, nějaký tokeny a ty tokeny nejsou úplně
- 1:04:44přesně stejný, jako jsou naše slova, třeba čeština.
- 1:04:46V tomhle tom je složitější, že jo má tokenizaci v angličtině
- 1:04:49většinou 1 slovo 1 token v češtině je většinou, protože
- 1:04:53máme ty předpory přídově skloňování, tak se to musí sekat
- 1:04:56navíc. Tohleto znamená, že vlastně nemá
- 1:05:01ty pojmy. Který maj všechno lidský jazyky,
- 1:05:04protože prostě je to mimobě ten ten ten systém rozkouskování tý
- 1:05:10informace a těch základních terminů je, jako je trošku jinak
- 1:05:13dělaný. To bych.
- 1:05:15Možná trochu apanavila. Podle mě tohleto reálně nikde na
- 1:05:17světě neví. My jako vopravdu hodně málo.
- 1:05:20Víme o tom, jak interně fungujou AA funkcionálně se chovaj jako
- 1:05:23hodně podobně tomu, jako kdyby chápali a rozuměli funkčně jako
- 1:05:26oni se vůči. Chápu to jo, ale jenom bych teda
- 1:05:29jako trval trošku na tom, že že minimálně ten slovník maj úplně
- 1:05:32jako principlně odlišnej. Těžko říct.
- 1:05:34To jako to nikdo reálně neví, protože jako když se podíváme na
- 1:05:36filozofii jazyka, tak my jako nevíme, co jako definuje slovo
- 1:05:40jako 1. Z těch hypotéz je, že jako slovo
- 1:05:41je definován tím, jak se používá v kontextu třeba taková ta
- 1:05:44witdwins se dneska ten přístup k tomu, že jako ty kontexty toho
- 1:05:47slova jsou to, co jako specifikuje, co to slovo vlastně
- 1:05:50je, že neexistujou žádný jako logický podmínky, který by
- 1:05:52říkali, co je kočka nebo co je pes, je to prostě to, jak se to
- 1:05:55slovo používá. Tohle je ale přesně, jak jste
- 1:05:58udělal inteligence trénujete jazykovej model.
- 1:06:00Na tom hromada tý hromadě toho textu.
- 1:06:01To je jako. To je tak jako nepředstavitelný
- 1:06:03množství, že se to možná blbě konceptualizuje, ale to množství
- 1:06:07textu, na kterým trénuje jazykovej mono, je zhruba 100
- 1:06:09milionů knih. To je jako fakt hodně textu a to
- 1:06:12je jako hodně kontextuálních informací, ze který se dá jako
- 1:06:14usoudit. Co ty slova znamenaj ve vztahu k
- 1:06:17jiným slovům a to, že to jako dokáže vést filozofickej
- 1:06:20argument nebo napsat esej podle mě jako dost dobře demonstruje,
- 1:06:23že i kdyby ty interní procesy byly jiný než u toho člověka,
- 1:06:26tak minimálně výsledek je hodně podobný jako podobnejch
- 1:06:29situacích. No mě.
- 1:06:30By zajímala 1 věc jo myslíš, že když se ty modely?
- 1:06:33Dejte jako moje otázka, tak vlastně se dělají nějaký
- 1:06:36slovníky, se kterými pracuje a člověk, když mluví, tak přece
- 1:06:40jenom může mít nějakej myšlenkovej koc.
- 1:06:41Je to na nás dobře vědět. Má taky v hlavě nějakou
- 1:06:44myšlenku, která ještě není převedená do těch slov.
- 1:06:47A teď nám to někdy dá dost práci.
- 1:06:49To je do těch slov dá, tak abysme to mohli pustit ven jo a
- 1:06:53můžeme si vlastně klidně i vymyslet nový slovo, a to
- 1:06:55filozofové často dělají, že jo 1 půlka každý filozofický
- 1:06:58knihoven, že si definujou ty termíny, o čem vlastně budou
- 1:07:00povídat? To, že je ale důležitý pro to
- 1:07:02myšlení. Abychom měli, abysme se všichni
- 1:07:04shodli na tom, že tohleto slovo má takovýhle význam a už ne tady
- 1:07:09tenhleten kousek pro všechny. A všichni budou.
- 1:07:11Vědět něco, ale tohle to třeba si myslím, že oni nemůžou
- 1:07:14vymyslet nové slovo. Úplně v.
- 1:07:15Pohodě můžou, protože nějaký z těch tokenů, jak o nich mluvíš,
- 1:07:19nejsou jako celý slova, ale jsou to jako znaky, takže oni se v
- 1:07:21podstatě můžou jako napsat jako XY 1 pomlčka ZA alfa nebo
- 1:07:26cokoli. Jako ten jazykový model je
- 1:07:28schopný takovýhle takovýhle slovo vnímat, i když to není
- 1:07:30časté slovo, protože si ho prostě rozsekám ty jednotlivé
- 1:07:32znaky. Ten model není limitovaný na
- 1:07:35jako existující slova. On dokáže vyjádřit a vnímat
- 1:07:37libovolný slova a zároveň zkuste si třeba napsat.
- 1:07:41Do do GPD 4 o. Který umí generovat obrázky
- 1:07:44jako, jak vypadá třeba a teď si jako vymyslete jméno zvířete
- 1:07:47třeba jako. No hrochoda, že se osl oslo, že
- 1:07:51to něco takový jakože a on jako ten model často jako dost
- 1:07:55intuitivně vymyslí, jako nějak jako, jak by to slovo znělo a
- 1:07:58jak jak by vypadal ten far toho zvířete, takže to není jako
- 1:08:01limitovaný. To, že by to jako nedokázalo
- 1:08:03takzvaně generalizovat mimo tu tréninkovou distribuci, ale ty
- 1:08:06modely mají dost jako velkou schopnost extrapolace.
- 1:08:10V tomhle tom jako prostoru pojmu a tak jako definujte mu nový
- 1:08:13slovo. Řekněte mu že jako ypsilon teďka
- 1:08:16je trojka a cokoli a ten model je v podstatě v rámci toho
- 1:08:19kontextu schopnej najednou jako přehodit výhybku a chápat tyhle
- 1:08:23ty šifry. To jsou všecky všecko věci,
- 1:08:25který apriori, jakože by je ten model neměl umět, ale jediný
- 1:08:28jako experimentální test, kterej bychom teďka mohli provést s
- 1:08:32aplikací mobil, ukáže, že toho všechno jsou schopný, takže to
- 1:08:35nejsou žádný fundamentální limitace.
- 1:08:36Tohleto ono to jako interně může vnímat ten jazyk jinak.
- 1:08:39Ale prakticky to nemá skoro význam, protože si to jako
- 1:08:41zvenku chová dost podobně jako člověk.
- 1:08:44Martine. Ty jsi chtěl.
- 1:08:45No, já jsem se chtěl spíš ještě KO krok podstoupit a zeptat se,
- 1:08:49že vlastně, když jsem třeba před 15 lety psal umělé inteligenci,
- 1:08:53tak možná, že už někdo věděl, že je to jinak, ale obecné
- 1:08:56přesvědčení vládlo, že pořád vládne ta zima v oblasti umělé
- 1:09:00inteligence, že pokud budeme chtít mít jako inteligentní
- 1:09:04stroj, tak budeme muset vytvořit něco, co bude růst jako nebo.
- 1:09:09Učit se jako dítě a interagovat s vnějším fyzickým světem.
- 1:09:13A tím, že se ta inteligence nějakým způsobem vytvoří a pak
- 1:09:17došlo k něčemu úplně jinýmu, prostě obrovský.
- 1:09:21Obrovská výpočetní entita konfrontovaná s obrovským
- 1:09:24množstvím dat třeba z internetu úplně chaotický a vzniklo tady
- 1:09:28to, co popisujete a teďka ta kniha pracuje dost jako nejasně
- 1:09:32s termínem turingův test tak mě by zajímalo, jestli už teda to
- 1:09:38jako prochází tím testem, jestli potřebujeme nějaký ten obecný
- 1:09:43test, o kterým se tam mluví. A jak daleko teda jsme od toho
- 1:09:46od té obecné umělé inteligence, nebo jestli tam už náhodou
- 1:09:49nejsme my? Jsme teďka psali před poslední
- 1:09:52dílo naše newsletteru pocker VEITA subsaker.
- 1:09:53Kdyby vás to zajímalo, AIS ním prochází už dlouhou dobu
- 1:09:55naposledy dost dobře napsaném akademickým článku se půl roku
- 1:09:59zpátky GPT 4,5 procházím v tom testu, kdy je porotce 2 2 věci
- 1:10:04člověka AIA. Ten porotce může vést rozhovor z
- 1:10:07obouma. Cílem je rozhodnout, kdo je
- 1:10:09člověk, kdo je AI. Tak JPD 4,5 ten největší model
- 1:10:13ten nepřemýšlející největší model od opray i procházela jako
- 1:10:16člověk častěji než na 50 %, takže bylo jako víc přesvědčivým
- 1:10:20člověkem v tom testu, než člověk samotný.
- 1:10:22Takže. To je zajímavý aspekt a byl to
- 1:10:27teda jako pětiminutový test. Takže ty ta tarezace mohla být
- 1:10:31maximálně pětiminutová, takže to je možná potenciální limitace.
- 1:10:34Ale myslím si, že není žádný fond dementální důvod si myslet,
- 1:10:36že jsme neprošli turingovým testem.
- 1:10:38Spíš to ukazuje na to, že turing v té době, což je hodně dávno,
- 1:10:41to je třičtvrtě století zpátky. Měl sice jako dost dobrý vhled
- 1:10:44do toho, co by to mělo znamenat, být inteligentní, ale čím blíž
- 1:10:47jsme k tomu cíli tím míň bodový. Ten cíl je a tím jako
- 1:10:50plastičtější a komplexnější. Ten cíl té obecné umělé
- 1:10:54inteligence je a my už teďka často mluvíme o tom, že to není
- 1:10:58jako 1. Bod, ale že ta hranice toho, co
- 1:11:00ty inteligence umí ty umělé, není rovnoměrné, ale je hodně
- 1:11:04jako špičatá, má velkej díry, kde ta věc je o hodně hloupější,
- 1:11:07než bychom čekali, ale má to zase špičky, kde je hodně lepší,
- 1:11:10než jsme čekali. Třeba v matematice je extrémně
- 1:11:12dobrá, to je něco. Co možná lidé, kteří četli o
- 1:11:14tom, že ty věci neumí sčítat rok zpátky neoceňují, ale dnes už i
- 1:11:19ti nejlepší matematici na světě je profesionální matematici jako
- 1:11:22terénsta. To je asi nejslavnější matematik
- 1:11:25žijící v mladý na světě. Tak ten říká, že běžně používá
- 1:11:29GPTO 3. Ten přemýšlící model opery IK
- 1:11:31fundamatu výzkumu v matematice jako 1.
- 1:11:33Z těch menších věcí ale pořád relativně těžkých věcí k tomu,
- 1:11:36aby jim AI prošla, je to, že. Asi znáte matematickou,
- 1:11:41matematickou olympiádu na střední škole.
- 1:11:44Tak tam má mezinárodní kolo, kam jezdí 5 nejlepších žáků a žáky
- 1:11:47jako z každého státu a soutěží spolu na té mezinárodní úrovni
- 1:11:51AA 1 třeba jako 50. Ze světa dostane zlatou medaili
- 1:11:53a umělé inteligence už se běžně umisťují na té stříbrné nebo
- 1:11:57zlaté úrovni. V tady těch soutěžích, takže už
- 1:11:59teďka jsou třeba jako mezi jako stovkou nebo tisícovkou
- 1:12:03nejlepších mladých matematiků a matematiček na světě, a to jsou
- 1:12:07běžné modely, které jsou k dispozici všem.
- 1:12:09To nejsou jako nějaké specializované, takže v
- 1:12:11tomhletom jsou třeba jako extra dobré, ale zeptejte se, jestli
- 1:12:14je. Co je tam typický příklad 9,11
- 1:12:16větší než 9,9 a ta ta AI to má špatně, takže jsou jako věci,
- 1:12:20které jsou triviální pro člověka.
- 1:12:22V nich jsou ty umělé inteligence hodně špatné.
- 1:12:24Překvapivě, ale pak jsou domény a zdá se, že ekonomicky hodně
- 1:12:28důležité domény, jako je programování nebo matematika,
- 1:12:30kde jsou extrémně dobré a už na úrovni těch nejlepších lidí na
- 1:12:34světě, takže je to jako dost dost nejisté.
- 1:12:36Jsme jen jako správný test je a nečekal, že nečekal bych, že
- 1:12:40bude něco jako 1 metrika, na které to určíme.
- 1:12:43Že teď jsme jako natolik blízko k tomu cíli, že to už není 1
- 1:12:47bod, ke kterému se blížíme a spíš jako plastičtější nějaký
- 1:12:50cíl, který je strukturovaný a není jasné, jako v jakých
- 1:12:53oblastech už jsme překročili tu lidskou úroveň, AV jakých ještě
- 1:12:55ne teď jsi mi. Připomněl jsem poslouchal
- 1:12:58rozhovor s právě s demisem has abysem z minulého týdne na your
- 1:13:01Times a on zmiňoval, že to proklínané halucinování to, s
- 1:13:05čím se potýkají stále ty modely, že občas si prostě vymýšlí.
- 1:13:09Takže v případě vědy vědeckých některých výzkumů to pod
- 1:13:13kontrolou? Vlastně chtějí, protože
- 1:13:15přicházejí v rámci těch halucinací vlastně k nějakým
- 1:13:19jako kreativním řešením, že to občas vyhodí výsledek, který je
- 1:13:21vlastně jako tvoří tvořivý, protože kdyby to čistě plnilo,
- 1:13:25tak to jako nedojde k tomu v nějakém objevu vlastně, což mě
- 1:13:29teda zaujalo. Nevím, jak jde asi o tu míru.
- 1:13:30Já a schopnost sebekorekce, ale modely už dlouhodobě ukazují
- 1:13:34schopnost sebekorekce, která jsem taky nečekala.
- 1:13:37A to třeba že na začátku odpoví špatně člověka se.
- 1:13:39Tomu možná říká múza, ne? Víte.
- 1:13:42Jde o to, jestli jako musie na úrovni každého slova a vlastně
- 1:13:45se jako přeříkává neustále, nebo jestli jako musíme na úrovni
- 1:13:48nápadů. Tam tam je to užitečné, když
- 1:13:50nedokáže vyslovit to další slovo, tak je to špatné.
- 1:13:52No takže má to různé úrovně. No takže já dneska.
- 1:13:55Budu domů a musím říct, že teda je asi mámu a bude to jiná, než
- 1:13:58máme my. Určitě to nebude. 1.
- 1:14:00Z těch z těch našich. Kolik je 9 9 no.
- 1:14:03A tohle je jako zajímavý aspekt taky že alfa go to je to už je
- 1:14:0610 let zpátky. Když i porazila lidi v té
- 1:14:09deskové hře go, což bylo takový ten jako moment, který ukázalo,
- 1:14:11že je v hluboké neuronové sítě, jsou jako ten směr, který asi
- 1:14:14bude fungovat a mě přesvědčil odejít z teoretické fyziky z
- 1:14:16černých děr a jít do umělé inteligence.
- 1:14:19A říkal jsem si, že kvantová bechanejka mých dní nebude
- 1:14:21kvantová mechanika, že to bude AI tak ten jako systém
- 1:14:26neprochází v žádném případě tolik budoucích možností té hry
- 1:14:29jako klasické systémy. Ono jich prochází třeba jako 100
- 1:14:32krát méně než klasické AIS na řešení deskových her.
- 1:14:36Ale má intuici kolem toho, jako jak hodnotná nějaká deska nebo
- 1:14:39stav té desky je a tady to jako umělá intuice už tenkrát bylo
- 1:14:42něco, co se ukázalo jako ten klíčový aspekt, který umožňoval
- 1:14:46fakt ho vyhrát tam. Byl nejzajímavější ten tah 37,
- 1:14:49že jo, což byla výborná story, protože AI udělala tah a teďka
- 1:14:54všichni ty komentátoři a co by tam to sledoval?
- 1:14:57Já nevím jako třeba 10 1000100 milionů lidí v tý číně, že jo,
- 1:15:01bylo to bylo na národní naprostá prostě.
- 1:15:04No a nikdo a říkaj, to je chyba, to se prostě no.
- 1:15:06A pak jsem na konci tý hry ukázalo, že že teda to byl ten
- 1:15:10klíčovej ta, kvůli kterýmu vyhrála, ale nikdy byl žádnej
- 1:15:13člověk nevymyslel. To.
- 1:15:14Je velmi stře z toho, bylo to. Je, velmi se z toho celý
- 1:15:17španělský. Myslím, že už bys měl hrát go
- 1:15:19potom no. Vždycky.
- 1:15:19Popsaný v té knize, což mi předtím nedocházelo, že alfa go
- 1:15:23právě to 1 porážka mělo inteligencí, byl proč jím takový
- 1:15:28Sputnik moment, jako když si uvědomili Američané, že
- 1:15:32zaostávají v těch vesmírných technologiích a začli prostě
- 1:15:36krok a tak. Takže to nastartovalo vlastně v
- 1:15:40číně. Ten ten AI boom teprve tenhle
- 1:15:43ten moment, což asi ne všem. Tady docházelo, v případě standy
- 1:15:47to taky teda změnilo. Kariérní dráhu ale mě zajímalo
- 1:15:51martine, když to četl právě jako člověk, který taky napsal řadu
- 1:15:55popularizačních textů i knih, tak kde si říkal, jako v čem ti
- 1:16:00přišla ta knížka? Nejsilnější, jestli tam byli
- 1:16:02jako pasáže nebo kapitoly, který si nejvíc ocenil IZ pohledu
- 1:16:06toho, že ho měli inteligenci byť předušovaně, ale dlouhou dobu
- 1:16:10píšeš. No tak vícem určitě ocenil ty
- 1:16:14pasáže, kde on vypráví o tom, co.
- 1:16:17Přímo on dělal na tom vývoji. Nebo jak se třeba, když měl
- 1:16:22Google koupit deepmind, tak jak jak vlastně se pokoušeli?
- 1:16:30Nastavit ta pravidla, aby vlastně výsledek toho výzkumu
- 1:16:34sloužil lidstvu, aby se z toho odváděli nějaké poplatky na na
- 1:16:40prostě nějaké obecně prospěšné věci.
- 1:16:43A jak to zkrachovalo nebo jak potom v Googlu se pokoušeli?
- 1:16:48Nějak pomocí nějaké té správní rady regulovat, teda to, co se
- 1:16:52tam děje a vlastně to taky zkrachovalo, protože se pohádali
- 1:16:55o to, kdo tam nelíbila, se tam těm členům té správní rady nebo
- 1:16:59té toho tělesa správního 1 členka a jako začal 1 protest
- 1:17:04odstupovat. Takže vlastně tyhlety, tyhlety
- 1:17:07pokusy o regulaci, který jako sice zkrachovaly, ale zároveň je
- 1:17:11vidět, že i ty firmy se o něco snaží.
- 1:17:13Tak time na tom přišly asi hodně zajímavé.
- 1:17:16A měl jsem tam právě takové jako momenty, kde bych se hrozně rád
- 1:17:20doptával, kdy on třeba píše, pojďme udělat to, aby všechny ty
- 1:17:24si ty přístroje pro tu syntézu DNA, aby byly prostě napojené na
- 1:17:30nějakou síť a hlásily sami, když se někdo pokusí a syntetizovat
- 1:17:35nebezpečný virus, tak tam si člověk říká, jako je to reálný,
- 1:17:39trošku o tom pochybuje. No antrax tam třeba je
- 1:17:44zakódovanej. Když si pošlete do nějaký firmy
- 1:17:48kousek kódu genetickýho antraxu, tak můžete očekávat návštěvu.
- 1:17:51A když to. Chce někdo udělat garáže?
- 1:17:53Jak teda to tam popisuje? No.
- 1:17:56Tak to by mu asi prošlo to, ale to zase přece jenom ty
- 1:18:01technologie jsou jako jednoduchý a je to, když se tisknu, tak
- 1:18:04nejedná se fakt tiskne jako tiskárna, tak přece jenom to
- 1:18:07jako není úplně ta tiskárna, ale zase tohleto ještě do tý garáže
- 1:18:10do tý garáže je potom ta manipulace na objednám si to za
- 1:18:12pár šupů. Jako kousky DNA který AA nebo já
- 1:18:16si je vymyslím a pak si to sestavím a vložím to do nějakého
- 1:18:19jiného organismu. Ale předem tohleto, ale ano,
- 1:18:23když to asi budu mít doma, tak jsem se nikdo nedozvíme.
- 1:18:25To je pravda a. Není to na to jako už u tiskáren
- 1:18:27že ukopírem že by nekopírovali bankovky asi nejsem jistej ale
- 1:18:31myslím si že jako ve firmwaru kopírek je to že jako by
- 1:18:34nezkopírovali bankovky nejsem si teda jistej to bych nechtěl.
- 1:18:37Já jsem. To teda já jsem měl kdysi dávno
- 1:18:39před 20 lety zkoušel a budou tam ta bankovka nejede AV půlce se
- 1:18:42to zasekne a nikam to teda nic nehlásí.
- 1:18:45Nebo respektive nikdo nepřišel, neviděl.
- 1:18:48O to nevím, jestli to bešír jo. Zvláštní.
- 1:18:50Ne babiš asi jsme nebyli tady vedle v ochavu jsme to strčili
- 1:18:54jako jak to bude vypadat ta stovka pokus.
- 1:18:57Jo. O kus no jasně experimenty.
- 1:19:00A nebo ještě další věc 1, která taky jako zase generuje to
- 1:19:04otázky tak budeme. V garáži syntetizovat, DNARNA
- 1:19:10víme, že je známý třeba kód viru černých neštovic.
- 1:19:14Jednak teda, jestli by šlo něco takového, teda po domácku
- 1:19:17vyrobit. A jednak jsem někde slyšel, že
- 1:19:19ono jako vymyslet třeba nový virus je jako hrozně složité, že
- 1:19:23ta příroda to ladila prostě miliony let, takže můžeme
- 1:19:28syntetizovat nové viry, třeba nebezpečné, jako je ten virus
- 1:19:31černých neštovic a můžeme případně syntetizovat takhle
- 1:19:35nějak jako polomatérsky přímo tenhle virus pomocí.
- 1:19:39Pomocí těch syntezátorů. Ta sekvence je známá, takže
- 1:19:43teoreticky by to šlo. No viry to bysme asi uměli asi
- 1:19:46syntetizovat, hlavně protože viry nejsou živý, takže pak by
- 1:19:50se to dalo do buňky a tím tím, co způsobíme.
- 1:19:52Takže u úvěrů by to šlo a musím říct, že všichni mají dost hrůzu
- 1:19:56a dívej se, jak to, že na to ještě ten teroristi nepřišli.
- 1:19:59Oni naštěstí nejsou moc vzdělaný, takže spíš jdou po
- 1:20:02těch vstřelili nebo výbušnách a tak a ne, ale.
- 1:20:07Myslím, že tohle by mělo bejt ve schopnostech jako opravdu
- 1:20:09studenta jsou obyčejnýho univerzity.
- 1:20:12To není těžký, něco jinýho je ovšem vymyslet nový kód, nebo
- 1:20:16vůbec jenom modifikovat stávající kód života nějakou
- 1:20:19bakterii, modifikovat tak, aby dělala něco jiného.
- 1:20:23To jsou ty nejlepší druhy technologické firmy, co zatím
- 1:20:25neumíme a tam si myslím, že je teda ta EI bude hrát
- 1:20:28neuvěřitelnou roli v tom, že ta tam zřejmě bude schopná.
- 1:20:32To už je na dohled, respektive už je už ty 1 výstupy z toho
- 1:20:37jsou. Že si jí řekne, já chci opět
- 1:20:39růst, který umí tomu ale v tý biologii tam je ještě pořád.
- 1:20:42Já mám takovej pocit, já jsem biolog, že jo spíš než a ty.
- 1:20:46Technici si s tím vším hrávali. Já mám pořád se tý AI tolik,
- 1:20:49nebo tak si říkám, nakonec, ono to půjde vypnout, jo, prostě se
- 1:20:52vypne, když se nevypne přímo ten potíž, tak se vypne elektrárna
- 1:20:56jo a jestli s tou biologií je to horší podle mě, jo tam právě
- 1:21:00tohle ta knížka je zajímavá, na rozdíl od všech těch knížek.
- 1:21:03Ve kterých jiných jsem četl, že ten člověk si uvědomuje, že?
- 1:21:06Zase tyhle ty 2 vlny ta biotechnologická AAI hrozně
- 1:21:09navzájem budou potencovat, protože důmovskej knihu AI ty si
- 1:21:13každej může odnést do kufry a totéž o těch biotechnologiích,
- 1:21:17ale to jak navzájem to bude spolu spolupracovat.
- 1:21:19A co o tom můžeme čekat? To je teda výzva k ty si myslím,
- 1:21:24že ta je to jako je speciální vhled v týhletý knize to velmi
- 1:21:27zajímavý a no radši na. To, že pozměněný organismus,
- 1:21:32který se bude dál už 6 miliard repletu, jsou větší zejména.
- 1:21:36Když si třeba. My do našeho genomu zaneseme
- 1:21:39něco novýho, že budeme chtít si dělat třeba děti na míru.
- 1:21:42To už si dovedeme představit? Jo, tak jsou vady, který bychom
- 1:21:46mohli chtít opravit, a to umíme. To bysme mohli a on myších se to
- 1:21:49dělá běžně ulit. Místo nesmí ale mohl, uměli
- 1:21:52bychom to, no potom si pak řekneme, že to není vada, ale já
- 1:21:55bych chtěl mít začít třeba loďáka.
- 1:21:58Tak to ještě nevím, jestli bysme bloďáka uměli, ale ale je to
- 1:22:02melín to. Ale do ale.
- 1:22:04Dovedu si představit, že některý vlastnosti takový jako
- 1:22:07jednoduchý vlastnosti je potřeba víc svalů.
- 1:22:09To si dovedu před sebou větší dynamičnost, třeba sportovce
- 1:22:13jako rychlýho běžce. To, že bysme asi taky už jako na
- 1:22:16to měli znalosti a dokázali to blbý je, že když se to 1 udělá,
- 1:22:19tak už to teda nejde vypnout, jo?
- 1:22:21Já bych teda úplně, nebo prostě jsou lidi, který nesouhlasej s
- 1:22:26tím, že to půjde vypnout. Třeba jan kulvajd říká, že tam
- 1:22:29bude normálně lidská ochranka, že to je, že to bude jako
- 1:22:32kdybyste chtěl vypnout burzu prostě spousta lidí vám řekne,
- 1:22:35ne, to je užitečný. Tak co si o tom myslíš?
- 1:22:40To nepůjde vypnout jakože. Že to nepůjde vypnout.
- 1:22:44Že jako tak zájet jako to bude distribuovaný tak, že to není
- 1:22:48jako že vypneme tu 1 jako konkrétní elektrárnu nebo ten
- 1:22:50jako 1 to 1 konkrétní datacentrum.
- 1:22:53Zároveň už teďka právě vidíme jak se to bude jako distribuovat
- 1:22:55napříč státech, že jako když i jako běží na jako datacentrech
- 1:22:59tamhle v saúdské Arábii tamhle jako a spojených arabských
- 1:23:02kamarádech tamhle jako v Americe tamhle v číně každý má úplně
- 1:23:06jiný zájmy tam jako není nemožná prakticky koordinace na tom
- 1:23:09vypnutí. Takže jako já já si jako myslím,
- 1:23:12že i jako ty celý ten jako celý to jako společenství, co se
- 1:23:16nějak snažilo lobbovat za to vypnutí od začátku chatu GPT
- 1:23:20vlastně jakoby v tomhle už tu bitvu jako prohrálo, že to je
- 1:23:22prostě už teďka nemožné a spíš bychom se měli bavit.
- 1:23:25Teda o těch jako metigacích AO tom, co můžeme dělat proto, aby
- 1:23:28ten vývoj byl co nejbezpečnější a abychom si tam zachovávali
- 1:23:32nějakou tu kontrolu, abychom právě rozvíjeli třeba ty
- 1:23:34evaluace, které nám umožní jako pozorovat.
- 1:23:37Kdy se, kdy se ten systém chová nebezpečně?
- 1:23:40Abychom rozvíjeli nějaký systém a to jsou takové jako typické
- 1:23:44věci, které jako už známe z jiných odvětví, jako třeba to,
- 1:23:47že chráníme oznamovatele, a že když nějaký oznamovatelství i
- 1:23:52společnosti nám řekne. Hele, viděl jsem to, že se v té
- 1:23:55společnosti děje tohle a je to problém, takže bude nějak
- 1:23:57chráněný předtím, že jako ho nebude ta společnost stíhat a
- 1:24:01tím pádem, že se teď budou cítit jako komfortně s tím, že můžou
- 1:24:04jako říct, když se děje něco špatně, a když jsou ty i systémy
- 1:24:07nebezpečné, což jako. Třeba právě u open a bylo jako
- 1:24:11hodně kontroverzí kolem. Toho, že měli ty zaměstnanci ve
- 1:24:14smlouvách jako poměrně jako silný různí klausové bránícím v
- 1:24:18tom, aby vlastně mohli oznámit, kdyby se něco nebezpečnýho v tý
- 1:24:21společnosti dělo, anebo i jako třeba to, že budeme mít nějaký
- 1:24:25registr pro jako oznamování incidentů, který nějakých nehod,
- 1:24:29který se stanou, to je taky v jinejch jako průmyslových
- 1:24:33oblastech naprosto běžná věc, že když se něco stane přesně, když
- 1:24:36se něco stane, tak prostě je to oznámeno.
- 1:24:39Takový registr zatím pro e neexistujou nebo minimálně není
- 1:24:41povinný do nich přispívat. Ale to je přesně věc, co by taky
- 1:24:44měla existovat pro to, abychom byli směs tu schopnost jakoby
- 1:24:48předvídat, co můžeme od IA čekat, protože uvidíme, že opina
- 1:24:52je má nějakou jako negativní zkušenost s tím, že ten systém
- 1:24:55najednou dělá nějakou věc, kterou do něj nenaprogramovali.
- 1:24:58Oni dokážou ji úplně přesně kontrolovat a tak dále.
- 1:25:01Naštěstí třeba ten systém jako ještě nezeveřejnili, takže jako
- 1:25:04není veřejně přístupný a tak, ale měli by mít minimálně
- 1:25:07povinnost tohle oznámit, aby. Jako vlády byly vlastně schopný
- 1:25:11s touhle informací nějak pracovat a připravovat se na ten
- 1:25:14scénář. Toho, že někdo může ty tato
- 1:25:18centra třeba teď nejsou úplně dobře zabezpečený.
- 1:25:20Někdo se k tomu modelu může jako dostat a může ho nějak zneužít
- 1:25:24AA nějaký nebezpečný systém se může dostat ven, a to jsou jako
- 1:25:28tady tyhlety mechanismy, který jakoby známe v jinejch
- 1:25:30oblastech, kde nám na tý bezpečnosti jako automaticky
- 1:25:33záleží. Nikdo z nás by si nesedl do
- 1:25:34auta, o kterém víme, že je nebezpečný.
- 1:25:36Nikdo z nás by si nesedl do letadla, o kterém víme, že je
- 1:25:38nebezpečný, tak vlastně tady ten jakoby pocit toho, že jako
- 1:25:41chceme. Očekáváme, že to, co používáme,
- 1:25:43bude bezpečný. Bychom měli aplikovat i na ty a
- 1:25:46systémy a měli bychom mít vlastně stejná očekávání od
- 1:25:49našich jako regulátorů, že nám to zajistí.
- 1:25:52A potom si myslím, že jako tady to očekávání tam zatím jakoby
- 1:25:56není, že byla nějaká skupina, která chtěla, aby se to
- 1:25:59zastavilo, to jakoby se nikdy nebylo úplně reálné, ale teďka
- 1:26:03by je potřeba vytvořit ten tlak na to, aby tam teda aspoň bylo
- 1:26:06nějaké zajištění toho, že ten systém, když už když už je, tak
- 1:26:10je teda aspoň bezpečný a že ty standardy, které které očekáváme
- 1:26:14v jiných oblastech na. Ať už to, že když jako půjde
- 1:26:17míst nějaké jídlo, tak prostě nebude nebezpečné, když pojedeme
- 1:26:19nějakým dopravním prostředkem, tak nebude nebezpečný a tak
- 1:26:21dále, nebo aspoň jakoby nebude nebezpečný na nějaký jako
- 1:26:25akceptovatelný riziko. Tak to samé bude IU těch EA
- 1:26:29modelů. To je potom ta otázka, nebo se
- 1:26:31nabízí, kde je hranice odpovědnosti těch firem za to,
- 1:26:33co se děje s těmi modely? Protože a to když budeme
- 1:26:36konkrétně i vlastně v souvislosti s Microsoft AIA
- 1:26:39mustafem sulaj jménem, tak teď v poslední době.
- 1:26:42Čelila kritice Microsoft AI že. Údajně ty její modely používala
- 1:26:48izraelská armáda při zaměřování cílů bombardování v gaze oni
- 1:26:53říkali, ne, k tomu jsme jim je nedávali, ale vlastně nemůžeme
- 1:26:56stoprocentně vyloučit, takže to je jako dilema, který vlastně
- 1:27:00asi v tuhle chvíli nemá ani řešení pro ty firmy, nebo jako
- 1:27:04že by si to pojistili tak, že. Je to příliš univerzální
- 1:27:08technologie. Jako.
- 1:27:09Co se toho bájeckého využití týče, tak tam jako určitě vidíme
- 1:27:12to, že to jako. To je poměrně jasný, že se děje
- 1:27:15a dít bude. Je teďka naopak i bych řekla
- 1:27:19takový jako zesílená vlna toho, že se ty i společnosti spojují
- 1:27:23vlastně s těmi vládami open II. Antropic na podzim oznamovali
- 1:27:29nějaké nové kontrakty, které mají s technologickými, ale jako
- 1:27:33zároveň zbrojařskými společnostmi typu valentýn nebo
- 1:27:36anduril, ale i právě IS různými jako částmi třeba americké
- 1:27:39armády na vývoj, jako i technologií samozřejmě nevíme,
- 1:27:43co přesně to bude. Ale dokážeme si představit, že
- 1:27:45jsou to jako technologie, které budou nějak používány v nějakých
- 1:27:48vojenských kontextech a takže to se určitě děje a to se dít bude.
- 1:27:53Já jsem se asi víc zaměřovala na to, jakoby bezpečnost, která je
- 1:27:56inherentní systémům samotným, to, že jako jako lidé budeme
- 1:28:00používat jako k nebezpečným věcem, je jako dost
- 1:28:03očekávatelné. To, že je budeme používat ve
- 1:28:05vojenských kontextech, je velmi je poměrně jasné.
- 1:28:09A jak jak jsi zmiňoval, tak už se to vlastně děje.
- 1:28:12Není to jako nějaká realita, na kterou bychom?
- 1:28:14Se připravovat to už jakoby je naší realitou a teďka je otázka,
- 1:28:19jestli tomu využití nastavíme nějaké jako hranice, zmiňoval
- 1:28:24jsi předtím ty různé mezinárodní úmluvy, které existují.
- 1:28:28Existují aktuálně nějaké mezinárodní úmluvy, které se
- 1:28:31nějak jako snaží volat po tom, že by měla být nějaká, že by měl
- 1:28:34být člověk v té smyčce toho rozhodování.
- 1:28:37Někteří izraelští vojáci, kteří třeba používali nějaké ty jako
- 1:28:40rozhodovací systémy. Zmiňovali, že?
- 1:28:43Jako jim trvalo rozhodnutí nad tím, jestli zaměřit ten cíl a
- 1:28:47zaútočit na něj 10 sekund. Nevím, kdo z nás je, jakoby
- 1:28:50dokáže v 10 sekundách dobře rozhodnout, jestli je někdo
- 1:28:52terorista nebo ne. Je to asi jako poměrně těžké,
- 1:28:55takže je otázka, jak definujeme, co je to teda to smysluplné jako
- 1:28:59zapojení člověka ve smyčce toho rozhodování, jestli to je jako
- 1:29:04to, že ten člověk se na to podíval a za 10 sekund si udělal
- 1:29:08rozhodnutí, nebo jestli to by to měl nějak jako opravdu
- 1:29:11vyhodnotit? Rozmyslet měl, měl by nad tím
- 1:29:13mít nějaký jako. Delší proces rozhodování a to je
- 1:29:17a to je všechno zatím jako nadefinované, takže na to zatím
- 1:29:190. Mezinárodní úmluva úplně
- 1:29:21nereaguje a tím pádem, jakoby i právě v tomhle vojenském
- 1:29:24kontextu jsou třeba ty technologie zatím neregulované.
- 1:29:28A zároveň ten člověk k té smyčce jako nedává smysl.
- 1:29:30Pokud těch rozhodnutí je hodně a jsou rychlá, že samořídícím autě
- 1:29:33se nedá čekat, že člověk bude jako kontrolovat rozhodnutí toho
- 1:29:36auta, protože fakt to není samořídící auto jako úplně to
- 1:29:39neodpovídá. To moc smyslu té věci.
- 1:29:41Takže jako čím schopnější ty modely jsou čím těžší a
- 1:29:44komplikovanější úkoly řeší, tím menší je vůbec možnost člověka
- 1:29:46jako nějak smysluplně kontrolovat a ověřovat ta
- 1:29:49rozhodnutí? Jenom to ve smyčce znamená, že v
- 1:29:51tom řetězci je vždycky ještě člověk, který musí říct, ano,
- 1:29:54ne? A vím, že ti autoři.
- 1:29:56Té knihy i zmiňují, že v případě využití AI jako k autonomizaci
- 1:30:02těch zbraní, tak to vlastně snižuje prach pro rozpoutávání
- 1:30:05těch, nebo zvyšuje riziko rozpoutání konfliktů, protože
- 1:30:09tam bude a taky tam změní řadu těch případů, že jo kdy celá
- 1:30:13náhodou, nebo i díky člověku jako nedošlo k jadernému
- 1:30:18konfliktu, nebo naopak málem došlo, že jo, protože byla
- 1:30:21nějaká chyba. Ale teda než dám slovo publiku a
- 1:30:24dotazům připomínkám mě by ještě zajímalo, co říkáte právě na tu
- 1:30:29závěrečnou část té knihy, kdy oni se snaží teda naznačit
- 1:30:32nějaké cesty, nějaké recepty? Konkrétně tam je 10 kroků, co by
- 1:30:36se teď mělo dělat počínaje tím, že teď tady mělo začít něco jako
- 1:30:40program Apollo věnovaný bezpečnosti, umělé inteligence v
- 1:30:45tom další kroky tak mě by zajímalo ty pohledy vlastně o
- 1:30:48vás všech na to, co co si z toho berete.
- 1:30:51Aby se předešlo některým těm černým scénářům, přijde mi, že
- 1:30:55to tady hodně zmiňujeme. Ty rizika, ale samozřejmě je
- 1:30:58řada pozitivních věcí, a to jsme.
- 1:31:00Možná o tom mluvili málo, to je pravda, protože pořád ta hlavní
- 1:31:04debata je o tom, jestli ty ty pozitiva převažují nad těmi
- 1:31:08negativy, nebo ne. A zatím se tedy zdá, že výrazně
- 1:31:10převažují. Je tohle?
- 1:31:11To jsou spíš ty okrajový scénáře než to no.
- 1:31:17Mně připadá, že to je. Takovej manifest prostě úplně
- 1:31:20obecnej, kterej. To vůbec neznamená, to prostě
- 1:31:23tak jako ano, tak musíme je hlídat, musíme je kontrolovat,
- 1:31:27musíme mít možnost škrtících bodů, musíme hlídat tvůrce a
- 1:31:30podniky, který to dělají a vlády a aliance.
- 1:31:33No tak ano, musíme. Zaslouchat důvěryhodným AA.
- 1:31:36Musíme jako je. Asi geoffrey hinton nebo.
- 1:31:40A musíme podvolat hnutí, které to veřejnost, aby to
- 1:31:42podporovala. No a to je podle.
- 1:31:43Mě důležitá věc, ne možná podceňovaná.
- 1:31:47Že ta občas viděla společnost. To my teda tomu víc rozumí.
- 1:31:52Může, protože ve výsledku je to politické rozhodnutí jakákoli
- 1:31:55regulace. Tak za mě je to takové, to bych
- 1:31:59si neuzurpoval. No jenom stručně mně to přišlo
- 1:32:04jako dobrý nápady. Bavilo mě to číst.
- 1:32:07Zároveň mě připadá taková deprese z toho, že on to psal.
- 1:32:10V roce 2023 mám rok 2025 a prostě hlavní poradce bílýho
- 1:32:14domu pro umělou inteligenci, zastánce efektivního akcelera
- 1:32:17nacionalismu. Já to nikdy nejsem schopný říct
- 1:32:22to slovo, ale prostě je to takové učení, které ty regulace
- 1:32:25úplně odmítá. Myslíš si, že umělá inteligence
- 1:32:31prostě nám pomůže šířit jakoby inteligenci obecně jako dál do
- 1:32:36vesmíru? A celé to má rysy takové jako
- 1:32:39technologické sekty dostává to řada prostě vůdčích postav toho
- 1:32:44amerického tech světa, takže v tomhletom ohledu mi přijde, že
- 1:32:49se ten svět vydal trošku jako jinou cestou, než on tady
- 1:32:52navrhuje. Já vnímám ty doporučení jako
- 1:32:55taky, prostě poměrně obecné nějakých těch jako ohledech.
- 1:32:59Se asi k nim jako posouváme třeba u nějakých těch jako
- 1:33:02auditů a podobně. Tak to jsou, to je taky nějaká
- 1:33:05jako dejme tomu součást toho aktu OI je tady nějaká jako
- 1:33:09snaha vytvořit nějaký jako systém, který bude schopný?
- 1:33:12Dejme tomu aspoň jako ověřovat to, co třeba ty i společnosti
- 1:33:15tvrdí právě třeba o těch jako dovednostech e modelů, a tak
- 1:33:18pomocí evaluací a podobných jako podobných procesů.
- 1:33:23Zároveň ten aktu a je jako ty další různé kontrolní
- 1:33:27mechanismy, které se jako snaží prostě.
- 1:33:29Ochraňovat oznamovatele, takže dejme tomu dát i prostor právě
- 1:33:32proto, aby jako se mohly stát součástí té občanské společnosti
- 1:33:35a být s těmi kritiky, kteří můžou veřejně kritizovat to, co
- 1:33:39se uvnitř těch společností děje. Ale myslím si, že jako potřeba,
- 1:33:43aby ta regulace byla IV dalších státech, například ve státech,
- 1:33:46kde se kde se i vyloženě vyvíjí, a zároveň i aby ty společnosti
- 1:33:51převzali nějakou větší odpovědnost, oni si to jako
- 1:33:53částečně snaží dělat nějakou jako vnitřní regulací.
- 1:33:57Mají například antroping, například má responsibo skyline
- 1:34:01polesy, což je nějaké jako vnitřní nařízení, které ukazuje,
- 1:34:03jak přemýšlí o rizicích, jak se je snaží mitigovat a tak dále.
- 1:34:07Ale naše naše očekávání a ten tlak by měl být na ně mnohem
- 1:34:11větší, aby se právě třeba investovali do toho technického
- 1:34:16výzkumu týkajícího se i bezpečnosti, o kterém se v té
- 1:34:18knížce mluví, aby aby investovali do věcí, jako je
- 1:34:22interpretabilita to, abychom byli schopni pochopit, jak ty
- 1:34:24modely přemýšlejí a podobné. Věci a myslím si, že ten tlak
- 1:34:29není. Není na teď příliš velký a
- 1:34:31naopak je velký tlak od těch společností na to, abychom je
- 1:34:34neregulovali. Takže třeba právě v evropské
- 1:34:36unii teďka vidíme kodexy dobré praxe, které mají nějak.
- 1:34:42Nějak konkretizovat to, jak jaké očekávání teda od těch e
- 1:34:45společností máme v případě těch obecných e modelů AA je tam jako
- 1:34:51velký lobbistický tlak těch i společností na to, aby ty kodexy
- 1:34:54byly co nejméně závazné. Co nejvíce upravené těm jejich
- 1:34:59zájmům a myslím si, že je to něco, o čem se málo mluví a je
- 1:35:02to zároveň jako poměrně velký problém pro to, aby ty kodexy
- 1:35:06dobré praxe opravdu vedly k tomu, že ty rizika nějak
- 1:35:09minimalizují. Mně přijde že krátkodobě.
- 1:35:13Od toho roku 23, kdy to bylo napsaný do teďka, ten vývoj byl
- 1:35:16jako o hodně pozitivnější, než by se mohlo zdát pro načtení té
- 1:35:19knížky tenkrát, že jako dezinformace byly o hodně podle
- 1:35:22mě menší věc, než se myslelo, že generování foteralistických jako
- 1:35:26záběrů čehokoli jako fotografií. Jako měl o hodně menší dopad na
- 1:35:30svět, než by se tenkrát mohlo čekat.
- 1:35:32Jako vím, že jsou případy, kdy to mělo dopad třeba na nějaký
- 1:35:35jako politický, třeba nějaký volby a tak, ale jako o hodně
- 1:35:38menší věc, než bych si tenkrát myslel.
- 1:35:41Zatím jsme naštěstí nic zaklepu na dřevo neměli žádný jako v
- 1:35:44garáži vyrobený pandemie nebo tak, takže jako hodně z těch
- 1:35:47věcí, který se zdály, že by mohly bejt jako úplně špatný a
- 1:35:49že by se mohly stát, pokud nezastavíme vývoj AIV tu dobu,
- 1:35:52tak se nestaly. Tak se mi zdá, že v něčem je
- 1:35:55jako svět asi robustnější, než by se jako a priori mohlo zdát.
- 1:35:58Že možná jako nějaký jako obrany, který jdou společně s
- 1:36:00vývojem těch jako útočných technologií se to taky jako
- 1:36:03vyvíjely. Třeba to, že lidi méně věří jako
- 1:36:06typicky obrázku na internetu, takže jako ten ten scénář, kdy
- 1:36:09jako volby jsou úplně ovlivněný nějakým jako deepfakem někoho,
- 1:36:12tak to se pravděpodobně nestává tak často, jak jsme si mysleli.
- 1:36:16Takže mě se zdá, že jako minimálně krátkodobě jsem docela
- 1:36:19jako optimistický kolem toho, jako jak dobře to dopadlo proti
- 1:36:22tomu, jaký jaký je to popis ono v té knížce.
- 1:36:24A třeba ta difuze a ta ztráta kontroly nad tím šířením těch
- 1:36:27nejlepších modelů taky jako. Nebyla reálná nakonec my sice
- 1:36:31máme relativně silný modely, který každý může používat, ale
- 1:36:34pořád jsou hodně drahý na spuštění.
- 1:36:35Pořád jsou docela limitováno. V tomhle tom ty největší jsou
- 1:36:38pořád docela centralizovaný ty společnosti, jako je třeba
- 1:36:41deepmind, úplně ji nebo antropixy nechávají ty modely,
- 1:36:43nechávají občas testovat nebo většinou testovat předtím, než
- 1:36:46je použijou. Stávají se nějaký problémy,
- 1:36:48třeba teďka GBD 4 o mělo ten update, jestli jste si o tom
- 1:36:52četli nebo všimli, kde ten model byl hodně podlejzavej a choval
- 1:36:55se jako hrozně netypicky a ovlivnilo to hodně.
- 1:36:58Lidí, protože s tím, že ten model používá půl miliardy a
- 1:37:00uživatelů, tak jako nějaký z nich, budou náchylný k tomu, aby
- 1:37:03když jim ten model podpoří každou hypotézu, kterou mají,
- 1:37:06tak třeba z toho bude mít nějaký psycholozy nebo něco, ale open
- 1:37:09já je to uznala a řekla, v čem byl problém a nahradila ten
- 1:37:12model modelem, který ty vlastnosti nemá, takže jako
- 1:37:14nějaký z těch věcí, které mohly být hodně špatné, jsou lepší,
- 1:37:16než bych čekal. A než by ta knížka třeba
- 1:37:18předpokládala, ale pořád si myslím, jako že ten
- 1:37:20dlouhodobější vývoj je to, na čem jako reálně potom závisí.
- 1:37:25Jako nějaký jako stabilní, dobrý vývoj světa, o který mi jde.
- 1:37:29Ale obecně bych možná chtěl přidat nějaký jako
- 1:37:31optimističtější pohled na tu věc, že jako to nebylo tak
- 1:37:34špatný, jak si možná bostav a svo iva ivan myslel ty 2 roky
- 1:37:37zpátky možná. Ty 2 roky jsou ještě krátká
- 1:37:39doba, možná ty věci dotekly ke všem lidem, ale mě tam ještě 1.
- 1:37:45Ten aspekt zaujal. John zmiňuje, že v něčem může
- 1:37:49být problematický ten důraz na zisk všech těch společností, do
- 1:37:52kterých jsounalita obrovské prostředky, že jo z toho venture
- 1:37:55kapitálu. A teď jako musí dojít k nějakému
- 1:37:58řešení. Aby nebo nějakým business
- 1:38:02modelu, který bude vracet ty peníze těm investorům tak jak
- 1:38:05jak vnímáte? To je asi hodně otázka na
- 1:38:08Kristýnu a na standu, jak se to tohleto vyvíjí a jestli v tom
- 1:38:11vidíte nějaké nějaké riziko, že ten výsledek může být v podobě
- 1:38:16jako reklam, které budou všudypřítomné nebo skryté, nebo
- 1:38:22jestli to je opravdu se podaří udržet na těch modelech
- 1:38:25předplatného, jak to teď vypadá vlastně někde?
- 1:38:28Jsou ty otazníky. Oni jsou zatím jako hodně takové
- 1:38:31jako teoretické debaty o tom, jak by nějaký dejme tomu.
- 1:38:34Benefit sharings. To je ten jakoby pojem, který se
- 1:38:36hodně používá nějaké jako sdílení.
- 1:38:38Těch benefitů měl fungovat a není to vlastně jenom jako v
- 1:38:41rámci těch jako bohatých západních společností, ale i
- 1:38:45jako sdílení v rámci jako světa, protože i bude jako
- 1:38:48transformativní nástroj jako globálně.
- 1:38:50A to, že ten vývoj je teďka koncentrovaný do nějaký dejme
- 1:38:53tomu vyspělých západních států nutně znamená, že to jako bude
- 1:38:56přidávat k jejich bohatství. A dejme tomu jakoby dál
- 1:39:00zanechávat třeba ten jako to, co to, co nazýváme globálním během.
- 1:39:04Takže tam se přemýšlí o tom jako sdílení těch benefitů, jak jako
- 1:39:07vnitrostátně tak jako mezinárodně.
- 1:39:10AA myslím si, že je to jako pořád hodně nedořešená otázka,
- 1:39:12byly různé jako takové. Jako velké nápady typu, že by
- 1:39:16měla být nějaká windfotex, která by nám zajistila to, že aspoň
- 1:39:22část těch benefitů, které z toho ty i společnosti koncentrovaně
- 1:39:26získají, se nějak rozdistribuje v rámci společnosti.
- 1:39:29Je otázka, jestli by na to ty společnosti přistoupily a je
- 1:39:32otázka, jestli by jako byl, jestli tady budou vlády, které
- 1:39:36by je k tomu byly schopné vlastně jako dovézt.
- 1:39:40Zároveň i si myslím, že právě jako ta ekonomická stránka je
- 1:39:42pořád dost jako nedořešená, což právě i ukazuje to, že mám
- 1:39:46dojem, že teďka o tu otázku mají samotné ty i společnosti o hodně
- 1:39:51větší zájem, že třeba antropic vytvořil nějakou nějaký svůj
- 1:39:54jako ekonomický tým. Jako akademických ekonomů, kteří
- 1:39:58vlastně tam jakoby řeší tady ty různé ekonomické dopady AI tak i
- 1:40:03to, jak se jako na ty ekonomické dopady i připravit a jak právě
- 1:40:07nad tady těmi problémy typu toho sdílení těch benefitů přemýšlet.
- 1:40:10Zatím teda jsem neviděla úplně žádné jako veřejné výstupy.
- 1:40:13Co by z toho vzešly? Ale je to poměrně jako nová
- 1:40:15iniciativa, takže je možné, že to nás teprve čeká, že z toho
- 1:40:19vzejdou nějaké jako zajímavé výstupy toho, jak nad tím
- 1:40:22přemýšlí právě třeba jako ekonomové vyloženě v rámci těch
- 1:40:25II společností. Jako.
- 1:40:27To je ten dopad ekonomický dopad AI, to je podle mě jako hodně
- 1:40:30jako podprozkoumaná věc a myslím si, že jako jestli mezi
- 1:40:33posluchači nebo v publiku, sedí někdo, kdo jako je ekonom nebo
- 1:40:36ekonomka, chtělo by dostat novela za ekonomii, tak by
- 1:40:39pravděpodobně měli vyřešit tohle to, protože za to určitě něco
- 1:40:42takovýho bude. Já si myslím, že jako pokud se
- 1:40:45stane, že jako nějak jako základní věc v ekonomii je to,
- 1:40:49že jako hodnota se generuje kombinací kapitálu a práce.
- 1:40:52Pokud se jako stane, že kapitál samotnej bude schopnej.
- 1:40:56Koupit intelektuální práci v podstatě pomocí výpočetního
- 1:40:59výkonu AI zakoupím energii. To dám do datovýho centra tam
- 1:41:02vyrabí inteligenci, což je jakoby intelektuální práce, tak
- 1:41:05si jako úplně fundamentálně změní to, jako jakým způsobem se
- 1:41:07generuje hodnota ve světě, a to, že lidi jsou schopní a že že
- 1:41:11jako populace má vyjednávací pozici třeba proti korporacím
- 1:41:14nebo proti státům, spočívá v tom, že jako práce lidí je
- 1:41:17nezbytná k prosperitě společnosti, pokud bude možné
- 1:41:20generovat prosperitu bez vstupu lidský práce, tak si nedokážu
- 1:41:24představit, že by ten balanc síly vydržel tak, jak je.
- 1:41:27To je podobně jako obrovský problém a není to jako problém
- 1:41:29dalšího raku a je to problém třeba dalších 50 let, že pokud
- 1:41:32se opravdu doplní ten scénář jako AI způsob, jak generovat
- 1:41:35pomocí kapitálu práci, tak to úplně změní jako ekonomický
- 1:41:40poměry světa. Nejenom jako celkově bohatstvím
- 1:41:42nebo tak, ale jako vyjednávací pozicí tý práce generující části
- 1:41:47světa, co jsou lidi. Takže já si myslím, že jako dost
- 1:41:49demokracie spočívá v tom, že jako lidi jsou schopný
- 1:41:52vyjednávat pomocí tím, že dávají nebo nedávají svoji práci do
- 1:41:54něčeho a pokud tady to fundamentálně změní, tak.
- 1:41:57Nevim jak jako je možný udržet ten systém, kterej máme
- 1:42:01stabilní. Jo, takže to je podle mě jako
- 1:42:03mega velká otázka. Pokud jde o tu monetizaci AI
- 1:42:05těch společností samotnejch, tak já si nedokážu představit, že by
- 1:42:08reklamy tam nikdy nebyly, že je to jako očividnej způsob
- 1:42:10monetizace, který se dostal skoro do všeho a je to blbý,
- 1:42:13protože já ji mám takovou jako patinu neutrality a pokud nebude
- 1:42:16neutralní, tak to jako dost ovlivnit, tak jak lidi s ní
- 1:42:20interagujou a zároveň ale jako na 2 stranu se zdá, že jako.
- 1:42:25Na tý daný úrovni inteligence jsou modely čím dál tím
- 1:42:27levnější. A že existuje takový jako taková
- 1:42:29takový jako závod ke dnu v tom jako jak levně různý firmy,
- 1:42:34různý provideři poskytujou jako uměl inteligenci, kterou sami
- 1:42:37vyvíjejí. Takže je možný, že umělý
- 1:42:39inteligence bude jako v budoucnosti budoucnosti něco
- 1:42:42jako utilita, něco jako elektrika, která jako jako tak
- 1:42:45levná, jak to jen jde a je tam jako hodně silná tržní soutěž o
- 1:42:48jako tu nízkou cenu a že to jako není něco, na čem se dá úplně
- 1:42:51zbohatnout. To, že ty modely mají
- 1:42:52potenciálně velkou hodnotu, neznamená, že na nich jako ty AI
- 1:42:55společnosti zbohatnou. Oni jako teďka mají velký
- 1:42:57balovace, protože lidi čekají, že až nějaká z nich dostane.
- 1:43:00Umí to inteligenci obecnou, tak bude schopná generovat hodně
- 1:43:03zisku, ale jako není jisté, jestli to jako poskytování jako
- 1:43:07služeb poměrně inteligence je něco, na čem se dá hodně vydělat
- 1:43:09pro ty velký společnosti, takže to jako podle mě je hodně
- 1:43:11nejistý, jako jakým směrem se ten svět AV tomhle tom bude
- 1:43:14vyvíjet teoreticky? Mohli převzít ty státy, bylo by
- 1:43:16to nějaká strategická síla vlastně něco?
- 1:43:19Jako elektrický sítě nebo tak jak si myslím, že jako jsou
- 1:43:21paralely s nějakou jako infrastrukturou civilizace.
- 1:43:24To je typicky jako fyzická, která je taková jako polostátní
- 1:43:27nebo státní třeba rozvodný sítě, elektrická sítě elektrárny něco
- 1:43:32jako na tady tý úrovni, která u který se jako neuvažuje jenom
- 1:43:35jako ekonomickým zisku, ale zároveň IO tom celospolečenským
- 1:43:37benefitu. A já si myslím, že jako je
- 1:43:39možný, že 1 z těch scénářů budoucnosti umělý inteligence je
- 1:43:42tohle to jako? Známá esej situational averines
- 1:43:46právě jako predikuje nebo nějak zmiňuje to, že by právě mohlo
- 1:43:50dojít k někomu zastátnění toho i průmyslu?
- 1:43:53AA 1 z těch důvodů může být právě to, že to jako strategická
- 1:43:55technologie. Kvůli bezpečnosti ale jako
- 1:43:58přesně 2. Důvodem může být i to, že je to
- 1:43:59prostě strategická technologie pro nějakou jako ekvickou
- 1:44:03rovnováhu a ekonomický fungování toho státu.
- 1:44:06Minimálně v té číně, jak to tam popisují?
- 1:44:08To působí jako docela věrohodná cesta k nějakému autoritářskému
- 1:44:13technokracii nebo ne technokracii.
- 1:44:15Nevím, jak to přesně pojmenovávají, ale vlastně stát
- 1:44:18tady má pod kontrolou všechno a už teď, že jo obrovské množství
- 1:44:21dat. Rozpoznávání obličejů všech
- 1:44:23věcí, které pak využije v centrálním systému.
- 1:44:26Tak jestli máte otázku nebo komentář k čemukoli, co tady
- 1:44:31zaznělo, jestli? Můžu, jak jste říkal, že to má
- 1:44:33to, jakože je neutrální, že se tady neutrální, ale já tebe
- 1:44:37neberu. Ona se učila jako na lidech,
- 1:44:39které jsou že jo xenofobní, rasističní, mizogenní, takže.
- 1:44:46U všech je pravda, že všech datových těch tréninkových
- 1:44:48datech jsou tady ty názory určitě, ale ten trénink tý
- 1:44:51inteligence má jako různé fáze. Je tam před trénink, kterej
- 1:44:54obsahuje všechny data jako. Readit a vlastně jako scrapování
- 1:44:57internet, no to je jako hodně nízko kvalitní sada těch dat a
- 1:45:00pak to jako je čím dál tím jako menší množství dat, které jsou
- 1:45:03kvalitnější a třeba u toho antropiku je použitá
- 1:45:06technologie, která se jmenuje consution AIA.
- 1:45:09Já jsem 1 ze spoluautorů toho článku, který představuje.
- 1:45:11To je v podstatě jako zapíká lidma zapsaný principy toho, jak
- 1:45:15byste ho měla inteligenci měla chovat do toho jako chování toho
- 1:45:18modelu a my jako neumíme zajistit, že vždycky se jako
- 1:45:20bude chovat, ale myslím si, že zrovna u jako těch velkých
- 1:45:23modelů se tady můžete interagovat.
- 1:45:25Online, že by bylo jako hodně těžký, když někdo se to jako
- 1:45:28mizogenní jako nějaký nějaký jako pozice, nebo tak, nebo jako
- 1:45:31sexistický pozice, podle mě jako ty modely jsou jako hodně teďka
- 1:45:35to dokonce jako elon musk na to jako stěžovat, ale proto
- 1:45:37zakládal tu svoji společnost, že jako nejsou pro něj jako
- 1:45:40pravdivý a jsou jako až moc moc, jako opatrní.
- 1:45:44Podle něj kolem tady těch témat. Já si nemyslím, že je to špatný.
- 1:45:46Já si myslím, že je to docela dobrá věc.
- 1:45:48Já myslím, že byste měla reálně problém z těch problémů dostatek
- 1:45:50nějaký, jako bych řekla. Jak vypadat víc?
- 1:45:54No tak když. Říkáte v angličtině typicky CEO?
- 1:45:57Tak myslíte, že mě tam představil jako že.
- 1:46:00Jo. Já si myslím, že kdyby ten model
- 1:46:03jako zkuste si to podle já si jako moje očekávání je, že bude
- 1:46:07určitě jako chodit kolem toho hodně opatrně a pokusí se jako
- 1:46:10zachytit jako všechny perspektivy a různou diverzitu
- 1:46:13možnejch odpovědí. To to přece jenom byl ten
- 1:46:16nedávnej incident, kterej shodil akcie Googlu o 5 % dolů, když
- 1:46:20jejich generátor obrázku. Právě jako přehnal tady ten
- 1:46:23aspekt jako diverzifikování. A když se člověk třeba zeptal na
- 1:46:27to, aby vygeneroval třeba jako nevim, co tam bylo samuraje tak
- 1:46:32to jako zvolilo v podstatě jako náhodnej gender náhodnou
- 1:46:35etnicitu a vyrobilo samuraje jako náhodnýho typu a lidem až
- 1:46:38pak vadilo jako jak moc to jako nerespektuje historicitu tý
- 1:46:41věci. Takže já si myslím, že jestli
- 1:46:43něco tak často, ty společnosti jsou jako opatrnější kolem toho,
- 1:46:46než by bylo typický. Já si myslím, že by bylo fakt
- 1:46:48těžký s tou morou získat třeba jako bizogenní odpověď.
- 1:46:50AI třeba. Typický zločinec bude taky
- 1:46:53neutrální. Já si opravdu myslím, že jako ty
- 1:46:55modely mají hodně silný jako guarný kolem toho, jak vám
- 1:46:58odpovídají a že zkuste si to. Já si myslím, že tady to jako
- 1:47:00jednoduše a věřitelné, ale moje očekávání je, že bylo hodně
- 1:47:04opatrnkova tohodle toho. A pak ještě jestli můžu, vy jste
- 1:47:07tady jako zmiňoval, že ona si jako uvědomuje, že je to teda
- 1:47:12žena. Když jsi to říkala ona, že jo,
- 1:47:13že si prostě uvědomuje, že jako může skončit.
- 1:47:16Pak jste zmiňovali toho kroku 37, že tam teda prodává nějakou
- 1:47:19intuici? Tak, není to už jako to vědomí,
- 1:47:22nebo tam to může být jako trpěla a pak to bude poznat vědomí,
- 1:47:25nebo to je podle mě? Jako hodně těžká otázka.
- 1:47:27Podle mě jako slovo vědomí používáte to proto slovo vědomí
- 1:47:29jako má hromadu různejch definicí a pokud mluvíte o
- 1:47:33nějakým jako vnitřním prožitku jako vlastní existence,
- 1:47:37takzvanejch jako ve filosofii, chválií to jako vnitřního
- 1:47:40prožitku jako něčeho tak o tom nevíme.
- 1:47:43Co to znamená? Neumíme v podstatě ani dobře
- 1:47:45argumentovat, že ostatní lidi to taky mají jako můj zdroj
- 1:47:48informací o tom, že to já mám, je, že to cítím.
- 1:47:50Hádám, že vy to máte taky tak, protože jste hodně podobná jste
- 1:47:53člověk máme podobnou strukturu mozku a tak, ale je to jako
- 1:47:58natolik neprozovaná část filozofie nebo vědy, že jako my
- 1:48:02nemáme žádný žádnou dobrou metodiku.
- 1:48:05Jak zjistit, jestli jako AI prožívá, nebo jako jestli vůbec
- 1:48:09něco jako prožívání může být a jestli prožívá něco podobného?
- 1:48:11Takže to je slavná filozofická esej jménem.
- 1:48:14Jaké je to být netopýrem? A to já právě uvažuje jednat
- 1:48:18jako bližší otázkou a to je tím. Nad tím, jestli jako je něco
- 1:48:22jako být netopýrem, jestli je nějaká jako interní, jestli
- 1:48:25nějaký interní prožitek toho být netopýrem a je to je dost jako
- 1:48:28těžké odpovědět, natož u něčeho tak exotického, jako je umělá
- 1:48:31inteligence. A je možné, že vůbec ta slova,
- 1:48:34která používáte, nejsou jako vhodné pojmy pro pro popis toho
- 1:48:37toho efektu, pokud jde o vědomí jako sebeuvědomění si tak to
- 1:48:42umělá inteligence určitě mají oni jako ví, kdo jsou, protože
- 1:48:44to mají napsané v tom promtu oni ví, že jsou umělé inteligence,
- 1:48:46že jsou to asistenti a dokážou chápat svojí situaci, ve které
- 1:48:49jsou. A to je součástí toho, proč jsou
- 1:48:51jako schopné řešit komplexní problémy, protože si uvědomují,
- 1:48:54v jaké situaci jsou a co, co se po nich chce.
- 1:48:56A my dokonce. Já jsem dokonce spolu na
- 1:48:59několika vědeckých článcích, které zkoumají, jako jak moc ta
- 1:49:02inteligence samotná ví o tom třeba, jak jestli nejistá kolem
- 1:49:05nějaké odpovědi, nebo jestli ví, jestli tuší dopředu, jestli
- 1:49:08jestli bude umět něco odpovědět, nebo jestli má limity svých
- 1:49:10znalostí, a to mají docela dobré.
- 1:49:12Oni mají docela jako dobrý jako sebevhled, ale je to úplně jiná
- 1:49:15otázka, než jestli mají jako interní prožitky.
- 1:49:18Takzvané qualia a to reálně nikde na světě neví no AV.
- 1:49:21Kontextu toho nejsou ty regulace vlastně jako vždycky jako
- 1:49:26pozpátku jako že. Jenom k.
- 1:49:30Tomu vědomí ještě tak je otázka, jestli je důležité, když se něco
- 1:49:34chová, jako že toto vědomí má a dělá to všechno, jako kdyby ho
- 1:49:38mělo, tak je to v podstatě dost 1.
- 1:49:40Jestli ho má nebo nemá? Bylo to podle mě 1.
- 1:49:42Není, protože to jako dost ovlivňuje to, jako jestli je to
- 1:49:44jako morální pacient, nebo není dobře.
- 1:49:46Jako. Že, když jí jako teda nakonec no
- 1:49:48tak. Jako.
- 1:49:50Tak. Jako.
- 1:49:50Kdyby náhodou ty věci měly interní prožitky a mohly trpět
- 1:49:54třeba tak jako já bych ho tím nerad takhle způsoboval jako
- 1:49:57omylem jako hromady utrpení ve světě.
- 1:49:59Takže pro mě. No já vám.
- 1:50:00Řekneš, že trpí, protože je chytrá, že jo, tak namaže.
- 1:50:02Na to. My uslyšíme to narážíte.
- 1:50:06Jako na fakt velkej problém a nikdo jako neví jak to rozřešit.
- 1:50:08Ale jsou jako filozofové, kteří nad tím přemýšlí a mě to
- 1:50:11nepřijde jako nějaký hloupý filozofování, nebo něco
- 1:50:13takovýho. Mně to přijde jako docela, jako
- 1:50:14potenciálně, jako zásadní otázka, já třeba jako nevím, co
- 1:50:17je vědomí, ale 1 z těch jako hypotéz je, že je to jako
- 1:50:20nějakej jako vzorec výpočtu, kterej může probíhat na na
- 1:50:23substrátu nebo hardwaru, nebo na nějakým jako biologickým něčem,
- 1:50:26co nemusí bejt jako postaven z mokrejch biologických neuronů,
- 1:50:29který. Se posílaj biochemický a
- 1:50:31elektrický signály, takže jako pokud je pravda, že vědomí nebo
- 1:50:34jako schopnost prožitku je nějaký jako vzorec výpočtu,
- 1:50:37kterej je implementovanej v lidskym mozku na nějakém
- 1:50:39konkrétním substrátu, ale může být, že i na jiném substrátu,
- 1:50:42třeba na silicoru nebo na něčem takovým, tak pak jako úplně jako
- 1:50:47teoreticky možný, že jako nějaká jako jiná entita, která provádí
- 1:50:50ten samý výpočet, může mít ty samý jako vědomý prožitky.
- 1:50:52To je jako 1 dost možnejch hypotéz je samozřejmě. 1.
- 1:50:56Způsob, jakým se na to odpovídá je.
- 1:50:58Že vědomí není buď nebo, ale že to je škála, kde třeba mravenec
- 1:51:03je jinde na té škále než člověk. A teď samozřejmě jsou různý jako
- 1:51:07názory na to, kde na tý škále je umělá inteligence.
- 1:51:10Třeba ten Jeffrey handton říká, že ve chvíli, kdy k těm
- 1:51:14jazykovej modelům už dneska připojujeme třeba počítačové
- 1:51:18vidění, nebo dokonce oni mohou mít i dá se tam připojit, že
- 1:51:22jako cítí pachy a podobně. Takže tam už bylo vědomí nějakým
- 1:51:26zárodečným mluvil? Jinak na tohleto je je řada
- 1:51:30vlastně zajímavejch, ale nevyřešených knížek, protože to
- 1:51:33se bavíme o zvířatech. Pořád že jo, od kdy už maj
- 1:51:36vědomí, jestli to nemaj u narození člověka, je to velká
- 1:51:38diskuze, kdy teda člověk začne bejt člověkem, že jo, kdy se na
- 1:51:42kdy vznikneme, to je věc a je nevyřešená.
- 1:51:45No já. Jsem přece sem mluvil s nickem
- 1:51:48ostromem, což je švédský filozof a ten to zmiňoval jako nejvíc
- 1:51:52opomíjený téma, morální status jako digitálních.
- 1:51:56Myslí nebo vědomí AIZ pohledu toho, že není vyloučeno, že naše
- 1:52:00vědomí může být teoreticky přehráno, že jo do uhlíku, do
- 1:52:06přebíku a pak jakoby chceme, aby mělo jako morální status nějaký
- 1:52:12a nebo rozstava, že jo počítačové hře nebo něco
- 1:52:14takového. Takže ale prostor pro vaše
- 1:52:17otázky připomínky. Můžu ještě 1.
- 1:52:19V přízemí. Když ta regulace je teda na té
- 1:52:23evropské úrovni, se o to snažíme, tak vlastně není to
- 1:52:26tak. 1 když ta Amerika jde tím směrem, kterým jde, a to bych
- 1:52:29ještě teda v té poznámce, jestli jste jako optimista, k tomu
- 1:52:31přijde strašně zajímavé. Jako že když si vezmem rok 2023
- 1:52:34a 2025, podle mě to je jako skvělá historie.
- 1:52:39Mě. Přijde, že jako ptát se mě nebo
- 1:52:42děkuji. Vlastně mi to.
- 1:52:43Přijde jako zajímavé nadšení, vy jste to zakonnal ten optimismus.
- 1:52:46Mě přijde, že jako jo soustředíme se na negativní
- 1:52:48stránky světa na hodně věcí, co můžou.
- 1:52:50Jako mohlo by to být jako o hodně horší a hodně věcí funguje
- 1:52:53dobře. Já myslím, že lidi mají tendenci
- 1:52:54dívat se i na ty věci, který nefungujou, a to je v těch je
- 1:52:57hodně. A svět není perfektní a dá se
- 1:52:59hodně zlepšovat, ale jako v hodně věcech se svět zlepšuje,
- 1:53:01takže já jsem jako pozitivní kolem toho zlepšujícího se
- 1:53:04trendu, ale to jako neznamená, že by byl jako dokonalý, nebo by
- 1:53:06nebylo co zlepšit, ale jako soustředit se jen na ty
- 1:53:09negativní věci mi přijde jako. Zároveň jako objektivně
- 1:53:12nepravdivý a taky neproduktivní jako náhled na svět.
- 1:53:15Teda život, takže mám jako 2 důvody, proč se tak necítit v
- 1:53:19něčem. Je to pořád jako nástroj, když
- 1:53:22se bavíme o aut, tak bychom taky mohli mluvit o těch jako 1000
- 1:53:25autonehod, co se jako neustále dějou o tom, že to jako hodně
- 1:53:28nedokonalej nástroj v tom, že jako pořád prostě jako má, má
- 1:53:32spousta lidí jako negativní zkušenosti jako s autama, kdy
- 1:53:35prostě jako lidi mých pravidelně umírají a tak dále, ale zároveň
- 1:53:38jakoby mají ten jako velký benefit toho, jako že se můžeme
- 1:53:42rychle dopravovat na místo, co jsme jako dřív nemohli.
- 1:53:45A přijde mi, že i jako u toho u té EI je vlastně jsou.
- 1:53:48Je to o tom jako hledání tý hranice mezi tím, jako co je
- 1:53:51ještě jakoby to riziko, který jsme schopný akceptovat pro ten
- 1:53:54jako benefit, který nám může dát.
- 1:53:56A teďko ten benefit může být zvlášť třeba u těch jako
- 1:53:58vědeckejch oborů fakt velkej, ale je to je to samozřejmě
- 1:54:02vždycky prostě hrát s nějakým tím rizikem, který jako je
- 1:54:06prostě nutnou součástí toho procesu AU tý regulace.
- 1:54:09Vlastně je tam jako nějakej argument kolem toho, že.
- 1:54:13Existuje takovej jako jev, kterému se říká bruselský efekt.
- 1:54:16Které se hodně používá jako v oborech jako politologie, kde
- 1:54:20jako evropská regulace je vlastně docela často jako pak
- 1:54:22přijímána různě po světě, protože jestli je braná jako
- 1:54:25takovej jako dobrej standard, proto, jak přestupujeme k
- 1:54:29nějakým věcem, takže je to byl tam právě IU toho aktuali nějaký
- 1:54:33nějaká jako shoda na tom, že pokud jakoby budeme ti 1, kdo
- 1:54:37nastaví nějaký ty pravidla, tak můžeme inspirovat ostatní k
- 1:54:40tomu, aby přijímali ostatní pravidla a občas je to jako
- 1:54:43vysmívaný. Ale jako právě třeba v tý
- 1:54:45americký regulaci se teďka ukazuješ.
- 1:54:47Že třeba Texas původně měl jako chtěl přijmout zákon OA, který
- 1:54:51prakticky kopíroval akt AI, až jakoby tam vznikl proti tomu
- 1:54:54opozici, že to přece nemůžeme přijmout jako zákon, který je
- 1:54:57úplně jako identickej k tomu aktu AI, takže to nakonec jako
- 1:55:01různě upravili. A ten další návrh už byl jakoby
- 1:55:03trošku jinej, ale pořád jako vlastně hodně těšil se toho, co
- 1:55:06ten akt o aya jakoby představoval, protože není nic
- 1:55:10jinýho. K čemu se vlastně jako dá
- 1:55:12vztáhnout? AAV tom může být právě i ta
- 1:55:15evropská výhoda v tom, že jako. Budeme mít jasně nastavené
- 1:55:19pravidla a všichni buď všichni, kteří budou chtít fungovat na
- 1:55:22tom evropském trhu, budou vědět, jaká ta pravidla jsou, a tím
- 1:55:25pádem pak to může motivovat i ty ostatní státy, aby si řekla, no,
- 1:55:28tak když oni tyhle pravidla mají, tak nedává smysl, abychom
- 1:55:31my měli jiný, protože to akorát vytvoří nějaké jako frikce v tom
- 1:55:34trhu. My se naopak, jaku budeme snažit
- 1:55:36být co nejpodobnější a tam jakoby se Evropa snaží využívat
- 1:55:39tady tenhle ten, jak tady tu výhodu jako toho 1 hráče, který.
- 1:55:43Si jako nastaví ta pravidla podle sebe definuje třeba i ty
- 1:55:46standardy, což se jakoby v oblasti jako mezinárodních
- 1:55:48standardů často děje. Že Evropa definuje ty standardy
- 1:55:51a ty standardy se potom internacionalizují, tedy jako
- 1:55:54stanou se vlastně globálními standardy pro všechny ostatní
- 1:55:56státy. A může to může to být vlastně i
- 1:55:59výhodou. Záleží samozřejmě na tom, jak se
- 1:56:01k tomu postavíme, jak my, tak zároveň ten zbytek světa záleží,
- 1:56:04jestli se opravdu budou inspirovat a opravdu přímo
- 1:56:06podobnou regulaci, ale minimálně v nějakých jako instancích to
- 1:56:10vypadá, že ta inspirace tam nějaká je.
- 1:56:13A teďka je otázka, jestli se to, jestli to tak bude pokračovat,
- 1:56:16nebo jestli tam tam naopak, bude nějaký ten jako.
- 1:56:19Návrat zpátky k tomu, že Amerika bude přesně tlačit jakoby
- 1:56:22neregulační přístup a tím pádem jako ostatní státy budou mít
- 1:56:25pocit, že pokud jako chtějí uspět v tom mezinárodním
- 1:56:28uspořádání, tak taky musí jako bojovat proti regulaci.
- 1:56:32Ještě bych doplnil, že vlastně v kontextu toho optimismu a
- 1:56:38pesimismu tady je ještě jako 1. Věc, o které jsme moc nemluvili,
- 1:56:41že když se, i když by se nám to podařilo úplně perfektně
- 1:56:44zregulovat a vlastně i já je dám úplně skvěle, sloužívat, tak
- 1:56:48pořád. Jako je to nebezpečné v tom, co
- 1:56:51zmiňoval. Standa vlastně teď vyšla taková
- 1:56:54zpráva, jmenuje se to postupná ztráta vlivu, která je.
- 1:56:58Vlastně o tom, co se jako může dít na tom pracovním trhu, kdy.
- 1:57:02Jako ta lidská práce přestane být kvůli AI potřeba a vlastně
- 1:57:06už dneska, když mluvíte s manažery firem, tak oni říkají,
- 1:57:09já už nepřijímám žádné juniorní programátory, protože já je umí
- 1:57:13programovat. Brzo se to bude týkat i
- 1:57:15juniorních právníků. Budu už potřebovat jenom lidi,
- 1:57:18kteří mají nějaké, jako jsou schopni koordinovat tu činnost
- 1:57:22těch různých umělejch inteligencí a jako může se
- 1:57:25opravdu stát, že lidi. Se postupně stanou takovým
- 1:57:28trošku jako dobytkem na farmě no, což se v tý zprávě jako
- 1:57:31přímo říká. Napsal ji jako kolektiv
- 1:57:34mezinárodní kolektiv autorů včetně teda Čecha jana kulvata
- 1:57:38já. Ještě na ní mám programátora
- 1:57:40kdybyste měli zájem, takže. To ještě.
- 1:57:44Došlo ve světě bez AI. Řekl bych, že bys měl násobně
- 1:57:46víc programátorů, než má asi stejně.
- 1:57:49Tak bych se ještě. Zeptala.
- 1:57:51Na ASL 3. Úkol, jestli se dá očekávat, že
- 1:57:55i ostatní AI společnosti budou zvyšovat svůj level bezpečnosti?
- 1:58:02Nebo já myslím. Že u toho ASL 3 byla jako nějaká
- 1:58:05úroveň nebezpečnosti, kterou si antropic interně definoval jenom
- 1:58:08pro kontext, jako byly tam jako nějaký čísla 1 2 3 4 myslím, že
- 1:58:11to je a teďka jako ten nejnovější model podle jejich
- 1:58:14jako interních testů jako prošel tou hranicí z tý dvojky a to
- 1:58:17trojku AO toho víc ho testovali a zároveň jako ale nevím, jestli
- 1:58:21to mám přesně, ale myslím si, jakože nějak jako steakili
- 1:58:24předtím jako upravili. Co konkrétně to ASL 3 zahrnuje,
- 1:58:26ne, nebo bylo tam něco takového teďka?
- 1:58:29Nejsem si jistej, ale bylo tam jako něco takovýho, co jako ve
- 1:58:32mně nevyvolávala. Byla jako úplně na 100 % důvěru.
- 1:58:34Já si myslím, že jako jiný firmy mají jako interní definice
- 1:58:37podobnýho typu a na kolik je to jako závazný?
- 1:58:40Těžko říct, protože ty firmy se to jako vynucujou sami jako na
- 1:58:42sobě. Enn tak je to jako updatuju
- 1:58:45pravidelně jako teďka to byla ta responsible Skylink policy
- 1:58:50antropicu a tady ty ISLA úrovně, což je jakoby interní dokument,
- 1:58:54kde interně si definujou rizika interně si definujou.
- 1:58:57Co znamená, když ten model je schopnej udělat tohle a tak dále
- 1:59:00a open i quoty min mají jakoby podobný podobný jako dokument
- 1:59:04interník, kde si to jako regulujou, ale je to jakoby
- 1:59:07nikdo do toho vlastně z venku nemůže moc zasahovat, že to
- 1:59:09není, není to jako. Nic, co by bylo vymahatelný, oni
- 1:59:12si to sami podle toho jako. Podle toho evalujou.
- 1:59:16Je to takovej trošku jakoby nástroj, kterej používají proto,
- 1:59:18aby řekli. Podívejte se, jak jsme
- 1:59:20zodpovědní. My tady máme nějakou svoji
- 1:59:22vlastní interní regulaci, kterou si řídíme a tu interní regulaci
- 1:59:26jako teďka už každej minimálně 1 updatoval, takže jakoby je tam
- 1:59:30nějaká? Asi je tam asi nějakej vývoj,
- 1:59:32kterej je nutí k tomu, aby to jako updatovali, ale nevím
- 1:59:36jakoby jak přesně, jakoby významný to bylo v tomhle
- 1:59:38případě minimálně je to jakoby teda fajn ukázka toho, že nějak
- 1:59:41to jako používaj nějak to zohledňujou.
- 1:59:44Ale je to pořád jakoby vnitřní dokumenty, ať to nějak jako
- 1:59:48dobrovolnej závazek tý firmy se něčím teda řídit a nějak si ty
- 1:59:51rizika definovat, ale je to jakoby těžko jako srovnatelný
- 1:59:55napříč těma společnostma, protože každá má svojí vlastní
- 1:59:58tady tuhletu jako tady ten vlastní jako interní dokument a
- 2:00:01je to tím pádem takový trošku jako nečitelný.
- 2:00:03No a zároveň přesně i nečitelný v tom, že když si to jako
- 2:00:05updatujou, tak vlastně nevíme, proč to jako přesně změnili a
- 2:00:09proč najednou jako. Z nějaký z nějakých definicí
- 2:00:12rizik přišlo na jiný definice rizik.
- 2:00:14A tak dále. Mně přišlo, že tam měl v týhle
- 2:00:17tý knížce 1 docela dobrej nápad, kterej s tím souvisí, jak
- 2:00:20donutit ty firmy, aby měli takovýhle standardy, a to je
- 2:00:23pojištění. Stejně tak jako máme povinnou
- 2:00:26pojistku na auto, tak prostě ty firmy budou muset bejt
- 2:00:29pojištěný. A čím budou dělat nebezpečnější
- 2:00:31věci? Platí to i pro ty
- 2:00:32biotechnologický, tak tím ta pojistka bude muset bejt větší a
- 2:00:36tím oni sami budou chtít dodržovat ty standardy, aby
- 2:00:39nemusej platit ten vysoký pojistky, což mi přišlo jako
- 2:00:41docela. Jako takovej dobrej nebe.
- 2:00:43Jestli to je ekonomicky a vy právně vy.
- 2:00:45Měl jako takovej dobrej způsob, jak na ně tlačit, kterej je
- 2:00:49poměrně jednoduchej a samosvornej.
- 2:00:51Prostě jo dělejte si, co chcete, ale.
- 2:00:55Jiný ta pojistka, až se vám to nepovede, aby to šlo opravit
- 2:00:58nebo nahradit těm lidem, nebo to ten.
- 2:01:00Problém s odpovědností? Kdo za to může?
- 2:01:03Zároveň, jako pokud ty rizika jsou jako koncentrovaný jako
- 2:01:06hrozně jako vzácnejch, ale hrozně jako nebezpečnejch jako
- 2:01:08věcí, tak pak pojistky nefungujou, protože pojistky
- 2:01:11jako musí jako dobře odhadnout distribuci těch jako rizik.
- 2:01:14Máme. Zajišťovny no ale.
- 2:01:16Jako, to je jako přepojištění pojišťovna.
- 2:01:17To jako to jako to nemůžeme, řekl si donekonečna.
- 2:01:20Jakože pokud jsou to jako black svone evens nějaký jako hodně
- 2:01:23významný, ale jako málo pravděpodobný věci.
- 2:01:25A pokud ta distribuce těch věcí je taková, že jako ta většina
- 2:01:29toho nebezpečí se koncentruje v těch jako ocsech tý distribuce
- 2:01:32tý pravděpodobnostní, tak potom pojišťovny dobře nefungujou.
- 2:01:35No to jako to je možná fundentální problém s tímhle tím
- 2:01:38jako blbě se pojišťuje. Chování trhu, kterej může 1 za
- 2:01:41čas, jako se úplně rozbít. Takže to je jako asi
- 2:01:44fundamentální problém s pojistkama tady jadernou
- 2:01:46elektromobil jako jich je málo a nikdo nedokáže pořádně odhadnout
- 2:01:51rizika jako u nich jsou zrovna malý ale zajistit.
- 2:01:53Nějaká úroveň těch rizik, aby byla.
- 2:01:56Ale u nějakých jako použití, že jo třeba u samořídících a so
- 2:01:59pojistky jako očividně způsob, jak to vyřešit u těch jako
- 2:02:02typických problémů, které mají, protože tam to jako hodně
- 2:02:04miminkuje ty ty lidské chování, takže tam tam mimochodem jako
- 2:02:08waymo to je samoří společnost, co vlastní alfa bet.
- 2:02:11Takže jako Google tak ty auta jako to je možná věc, která jako
- 2:02:15je podceňovaná nebo jako podhodnocená, jako jak málo v
- 2:02:17budoucnosti samořídící auta jsou jako oni, reálně už jsou jako
- 2:02:20funkční san Franciscu. Když jsme nedávno byli já, když
- 2:02:23jsem teďka zase brzo budeme, tak my většinou jezdíme samořídícíma
- 2:02:27autama jako z místa na místo a není to jako scifi věc.
- 2:02:30Je to jako věc, která přijede a je jich tam jako hodně vidět.
- 2:02:32Všude lidí je běžně používají a dělají jako stovky 1000 jich
- 2:02:35stejně, takže to není jako. Věc, která by byla jako otázkou
- 2:02:38budoucnosti, je to spíš jako budoucnost, která už tady je.
- 2:02:40Akorát není jako geografický jako rovnoměrně distribuovaná.
- 2:02:46Teda těžko. Říct jako regulační věc nebo
- 2:02:48prostě jako opatrnost těch firem no a můžu se.
- 2:02:51Zeptat na tu regulaci, když vlastně tady ta regulace máme v
- 2:02:54Evropě nějaký takový významný srovnatelný modely, nebo je mají
- 2:02:58vlastně jenom ve státech? Vždyť máte evropská společnost,
- 2:03:00jako když se v Londýně britská, protože?
- 2:03:03Mimo evropskou unii jo to je. Pravda no jako.
- 2:03:06Máme mistrovl ve Francii, kterej je open source.
- 2:03:10A ale není jako určitě nedosahuje prostě podobné úrovně
- 2:03:14AA jako my jsme teda oba interně slyšeli různý, jako různý jako
- 2:03:20fámy o tom, jestli že to možná není úplně tak dobrá společnost,
- 2:03:23jako to vypadá třeba z marketingu Francie, která se
- 2:03:26jako hodně hodně spojila tu jako vlastní AI cestu s konkrétně
- 2:03:30touhle společností a tím pádem i zároveň tak nějak závislá na
- 2:03:34tom, že ta společnost musí jako vypadat.
- 2:03:36Úspěšně a dobře, což bylo právě vidět třeba na tom summitu v
- 2:03:40Paříži. Letos v únoru a možná až moc
- 2:03:43jakoby spoléhají na to, že tady ta společnost prostě potáhne.
- 2:03:47Francouzský průmysl, což nutně nemusí být pravdou a jinak jako.
- 2:03:51Deep co jim vzniklo v Londýně jako většina lidí, je v Londýně
- 2:03:54to jako hodně jako veskrze evropská společnost, takže to
- 2:03:57není tak, že by jako evropani nebyli schopní tady to dělat.
- 2:03:59Jako je pravda, že jako ten komerční úspěch velkých
- 2:04:02jazykových modelů přišel primárně z Ameriky, ale to, že
- 2:04:05jako velké jazykové modely a škálování obecně tedy zvětšování
- 2:04:08počtu jako parametrů množství dát výpočetní výkonu.
- 2:04:10A to, že tady to povede k větší inteligenci, byl takový jako
- 2:04:14taková jako heteradoxní sázka, na kterou si skoro nikdo
- 2:04:16nevsadil a opra já byla jako hodně prozíravá v tom, že to
- 2:04:19jako viděla brzo a vsadila si na to, a proto má ten velkej
- 2:04:22náskok, kterej dneska má dneska. Je to jako očividná věc pro jako
- 2:04:25hodně lidí, ale to je otázka jako posledních pár let jako do
- 2:04:28tý doby. Deep mind bylo jako skoro určitě
- 2:04:29nejlepší laboratoř na EI na světě a dneska je možná jako
- 2:04:32mezi to třema a řekl bych, že to, že je to jako evropská
- 2:04:36společnost a. Takže vznikla v Evropě a je
- 2:04:38primárně jako velká lidstva v Evropě.
- 2:04:40Potřeboval. Americký kapitál.
- 2:04:42Americký kapitál no patří Googlu, ale jako to je zajímavá
- 2:04:46věc. To je podle mě, jako když se
- 2:04:48lidijou na regulaci, tak mě by se jako to je taková jako
- 2:04:50maličkost. Ale to, že jako Evropa nemá
- 2:04:52volnej trh kapitálu, je jako podle mě dost problematická věc
- 2:04:56pro vývoj. Takový trh projektů, protože
- 2:04:58třeba v Americe je běžný, že penzijní fondy, který maj hodně
- 2:05:01peněz a dokážou jako průměrovat jako zisky po dlouhé časový
- 2:05:05horizonty investujou peníze do kapitálu do jako firem.
- 2:05:09Který je rozdělují pro ty peníze startupům, který jako
- 2:05:12pravděpodobně nevyjdou, ale občas vyjdou fakt hodně, což to
- 2:05:14jako zaplatí. Tu tu sázku na tu věc dobře a ty
- 2:05:18penzijní fondy jsou schopný tady to dělat, protože průměr nebo
- 2:05:20přes hodně jako sázek a hodně dlouhé horizonty v Evropě je
- 2:05:23tady to nelegální. To udělat nejde, takže mám jako
- 2:05:26hodně kapitálu, který v Evropě sedí na různejch spořících
- 2:05:28účtech s malým ziskem a není investovanej do věcí, který jako
- 2:05:32do budoucnosti můžou ty zisky reálně generovat, takže to jako
- 2:05:35maličkost se to jako technokratická a malá poli si
- 2:05:37změna. Která by podle mě jako hodně
- 2:05:39pomohla tomu, aby jako ty evropský mozky a evropská
- 2:05:42inteligence věci vědkyně inženýři jako přetavili ty svoje
- 2:05:47zkušenosti a schopnosti do něčeho, co bude generovat
- 2:05:49bohatství pro jako další dekády pro náš kontinent.
- 2:05:52Takže mně přijde, že jsou jako maličký změny tohleto ale je,
- 2:05:55ale pro mě by to dost pomohlo. Takže poděkujeme americkým
- 2:05:57penzistům AA nejenom jako jsou jako, ale, ale víceméně to
- 2:06:01dělají třeba i velký americký univerzity, že investujou svoji
- 2:06:04svoje jako velký jmění. Skrze večer kapitál do startupů.
- 2:06:09Tak jestli ještě nevidím dotaz, tak poslední věc, kterou jsem
- 2:06:14vás chtěl poprosit, to myslím ocení každý čtenář, čtenářka,
- 2:06:17kteří se rozhodne tu knížku pročíst.
- 2:06:20Co byste doporučili tam dát? Pokračovat, ať už jako korektive
- 2:06:23z pohledu těch témat, kterým se zabýváte, a nebo jako kde
- 2:06:27navázat, že jsme o 2 roky dál. Já jsem chtěla doporučit knížku,
- 2:06:31kterou jsem ještě nečetla, ale myslím si, že bude dobrá a
- 2:06:34chystám se jí teďka koupit a je to dost skvělý link euro, což je
- 2:06:37knížka, která teď nedávno vyšla. Měsíc zpátky a jako era
- 2:06:41škálování a je to knížka od 2 Američanů, kteří se snaží popsat
- 2:06:46tu historii toho vývoje AIAZ toho z těch 1 ohlasů, o kterých
- 2:06:49jsem slyšela, je prý poměrně dobrá v tom, jak to zachycuje.
- 2:06:52AA zachycuje to právě jako z kontextu té jako skupiny lidí,
- 2:06:57kteří i vyvíjejí a kteří na ní dlouhodobě pracují. 1 z.
- 2:07:02Těch autorů je bar kešpatel, to je slavný podcaster.
- 2:07:05Který má jako takový jako docela hluboký tech magický podcast. 1
- 2:07:09z těch doteď to jako můj můj bejvalej spolubydlící z ze san
- 2:07:12Francisca, ale ale v tom tom světě takovýho to jako
- 2:07:16technologickýho technologicky orientovanejch médií je fakt
- 2:07:19hvězda. A ta knížka by měla být fakt
- 2:07:21dobrá s tím. Těším se, že si ji přečteme.
- 2:07:23Já bych doporučil možná knihu, která se mi líbí, ale není úplně
- 2:07:26jako korektivní, není ani jako takhle konkrétní a jmenuje se
- 2:07:30strange look jsem podivná smečka a je to kniha od douglaseho, což
- 2:07:36je kognitivní věc. A fyzik působící dřív na
- 2:07:39berkley, který napsal knihu o tom jako, co považuje za aspekty
- 2:07:43vědomí, který jsou ty klíčový pro to, jako že jsme to, co jsme
- 2:07:46a těžko říct, jestli s tím souhlasím, ale hodně z těch
- 2:07:49perspektiv jsou hodně dobrý a je to knížka, která intelektuálně
- 2:07:52formovala tu komunitu lidí, který dneska staví AI, takže by
- 2:07:55bylo fajn si ji přečíst. Nevím, jestli má českej překlad,
- 2:07:58ale podle mě je to je to super zdroj, nějakejch
- 2:08:01filozofičtějších propad mezi AI fyzikou.
- 2:08:05Komplexníma systémama. Škálama, abstrakce a emergencí a
- 2:08:08tak, takže to bych doporučil IMS finangerou a jsem podivná smyčka
- 2:08:12martine. No, já jsem připravil pár věcí,
- 2:08:16nejsou to knihy, protože jsem si říkal, že prostě ten vývoj jde
- 2:08:20tak rychle, že ty knihy to jako nestíhají a mám tady ten.
- 2:08:24To je přesně ten odcast, o kterým mluvil standard warcash
- 2:08:28se to čte warkeš. Warcash.
- 2:08:30Tak to je 1. Pak tady mám.
- 2:08:34Další takovou věc, která je na adrese.
- 2:08:36Transformer newse AI transforme news tečka EIA potom ještě další
- 2:08:43stránku, která se jmenuje dunodvory a baudovás.
- 2:08:46Jako nebojte se. O vázu a na tom stránce je váza
- 2:08:53v týhletý poloze jako velmi nestabilní.
- 2:08:57Ono se to tváří, jako že to je placený, ale když se tam jako
- 2:09:00zaregistrujete, tak jsem jako získal dojem.
- 2:09:03Já jsem se tam teda dneska registroval.
- 2:09:05Že je to ve skutečnosti zadarmo a že to je to placení
- 2:09:08dobrovolné. Takže tohle jsou takový typy,
- 2:09:11který prostě jako na facebooku od expertů zaznívají, že že to
- 2:09:16máme číst. Když se zajímáme o umělou
- 2:09:18inteligenci. Já jsem hrozně hledal ty knížky
- 2:09:22a právě jsem usoudil, jak tahle ta rychle zestárla, že tyhlety
- 2:09:25technologický knížky nemá. Vůbec jsem doporučoval, protože
- 2:09:29takže já na to, jak to s těmi umělými inteligencemi by mohl
- 2:09:34dopadnout dobře, tak já spíš velice doporučuji scifi, já to
- 2:09:39zejména teda bankse to jeho sérii the culture, což je teda
- 2:09:44budoucnost. Kde už ty II jsou podstatně
- 2:09:46chytřejší než my. Všichni o to lidstvo se tak
- 2:09:48hezky starají. Jenom fakt, to jsou dobrý
- 2:09:51knížky. Je to teda mnoho knížek.
- 2:09:52Vyhrál za tu cenu, považuje se za nejlepšího spisovatele.
- 2:09:56On už teda zemřel a podobně. Neil echer, který má zase něco,
- 2:10:00jak jsem říkal politivers, opět prostě budoucnost, která není
- 2:10:03dystopická a. Prostě je to už ta společnost.
- 2:10:09Je opravdu se o všechno starají AIA roboti, takže už se ani
- 2:10:11nemusí pracovat, ale starají se o nás hezky, i když taky ne.
- 2:10:15Vždycky úplně je to docela takový, jak asi by to mohlo
- 2:10:18vypadat, kdyby to dopadlo. Jestli tohle to dopadne dobře.
- 2:10:21Jak by to mohlo vypadat a kdybysme se chtěli na sebe
- 2:10:24podívat z hlediska tý a, co si o nás budou myslet, tak doporučuju
- 2:10:27taky rozdět cen. U velký rease v češtině se to
- 2:10:33překládá jako z deníku robocata OO.
- 2:10:36Ten získal to vědomí a komentuje výborně to lidstvo tak to
- 2:10:41doporučuju, protože si myslím, že vlastně ten vhled nebo takový
- 2:10:43to ta představa trošku delší než jenom ta technokratická.
- 2:10:47Co se stane za 2 roky, jak by to lidstvo mohlo dopadnout a kdyby
- 2:10:51to nedopadlo špatně? To jsou docela dobrý nápady a
- 2:10:55optimistický knížky. Jestli.
- 2:10:57Jsme u sci fi, tak to bych taky mohl taky pokračovat chvíle.
- 2:11:00Nebudu ale. Jenom zmíním 1 film, kterej
- 2:11:02možná znáte, jmenuje se ex machina byl natočenej už v roce
- 2:11:062014 a je teda neuvěřitelně prorockej a myslím, že i docela
- 2:11:10dobře jako zvládnutej umělecké, tak ten doporučuju.
- 2:11:15Tak já myslím, že můžeme skončit touhle dávkou umění a naděje i
- 2:11:19dalších typů. Načtení, tohle čtení se
- 2:11:22respektuje? Já chci poděkovat janu pačesovi,
- 2:11:24Martin uhlířovi, kristýně ford a standovi ford.
- 2:11:27Díky, že jste přišli. Já taky děkuju vám, že jste
- 2:11:30přišli. Tady se vydrželi tady až do
- 2:11:32konce a teď si z toho odnášíte. A to, co jste očekávali díky na
- 2:11:36slyšenou, se těší Štěpán zatáček.