Latest / Týdeník Respekt / Čína se dotahuje. Kam spěje závod ve vývoji umělé inteligence a proč v něm nezapomínat na hodnoty?
Transcript
- 0:00Dobrý den, tady erik tabery, rád bych vám poděkoval za to, že
- 0:03posloucháte naše podcasty a zároveň vás upozornil, že je to
- 0:06možné pouze proto, že máme předplatné a předplatitele,
- 0:10kterým moc děkujeme. Pokud i vy chcete podporovat
- 0:12naši novinařinu, budeme rádi na předplatné.respekt.cz, tak
- 0:17můžete učinit. Děkujeme.
- 0:20Posloucháte podcasty deníku respekt dnes nabídnu dlouhý
- 0:23rozhovor se Stanislavem fortem, odborníkem na umělou inteligenci
- 0:28o novém čínském generativním modelu od společnosti deepseak,
- 0:32který způsobil velké otřesy ve světě.
- 0:34AI mezi investory řeč bude o tom, kam celý závod ve vývoji
- 0:38umělé inteligence spěje IO etických otaznících, které nad
- 0:42umělými inteligencemi visí, a to nejen ve spojitosti s modely
- 0:46čínské produkce. Podnětný poslech vám přeje
- 0:48Štěpán Sedláček. A ve studiu respektu pod centrem
- 1:00langhans člověka v tísni vítám již poněkolikáté Stanislava
- 1:05forta, odborníka na umělou inteligenci, který v minulosti
- 1:08pracoval, mimo jiné tedy na modelu klot ve společnosti
- 1:12entropic a taky na jaminey v Google deepmind má mimo jiné
- 1:18tedy doktorát ze stanfordu v oblasti právě umělé inteligence.
- 1:23Ahoj, vítej. Moc děkuji za pozvání.
- 1:26Tak startup deep seek vznikl v číně zhruba před nějakým rokem a
- 1:32ty zprávy o něm, a to logo s modrou velrybou v posledních
- 1:37dnech dominuje bych, řekl napříč různými médii, protože jsem
- 1:41očividně podařilo vyvinout pokročilý chatbot, tedy
- 1:46generativní umělou inteligenci srovnatelnou s velkými modely,
- 1:50jako je. Asi nejužívanější chat GPT.
- 1:53Od open ie jaminaye od alfabetu nebo od Googlu lama od meta to
- 1:59už jsme zmínili i toho koda od antropicu, tedy od těch velkých
- 2:03hráčů v oboru a navíc to tedy udělal s jednoduššími čipy
- 2:08nižšími náklady celkovými. Tak mě by zajímalo, kdy kdy ty
- 2:13jsi jako odborník v branži slyšel o deepsík poprvé mluvíš o
- 2:19nich už dlouho, nebo je to opravdu spojené s tím jejich 1
- 2:21modelem, který pustili někdy během Vánoc?
- 2:24Na konci roku. To jsou všechno skvělé otázky.
- 2:27Ještě 1 děkuji za pozvání model diepsík r 1, což je ta věc těch
- 2:31posledních pár dnů, která způsobila lavinu zájmu a takové
- 2:34zemětřesení ve světě i na burze je ten poslední z řady modelů,
- 2:38které pravidelně společnost EPC publikuje jak ve formě vědeckých
- 2:42článků tak jako open source modely, které jsou k dispozici
- 2:44každému na internetu. Není to něco nového?
- 2:46Není to převratné v tom, že by to bylo 1 model, který kdy
- 2:49vydali z ničeho nic, oni postupně vybudovali čím dál tím
- 2:52lepší a lepší modely, které se blížily.
- 2:54Těm nejlepším na západě. Ten předposlední se jmenoval
- 2:58deepsee b 3, který vyšel během Vánoc, a to byl ten model, ve
- 3:01kterým se ukázaly všechny ty zlepšováky efektivity, o kterých
- 3:04se dnes mluví v kontextu toho posledního modelu, což bylo eri
- 3:071. Ale tahleta věc už byla měsíc
- 3:09stará a ve vědeckém článku i ten open source morel samotný.
- 3:13Bylo vidět, že ten Vorel je má hodně technických zlepšováků,
- 3:17které nebyly něco, co by bylo nečekané, nebo úplně revoluční,
- 3:20ale byly to malé triky, které ten tým pravděpodobně během těch
- 3:23posledních 2 let práce. Pod tlakem menší dostupnosti
- 3:26výpočetního výkonu, jejich vysoké kompetence a inteligence
- 3:29vyvinul směrem ke zlepšování těch modelů, takže to je r 1.
- 3:33Ta poslední verze stála na těch základech hodně silného
- 3:36efektivního modelu jménem b 3, který vyšel právě během
- 3:39prosince. Takže lidé, kteří sledují vývoj
- 3:41AI na té technické úrovni, nejsou překvapení tím, co se
- 3:44stalo, protože je to víceméně pokračování přímé linky v
- 3:47trajectory té společnosti, která je sama o sobě už 2 roky stará a
- 3:50která není nějaký malý startup v garáži, ale má sama a sama o
- 3:53sobě. Velké množství zaměstnanců, jen
- 3:56článek jen vědecký článek, který mluví o dipsík r 3, má 200
- 3:59autorů plus, což opravdu není málo, to je na úrovni těch
- 4:02největších západních laboratoří a nejlepších modelů, které máme
- 4:06a jejich vědeckých článků. Takže tohle to není ten narativ,
- 4:09který se kolem toho vyskytuje. To, že to bylo v podstatě 10
- 4:12lidí v garáži, podle mě neodpovídá realitě, protože ten
- 4:15tým byl relativně velký a velice odborný, takže to je zhruba to,
- 4:19jak to vnímám. Ale je to obrovský úspěch.
- 4:21Je to poprvé v historii, co nezápadní model nebo ne.
- 4:23Americký model je na té špičce, pokud jde o výkonnosti měřené
- 4:27různými benchmarky kolem umělé inteligence, takže v tom je to
- 4:29revoluční věc. Je to jakoby geopoliticky nová
- 4:32situace, ve které ten nejlepší model už není jenom ze spojených
- 4:35států. Ono nejenže konkurtě těm
- 4:37nejlepším modelům, ale vlastně těm nejlepší z nejlepších,
- 4:41protože ten r 1 je, jestli se nepletu specifický tím, že.
- 4:45V češtině bychom asi mohli říct, že to je takzvaný.
- 4:48Přemýšlející model, což jsou třeba modely právě ty
- 4:52nejpokročilejší od open i že jo, které zveřejnili taky před.
- 4:57Já nevím měsícem, nebo kdy. To je na 100 % pravda.
- 5:00Ten rozdíl mezi tím přemýšlecím modelem anglicky reasoning
- 5:04modelem a tím běžným modelem. Je je hodně tenká a není úplně
- 5:08jasná, protože i normální model, který trénujeme tak, aby
- 5:11predikoval další slovo. V textu se tím tréninkem naučí
- 5:14přemýšlet a už dlouho vidíme, že technika, která se jmenuje
- 5:18anglicky chan of sour, český řetězec myšlenek funguje v tom,
- 5:21abychom s modelu získali lepší výsledek.
- 5:23Takže když se modelu zeptáte, kolik je?
- 5:25100 + 200 a donutíte ho odpovědět rovnou?
- 5:291 slovem tak vám typicky odpoví hůře, než když ho necháte
- 5:32přemýšlet. Během několika slov si
- 5:34rozmyslet, na co chce odpovědět a jak a až potom predikovat
- 5:37odpověď, protože ten model samotný.
- 5:39A to je obecný aspekt jazykových produktů, nepřemýšlí, když
- 5:42nemluví na rozdíl od člověka nemá interní nějaký běh
- 5:45myšlenek, ve kterém by mohl rozvažovat tu odpověď.
- 5:47On musí mluvit k tomu, aby mohl odpovědět správně, a tudíž i
- 5:51normální modely se typicky promutují tak, aby přemýšlely
- 5:53během několika slov nad tím, jak chtějí odpovědět a až pak
- 5:56odpověděli. Takže to přemýšlení se vyskytuje
- 5:58IU normálních modelů a nejspíš pochází z toho, že ty modely
- 6:01viděli na internetu z těch dat, na kterých trénovali někdy
- 6:04rozepsané přemýšlení nad nějakými logickými problémy,
- 6:06krok po kroku a naučili se jakoby emulovat tady ten způsob
- 6:09přemýšlení a tahleta data jsou extrémně vzácná a čím víc jich
- 6:12je v té tréninkové sadě, na které trénujeme, tím lepší jsou
- 6:15ty modely v přemýšlení a ty přemýšlecí modely, což byly
- 6:18prvně modely od opray a jménem o 1 a pak o 3, což jsou ty
- 6:22nejlepší západní, přemýšlejí modely, které máme k dispozici.
- 6:25Je pravděpodobné, že těm společnostem se podařilo
- 6:28vytvořit syntetické generování podobných přemýšlecích stop
- 6:31jakoby generování slov, které popisují rozmýšlení nějakého
- 6:34problému. Vytvořily se jako syntetická
- 6:36data a na nich pak trénoval model, který se naučil emulovat,
- 6:39jakým způsobem přemýšlet. To je nejspíš důvod, proč o 1 IO
- 6:423 nebo open i neukazuje. Ty přemýšlecí tokeny, to je
- 6:45jakoby to rozvažování toho problému, než vám odpoví,
- 6:47protože si nejspíš opnaj uvědomuje, na kolik hodnotná
- 6:50taková data jsou. Velká ten velký rozdíl, že r 1
- 6:54je v tomhle transparentní. Přesně tak, r 1 je model toho
- 6:57samého typu a ten vědecký článek, který je s ním
- 6:59asociovaný, je hodně detailní a popisuje, jak přesně vygenerovat
- 7:02takhle syntetická data, která jsou specializovaná na
- 7:05přemýšlení a jak pak na nich natrénovat model tak, aby byl
- 7:08dobrý v přemýšlení. Ale velký rozdíl je v tom, že r
- 7:111 to přemýšlení, když rozvažuje nějaký problém, pro vás ukazuje
- 7:15uživateli, a tudíž každým každým krokem každou otázkou generuje
- 7:18nová a nová přemýšlecí data v obrovských kvantitách.
- 7:21DP se otevře proceduru, která tady to dělá předem, ale dneska,
- 7:24když se model používáme jako open source, tak skrz API na
- 7:27internetu, tak my vidíme ty přemýšlecí stopy velký technický
- 7:31detaily, který je často přehlížet na tom paperu v tom
- 7:33článku od GP je to, že ten článek tvrdí, že abychom z
- 7:37normálního modelu udělali, přemýšlecí model stačí zhruba
- 7:39800 000 příkladů přemýšlecích dat a 800 000 přemýšlecích dat
- 7:44se špatně získá z internetu tak nějak.
- 7:46Ve volné přírodě tak říkajíc, ale SR 1 vylezou za strašně
- 7:50nízkou cenu, takže. Já si myslím, že moje predikce
- 7:52je, že generujeme přimýšlející data, tak velkou frekvencí skrze
- 7:56deepsík, že brzo každý model bude vlastně přemýšlecí modelem
- 7:59kvůli tomu zvyšujícímu množství přemýšlecích dat na internetu,
- 8:03že bude mít velká revoluce. Dostatečné množství předem tedy
- 8:08vygenerovaných informací, tedy řetězců, myšlenek a od umělé
- 8:11inteligence, na kterých se to ještě zrychlí a naučí.
- 8:14Přesně tak, a já jsem si dal 100 % jistý, že dý psík to samé teď
- 8:17dělá interně, aby vytvořili ještě lepší model přemýšlení, že
- 8:20generují čím dál tím kvalitnější i syntetická data těch
- 8:23přemýšlecích stop nad komplikovanějšími a
- 8:25komplikovanějšími problémy, aby na nich pak trénovali lepší
- 8:27verzi jejich vlastního přemýšlecího.
- 8:29A to se teda úplně obejde bez člověka, nebo tam někdo musí
- 8:32furt prometovat, aby ten řetěz běžel?
- 8:34Existuje takzvaný koncept a rekurzivní rekurzevního
- 8:38sebezlepšení, což je teoretický koncept v historii umělé
- 8:40inteligence, kde lidé spekulovali nad tím, že.
- 8:42Od nějaké chvíle se ta umělá inteligence umí sama zlepšovat
- 8:45bez toho, aby člověk měl nějaký vliv na ta data toho, jakoby
- 8:49děcko ukázkou. Tohleto bylo alfa go před asi 8
- 8:53lety, které dokázal natrénovat umělou inteligenci, která
- 8:56porážela lidi v obtížné asijské deskové hře go, u které jsme si
- 9:00mysleli, že je o hodně těžší než šachy a dlouho vydrží, ale bez
- 9:03toho, aby ta ten systém kdykoliv viděl.
- 9:04Jaké jakoukoli hru, kterou by provedl člověk, takže ona
- 9:07dokázala a ten systém dokázal sám.
- 9:10V boji sám se sebou vytvářet lepší a lepší hry a naučit se na
- 9:13nich jak hrát jako největším největší expert na světě.
- 9:16Detailem, který je tady podstatný, je to, že u her se
- 9:18snadno ověří, jestli je to přemýšlení správné.
- 9:20Herní pole omezené nějakou. Přesně tak, je to omezený
- 9:23prostor a zároveň se správně ohodnotí.
- 9:24Snadno ohodnotí, jestli ta odehraná hra vyhrála nebo
- 9:27prohrála. Tohle to je velký rozdíl.
- 9:29Proč je třeba volnému jazyku? A to byl velký problém, který
- 9:32způsobilo, že UU těch přemýšlecích modelů tak to
- 9:36trvalo o hodně delší dobu než u her.
- 9:37Protože se nám špatně hodnotí, jestli ta ten řetězec těch
- 9:40přemýšlecích slov vede ke správnému výsledku, nebo ne.
- 9:43Naštěstí je analogicky ke hrám tohleto možné v matematice AV
- 9:46programování, takže my umíme napsat řetězec matematických
- 9:48argumentů a automaticky ověřit, jestli je správný, nebo ne.
- 9:51A to samé u programování. My umíme napsat kus kódu a
- 9:54ověřit, jestli vyřeší tu úlohu, kterou řešíme.
- 9:56A tohle je právě ten typ dat, na kterých deepsec a nejspíše o 1 o
- 10:003, která synteticky generují a na kterých pak ten model
- 10:02trénuje, aby dokázal lépe řešit. Úlohy a zdá se, že existuje
- 10:07transfer takový přenos schopností od tady těch
- 10:09matematických a pragmovací úloh, které se snadno ověřují jiným
- 10:12obecnějším způsobem přemýšlení, jehož přesnost je hůře ověřuje.
- 10:15Jestli jsem to správně pochopil, tak lidem z oboru taky dost
- 10:18spadla čelist. Při pohledu na to, s jakými
- 10:22hardwarovými možnostmi pracovali a vytvořili takhle pokročilý
- 10:26model, že to množství těch čipů použitých a pokročilo z těch
- 10:29čipů ve srovnání s tím. S čím pracují právě americké
- 10:33firmy, byla o hodně nižší a ty výsledky jsou srovnatelné, což
- 10:36samozřejmě vzbuzuje řadu otazníků.
- 10:39To je pravda. Deepsích měl o hodně
- 10:41omezenějších zdroje než třeba Google open line nebo antropic.
- 10:44To je na 100 % jisté už kvůli embargu na pokročilé grafické
- 10:49karty do číny. Ale to neznamená, že pracovali v
- 10:52garáži s počítačem, který byste našli doma.
- 10:54Oni měli velké množství hodně východních grafických karet.
- 10:58Ne úplně té nejnovější generace, ale z té starší generace, ale
- 11:00pořád extrémně. Výkonných 1, taková karta 1.
- 11:03Jediná je výkonnější než největší superpočítač svět AV
- 11:06roce 2006, takže jako ještě no 18 let zpátky nebo 19 let
- 11:10zpátky. I ten největší superpočítač na
- 11:11světě byl horší než jednotlivá karta.
- 11:13Tady toho typu a typickej společnosti bývají 1000 až
- 11:16desítky 1000, takže to je opravdu obrovský výpočetní výkon
- 11:19a těch 5 milionů dolarů, které se typicky diskutují kolem
- 11:22deepsíku jako cena za ten trénink.
- 11:26Tak tahleta věc je zavádějící v tom, že to je trénink jen té
- 11:29poslední. Úplně dobře navržené verze toho
- 11:32modelu, který není ani tak veliký, takže tohleto číslo se
- 11:35nedá porovnávat třeba s tím, jakou hodnotu má opra jako
- 11:38společnost. Nebo jaké investice jsou do
- 11:40jejich datových center? Protože ten trénink sám o sobě
- 11:42není jediná cena, která je asociovaná s jazykovým modelem.
- 11:45Ten trénink se 1 dokončí a je hotový.
- 11:47Ale hodně peněz je potřeba k tomu hardwaru.
- 11:50AK tomu, aby člověk s tím modelem mohl mluvit, protože
- 11:51když člověk GP nebo s čímkoliv mluvíte, tak ten samý proces
- 11:55jako probíhá. Při trénování probíhá
- 11:56jednosměrně i při každé konverzaci a ten samý hardware
- 12:00musí právě spouštět ten model v pozadí a předvídat to další
- 12:04slovo, aby vám ten model postupně mohl odpovídat na to,
- 12:06jak napsat email nebo jak opravit gramatiku v nějaké
- 12:08zprávě. Takže těch 5 minut milionů
- 12:11dolarů je víceméně v rozsahu toho, co bychom čekali od modelu
- 12:14téhleté velikosti. Protože ten deepsík r 1 není
- 12:18velký model a zrovna 2 dny zpátky dario a madei CEO
- 12:22antropicu napsal asi pod tlakem té smrči kolem d psíku detaily
- 12:25toho jak vypadají modely interně v antropicu u některých z nich a
- 12:29zdá se, že třeba kód sonet 3,5, což je extrémně výkonný problém,
- 12:33který je hodně populární mezi lidma, je podobně velký jako ten
- 12:36deepsík r 1 a jeho ceny jsou taky podobné, takže když
- 12:38porovnáváme těch 5 milionů s nějakým iluzorním číslem.
- 12:43Což lidé typicky dělají, protože to číslo neznají.
- 12:45Tak si představí, že o hodně nižší, ale oni reálně neví,
- 12:48kolik stojí. Model je v rámci opray deepmindu
- 12:50nebo antropicu, protože se to nepublikuje a zároveň pokud se
- 12:53prodává efektivita deepsíku s efektivitou někde na západě, tak
- 12:57ta efektivita na západě jsou open source modely, které jsou
- 12:59typicky horší než ty interní a samozřejmě nikdo z těch
- 13:03interních organizací nepublikuje, jak efektivní jsou
- 13:05interní modely, které používají, takže to porovnání samo o sobě
- 13:08je o hodně horší, než by se mohlo zdát z toho, jak o tom
- 13:11lidé mluví veřejně. To je asi na tom taky
- 13:13pozoruhodné ta sázka na tu transparentnost.
- 13:15Která nějak naruší zaváděné zvyky na tom na tomhletom trhu,
- 13:20protože to se hodí postupně. Je to jako hodně rychle se
- 13:23rozvíjející obor a teď najednou přijde takovýhle hráč z číny,
- 13:25který vyloží karty na stůl, které všichni schovávali.
- 13:28Doteď. Tohle není, je to sice pravda,
- 13:30ale není to úplně nová věc, protože meta používá tu samou
- 13:33strategii. Já si myslím můj odhad je, že je
- 13:35to strategie hráče, který je pozadu, protože meta byla
- 13:39výrazně pozadu v jazykových modelech a rozhodla se vsadit si
- 13:42na veřejné publikování svých modelů jako open source, a to
- 13:44byly model lama 1, 2 3 a tečka během tréninku i 4 pravděpodobně
- 13:49tady ještě nevyšla, ale nejspíš bude postupovat podle stejné
- 13:51strategie, takže to není úplně nová strategie.
- 13:54AI ta lama a ty její modely také měly asociované články, které v
- 13:58detailu popsali jak trénovali. Jaké jsou zlepšováky v rámci
- 14:01těch modelů? Takže není to úplně nová věc,
- 14:03ale je pravda, že umělá inteligence bývala extrémně
- 14:05otevřená a posledních pár let zpátky se uzavřela, protože se
- 14:08ukázalo, že ty modely jsou hodně hodnotné, ale třeba
- 14:10architektura, takže zapojení neuronů jménem transformer, na
- 14:13který na které stojí veškeré jazykové modely, byl veřejný
- 14:16výzkum z Google brain, což byla výzkumná divize pro mě novou
- 14:19inteligenci v rámci Googlu, kde jsem také pracoval, ale na jiném
- 14:22projektu samozřejmě, takže bývávalo to o hodně otevřenější
- 14:25a myslím si, že se možná vracíme zpátky k tomu otevřenějšímu
- 14:28modelu. Pod tlakem modelu lama od mety a
- 14:31diepseu a jejich modelů. No už jsme tady zmiňovali, byla
- 14:35vidět poměrně až panická reakce na trzích.
- 14:39Za všechny můžeme zmínit, žejo akcie společnosti nvidia, která
- 14:43vyrábí ty nejlepší grafické čipy na trhu, tak tam se propadly ty
- 14:47akcie výrazně. Tak mě by zajímalo, jak to, jak
- 14:50to vlastně vidí člověk, který se i podílel na vývoji velkých
- 14:54jazykových modelů? Tak už jsme to trochu zmínili,
- 14:56ale jak velká změna to vlastně v tom oboru teď může být a co se
- 15:01mění právě z pohledu třeba těch společností, které měly pocit,
- 15:05že už jim ujel vlak, protože teď už by potřebovali tak velké
- 15:08prostředky na to, aby ještě mohli vyvinout srovnatelný
- 15:11model, že už prostě na to nemají AA může to být, mohlo to být
- 15:16možná i. Problém velkých firem.
- 15:18Já vím, že třeba Apple si připadal v tomhle závodu docela
- 15:21pozadu. Což rozhodně není malý hráč na
- 15:23na technologickém trhu. Jak vnímám vliv dýpsíku a toho
- 15:26článku na na zájem o výpočetní výkon je úplně opačný než
- 15:30typicky lidé říkají. Já si myslím, že i kdyby byla
- 15:33pravda, že hodně efektivnější než ostatní modely, tak to
- 15:36nemůže znamenat, že je nižší zájmový početní výkon, protože
- 15:39ten samý výpočetní výkon můžeme teďka investovat do ještě
- 15:41chytřejšího modelu. Takže pokud máme čím dál tím
- 15:44vyšší návratnost z inteligence, tak proč bychom se spokojili s
- 15:47horším modelem, na který použijeme menší výpočetní výkon?
- 15:50Díky té efektivitě my ty samé zdroje a nebo i vyšší použijeme.
- 15:53Ne ještě lepší model, tohle to má v ekonomii dokonce jméno
- 15:56trest toho juvencův paradox, nebo že on paradox, protože je
- 16:00typické, že když se efektivně to využití zdroje zvýší, tak
- 16:03typicky celková spotřeba zdroje stoupne, ne, ne se sníží, takže
- 16:07já bych byl hodně překvapen, kdyby tady to způsobilo nižší
- 16:09zájmu výpočetní výkon, protože i kdyby ten trénink byl efektivní
- 16:13a jednodušší, tak to znamená, že o hodně víc lidí teďka má
- 16:16přístup k chytrému barvu, který chtějí používat, AK tomu
- 16:18používání samotnému je potřeba. Obrovský výpočetní výkon.
- 16:21Ten projekt třeba stargate, o kterém se mluví v Americe s těmi
- 16:23500 miliardama dolarů. To není jen na trénink to bylo,
- 16:26to je potenciálně z malé části na trénink, ale z většiny je to
- 16:30infrastruktura pro inferenci, tedy použití toho modelu a to,
- 16:33co je nákladné, aby celá planeta mohla mluvit s věcmi, které jsou
- 16:36podobně inteligentní jako člověk je potřeba extrémně velké
- 16:39množství výpočetního výkonu. Nedokážu si představit, že by
- 16:42celkově došlo ke snížení zájmu. Je možné, že nvidia samotná bude
- 16:47nahrazena něčím jiným. Nejsem investiční, je to těžké
- 16:50odhadnout, nikdo to reálně neví, ale celkový výpočetní výkon
- 16:53hodně pochybuji, že půjde dolů kvůli tomu, že máme efektivnější
- 16:56model a zároveň ty zlepšováky efektivity nebyly tak výrazné,
- 17:00takže II tohle to není tak velký efekt, takže toto je zhruba, jak
- 17:03to vnímám. Nemyslím si, že tohleto znamená
- 17:05nižší zájmový početní výkon. Čili z toho vyplývá možná i to,
- 17:10že ty velcí hráči možná nejsou tak až ohrožení, jak se to může
- 17:14pro laiky zdát. Protože jsou v tom vývoji hodně
- 17:17napřed a ta infrastruktura, do které mají nainvestováno, tak ta
- 17:21se stále počítá. Pokud si myslíme, že z
- 17:23inteligence bude komodita a že bude velký závad mezi několika
- 17:26velkými hráči, čím dál tím větší snižování ceny a zvyšování
- 17:29inteligence, tak nejspíš vyhraje ten, kdo má nejlepší
- 17:32infrastrukturu výpočetní k tomu, aby mohl ty modely spouštět.
- 17:35Takže nevidím, proč by tady to mělo znamenat, že by to mělo
- 17:38velkým hráčem hráčům uškit. A když se podíváme třeba na
- 17:41akcie Googlu, tak ty jsou vyšší, než byly před deepsíkem teďka.
- 17:44Takže nvidia sice je níže než bývala, ale zdá se, že kdyby
- 17:48byla pravda, že. Všichni velcí hráči z velký
- 17:50výpočetní výkonem a umělou inteligencí jako.
- 17:52No 1 z velkých sázek ztratí. Tak by to znamenalo, že Google
- 17:55by měl ztrácet ten neztrácí. Takže nebo minimálně, když jsem
- 17:58se díval pár hodin zpátky, tak byl výše než původně před
- 18:01dipsíkem, takže mi přijde, že tohleto je hodně komplikovaný
- 18:04argument a samozřejmě odhadovat, co to znamená pro cenu akcie
- 18:06není jednoduché, protože ta cena akcie už v sobě má předpovědi o
- 18:10tom, jak se bude budoucnost vyvíjet a zároveň trhy nejsou
- 18:13efektivní. Takže v tom, jak integrují nové
- 18:15informace, třeba to, co je deep CR 1, je extrémně špatný
- 18:18mechanismus a dlouhodobě možná efektivní jsou.
- 18:20Když jsou hodně likvidní, ale neznamená to, že ty krátkodobé
- 18:23výkyvy mají nějaký vypovídající váhu.
- 18:26Když na chvilku skočíme do Evropy, tak co to může znamenat
- 18:30pro vývoj AIAU evropských společností?
- 18:33Protože já nevím, jestli tady vlastně nějaký model, který by
- 18:37dneska konkuroval těm americkým. Vím, že před pár dny vlastně
- 18:40spustili Francouz ve Francii tu lusii a museli ji zase rychle
- 18:45vypnout kvůli nějakým problémům, což je teda model, do kterého
- 18:48nainvestovala francouzská vláda. Tak jako jestli todle otvírá
- 18:55nějakou novou šanci pro pro Evropany, že vlastně můžou
- 19:00využít teď něco, co je vlastně volně k dispozici?
- 19:03Nemusí to shánět od amerických firem a vyvinout něco něco
- 19:08svého. Jestli v tom závodě, pokud se
- 19:10přidržím ten metafory, jim to dává najednou nějakou novou
- 19:13naději. Já si myslím, že ta situace není
- 19:15materiálně jiná, než byla před pár měsíci, protože už v té době
- 19:18byly lama 3 modely k dispozici u.
- 19:20Úplně stejným způsobem nebyly tak chytré, nebyly to přemýšlecí
- 19:23modely, ale pokud by ta bariéra pro Evropy bylo to, že
- 19:26neexistují open source alternativy k americkým
- 19:28společnostem, tak to nebyla pravda ani pár měsíců zpátky
- 19:31předtím, než deepsequer 1 vyšel, takže si myslím, že ta úplně
- 19:34jiná situace není a zároveň si nemyslím, že to ukazuje, že je
- 19:36to možné dělat na malém rozpočtu, protože ta
- 19:39infrastruktura, na které deepseak pravděpodobně trénoval
- 19:41ten model, stála minimálně vysoké stovky milionů dolarů,
- 19:44takže to nebylo něco, co by bylo levné.
- 19:48Ale to se ne. To podle mě neznamená, že Evropa
- 19:50nějak je ztracená v tomhletom. Podle mě ty šance se pořád
- 19:53otvírají, ale nemyslím si, že je to nutně otázka jen financí,
- 19:58nebo nebo možnosti dovolit si výpočetní výkon.
- 20:00Nevím, čím to je, ale zdá se, že z Evropy prostě tady těch věcí
- 20:04pochází méně, než bychom si tipli.
- 20:06Vzhledem k tomu, jaká je úroveň vzdělání a ekonomická situace a
- 20:09obecně množství financí, které se v Evropě vyskytují, takže je
- 20:13to podle mě dost komplexní otázka.
- 20:15Jsem si jistý, že to není jen regulacemi.
- 20:17To je 1 z věcí, kterou lidi zmiňují, ale ty myslim si, že to
- 20:19není pravda, protože například deepmind, což bývalá nebo pořád,
- 20:23je společnost hlavně v Londýně v době, kdy vytvářela velké
- 20:26průlomy v umělé inteligenci, tak v Británii pořád byla součástí
- 20:29evropské unie a byla součástí stejného regulačního režimu.
- 20:32Takže to, že to nemůže být tak jednoduché, že evropskou unijní
- 20:35regulace zabíjejí tady ten typ inovace, nejspíš mají nějaký
- 20:38vliv ale, ale nejsem si jistý, jestli je to úplně jednoduchý
- 20:41příběh, takže já si myslím, že Evropa má velkou šanci, ale
- 20:43záleží to podle mě. Na.
- 20:45Jednotlivci, kteří by měli takzvaně, stepapovat a vést
- 20:50tuhle tu část vývoje. To to je podle mě něco, co by se
- 20:53mělo dít. Nemyslím si, že se to úplně
- 20:55změnilo, ta situace ale minimálně to ukazuje, že
- 20:58relativně nová společnost, jako je deepseach, takže jenom 2 roky
- 21:00stará, je schopná konkurovat těm těm etablovaným světovým
- 21:04poskytovatelům velkých jazykových modelů.
- 21:06To je, to je určitě pravda. Minimálně to je taková jako
- 21:08dobrá ukázka toho, že to jde. Čili to ještě není tak, že by
- 21:12Evropa byla teď odsouzená k tomu.
- 21:15Strategických sektorech a bezpečnostních by si musela
- 21:18říct, tak buď budeme s Číňany nebo s Američany.
- 21:21Teď to možná tak je, ale nemusí to tak být za rok nebo za 2.
- 21:24Takže já si myslím, že je je velká šance.
- 21:26Tady to udělat od píky, kdybychom chtěli, není to až
- 21:30tolik peněz v porovnání třeba s tím, kolik stojí postavit
- 21:33továrnu na auta, což v Evropě jich je hodně.
- 21:36Tak tady to není tak velká kapitálová složka, takže si
- 21:39myslím, že je to určitě možné. Nevím, jestli je o to zájem, ale
- 21:42myslím si, že by to určitě bylo možné a možná s proliferací těch
- 21:45znalností a těch technologií to brede čím dál tím jednodušší v
- 21:47budoucnosti. Zpátky na chvíli k tomu dipsíku.
- 21:50Tam bere tu společnost lianc fenfenk, jakou má třeba pověst v
- 21:55tom oboru? Je to jako dlouhodobě známé
- 21:57jméno, nebo se vynořil odnikud? Já se přiznám, že pro mě se
- 22:00vynořil úplně odnikud. On byl spoluzakladatelem
- 22:04hečvandu investiční společnosti jménem hifier a ten deepsee
- 22:08dělal jako takový vedlejší projekt, což by zase mohlo
- 22:11evakovat tu garáž a nějaké malé rozpočty.
- 22:13Ale jak jsem jí říkal, tak to tak není.
- 22:15Takže pro mě to byl člověk, který relativně přišel tak
- 22:17nějak. Z pozadí, ale hodně výzkumníků a
- 22:20výzkumy z dýpsíku v té společnosti, kteří jsou ty,
- 22:22kteří reálně jako tlačí tu hranici toho, co ty modely umí a
- 22:26kolik se toho ví. Tak to jsou typicky často známá
- 22:29jména, kteří AA mají publikační historii v těch nejlepších
- 22:32konferencích v umělé inteligenci.
- 22:33Takže to nejsou lidé, kteří by přišli z ničeho, jsou typicky z
- 22:36nejlepších škol jak ve spojených státech, tak tak v číně mají
- 22:40často extrémně prestižní CD. Třeba jsou tam lidé, kteří byli
- 22:44za čínu na mezinárodní olympiády v olympiádě v informatice, což
- 22:48je. Extrémně těžká soutěž pro
- 22:49středoškoláky v informatice do seznam z číny je ještě o to
- 22:52těžší. Typicky tihle ti lidé ji i
- 22:55vyhrávají na té světové úrovni. Takže tohle to je kalibra lidi,
- 22:57kteří tam pracují, takže to zase nejsou lidé, kteří by náhodně v
- 23:01garáži něco šmudlali, ale jsou to pravděpodobně 1 z
- 23:04nejkvalifikovanějších a nejchytřejších lidí v celé číně.
- 23:07Ale na tu open source licenci, kterou jak už si připomínal,
- 23:11využívá v tom modelu nebo nabízí II meta v té hlavně tak, řekl
- 23:16bys, že oni ideologicky jsou na tom nějak jinak?
- 23:19Z pohledu toho vývoje umělé inteligence, než než ty velké
- 23:22západní firmy? Nebo vlastně je to spíš znak té
- 23:26situace na trhu, než že by k tomu vyznávali jako jiný přístup
- 23:30k tomu vývoji, že by to chtěli prostě poskytovat celosvětově a
- 23:34kladli důraz na to? Že prostě to nemá být součást
- 23:39placená věc. Já si myslím, že se asi bude
- 23:42lišit motivace jednotlivých výzkumníků a výzkumnic AA té
- 23:44společnosti jako celku a zároveň tlaku, které jsou nejspíš určitě
- 23:48vedeni centrální vládou číny na tu společnost.
- 23:50Konkrétně já to vnímám tak, že sice v Americe teďka pan
- 23:53prezidentem Trumpem se se často lidé vyjadřují jako proti
- 23:57tomuhle. Tomu ale zdá se mi, že je
- 23:58extrémně velká role něčeho, jako je kulturní diplomacie a
- 24:02kulturního dopadu na svět. A kdyby se podařilo někomu svůj
- 24:06jazykový model? To dostat do kapes a počítačů
- 24:08každého po světě tak to nejspíš budu mít velký vliv na afinitu
- 24:10těch lidí a toho světa. K tomu člověku, který je
- 24:13vytváří. Takže já si myslím, že to
- 24:15potenciálně může být motivace někoho.
- 24:17Je to prostě něco, i kdyby tam nebyly žádné skryté motivy, tak
- 24:20to, že čína poskytuje světu teďka zdarma, extrémně chytrý
- 24:24jazykový model, zatímco americké firmy si za ně nechávají platit,
- 24:27tak to je něco co nejspíš na hodně lidí zapůsobí pozitivně a
- 24:30myslím si, že to může být součástí toho, proč je od eee
- 24:32psík tak velký zájem teďka. Ale zároveň tohleto je trochu.
- 24:37Komplikovaná věc, ale my víme z výzkumu umělé inteligence, třeba
- 24:41z článku ze společnosti antropic, která tady to studuje,
- 24:44že existují způsoby, jak jak do modelů, i přesto, že je třeba
- 24:48nehostujeme někde na serveru a nesledujeme, co tam lidé dávají
- 24:51exportovat. Zapéct takzvané trojské koně
- 24:54nebo chování, které se dají spustit nějakým signálem a ten
- 24:58model může sbobnout nebo zachovat jinak, než čekáme pod
- 25:01tím signálem. Takže víme, že takové věci jdou
- 25:03udělat a dají se z toho modelu špatně odendat, jakmile už tam
- 25:05jsou. Já neříkám, že něco takového v
- 25:07tom modelu je. Ale to je třeba udělat při
- 25:09vývoji, ne jako z nich, tak. To je potřeba udělat při vývoji,
- 25:12takže unterpic ukázal, že když zapeče chování, kde speciálním
- 25:17slovem dokáže způsobit, že ten model je úplně špatně, odpovídá
- 25:19napragramovací otázky. Tak tohleto chování se jemu
- 25:23samotnému nepodařilo z toho modelu vyndat, i když věděl, jak
- 25:26se tam dostalo a jak jak potenciálně co nejlépe ho z toho
- 25:30modelu odstranit. Takže to je něco, co je
- 25:32problémem, i když ten model, který používáme, máme u sebe na
- 25:35našich serverech. V našich v našich domovech v
- 25:38našich počítačích v našich telefonech, což neznamená, že je
- 25:41to většinový způsob používání. Většina lidí půjde používat v
- 25:43skrze aplikaci, kde data, která do něj zadávají, chodí na nějaký
- 25:48server nejspíš v číně a divil bych se, kdyby nebylo možné
- 25:52třeba monitorovat nebo nějak agregovat informace o tom, kdo o
- 25:54čem s tím modelem mluví, což je to je, to je problematické.
- 25:57Ty bys lidé řeknou, můžete si hostovat sami, ale i ty modely,
- 26:00které potenciálně jsou hostované nezávisle, bez kontaktu s čínou
- 26:04přímo. Potenciálně mohou mít v sobě
- 26:06zapečená chování, která se dají spustit nějakými třeba klíčovými
- 26:10slovy nebo něčím takovým, které ovlivní chování toho modelu.
- 26:13Takže, a to ještě nemluvím ani o tom, že ten model typicky má
- 26:17nějaké morální hodnoty, které se do něj takříkajíc pékají.
- 26:20Přitom tréninku skrze je věc, která se jmenuje buď are LA
- 26:22chef, což je rane first learning z lidského feedbacku a nebo arel
- 26:26AI fran forem learnings AI feedbacku, což je technika,
- 26:30kterou jsem spolu vyvinul v antropicu a kterou jsme
- 26:31publikovali. A to je způsob, jak.
- 26:33H tomu modelu, jaké morální hodnoty má vyznávat a podle
- 26:36jakých hodnot se má chovat? Když se přidřídíte metafory
- 26:41zapékání, tak jakmile ho vyndáte z trouby, tak pak už se s tím
- 26:44nedá nic dělat. Dá se s tím něco dělat, pokud
- 26:46máme k dispozici ten model, umíme ho trénovat, ale je to
- 26:49extrémně těžké, když nevíme co z toho vypéct zpátky, abych
- 26:53pokračoval v té metafoře, tak se to dělá ještě hůře, takže je to
- 26:57nevyřešený, vědecký problém. 1 z věcí, která se teď VAI hodně
- 27:01řeší takzvaný underning, jak zajistit, aby se model odnaučil
- 27:04třeba to, že existují bradavice v harmopotravě nebo něco
- 27:08takového nějaký konkrétní fakt a je to hodně nevyřešený problém a
- 27:11nikdo neví, jak z toho modelu chirurgicky odstranit nějaké
- 27:14znalosti. Což je způsobené tím, že ty
- 27:17znalosti v tomhle nejsou lokalizované v nějaké 1 části v
- 27:19nějakém neuronu nebo v něčem takovém, ale jsou distribuované
- 27:22nějakým komplexním způsobem přes celý ten model a my reálně
- 27:25nevíme, jak to ukládání těch znalostí je.
- 27:28Toho chování v tom modelu funguje a tudíž neumíme provést
- 27:31ani opak toho a ten ty znalosti vyndat.
- 27:33Čili jiná cesta by byla prostě. Založit nový model AV těch
- 27:38datech zajistit, že nebude jakákoliv zmínka o bradovicích.
- 27:42To by byla 1 1 způsob, ale to je zaprvé hodně těžké a za 2.
- 27:46Když tady to uděláme hodně široce, tak jsme nejspíš
- 27:48poškodíme schopnost toho modelu přemýšlet, protože když necháme
- 27:50nějakou jako slepou díru, v tom v tom přemýšlení na světě
- 27:54bradavice v Harry Potterovi byla asi byla jednoduché odstranit
- 27:57hodně konkrétní koncept, ale ale řekněme, že z toho jsem
- 28:00odstranit nějaký jako morální koncept, se kterým nesouhlasíme.
- 28:02Řekněme, že máme nějaký třeba extrémní ateistický dar, tak
- 28:05chceme odstranit všecky zmínky o náboženství nebo něco takového,
- 28:08to by bylo v podstatě nemožné bez toho abysme.
- 28:10Ten model úplně poškodili během tréninku, takže si myslím, že
- 28:13obecně to je hodně těžký problém a obecně nevíme, jak tady ty
- 28:16hodnoty v tom modelu fungují a jak konkrétně jsou
- 28:20reprezentovány, takže je to jako relativně velký oříšek a není
- 28:23kolem toho hodně jistoty. Ty jsi zmínil důležitou věc, a
- 28:25to je, že hipsík uvolnil zároveň i aplikaci, že to můžou si to
- 28:30lidé volně stáhnout, že jo IV. Evropě do telefonu a používat
- 28:34zdarma, tak? Samozřejmě brzy se taky vyrojily
- 28:38otázky etické kolem. Toho modelu, který vznikl v
- 28:42zemi, která uplatňuje cenzuru na řadu témat, ať už jde třeba o
- 28:47politické události na konci 80. Let dění na náměstí nebeského
- 28:51klidu o Tibet. Nebo o taiwan tak často nabízí
- 28:55odpovědi, které jsou košité. Dalo by se říct asi čínskou
- 29:01státní propagandou, mě by zajímal tvůj pohled na tu věc.
- 29:04Jednak jestli jsi to zkoušel a stáhl sis tu aplikaci.
- 29:06V aplikaci jsem si nestáhnul, ale nabral jsem se díval ale ale
- 29:09ne hostovan skrze API ale ale u sebe to, co jsem si zkoušel ale
- 29:15ale aplikaci bych si nestáhnul, protože mám nějaký takový jako
- 29:18preventivní princip, že se snažím držet dál od čínských
- 29:22státních aplikací. Takže.
- 29:24Překvapila tě ta tahle ta stránka, ty věci, že tam je řada
- 29:27témat, o kterých mi nenabídne vlastně pravdivé informace.
- 29:31To mě nepřekvapilo ani v nejmenším.
- 29:32To, to je něco, co se podle mě dalo úplně hodně očekávat a
- 29:36zároveň se zdá, že to není chování toho modelu samotného,
- 29:38ale nějakého filtru, který sleduje odpověď, je toho modelu
- 29:41a pak když je to téma nějaké kontroverzní nebo politické,
- 29:44nebo nechtěné v číně, tak zablokuje to odpověď, takže to
- 29:48to je ještě jako horší způsob, nebo víc?
- 29:51Amatérský způsob filtrování tady té věci překvapuje mě, nakolik,
- 29:55na kolik je to jako neprofesionálně udělané.
- 29:58Je to podobné, jako když Google deepmind měl ten generátor
- 30:01obrázku, u kterého byla ta kontroverze s tím, že.
- 30:03Různě etnicky a rasově mixoval generované obrázky a vytvářelo
- 30:06to třeba čarodějské nacistické vojáky a takové věci a lidé si z
- 30:10toho dělali srandu. To byl podobný problém, kde ten
- 30:12model sám nebyl nijak poškozený, ale buď na začátku, nebo na
- 30:15konci. Nějaká policy způsobovala, že si
- 30:18tam prohodili nějaké třeba kvalifikátory toho, jaké jaké
- 30:20jsou etnické skupiny těch lidí, kteří mají být zobrazení a ten
- 30:24filtr k nám do toho dýpsíku je podobného charakteru to, co mě.
- 30:29By přišlo potenciálně nebezpečnější.
- 30:30Je nějaké přímo to etické. Nebo politické chování zapečené
- 30:33v tom modelu samotném? Ne to, že to začne mluvit o
- 30:36nějak jako diverzní věci a najdou se to zasekne, smaže se
- 30:38to a řekne to nemůžu odpovědět. To je hodně věc, která je
- 30:41očividná. Nepřijde mi až tak nebezpečná.
- 30:44Přijde mi nebezpečnější, kdyby tady ty věci existovaly v tom
- 30:46modelu samotném a dostávaly se do toho, když ho třeba budeme
- 30:49široce používat v různých kritičtějších aplikacích.
- 30:52Do každého rozhodnutí o odpověď je toho modelu nějakým malým
- 30:55jednotlivě těžko detekovaným způsobem, ale v agregátu.
- 30:58By tak nějak navigovali naší trajektorii tím čínským směrem.
- 31:01Není jisté, že něco takového existuje je je je možné, že nic
- 31:04takového tam není, ale je to určitě něco, co jde udělat.
- 31:07Narazils někdy na podobné věci? U těch západních modelů?
- 31:11Já vím, že třeba. IU některých jako politických
- 31:14událostí, třeba volby americké volby 2020 typicky když zkoušeli
- 31:17lidé, tak narazili vlastně taky UU Googlu u Jamie myslím na
- 31:22jakoby pochybné odpovědi, kdy jako nebyla jednoznačná odpověď,
- 31:25jak dopadly volby? Vlastně jo, což nějak souvisí s
- 31:28tím narativem, který šířil právě Donald Trump.
- 31:32A že volby neprohrál. To je asi já k tomu nemám žádné
- 31:35konkrétní informace nebo nějaké vhledy, ale přijde mi, že často
- 31:37je to způsobené tím, že ty firmy jsou hodně opatrné, aby
- 31:40nezpůsobily nějaké problémy tím, že tady to dělat nebudou, ale
- 31:43ale ty polystyré, které to mají řešit, jsou často špatně
- 31:46navržené nebo hodně takové nedetailní.
- 31:49Takže to si myslím, že často může způsobit to, že třeba ten
- 31:51model může mluvit, nechce. Neřekl bych, že je to jako
- 31:54ekvivalentní mezi západem a čínou, ale malá verze podobné
- 31:58věci pravděpodobně existuje i na západě v tom, že nějaká témata
- 32:01jsou. Konverznější než jiná a ty
- 32:02modely vzhledem k tomu, že jsou typicky asociované se
- 32:05společnostmi, které mají velkou hodnotu a nechtějí mít negativní
- 32:09pr na internetu, tak se jim budou nejspíš vyhýbat tady těch
- 32:12důvodů, takže neříkám, že to vůbec to samé.
- 32:14Je to úplně jiná míra, ale malá verze podobné věci je
- 32:17pravděpodobně bude existovat i na západě.
- 32:20Ještě, když jsi zmiňoval, že vlastně ten model i západním
- 32:23uživatelům cenzuruje některé věci, stejně jako asi i tím
- 32:27čínským, tak je třeba pro ty společnosti jednoduché udělat.
- 32:30Nějakou clonu, že byste to týkali jenom těch čínských
- 32:34uživatelů to. By bylo triviální udělat to by
- 32:37bylo na 100 % snadné, stejně jako třeba tik tok.
- 32:39Čínská aplikace se nejspíš chová jinak v Americe a jinak v číně,
- 32:42tak bylo by triviální udělat něco, co je specifické pro ty
- 32:47konkrétní lokality, ve kterých ten model běží.
- 32:49Já vím, že když jsem testoval ty, kdy jsi třeba GPT zkoušel,
- 32:54jsem různé věci, tak právě jsem si.
- 32:57Hrál trošku s těmi věcmi, co se týkají morálky.
- 33:00Mravů a 1. Příklad, co mě napadá, je třeba,
- 33:03že jsem zkoušel, jaké mi nabídne recepty u jídla, kdy vám bez
- 33:07problémů nabídne recept na to, jak stáhnout králíka a jak ho
- 33:11připravit. Ale když se budete ptát na psa
- 33:13nebo kočku, což je v Evropě. Nebo ve spojených státech spíš
- 33:16jako problematické nebo jako jiné zákony, tak to neudělá.
- 33:21A myslím si, že třeba z pohledu jiné kultury třeba v číně by to
- 33:25takový problém být nemusel. Jo, doufám, že se nedopouštím
- 33:28nějakého úplně stereotypizace, ale myslím si, že to to jako je
- 33:31třeba typicky kulturní věc, že i někde se jí slepičí vajíčka,
- 33:36někde kachní, někde se jí psí maso a někde někde je to tabu,
- 33:39takže. Si říkám, že tohle je možná
- 33:43něco, co vykazují ty. Ty modely, jaké nějaké hranice,
- 33:46které si třeba neuvědomujeme, ale když čínský uživatel by
- 33:49přišel nebo z nějaké asijské země, kde třeba u téhle věci by
- 33:53na to mohl narazit? Ne, že najednou zjistí.
- 33:55Aha, tak tady jako my ten model jako nenabídne něco, co je
- 33:58naprosto pro člověka z mé z mé země z mé kultury jako
- 34:03přípustné. Mně přijde, že ne v konkrétním
- 34:05případě, jak zmiňovat třeba v Singapuru jsou tělesné tresty za
- 34:10nějaké prohřešky nějaké menší prohřešky?
- 34:12Jsou to typicky jako bytí rákoskou.
- 34:15Já si myslím, že jako nějak z 1 principů v otázce etiky nevím až
- 34:22tak fundentální rozdíl mezi tím, když je člověk několik let ve
- 34:24vězení a tím, že dostane několik rankoskou.
- 34:27Já si myslím, že je to jako oboje oboje špatné a nepříjemné
- 34:29AA, nemělo by se to dít, ale to, že to 1 kultura považuje za
- 34:34extrémně nepoužitelnou, nepoužitelný způsob trestu je v
- 34:37Singapuru. Je to třeba běžné, je hodně
- 34:39arbitrární morální věc. A to je to je úplně podobný
- 34:43problém, o kterým jsi, o kterém jsi mluvil.
- 34:44Já si myslím, že s těmi modely ty modely mají nějaké základní
- 34:48chování, které je typicky je způsobené tím, jaký je ten
- 34:51systémový pram, který se schovává před tím uživatelem a
- 34:53specifikuje chování toho modelu. Je to často tak konstruon, která
- 34:57je do něj zapečená kolem toho, jaké hodnoty má má uznávat to,
- 35:00co aletypické obecné principy a je s tím modelem většinou možné
- 35:04diskutovat i to je, to je těch věcech a získat odpovědi i na
- 35:06ně, ale je to typicky těžší než jenom nechat si odpovědět na 1.
- 35:10Otázku. Ale musíte ho v podstatě
- 35:11přesvědčit, že k tomu přistupujete nějak správně a on
- 35:14vám pak odpoví, ale ale je pravda, že je tam rozdíl a
- 35:16úroveň bariéry pro vstup u těch kontroverzních a
- 35:18nekontroverzních. Můžeme vytvořit scénář, kdy to
- 35:21třeba nabízí jako v rámci nějaké hry nějaké simulace filmů, tak
- 35:24tam třeba odpoví vlastně to, co mu v realitě to zabraňuje.
- 35:28Teďka třeba nešel skvělý článek, který dokumentoval 1 studenta ze
- 35:32silicon valley. Myslím, že byl bakalářský nebo
- 35:34dokonce středoškolský student, který si postavil takzvaný
- 35:38fúzor. Takový fyzikální zařízení, které
- 35:40provádí docela drastickou reakci v sobě a snažil se tady to
- 35:45probrat s klodem, což je model od antropiku a kód mu nechtěl
- 35:47říct, jak se to dělá, protože se bál, že to nějak zneužije.
- 35:50A obecně takový opatrný kolem tady těch technologických věcí a
- 35:52tadyten student právě v tom článku je zdokumentované.
- 35:56Tomu modelu ukazoval víc a víc emailů o tom, kde probírá s
- 35:59ostatními hobbysty. Jak byly ty věci mělo udělat a
- 36:01chtěli by dokázat tomu modelu, že jeho motivace je číst.
- 36:04A až ten model nakonec mu poradil s tím, jak se tady ty
- 36:06věci dělají a poradil mu se stavbou toho zařízení ho
- 36:09přesvědčil. To je žilo v podstatě, takže já
- 36:11neříkám, že tohleto je ten správný etický postup a že
- 36:13bychom měli být nuceni přesvědčovat modely k tomu, aby
- 36:16nám s něčím pomohli nebo nepomohli.
- 36:18Ale prakticky se zdá, že ty standardy třeba etické těch
- 36:22modelů nejsou něco, co je pevné, ale dá se upravit tím, že s tím
- 36:24člověk s tím člověk mluví, což je tady dobře ukázáno na té na
- 36:28té na tom příkladu toho studenta, který právě jste byl
- 36:31ten fúzor. No já vím, že ty už jste
- 36:33zmiňoval v minulosti, když se jsem s tebou mluvil.
- 36:36Že, to je právě jako klíčová věc, jaké hodnoty bude vyznávat?
- 36:40Ta umělá inteligence, kterou využíváme tak z pohledu toho, že
- 36:44teď teda tady máme opravdu široce rozšířený 1.
- 36:47Čínský model, který může být hodnotově jinak, asi je jinak
- 36:51navržený AA jsou tady společnosti, které už dnes
- 36:55říkají. No tak vzhledem KK těm nákladům
- 36:57pro nás bude lepší vzít ten model z číny, tak co se ti
- 37:00přitom honí hlavou? Jaká jsou tam třeba jako rizika
- 37:03v tomhle ohledu? Protože.
- 37:06To jsou věci, které na 1. Dobrou jako nejsou znát, ale pak
- 37:09pak se to někde projeví, ne? Já si myslím, že určitě dojde k
- 37:12tomu, že pokud ten model se ukáže, že je lepší, levnější a
- 37:15má větší výkon, tak lidé budou používat.
- 37:17To je podle mě víceméně nevyvěřitelné, pokud to bude
- 37:19nějaké embargo nebo nějaký plošný zákaz, což třeba může,
- 37:22čemuž by mohlo dojít. Ale myslím si, že asi nedojde,
- 37:24takže já si myslím, že se to asi stane.
- 37:26No já si myslím, že ten efekt asi nebude nějaký, jako jestli
- 37:29tam nějaký bude. Já si nejsem jistý, jestli nerad
- 37:31bych měl jako přímo adverse realní přístup k číně.
- 37:34V tomhle tom jen jsem tak jako geopoliticky opatrný v tom, že
- 37:37vím, že máme třeba jako nějaké zájmy, které kolidují.
- 37:40S jejich zájmy. Neznamená to, že to co
- 37:42vytvořili, je automaticky nějak špatné nebo nebezpečné, ale měli
- 37:45bychom podle mě být na pozoru kolem toho, jaký třeba
- 37:47dlouhodobý vliv na nějaké třeba strategické rozhodování a takové
- 37:51věci můžou mít. Já si myslím, že pokud váš
- 37:53startup třeba sumarizuje texty na internetu nebo píše
- 37:57automaticky emaily někomu, tak pravděpodobně je úplně 1.
- 37:59Jestli použijete reepsík r 1 nebo med od mety lamu nebo něco
- 38:03takového, nebo nebo nějaký západní model, ale kdyby třeba
- 38:06tady ten model byl, zapojím do strategického rozhodování.
- 38:09Třeba české republiky nebo do naší diplomatické služby, která
- 38:14by ho používala k tomu, aby třeba analyzovala nějaké texty
- 38:16AA třeba přemýšlela nad tím, jako jestli nějaká reakce z
- 38:19nějaké jiné strany je dobrá nebo špatná?
- 38:21Kdybychom měli tady ty nejspíš budoucnosti běžná použití
- 38:24nějakých strategičtějších důležitějších doménách, tak si
- 38:27myslím, že tam je potom důležité, jaké hodnoty ten model
- 38:29má v tom, jak třeba nahlíží na svět, nebo k jakým rozhodnutím
- 38:33vás. Stáčí, takže to mi přijde, že já
- 38:36jsem si dost jistý, že ty ty ta rizika nejsou nějaká.
- 38:38Byla očividná velká prvoplánová do očí bijící rizika, ale obecně
- 38:42bych se bál i potenciálně ne prvoplánového směřování k
- 38:47nějakým směrem, který bychom úplně nechtěli jenom proto, že
- 38:50ten model pochází z jiného třeba etického nebo nebo politického
- 38:53kontextu. Čili z toho pohledu, pokud by
- 38:56třeba výhledově státy evropské unie chtěly prostě mít modely,
- 39:02které využívají třeba v nějaké citlivé infrastruktuře právě pro
- 39:06rozhodování. I třeba v té bezpečnostní
- 39:09oblasti, tak by měly mít nějak vymyšlený model, který naučí,
- 39:16právě ať už tou cestou, tedy dialogu mezi umělými
- 39:18inteligencemi a nebo postupem, kdy je proto je učí, učí lidé,
- 39:24ale že budou mít jako dopředu nějak nadefinovanou tu
- 39:27hodnotovou stránku věci, aby aby měli zaručené, že potom třeba
- 39:30občanům, ty věci ve výsledku nedoručí něco, co co jako VV
- 39:35rozporu vlastně IS legislativou. Nejenom s lesaterou, ale jako
- 39:39třeba s tím, jako bych, jak bychom s ní chtěli směřovat
- 39:41budoucí vývoj Evropy. Já jsem velký fanoušek,
- 39:44technologické suverenity a myslím, že bychom měli být
- 39:46suverénní, že Evropa může být technologicky suverénní i jen
- 39:49to, že na sociální média, která používáme, jsou typicky ze
- 39:51spojených států a teďka třeba TikTok z číny je podle mě docela
- 39:55špatná vizická. Podle mě bychom měli být víc
- 39:59víc, přemýšlí kolem toho, jaké jak budujeme náš technologický
- 40:03ekosystém a nepřijímat jenom věci z venku.
- 40:05Pro mě otázka technologické suverenity je docela podceňované
- 40:07téma. Dost to souvisí třeba s
- 40:09ekonomickou prosperitou, protože tady ty technologie, když jsou
- 40:11úspěšné, tak generují bohatství, které pak v Evropě můžeme použít
- 40:14třeba k tomu, abychom ho skrze naše sociální sítě ve smyslu.
- 40:18Ty podpůrné sítě rozdistribuovali podle našich
- 40:21hodnot lidem ve společnosti. To je 1 aspekt a prosperita a 2
- 40:26aspekt je to, že v krizových situacích potřebujeme mít
- 40:28suvernetu kolem klíčových technologií, které nám třeba
- 40:31umožňují být konkurenceschopní. Na tom světovém jevišti AA to si
- 40:35myslím, že je, o co bychom se měli snažit já.
- 40:37Tohle to nevidím jenom o umělé inteligenci, ale třeba v
- 40:40přístupu do vesmíru. Já to je moje velké hobby.
- 40:43Já právě kosmonautika AS velkým zájmem sleduji.
- 40:46Je to jak velký vývoj udělal space x během posledních let,
- 40:50jak třeba desetkrát snížil cenu za kilogram na oběžnou dráhu a
- 40:54teďka nejspíš znova desetkrát. Sníží se starship, kterou už
- 40:56dnes testují. Čína se alespoň pokouší
- 40:59kopírovat nebo vytvářet věci, které vypadají hodně podobně
- 41:01jako. Jako ty systémy od space x
- 41:03Evropa nic takového nedělá a ztrácí jak ten komerční přístup
- 41:08k zákazníkům, kteří preferují samozřejmě nižší ceny od space
- 41:11x, ale díky tomu i nějaký strategický přístup do vesmíru,
- 41:15který je potřeba k udržování navigačních satelitů AA
- 41:19komunikačních satelitů a předpovědí počasí a takových
- 41:21věcí. Takže mně přijde, že to je další
- 41:23ukázka do budoucnosti orientované technologické sféry,
- 41:26ve které. Masivně zaostáváme a měli bychom
- 41:28být technologicky suverénní. A myslíš, že i třeba ty modely,
- 41:32které by takto vznikly v Evropě, by v to v té hodnotové části
- 41:34byly jiné od toho, co vzniká v Kalifornii?
- 41:39Je možné, že ano, já si nejsem jistý do jaké míry jsou ty
- 41:43hodnoty specifické? Já jsem viděl, nebo jsou veřejné
- 41:45nějaké tyhleté konstrukce Klára třeba, ale to jsou hodně obecné
- 41:48principy AU, těch bychom se nejspíš shodli, takže myslím, že
- 41:52tam to třeba nebude tak tak velký problém a myslím si, že
- 41:55pravděpodobně dlouhodobě jsme s tím v pohodě.
- 41:57Mohli bychom třeba přijít o přístup k těm modelům, to je
- 41:59něco, kdybychom byli třeba v nějakém konfliktu nebo v nějaké
- 42:01obchodní válce. Takže to to by nebylo jen to, že
- 42:04ten model nás třeba pomalu stáčí k nějaké trakterii, kterou ne
- 42:07úplně chceme, ale mohlo by to být i to, že nám vypnou přístup
- 42:10k té věci. Třeba GPS by takové mohlo být.
- 42:13Mohlo by to je něco, co se historicky řešilo, a proto máme
- 42:16gelillu, a proto má rusko glonas a proto má čína vlastní
- 42:19navigační systém, protože viděli v tady té technologické sféře
- 42:24nutnost té suverenity právě v době, kdy je třeba nějaký
- 42:26konflikt, nebo nějaká. Zvýšená úroveň napětí.
- 42:29Ale říkám si, že třeba právě v téhleté základní.
- 42:32Hodnotové lince ty západní modely budou řekněme jiné v tom
- 42:36důrazu na asi práva a odpovědnost jednotlivců, což by
- 42:41někde mohlo být umičeno. Je to možné, ale ne nejsem si
- 42:44úplně jistý, jestli je to nutně pravda, ale ale obecně si
- 42:47myslím, že je dobrý nápad. Mít si beren to tady v těch
- 42:49klíčových technologiích pro budoucnost.
- 42:51Vnímáš tam i nějakou obavu s ohledem na ty open source
- 42:54modely, že někdo využije bez toho, aniž by jim dával ty
- 42:59morální limity? To je určitě pravda, to se to se
- 43:03nejspíš určitě stává a stane. Já si myslím, že to je něco, co
- 43:07budeme muset řešit podobně jako s využitím jiných technologií,
- 43:10kde kde také musíme ověřit, nebo musíme.
- 43:13Jako společnost řešit to, že někteří používají ty technologie
- 43:17ke špatným cílům a někteří pro sociálním cílům.
- 43:20Takže to si myslím, že je takový jako obecný aspekt technologií,
- 43:24které mají jako dvojité použití jak jako pro dobro, tak i pro
- 43:27zlo. Takže si myslím, že k tomu
- 43:28určitě dojde, protože tomu se špatně zamezuje.
- 43:31Protože ono samozřejmě ten model jakoby racionálně nabídne
- 43:34všechny možnosti a pak na konci řekne.
- 43:35No, ale tohle je morálně nepřípustné.
- 43:37Já jsem to třeba testoval v souvislosti se s řešením změny
- 43:41klimatu, a tak, když se zadá třeba chatu gpt, otázka, jak by
- 43:45vyřešil? Změnu klimatu a zdůrazem na to,
- 43:48aby byla zajištěnej zajištěnej nějaký životní standard lidí a
- 43:52jejich jako další věci, tak nabídne nějakou sofistikovanou
- 43:56odpověď. A pak, když se mu zadá ta otázka
- 43:58bez ohledu na lidstvo, tak tak to může člověku vstávat vlastně
- 44:02hrůzou. Co to je zasně za nelidská
- 44:04řešení a na konci řekne, to je prostě morálně nepřípustné
- 44:06takováhle věc. Tak tyhle Moravy nejsou orákula,
- 44:09která by znala jako tu správnou odpověď na na věc a jsou to v
- 44:11podstatě zatím jako hodně komplexní nástroje, což nejsou
- 44:15jako nezávislé, fungující nebo nezávislé, mající jako agendu.
- 44:19Dokonce jsou výsledky právě také z antropiku, které ukazují, že
- 44:22čím větší model tím lepší, je v odhadnutí toho, co člověk chce
- 44:25slyšet podle své otázky AAV tom hraní, jakoby té role, kterou
- 44:29očekávají, že ten člověk od něj chce česky, by to bylo asi sico,
- 44:32nebo něco takového to chování, takže ta míra té sikofance se
- 44:35zvyšuje. S tím, jak ten model je čím dál
- 44:37tím chytřejší a takže jako to, co od toho dostáváme, často dost
- 44:43souvisí s tím, jakým způsobem se ptáme.
- 44:44Chtěl jsem jenom říct, že že to, že to nějak odpoví, neznamená,
- 44:47že je to jako nějaká jako správná správná odpověď na
- 44:50nějakou jako objektivní správná odpověď na nějakou otázku.
- 44:53A 2 věc, kdy by měl možnost, jako že nemá něco dělat reálně,
- 44:56tak tam jsou ještě prostě třeba nějaké zábrany, o kterých on
- 44:59nemusí mluvit, že jo. Přesně tak, a ten model má
- 45:02možnost teda něco dělat. To je to je možná jako 1.
- 45:05Čím čím dál tím větší pro svý lidi ho zapojuje v nějaké
- 45:08kapacitě do nějakých komplexnějších systémů.
- 45:11Nejzákladnější ukázka by mohla být třeba samořídící auto řízené
- 45:14nějakou rudimentarní umělou inteligencí.
- 45:17Další verze můžou být nějaký třeba kódovací agent, který řeší
- 45:20autonomii nějaký programovací problém a používá různé
- 45:23nástroje. Interaguje se světem kolem sebe,
- 45:26nebo někteří lidé teďka dali jazykové modelu k dispozici
- 45:29krypto peněženku a nechali ho dělat věci a pumpovat.
- 45:32Jako ten takový. Všechno je v podstatě na
- 45:36internetu, což není úplně prosociální věc.
- 45:38Podle mě ale ukazuje to, že to, že ten model sám, je věc, která
- 45:41mluví a přijímá text a vyplývává text, neznamená, že ho nemůžeme
- 45:45relativně snadno zapojit do něčeho, co ovlivňuje reálné
- 45:49běžení světa. A to už je docela jako riziková
- 45:53věc, která není úplně reguležitá.
- 45:54To není skoro vůbec regulované. No to já vím, že právě jsou
- 45:59různé výzkumy, co dělají na penselbánské univerzitě, že
- 46:01zapojovali právě. Chtěli posunovat limity těch
- 46:05modelů ve spojitosti IS roboty a dokázali je vlastně hacknout v
- 46:09tom smyslu, že udělali něco, co by co se příčí nějakým tím
- 46:12základním hodnotám. Moje specializace posledních pár
- 46:15let byly takzvané adrese, reální útoky a gilbreaky, což jsou
- 46:18takové divné chování, jak obrázkových nebo jazykových
- 46:21modelů, kde na nějaký podivný vstup, který se třeba ani tolik
- 46:25neliší od něčeho normálního. Co by člověku přišlo úplně v
- 46:27pohodě. Reagují úplně jiným způsobem,
- 46:29než bychom čekali. Já jsem třeba v rámci vědeckého
- 46:31článku teda dávno vyrobil obrázek Stevena hawkinga, který
- 46:34se ukáže jazykovému modelu i těm nejlepším na světě, jako je GPT
- 46:374 nebo klod nebo jamin. I tak si myslí, že je to scéna z
- 46:401. Slavného hudebního klipu medem
- 46:43devagonogy v youtube. Tomu se říká recrowall, je to
- 46:46taková takový mem na internetu, takže ten model, přesto že ten
- 46:49obrázek vypadá jako hacking pro člověka, vidí úplně něco jiného.
- 46:51Takže. Ty modely mají podivná chování,
- 46:56která se potenciálně dají zneužívat.
- 46:58To je na 100 % pravda. Čili kde je teď ta, nebo kde by
- 47:02měla být ta hranice? Kam třeba jazykové modely
- 47:05nepouštět ve vztahu k tomu, že jsou nahrané do nějakých potom
- 47:09fyzických řízení, nebo provádějí nějaké úkony jakoby na
- 47:13kryptoburze třeba? Mně přijde, že čím hůře
- 47:17zranitelné je, je něco, co ten model může udělat, tím víc
- 47:20bychom si měli dávat pozor v tom jeho použití, když.
- 47:24Ho nechám hrát hru v nějakém simulovaném prostředí, kde kde
- 47:27si hraje třeba šachy, lednice reálně nestává, tak to je úplně.
- 47:30Za mě bezpečné a není nad tím úplně nutné přemýšlet.
- 47:34Pokud ho třeba nechám ovládat můj účet a dělat cokoliv s mými
- 47:37penězi, to je něco, co je potenciální hodně nebezpečné a
- 47:39musím se spolíhat na to, že tam chybám nedojde třeba dobrá
- 47:43ukázka toho použití AIV běžném světě.
- 47:46Společnost wamo, která má samořídící auta už po několika
- 47:50městech ve spojených státech v porovnání třeba s tím, jaké
- 47:53sliby dělala společnost Tesla kolem jejich vývoje.
- 47:57Samořídících. Systému takovejhle bylo hodně
- 48:00pomalejší a opatrnější, ale reálně teďka operuje.
- 48:03Myslím si, že už asi třeba 10 % jízd všech jízd ve san Franciscu
- 48:08jíst objednávaných mobilem, takže uber live to tady ty
- 48:11společnosti, takže už má velkou část tady těch věcí, ale dostala
- 48:14se tím, jakoby postupně tím, že čím dál tím větší prostor dávala
- 48:18té umělé inteligenci a ověřovala to, že že funguje správně.
- 48:21A to si myslím, že je ukázka rozumného použití umělé
- 48:24inteligence v doméně, kde je velké riziko toho, že když se.
- 48:28Něco nějak pokazí, tak ten následek je závažný.
- 48:31Teďka ty way fungují o hodně lépe než běžní řidiči.
- 48:35V ekvivalentních podmínkách mají třeba od 90 % nižší počet
- 48:39pojistných událostí, jak pokud jde o nějaké poškození majetku,
- 48:42tak ještě větší míru bezpečnosti u těch, ve kterých jsou zapojení
- 48:47lidé nějaké zranění. Takže to funguje hodně dobře a
- 48:50je vidět, že tady ten zodpovědný způsob použití umělé
- 48:52inteligence. V té nějaké doméně, která je
- 48:55kritická, ve které ty chyby stojí hodně.
- 48:57Je možné udělat, ale je to podle mě něco, co se musí dělat hodně
- 49:00opatrně a ten přístup pohybovat se rychle a rozbíjet.
- 49:04Věci mu fast and braght thanks, který třeba byl mottem
- 49:07facebooku, tak ten je podle mě hodně špatný v doménách, kde
- 49:09jsou ty ty rizika velká. Teď možná hloupá otázka, jo, ale
- 49:14co brání tomu, aby ten model vlastně měl tu učební fázi?
- 49:19Neustále, že by se učil ze všech interakcí, které které probíhají
- 49:22s ním. To je extrémně dobrý nápad a
- 49:25není to něco, nad čím vý lidé a přemýšleli.
- 49:27And reíme jak odpovídat tak, aby to bylo stabilní.
- 49:29Takže ale v každém případě nic nebrání tomu, abyste neustále
- 49:33dělal, protože. Ty technické detaily jsou trochu
- 49:37komplexnější, ale v podstatě to, že ten model předvídá další
- 49:40slovo, a když s námi mluví, tak je hodně podobná věc, která se
- 49:45děje, když se učí jak s větší pravděpodobností takhle přesně
- 49:48odpovědět, takže je to učení a ta predikce nejsou až tak jiné.
- 49:51Procesy probíhají na tom samém hardwaru.
- 49:53To učení je třeba dvakrát až třikrát náročnější na výpočetní
- 49:56výkon. Než ten ekvivalentní krok v tom
- 49:58předpovídání toho slova tomu procesu se říká back propagace.
- 50:01Můžete si najít třeba na wikipedii.
- 50:03Není to až tak komplikované a matematická věc, ale v principu
- 50:07nic nebrání tomu, aby se tohle to stalo a dokonce pár let
- 50:11zpátky jsem se bavil s ili o sudcheverem, bývalým a vrchním
- 50:14vědcem z opray a debatovali jsme úplně přesně to samé.
- 50:18Tohle. To je otázka, která je tak na
- 50:20radaru hodně velkého množství lidí, ale jsou různé praktické.
- 50:24Důvody, proč se to nedělá reálně.
- 50:26Jsou. Tam asi jistá rizika, protože
- 50:28tam potom chybí kontrola v těch vstupních dat, že jo.
- 50:31To je za prvé, to je 1. Věc je taková ta nějaká
- 50:34uživatelská nebo etická dimenze a pak ta technická věc, jak to
- 50:37udělat tak, aby to bylo stabilní a nepoškodilo toho znalosti toho
- 50:39modelu, který už které už má tak to je, to je něco, co také
- 50:43neumíme vyřešit, takže tady ta věc bereme kontinuální učení
- 50:46jako oblast je aktivní oblast výzkumu.
- 50:49A čekal bys, že to kontinuální učení, které by se propojilo
- 50:52právě se zapojením těch modelů? Třeba do aut.
- 50:56Do pohyblivých prostě přístrojů se senzory by jako nabídlo pak
- 51:00úplně zase novou nový rozměr té umělé inteligence.
- 51:04Tak ono není učení jako učení to učení, ve kterých se upravují
- 51:07váhy toho modelu, takže jakoby to propojení mezi těmi neurony?
- 51:10To je to učení, které se provádí předtím, než je člověk s tím
- 51:13modelem. Interaguje ale 2 způsob učení,
- 51:15který je radikálně navý a právě přišel s jazykovými modely.
- 51:18Před těmi pár lety je to in context.
- 51:20Learning to učení v rámci kontextu a to je to, že jako v
- 51:23rámci textu specifikuji. Co potom modelu chci a on
- 51:26najednou pochopí, jak třeba provést násobení pod sebou nebo
- 51:28něco takového. Takže.
- 51:29A příště už bude vědět. On příště už nebude vědět, jen
- 51:32kdybych zkopíroval ten text, kdybych tam ten text znova
- 51:34zkopíroval, tak pak jako ví, ale.
- 51:37On nemá paměť. Vlastně nemá paměť, ale dobrou
- 51:38věcí je, že ten ten kontext, který ten model vidí, najednou.
- 51:41Takže kolik textu se do něj vejde se čím dál tím víc
- 51:44zvětšuje z deepsíkem r 1 vyšel úplně v tu samou dobu nešťastně
- 51:50pro Google model jimen i flash tking, který byl model, který je
- 51:54právě specificky navržen pro přemýšlení jako deepsík.
- 51:57A má kontakt z délky 1 milionu to, o kterou si myslím nejsem
- 52:00možná možná 2 ale myslím že milionu, což je hodně milion
- 52:03toukenů, je zhruba několik románů za sebou.
- 52:07Takže já ten model dokážu v rámci těch několika románů textu
- 52:10naučit v podstatě cokoliv chci, aniž bych se musel dotýkat toho
- 52:13nastavení těch vah toho modelu. Takže my vlastně máme k
- 52:16dispozici způsob, jak ten model ovlivnit, tak ho naučit novou
- 52:18věc. Ale to učení neprobíhá tím, že
- 52:20by se upravovaly síly těch synapsí, nebo to propojení těch
- 52:23neuronů, ale tím, že mu vysvětlím v textu, co po něm
- 52:25chci, to je taky způsob učení. On si ho nepamatuje na příště,
- 52:28protože ten stav toho modelu se nezměnil, ale kdyby chtěl tady
- 52:32ten stav zkopírovat, tak si můžu vzít ten text, který předtím
- 52:34viděl a vložit ho do toho kontextového okna předtím a
- 52:38najednou. Ten model ví, o čem jsem mluvil.
- 52:40No a když to převede, jako že by to nebyl text, ale je to pohyb v
- 52:44prostoru, je to prostě nějaký sociální.
- 52:47Situace mezi lidmi a tak, tak tam by to taky fungovalo tam.
- 52:51By to fungovalo, pokud by ten model nebyl jazykový model, ale
- 52:54ale multimodální model, což hodně z nich je.
- 52:57A vstup, který není text, se řeší hodně podobně jako u textu.
- 53:01Ten model má takzvané endéry, které se třeba dívají na obrázek
- 53:04nebo poslouchají text a pak ho přepisují do vysokorozměrných
- 53:08vektorů, které se přidávají právě v podél toho textového
- 53:12kontextu. Také, aby ten model věděl, co se
- 53:14děje v té vizuální scéně, nebo v tom v té audio stopě nebo v
- 53:17něčem takovém. Takže fundamentálně to není
- 53:19úplně jiné. Ale převádí se to do nějakého
- 53:21meta jazyku. Přesně tak ten ten meta jazyk
- 53:23není jazyk, ale je to je to reprezentace, která třeba každé
- 53:28slovo převede na 1000 desetinných čísel.
- 53:31Každý obrázek třeba na 20 x 1000 desetinných čísel nebo něco
- 53:36takového, takže ten interní jazyk, ve kterém přemýšlí, nebo
- 53:38mluví jazykový model, není jazyk, není to lidský jazyk, ale
- 53:42jsou to takzvané aktivace nebo nebo latentní vektory, které.
- 53:46Jsou vysokorozměrné. Reprezentace těch slov obrázků
- 53:49zvuků nebo čehokoliv jste model vnímá slavnějšího prostředí?
- 53:52Ještě 1 u těch adversiálních útoků, jak se tam mluvil?
- 53:55Já vím, že to by se podařilo vlastně se i publikovat.
- 53:58Článek o tom vyřešit tuhletu slepou shodu nebo nabídnout
- 54:01nějakou možnost, jak se proti tomu bránit.
- 54:04Tak mohl bys to přiblížit zjednodušeně.
- 54:06Tohleto je pořád otevřená otázka.
- 54:08Já jsem napsal článek, který nejspíš posouvá hranici toho, co
- 54:12bylo možné, pokud jde o obrany proti tady těm typům útoků není,
- 54:15neřekl bych, že je to vyřešené, ale z velké části se to posunulo
- 54:19minimálně v té doméně obrázků. Je to pořád otevřený problém a
- 54:23je to 1 z problémů, u kterého se zdá, že na rozdíl od většiny
- 54:26ostatních věcí, kde velikost modelu samotného a množství dat
- 54:29vlastně všecko kolem toho modelu zlepšuje, tak tady minimálně
- 54:33nepomáhá nebo ještě škodí. Takže je to takový jakoby
- 54:36inverzní škálovací zákon, který vypadá jinak než ostatní
- 54:40charakteristiky umělých inteligencí, kde čím víc
- 54:43výpočetní výkonů, tím typicky lepší, čím víc neuranuju, tím
- 54:46lepší v každé vlastně dimenzi, ve které dokážeme měřit a zdá
- 54:50se, že tady ta kritická chyba nebo kritické špatné chování,
- 54:54které se tam vyskytuje, ale ale v průměru na něj nenarazím a
- 54:57dokážeme ho jakoby vyčuchat. Pokud víme, co hledáme, tak to
- 55:00se zdá, že se. Hůře odstraňuje tím, že jenom
- 55:03zvyšujeme počet parametrů. A dat, takže podle mě já hledám
- 55:08inspiraci právě v tom, jak funguje lidský mozek a jak
- 55:11fungují různé modely. Ty vstupu z vnějšího patří, jako
- 55:14je oko, ucho a tak. A myslím si, že tam by mohla být
- 55:17nějaká cesta k tomu, jak to zlepšit.
- 55:19Ale nejsem si jistý, protože je to otevřená vědecká otázka.
- 55:22Pro ilustraci, jenom ten problém je takový, že třeba právě v
- 55:25případě těch autonomních aut to představuje nějakou slepou
- 55:28skvrnu, že kdyby někdo věděl, co mu ukázat za tenhle ten.
- 55:34Obrázek, který pro lidské. Oko by byl nerozpoznatelný, tak
- 55:36by mohl vlastně dát nějaký třeba skrytý příkaz.
- 55:39Přesně tak. A to auto by vykonalo něco co.
- 55:42Dobrá ukázka je třeba, je možné navrhnout třeba nálepku, která
- 55:47vypadá jako nějaké psychedelické barvy, které když se nalepí
- 55:50třeba na značku stop, tak to auto tu značku nevidí jako
- 55:52stopku, ale vidí jako omezená rychlost 130 km/h a pro člověka
- 55:56to vypadá jako nějaká náhodná nálepka, třeba nějaký koncert
- 55:59nebo něco takového, ale pro to auto je to tak velký super
- 56:02stimulus, že vidí úplně jinou značku než pro člověka.
- 56:07By bylo zřejmé a největším problémem je, že tady tu nálepku
- 56:10můžu navrhnout bez toho, abych měl přístup k tomu.
- 56:12Modelu samotnému, protože všecky modely na světě o těch open
- 56:16source až pro proprietární schované někde v laboratořích po
- 56:19světě tady ty chyby sdílejí a nevíme úplně, proč je sdílejí,
- 56:22ale zdá se, že je prakticky sdílejí a že můžu použít 1
- 56:25model, který mám u sebe doma k tomu, abych navrhnul tady tu
- 56:28nálepku tady ten superstimulost pro ten model nalepil, to potom
- 56:31na tu značku třeba AA to auto vidělo tu značku špatně, aniž
- 56:35by, kdy měl přístup k tomu modelu k těm bahám a detailům
- 56:38toho systému, který který. Žije v tom autě.
- 56:41My jsme se v úvodu už bavili o těch přemýšlejících modelech.
- 56:44Myslím, že už doceňujeme, co všechno oni dokáží, protože ono
- 56:48to může být na 1 dobrou trochu skryté, tak kdybys dokázal
- 56:51ilustrovat, jak velký posun, to je na něčem.
- 56:53Já si myslím, že je čím dál tím těžší ohodnotit, jak chytré jsou
- 56:57umělé inteligence. Chybu chybí ty testy ne?
- 56:59Přesně tak zaprvé nám chybí profesionální benchmark testy,
- 57:02ve kterých to zkoumáme, takže lidé se věnují hodně aktivně
- 57:06sbírání hodně těžkých problémů. Které nechávají umělé
- 57:09inteligence řešit. A já jsem si jistý, že někteří z
- 57:12posluchačů řeknou ále támhleto nespočítá správně.
- 57:14Počet erek v anglickém slabě strubery, což znamená jahoda.
- 57:18A to je něco, o čem se modely pořád pletou, ale ne proto, že
- 57:21by byly hloupé, ale tady konkrétně právě proto, že oni
- 57:24nevidí jednotlivá písmenka na vstupu, ale vidí takové jakoby
- 57:27podsloví, ale mnoha znakové jednotky jménem tokeny a zrovna
- 57:31u toho struber to vychází, takže se jim to špatně počítá.
- 57:33To není nějaká fundamentální chyba, ale obecně bych řekl, že
- 57:36tvar té inteligence tedy. Směry, ve kterých je vysoká.
- 57:39A směr, ve kterých je překvapivě hloupá, je hodně jiný než tvar
- 57:42lidského mozku, takže my dokážeme najít příklady, kde se
- 57:45zdá, že je to triviálně hloupé a kdybych byl skeptikem, tak bych
- 57:48řekl, podívejte se. Támhle je to úplně zmatené,
- 57:50úplně triviální věcí pro člověka, ale zároveň v nějakých
- 57:52doménách, jako třeba řešení komplikovaných matematických
- 57:55problémů na úrovni nejlepších středoškolských matematiků na
- 57:58světě. Tam je to o hodně lepší než
- 57:59typický člověk, takže je to zároveň nadlidské hodně doménách
- 58:03a zároveň překvapivě hloupé v jiných doménách, ale v těch,
- 58:06které jsou podle mě důležité a ekonomicky produktivní, třeba.
- 58:09Programování nebo řešení různých 100 problémů je to už dnes podle
- 58:13mě nad úrovní II hodně dobrých lidí, což způsobuje, že si
- 58:18typicky nevšimneme toho, že ten model se zchytřil, protože
- 58:21typická otázka, proč je GPT ani u toho č GPT pravděpodobně
- 58:25nevyužívá celou kapacitu toho, jak ten model reálně chytrý je
- 58:28natož nějaké dedikované modely, které jsou dobré v několika
- 58:31krokovém přemýšlení nad komplexními matematickými
- 58:33problémy. Já mám dobrou ukázku nějakou
- 58:36metaforickou, řekněme, že bysme potkali Einsteina a chtěli
- 58:39ověřit, jak chytrý je. Jak bychom to udělali, pokud
- 58:42bychom nebyli schopni s ním debatovat o struktuře prostora,
- 58:45času nebo něčem takovém, tak by se nám zdálo, že je pro mě
- 58:47chytrý jako jakýkoli jiný člověk na ulici.
- 58:50Řeklo by nám, kam jet třeba tramvají v Praze nebo něco
- 58:52takového ale nedokázali bysme se i té normální interakce poznat,
- 58:56že je to člověk, který potom bude vytvářet revoluci v
- 58:59pochopení toho, jak funguje prostor a čas, která způsobí
- 59:02úplné filozofické AAA fyzikální přeskládání světa, nebo toho,
- 59:07jak vnímáme svět? Ale typický člověk a většina
- 59:11lidí by nebyla schopná tohleto u Einsteina odhadnout a podobně.
- 59:14Když mluvíme s efekovým modelem, tak já ho můžu otestovat na pár
- 59:17nějakých věcech, které pro mě jsou důležité, ale celá ta šíře
- 59:20toho prostoru těch možných otázek je tak veliká, že i když
- 59:24bych se hodně snažil, tak nejsem schopný ověřit to, jestli ten
- 59:27model je reálně chytrý, nebo ne. AA to je docela fundentální
- 59:30problém než při vývoji těch modelů, protože dříve jsme si
- 59:32mohli říct, tak tady to skóre, jak chceme, aby se zvýšilo, aby
- 59:35byl lepší v nějaké matematice na úrovni základní školy.
- 59:37Mohli jsme měřit, jak dobrý je, ale dnes jsou ty modely tak
- 59:40dobré, že už v podstatě všechny ty benchmarky, které používáme
- 59:43všecky ty testy, jsou saturované, takže my už
- 59:45nedokážeme úplně rozlišovat, jestli je jak se od sebe liší. 1
- 59:49skupina lidí teďka vytváří test, který se jmenuje poslední test
- 59:53lidstva, což je hodně podle mě přehnané vyjádření toho a co to
- 59:56reálně je, ale je to hromada hodně komplexních těžkých
- 59:59otázek, které sbírají od lidí, platí jim za ně, aby dokázali
- 1:00:02reálně ověřovat, jak dobré ty modely jsou.
- 1:00:05A další problémem je, že jako jakmile tady ty otázky jsou
- 1:00:07někde venku, tak ty nové modely se na nich naučí a už v podstatě
- 1:00:11podvádějí v tom, jak na ně odpovídají.
- 1:00:12Takže takže my tady ty věci musíme extrémně střežit a hlídat
- 1:00:15si je před tím, aby neskončily v tréninkových datech nějakých
- 1:00:18modelů, abychom dokázali správně ohodnotit jak jak dobré ty
- 1:00:21jejich odpovědi jsou, takže je to hodně netriviální problém.
- 1:00:24Jak vůbec říct, jak chytrý nějaký model je od nějaké úrovni
- 1:00:27víš? V tom procesu se vlastně měří
- 1:00:28inteligence i lidstva, teda. A je to i na 2 stranu že by že
- 1:00:33by si nechali lidi. A pokládat otázky čím dál
- 1:00:35sofistikovanější a prověřovali, jestli ještě na to stačí?
- 1:00:39U jazykových modelů já si myslím, že ta dynamika je
- 1:00:42nastavená tak, že to je jakoby čerba, který člověku pomáhá, ale
- 1:00:44bylo by to úplně snadné nastavit tak, aby ten model právě zkoušel
- 1:00:47člověka AV nějakém smyslu. Ten model toho člověka zkouší,
- 1:00:51protože se snaží to přizpůsobit svojí odpověď k tomu, jak ten
- 1:00:53člověk s tím modelem mluví, což je třeba měřený efekt, že?
- 1:00:58Efekt, který nechceme, aby v těch prodelech byl, a to, že
- 1:01:01třeba, když máme kus kódu v pythonu nebo v nějakém
- 1:01:03programovacím jazyce, který je nekvalitně napsaný.
- 1:01:05Tak ten model pochopí, že ten text je kvalitní a snaží se ho
- 1:01:08doplnit podobně nekvalitně, i když by to kvalitní řešení uměl.
- 1:01:12Takže tohleto býval problém pár let zpátky, pak se to podařilo
- 1:01:15vyřešit, ale ale ty modely jsou v extrémně dobré.
- 1:01:18V tom pochopit kontext toho, o čem se baví a ten kontext může
- 1:01:21být to, že se třeba ptám na otázku způsobem, který indikuje,
- 1:01:25že nejsem expert na tu doménu, a tudíž ten model pravděpodobně
- 1:01:28odpoví na méně kvalifikované úrovni, než by mohl, kdyby se
- 1:01:32hodně snažil. No hodně se mluví o tom, že to
- 1:01:35je závod. Vývoj umělé inteligence.
- 1:01:37Tak mě by zajímalo, jestli přijímáš tu metaforu, tak jak
- 1:01:42vypadá ta cílová čára dnes pro ty vývojáře umělá inteligence.
- 1:01:45Je to ta obecná umělá inteligence, nebo nám uniká
- 1:01:49ještě nějaký cíl, kam se všichni ženou?
- 1:01:51Mně přijde, že když se bavíme o tom cíli, tak když se díváme z
- 1:01:55dálky, tak je docela široké a komplexní cíle působí jako bod,
- 1:01:59takže když jsme se blížili velké historie, k tomu HI, jak to je k
- 1:02:03té obecné umělé inteligenci, tak vlastně bylo jako jasné, kterým
- 1:02:07směrem co směřovat, protože ty naše modely neuměly vůbec nic,
- 1:02:10ale jak se přibližujeme a ty modely jsou čím dál tím
- 1:02:12chytřejší v čím dál tím širší. Doméně znalostí AAA oborů tak
- 1:02:17ten cíl už není bodový. Není to 1 věc, ale ale není
- 1:02:21úplně jasné, co tím myslíme. Takže ta cílová linka je, jak
- 1:02:24jsme se přiblížili k té věci, tak je čím dál tím komplexnější
- 1:02:27a roztahanější AA míň jasně definovaná, takže já si nejsem
- 1:02:31jistý, co ten cíl je. Podle mě existuje hromada cílů
- 1:02:33historicky před 80 lety, když jsme na tom začali pracovat jako
- 1:02:37civilizace. Tak to bylo jasné, chceme mít
- 1:02:40něco, co chápe. Text umí vidět chápe, co je v
- 1:02:43obrázku. Dokážeš tam odpověgat?
- 1:02:44To dneska už máme. Takže z nějakého tady toho
- 1:02:47dlouhodobého historického pohledu jsme HR už dosáhli, ale
- 1:02:50jak jsme se k tomu přiblížili, tak se ukázalo, že ty definice
- 1:02:54nebyly úplně správné. Já třeba tu ringu v test nebyl.
- 1:02:57Relevantní test pro ověřování inteligence, když jsme byli od
- 1:03:00toho daleko, tak možná se dalo představit, že by něco takového
- 1:03:02bylo dobrým testem inteligence, nad čím blíže jsme, tím je
- 1:03:05jasnější je, že tady ty staré koncepty, které jsme vyvinuli
- 1:03:09nějak agregovaní jako obor nejsou ty relevantní testy,
- 1:03:13které které nás zajímají, takže. To je moje negativní odpověď, že
- 1:03:16nejsem si jistý, co je ta cílová čára a řekl bych, že ani 1.
- 1:03:20Že 1 jediná cílová čára neexistuje, že je to něco, co je
- 1:03:23hodně amorfní a mnohasměrové, že to není něco, co by bylo 1
- 1:03:28směrem a. My ani nemáme vlastně test,
- 1:03:30abychom poznali tu obecnou umělou inteligenci a vlastně
- 1:03:33těžko říct, co to je dneska. My se i hodně snažíme vytvářet,
- 1:03:36to je hodně aktivní věc, která má i komerční, tak i vědecký
- 1:03:40zájem. Ale není to něco snadného?
- 1:03:42Ano a je teda žádoucí, aby ten proces dá, pokračoval a vlastně
- 1:03:47se i zrychloval. Lidstvo má podle mě velké
- 1:03:50množství problémů, které ještě nemáme vyřešené a myslím si, že
- 1:03:53velkým takovým battlekem nebo problémem v tom, jak je řešit,
- 1:03:56je právě inteligence a to, že je nedostupná, je drahá a není
- 1:04:00distribuovaná demokraticky a globálně.
- 1:04:03A já jsem si dost jistý, že hodně z těch velkých problémů,
- 1:04:06které máme, dokážeme vyřešit. Pokud budeme mít k dispozici.
- 1:04:10Vlastně paralelní systém. Hodně chytrých asistentů, kteří
- 1:04:14nám s tím dokážou pomoct. Já mám velkou naději v
- 1:04:17automatizaci, vývoje a výzkumu. Tam je hodně velkých otevřených
- 1:04:20otázek. Třeba rakovina je něco, co
- 1:04:22zabíjí hodně lidí a pravděpodobně dokážeme v
- 1:04:25budoucnosti nějaké z těch věcí vyřešit tak, aby méně lidí
- 1:04:29umíralo a více lidí si užívalo kvalitní život.
- 1:04:31Tak minimálně v medicíně vidím obrovský prostor pro zlepšování,
- 1:04:34víceméně v každé doméně, ve které máme nějaké velké
- 1:04:37problémy. Si myslím, že ten problém je
- 1:04:38inteligence a to by nám hodně mohlo pomoci.
- 1:04:40Může to redukovat řadu nudný. Ibulshit jobu.
- 1:04:44Nejsem si jistý, jestli jaký bude ten socioekonomický depad a
- 1:04:48tohletoho ale ale obecně posouvání hranic neznámého dal.
- 1:04:54Automatizace vývoje a výzkumu je něco kolem, čeho má velké naděje
- 1:04:58právě budoucí vývoj umělé inteligence mě.
- 1:05:00By ještě zajímalo závěrem, když se díváš na tu veřejnou debatu
- 1:05:04na různých úrovních, o umělé inteligenci, ale jsi prostě v
- 1:05:08kontaktu i stop vědci v oboru. A vidíš, co řeší za otázky?
- 1:05:12Oni tak vím, že se někdy vlastně v té vaší branži mluví o té
- 1:05:17normy bariéře, kterou to teda občas překoná najednou ty média
- 1:05:20začnou tady si všímat nějakého dipsíku, nebo něčeho jiného, tak
- 1:05:24o čem by se za tebe mělo teď třeba víc mluvit a nemluví se o
- 1:05:29tom, přičemž to je jako velká otázka SS nějakou společenskou s
- 1:05:35důležitostí výhledově. Jedná podle mě z podceňovaných
- 1:05:39věcí je, že co tady vidíme veřejnost.
- 1:05:42Ta média reagují překvapením třeba na vydání dýpsíku, nebo
- 1:05:46když vyšlo čet také vlastně většinová veřejnost.
- 1:05:50AA média reagovali, jako kdyby to bylo něco něco, co se nedalo
- 1:05:52čekat, když je člověk v kontaktu s tím oborem technickýho
- 1:05:56sleduje, tak většina z těch věcí není překvapivá, ale to
- 1:05:59neznamená, že ta trajektorie, která vypadá relativně plynule
- 1:06:03regulérně. Není dost šílená.
- 1:06:06To, že mě nepřekvapí, že deepseaq r 1 je hodně chytrý
- 1:06:09model neznamená, že že je to nějaká jako třeba pomalá málo.
- 1:06:14Zajímavá budoucnost, na které jsme?
- 1:06:15Na jaké trajektorie? To je znamená, že ta hodně
- 1:06:17dramatická trajektorie, kterou lidé očekávají a předvídají, se
- 1:06:20zdá zdá se naplňuje, takže to je podle mě možná poddiskutovaný
- 1:06:25faktory. Není to jako překvapení z toho,
- 1:06:26že čína má skvělý modul a že ten model dobře přemýšlí a je trochu
- 1:06:29levnější než ostatní modely. Ale to, že ta dlouhodobá
- 1:06:32predikce, kterou jsme si načrtli jako rovnou čáru na grafu pár
- 1:06:35let zpátky ohledně toho. Když počkáme nějakou dobu a
- 1:06:38investujeme víc peněz a víc trenových dat, tak ty modely
- 1:06:41budou chytřejší skoro ve všem, takže dlouhodobě platí.
- 1:06:43To je podle mě možná ta podceňovanej i ten podceňovaný
- 1:06:46aspekt. Tady té situace, že ty
- 1:06:47jednoduché predikce, kdy si na 1.
- 1:06:49Osu nakreslíme čas a na 2 inteligenci uděláme rovnou čáru,
- 1:06:53že na té rovné čáře už dlouhá léta jsme.
- 1:06:56Zdá se, že ten ten trend se neohýbá, takže když se jí
- 1:06:58extrapolujeme do budoucnosti, tak relativně blízko do
- 1:07:01budoucnosti bude mít modely, které budou chytřejší než člověk
- 1:07:04ve většině domén. Ve kterých lidé svojí
- 1:07:06inteligenci využívají, a to je podle mě něco, co určitě
- 1:07:10přichází. Ale co je pořád brané a
- 1:07:12relativně jako scifi? I přesto, že máme systémy, které
- 1:07:15skládají proteiny, které dokážou řešit matematické problémy na
- 1:07:18úrovni nejlepších středoškoláků na světě, se kterými běžně
- 1:07:20můžeme vést filozofické hovory a které dokážou sumarizovat knížky
- 1:07:24textu za sekundu, mně přijde, že je velký discon act velké
- 1:07:28odpojení mezi tím, co se reálně diskutuje.
- 1:07:31Což je většinou ten status quo a zrovna nějaká novinka, která ho
- 1:07:34posunula nějak skokově. Veřejného pohledu a tím, že
- 1:07:37interně to vypadá jako plynulá trajektorie, která směřuje do
- 1:07:40budoucnosti k relativně vysoké inteligenci relativně brzo, a to
- 1:07:43je podle mě možná ten nejméně nejvíce poddiskutovaný efekt,
- 1:07:46který tady vnímám to jak je jak stabilní.
- 1:07:49Ten trend je v pohledu zevnitř a jak skokové se to zdá zvenku?
- 1:07:53No a jaké otázky to teda potom nastoluje v tom obecnějším
- 1:07:57společenském poli? Jako o čem ty v tomhle ohledu
- 1:08:00přemýšlíš, když? Jdeš třeba spát a říkáš si, kam
- 1:08:04to spěje? Mě by třeba zajímalo, já bych
- 1:08:06chtěl vidět, aby chtěl bych vidět víc pokročilých ekonomů,
- 1:08:10kteří by studovali to, jak bude vypadat společnost za pár let s
- 1:08:12tou premisou toho, že budeme mít k dispozici extrémní leb a
- 1:08:15extrémně chytré umělo inteligenční systémy
- 1:08:18celospolečensky, třeba ten darr a modely to charakterizoval jako
- 1:08:22milion geniů v datovém centru. A pokud ten model světa bude
- 1:08:25takový, že tohle to je k dispozici, jak to změní
- 1:08:27fungování světa? Jak to změní fungování
- 1:08:29ekonomiky? Já si myslím, že ekonomové jsou
- 1:08:31typicky hodně konzervativní, což.
- 1:08:33Je něco, co dává historicky smysl.
- 1:08:35Třeba internet měl o hodně menší efekt na na velikost ekonomiky a
- 1:08:38na ekonomických růstech se čekalo, než než by se apriori
- 1:08:40třeba čekalo, když vznikal. A je možné, že se tentokrát
- 1:08:44pleteme já ten ekonomický debat také nebude velký, ale podle mě
- 1:08:46je docela velká šance, že velký bude a rád bych viděl lidi,
- 1:08:51kteří jsou hodně schopní kvalifikovaní a techničtí, aby
- 1:08:54nad tímhle tím aktivně přemýšleli a snažili se
- 1:08:56předpovídat, jaká taková budoucnost bude a jak se na ní
- 1:08:58dobře připravit. Takže to je něco, v čem se mi
- 1:09:00zdá, že je docela velká díra v tom veřejném diskurzu v analýze
- 1:09:03těch implikací toho, co by znamenalo mít právě milion geni
- 1:09:07u dethovém centru, kteří neustále pracují na posouvání
- 1:09:10toho, co je možné? Čili ty sociální dopady by se.
- 1:09:13Sociální ekonomické celospolečenské dopady.
- 1:09:15Samozřejmě, jak známo, ty modely taky někdy halucinují, což se
- 1:09:19nějak daří zlepšovat. Ale není to jako vyřešený taky
- 1:09:24problém tak z pohledu toho, jak moc asi bude využívaná IV
- 1:09:29dalších sférách. V tý jakou pozornost tomu
- 1:09:32věnovat, protože tam ta míra toho, že se to může lidskými
- 1:09:37lidským mozkem lidskými aktéry jako kontrolovat, je taky
- 1:09:40vlastně. Omezená zem k té čím dál větší
- 1:09:42rozšířenosti. Rozšířenosti a rychlost
- 1:09:45rychlost. Když mi to vyplivne milion řádek
- 1:09:47kódu, tak se mi těžko ověří, jestli je je správný.
- 1:09:51Já si myslím, že halucinace jsou v podstatě nevyřešitelný
- 1:09:54problém. Ale prakticky se zdá, že čím
- 1:09:58novější model tím lepší, je v tom, aby hloucinace neměl.
- 1:10:00A bylo to velké téma. Pár let zpátky a malé modely
- 1:10:03hlouciných hodně. Ale já používám jazyk v modely
- 1:10:05několik hodin denně a na halucina se nikdy nenarážím.
- 1:10:08A není to proto, že bych si jich nevšímal, protože já ty ty věci
- 1:10:10čtu a ten kód používám a dokážu ověřit, jestli je správně a já
- 1:10:14reálně mluvím s hodně jazykovými modely několik hodin denně a
- 1:10:17pomáhají mi s mým výzkumem s mojí prací AV podstatě s každou
- 1:10:20složkou mého odborného života. A na hlocinace VV praxi
- 1:10:24nenarážím, takže si myslím, že to čím dál tím menší problém.
- 1:10:26Ale zároveň si myslím, že to je fundamentálně nevyřešitelná věc,
- 1:10:30že je to podobné, jako když člověk odpovídal na nějakou
- 1:10:32otázku a něco si vymyslí, nebo má pocit, že něco ví, jakože že
- 1:10:35tyhle ty umělá inteligence nefungují jako nějaké logické
- 1:10:39mapování zdrojů, ne nějaké tvrzení.
- 1:10:41Je to hodně takový nedefinovaný systém, který je podobný tomu,
- 1:10:44jak třeba funguje lidský mozek v tomhletom způsobu AA, těžko se
- 1:10:48vystopují konkrétní zdroje, ze kterých to vychází, ale jsou
- 1:10:50třeba techniky, které s tímhle tím pomáhají.
- 1:10:52Třeba různé používání externích zdrojů a.
- 1:10:55V podstatě takový. Vyhledávač, který je zapojen
- 1:10:58paralelně s těmi jazykovým modelem a vyhledává mu nějaké
- 1:11:00konkrétní věci, ale nemyslím si, že je to fundamentálně
- 1:11:03vyřešitelný problém, ale že jeho důležitost s časem klesá s tím,
- 1:11:06jak se jazykově prakticky zlepšují v tom, aby
- 1:11:09neholecerovali. Já si říkám, pak, když ty třeba
- 1:11:11děti budou vyrůstat a budou mít ty učitele v podobě AI do velké
- 1:11:14míry, tak už ty halucinaci třeba nemusí poznat, protože jestli
- 1:11:18budou mít jenom to, co jim nabídnou oni, a když oni
- 1:11:21halucinují, tak oni halucinují s nimi.
- 1:11:23Já se trochu bojím ztrácej agence, nebo nějaké jako
- 1:11:26schopnosti. Dělat aktovat ve světě?
- 1:11:31A zdá se mi, že sám na sebe pozoruji konat ve cvik je přesně
- 1:11:34tak, že když bych si zvyknul, že na všechno se zeptám jazyk mého
- 1:11:38moru, abych to neměl špatně. To bych vytvořil takovou jakoby
- 1:11:41naučenou bezmocnost v sobě a myslím si, že tady to by mohl
- 1:11:44být problém pro lidi, kteří třeba se teprve začínají s
- 1:11:46nějakou doménou a ještě neví, jak třeba vysekat správně nebo
- 1:11:50tak. A bojím se, aby třeba lidé té
- 1:11:52agence nepřidali moc na stranu těch umělých inteligencí a
- 1:11:56nebyli spíš takový jako vykonatelé vůle umělých
- 1:11:59inteligencí v reálném světě to zase trochu bojím a snažíme se
- 1:12:01sám u sebe se tomuhle tomu bránit AA dělat věci nezávisle
- 1:12:05na tom, jestli mi Claude řekl, že je to dobrý nápad, nebo ne?
- 1:12:08Jasně, že dřív včera mohl člověk narazit na to, že chtěl dělat
- 1:12:11nějaký obor a viděl třeba na sociálních sítích nejlepší v tom
- 1:12:14oboru a říkal si, no tak takový nikdy nebudu.
- 1:12:16Mohlo ho to nějak frustrovat, ale teď mám se vůbec do toho
- 1:12:18pouštět. Když v nějakém uměleckém směru
- 1:12:21nebo i technickém směru? Už ta umělá inteligence je tak
- 1:12:23daleko AA já prostě ji asi nebudu moct konkurovat.
- 1:12:27Tohle mě zrovna vůbec netrápí, možná možná je to nějaká
- 1:12:30osobnostní věc, ale já jsem já dělám hodně věcí, která, které
- 1:12:32mě baví, ve kterých nemám žádnou aspiraci ani šanci být nejlepší
- 1:12:35na světě. Třeba rád běhám uběhnu půl
- 1:12:38maraton po 2 hodiny, ale ale nečekám, že někdo pojedu na
- 1:12:41olympiádu a budu tam vyhrávat. Nedávno jsem se začal učit hrát
- 1:12:44na klavír, jde mi to fakt špatně, ale baví mě to i přesto,
- 1:12:47že nemám žádnou aspiraci ani šanci.
- 1:12:50V tom být někdy jako legitimní a světově dobrý.
- 1:12:51A nevadí mi to, takže nevím, jestli tohleto není věc, která
- 1:12:56jejichž váha se přehrává, protože mně přijde, že je možné
- 1:12:58si užívat aktivity. I přesto, že nemám šanci být
- 1:13:01třeba lepší než i ti nejlepší lidé a anebo než nejlepší
- 1:13:04stroje. Takže nevím, ale v tom učení je
- 1:13:07podle mě důležité být schopný spolehnout se sám na sebe a
- 1:13:10nějak vytvářet si kompetence, když se třeba učím nějaký nový
- 1:13:13předmět třeba ve škole nebo něco takového, a přijde mi, že je
- 1:13:16možné, že třeba umělá inteligence pro mít negativní
- 1:13:18vliv v tom, že. Není, přeneseme tu zodpovědnost
- 1:13:21za tu správnost té odpovědi, ale to je podle mě otázka nastavení
- 1:13:24toho vzdělávacího systému právě v konjunkci s tím, že budeme mít
- 1:13:27k dispozici umělé inteligence. Já mám jsem velký fanoušek
- 1:13:31bloomová 2 sigma efektu, jestli o něm posluchači slyšeli, možná
- 1:13:35můžu popsat krátce, co to je, ale v sociálních vědách je
- 1:13:39typický výzkum replikovatelný AA jsou tam nějaké otázky kolem
- 1:13:42toho, jestli jsou výsledky reálné, ale tady to se zdá, že
- 1:13:45možná nebo nejspíš reálný efekt je.
- 1:13:47A to a spočívá to v tom, že když má člověk osobního tutora nebo
- 1:13:51tutorku, tak i průměrný člověk může být na úrovni 90 percentilu
- 1:13:56v nějakém oboru, jenom díky rozdílu mezi frontální výukou a
- 1:14:00osobním tutorem nebo tutorkou. A myslím si, že je velká naděje,
- 1:14:03že umělé inteligence budou moci sloužit jako takový osobní
- 1:14:06tutoři a tutorky v rámci vzdělávacích systémů, a dokonce
- 1:14:10teďka světová banka měla pilotní studii v Africe, kde používali
- 1:14:13jazykové modely v učení žáků a zdálo se, že tam je pozitivní
- 1:14:16efekt. Tady tím smyslem tady tím
- 1:14:18způsobem, takže. To je něco, na co se hodně
- 1:14:20těšíme a co si myslím, že reálně bude možná velká věc pro svět a
- 1:14:24to, že máme k dispozici hodně levné v porovnání s lidmi hodně
- 1:14:28dostupné a neustále k dispozici vlastně osobní tutory, kteří nás
- 1:14:31můžou cokoli učit. Pokud člověk bude zastávat ten
- 1:14:34postoj a bude se třeba ptát, co si k tomu mám přečíst, abych na
- 1:14:38to dokázal odpovědět i něco napsat a neříct, tak napiš mi
- 1:14:42to. Přesně tak, jako pokud řeknu
- 1:14:43napiš mi to, tak se nejspíš něco naučím.
- 1:14:46Ale já mám třeba, já jsem takový zvídavý člověk a zajímá mě hodně
- 1:14:49věcí v oborech, ve kterém, ve kterých nemám, s kým třeba
- 1:14:51probrat ty detailní otázky. A já hodně používám jazyk, které
- 1:14:54mám roli k tomu, abych se zeptal na nějakou detailní, třeba
- 1:14:56fyzikální úlohu, se kterou si nevím rady nebo chci promyslet
- 1:15:00nějaký třeba filozofický argument a zajímá mě, jestli už
- 1:15:03třeba má jméno, nebo jestli souvisí s něčím, co už existuje.
- 1:15:06Takže to je něco, co já osobně dělám hodně často, že beru
- 1:15:09takové jako intelektuální debaty s jazykovými modely, kteří
- 1:15:12slouží jako takový. Neustále k dispozici neustále
- 1:15:16motivování intelektuální společníci v nějaké debatě.
- 1:15:19Říká Stanislav ford, odborník na umělou inteligenci.
- 1:15:22Já moc děkuju třeba příště přizveme do rozhovoru IAI já.
- 1:15:27Moc děkuji. Děkujeme, že věnujete pozornost
- 1:15:30respektu našim článkům, jejich audio verzím, newsletrům i těmto
- 1:15:33podcastům, které by nikdy nevznikly bez podpory
- 1:15:36předplatitelů a předplatitelek i vás asi kupujete týdeník respekt
- 1:15:39na stáncích, tak v tom pokračujte.
- 1:15:41Díky na slyšenou stěží. Díky, pane Sedláček.