Latest / Týdeník Respekt / V DeepMind se slaví, ale Evropa ve vývoji umělé inteligence zaostává a na místě jsou obavy
Transcript
- 0:00Spolehlivý cloud a firemní síť, Vodafone, byznys účinná,
- 0:04kyberbezpečnost a chytrá senzorika Vodafone business.
- 0:08Každá firma potřebuje spolehlivé ICT řešení, sestavíme ho na míru
- 0:12a pomůžeme vám tak šetřit čas i náklady.
- 0:15Posílíme i vaše podnikání, Vodafone, byznys.
- 0:20Posloucháte podcasty deníku respekt dnes o nobelových
- 0:23cenách, které letos do velké míry patří výzkumníkům z oboru
- 0:26umělé inteligence. Podnětný poslech vám přeji
- 0:29Štěpán Sedláček. A Martin, uhlíř.
- 0:39Ve studiu vítáme Stanislava a forta experta na umělou
- 0:42inteligenci a velké jazykové modely, který působil v předních
- 0:46světový a působí v předních světových firmách v oboru
- 0:50například v antropic a. Google deepmind kde tedy působí?
- 0:54Aktuálně vystudoval matematiku a teoretickou fyziku na univerzitě
- 0:58v cambridgi, kde se specializoval tedy na černé
- 1:00díry, a pokračoval doktorátem v oboru umělé inteligence na
- 1:03standfordově univerzitě. Ve spojených státech vítej.
- 1:07Děkuji za pozvání. V úterý získal tedy Nobelovu
- 1:10cenu za fyziku john hopfield a vědec geoffrey hinton, tedy za
- 1:15objevy, které umožnili právě strojové učení a rozvoj umělých
- 1:18neuronových sítí. A ve středu pak královská
- 1:22švédská akademie vyhlásila cenu za chemii, kterou obdrží David
- 1:25baker a john jumper a také demis hasabis, kteří tedy významně
- 1:30přispěli k předpovídání a navrhování trojrozměrných
- 1:32struktur a funkcí proteinů právě s využitím umělé inteligence.
- 1:37A neuronových sítích, přičemž tedy 2 zmínění hasabis a jumper
- 1:41působí ve firmě Google deepmind, kterou tedy ty důvěrně důvěrně
- 1:47znáš. Tak já myslím, že na tomhle
- 1:49místě my můžeme odkázat i na ty naše předešlé rozhovory, které
- 1:52si posluchači čtenáři můžou najít pod respektem.
- 1:56Ale mě by zajímalo, když jsem ti volal s prosbou o ten rozhovor,
- 2:00tak ses vlastně v rámci toho rozhovoru dozvěděl, že cenu za
- 2:03fyziku dostal mimo jiné geoffrey hinton.
- 2:06Čekáš, že by někdy v budoucnu mohla švédská akademie volat
- 2:10třeba i tobě? Pracuješ s touhle myšlenkou
- 2:12úvahou? Já jsem byl extrémně nadšen,
- 2:14když jsem slyšel právě. Jorfenton vyhrál společně s
- 2:19profesorem hopfieldem za fyziku. Nečekal jsem to právě ve fyzice
- 2:23a samozřejmě, když člověk pracuje ve věku, tak se snaží
- 2:26přijít na co nejzajímavější a nejvíc věci s největším dopadem.
- 2:29Takže nějaká miniaturní aspirace tam je ale samozřejmě ty moje
- 2:34kariérní stárium je tak rané v porovnání s tím, cokoliv se děje
- 2:38na téhle té nobelovské úrovni, že to není ani realistický.
- 2:41Jsem v tady ten moment, ale samozřejmě, když člověk pracuje
- 2:44na wega, tak podle mě je důležité, aby pracoval na
- 2:45věcech. O kterých si myslíš, že do
- 2:47budoucna budou mít dopad a vliv, takže bych čekal, že každý vědec
- 2:50a vědkyně mají nějakou malou ambici někde vytvořit něco, co
- 2:53si zaslouží Nobelovu cenu, nebo ekvalentní cenu v budoucnosti,
- 2:56ale nijak nad tím realisticky samozřejmě nepřemýšlím, protože
- 2:59by to bylo extrémně mimo moje kariérní stadium a výsledky
- 3:02dnes. Jenom pro posluchače Stanislavu
- 3:04fortovi je 30 1:30. 30. Setkal ses vlastně osobně s
- 3:08geoffrintem. On taky studoval na Cambridge,
- 3:10pak jste asi ve stejné době byli v Googlu.
- 3:12My jsme se v Cambridge nepotkali o několik dekád, takže tam tam.
- 3:16Jsme šanci neměli, ale potkal jsem ho několikrát, jak v
- 3:19Googlu. I když jsem pracoval v Google
- 3:20brain, což byla výzkumná divize společnosti Google pro umělou
- 3:23inteligenci. Předtím, než ses loučila z
- 3:25Google deep mind do 1. Jednotky dnes a potkal jsem ho
- 3:28také na něhle těch konferencích a měl jsem hodně interakcí jak
- 3:31vědeckých, tak sociálních, s jeho studenty, povzdorky AZ
- 3:34generacemi po něm. Ale v době, kdy já jsem začínal
- 3:37s umělou inteligencí, on už byl natolik slavný a důležitý v
- 3:40rámci toho oboru, že to bylo spíš takové asymetrické.
- 3:43Pozorování velkého vzoru spíš než nějaká rovnocenná interakce,
- 3:46ale potkal jsem ho třeba na konferenci ve Švédsku několik
- 3:48let zpátky, kde dával přednášku můj interakciální základ je také
- 3:51zajímavě propojený s touhletou nobelovou cenou, protože já jsem
- 3:56dělal doktorát ve výzkumné skupině profesora suria ganguli
- 3:59na strské univerzitě v Kalifornii a on vystudoval
- 4:02teoretickou fyziku během doktorátu dokonce s Čechem,
- 4:06který ji vedl teoretickou fyziku na univerzitě v berkley, což je
- 4:09zajímavá věc profese hořevá. Ať vlastním doktora destinavé
- 4:13teorii, což byla taková ta výzva teoretické fyziky pochopení
- 4:17nejhlubších principů fyzikálního světa, ale po doktorátu udělal
- 4:20postdroka AZ neurovědy, kde se snažil vysvětlit, jak fungují
- 4:23mechanismy zapamatování si písniček u ptáků u pěvců a potom
- 4:27založil výzkumnou skupinu na stanfordu, která se věnuje právě
- 4:30práci na pomezí statistické fyziky, neurovědy a umělé
- 4:33inteligence a studuje věci od reálných mozků much až po umělé
- 4:37neuronové sítě. A jak tím způsobem se vytváří
- 4:39různé struktury. A jaký jaké paralely existují
- 4:42mezi biologickými umělými neuronovými systémy?
- 4:44Takže to je takový můj intelektuální základ a já jsem
- 4:46strávil 5 let doktorátu na stanfordu.
- 4:48Právě v tomhle tom intelektuálním prostředí.
- 4:50No a právě jako vystudovaný fyzik, který předpokládám nějak
- 4:54dar, sleduje i pokroky v rámci tohoto oboru, byť se tedy
- 4:59věnuješ neuronovým sítím nebo umělé inteligenci, tak čekal
- 5:03jsi, že právě letos by mohla taková ocenění.
- 5:07Nobelova cena tedy sem padnout. Konkrétně u té 2 sereze alfa.
- 5:12To je teda cena za chemii. Přesně tak letos za chemii.
- 5:14Já jsem očekával, že se někdy brzo na tu cenu dostane, protože
- 5:18alffold byla 1 z největších věcí ve strukturální a výpočetní
- 5:22biologii poslední dekády. Ten problém skládání proteinů,
- 5:26což je mapování sekvence aminokyselin, tak jakoby
- 5:29genetického kódu na 3 d strukturu proteinu, byl
- 5:32nevyřešený obrovský problém několik dekád a lidé v podstatě
- 5:36nevěděli ani trochu, jak přestoupit tomu jeho řešení.
- 5:38Existovali výpočetní programy, ale ta jeho složitost byla
- 5:41natolik veliká. Že počítače v podstatě tím
- 5:43běžným způsobem, kdy prochází různé možnosti a zkouší, co
- 5:46funguje, nebyli schopné vyřešit jakkoliv tu 3 d strukturu
- 5:50proteinů. Ten pokrok z tohodle toho stavu
- 5:53skrz alfa fond 1 alfa 2 tak obrovský a tak s velkým dopadem,
- 5:57že bylo jasné, že z mého pohledu aspoň že nebylo mocné.
- 6:00Někdy za tenhle ten objev bude, ale netušil jsem, že to bude tak
- 6:02rychlé, protože tohle to je asi 1 z nejrychlejších
- 6:05nejrychlejších ocenění mezi fondemálním objevem a na balení
- 6:08cenou asi v historii nebolových cen.
- 6:10Takže nečekal jsem tak velkou rychlost a čekal jsem, že to
- 6:12bude za biologii, tedy za fyziologii a medicínu a ne za
- 6:15chemii. Ale obě ty ceny dávají smysl.
- 6:17Pokud jde o tu klasifikaci a jsem extrémně šťastný, že k tomu
- 6:20došlo, protože to je podle mě velká ukázka toho, že umělá
- 6:22inteligence není jen nějaký hype a jednoduché aplikace do
- 6:26telefonu, ale mají reálně velký fun dementální dopad na vývoj
- 6:30vědy na těch úplných špičkách toho našeho poznání.
- 6:34AV případě té ceny za fyziku pro hopefielda a hindna.
- 6:36Já si myslím, že extrémně zasloužená, že oba.
- 6:39Oba výzkumníci mají extrémně velký dopad a jejich dopad je
- 6:44široce distribuovaný mezi neurovědu počítačovou vědu i
- 6:48statistickou fyziku, takže jejich dopravy jsou opravdu
- 6:50hodně široké a je i zajímavé v tom, že třeba profesor hopfield
- 6:54jeho podle mě základy jsou ve fyzice, ale postupně pracoval v
- 6:58biologii, v neurovědě i ve fyzice v kondenzorovém makě
- 7:00třeba, což je věda zabývající se pod část fyziky zabývající se
- 7:04strukturou pevných materiálů. Takže i jeho kariéra byla hodně
- 7:07mnoho oborová. Dopady i jeho objevu nakonec
- 7:10skončily mezi obory. Takovým společným jmenovatelem
- 7:14nebo minimálně u těch cen za fyziku jsou umělé neuronové sítě
- 7:19a strojové učení. Kdybys měl.
- 7:24Laikům objasnit, co to vlastně je umělá neuronová síť a jak se
- 7:28může učit. Co bys mi řekl?
- 7:31Byla neuronová, síť je biologicko neuronova síť je
- 7:34inspirovaný matematický objekt, který se ukázal jako extrémně
- 7:37schopný naučit se vzorce dát z reálného světa.
- 7:41Je to v podstatě zjednodušeně síť propojených neuronů
- 7:45zjednodušených kuliček nebo nějakých centrálních jednotek,
- 7:48které jsou propojeny axony asi napsemi, tedy spojnicemi mezi
- 7:53neurony v reálném lidském mozku si tady ty spojnice posílají
- 7:55elektrochemické signály. V těch matematických neuronových
- 7:58sítích v těch umělých se posílají čísla.
- 8:00Mezi sebou a ukázalo se, že tady ta konstrukce je extrémně dobrá.
- 8:04V tom naučit se věci o reálných datech v reálném světě třeba
- 8:07poznávat kočky od psů odevzdávat psaná čísla anebo klasifikovat
- 8:11typy dat. A to znamená, že.
- 8:12My tomu počítači ukážeme obrázek kočky a řekneme mu, toto je
- 8:18kočka. Pak mu ukážeme třeba obrázek
- 8:21jiného zvířete. Řekneme mu to není kočka, pak mu
- 8:24ukážeme nějaký jako. Trošku složitější obrázek kočky
- 8:28třeba z jiného úhlu. Zase mu řekneme, tohle je kočka
- 8:32a ta neuronová sice tímhle tím způsobem učí rozpoznat kočku
- 8:36mezi jinými objekty. Chápu to správně?
- 8:38Chápete to správně? A právě ta hopfieldova síť, za
- 8:41kterou má profesora hopfield tu cenu, ta byla 1 verzí neuronové
- 8:46síti, která byla schopná tady to učení dělat.
- 8:48Nepoužila tenkrát ty dnešní učící algoritmy, kterým se říká
- 8:50back propagace na gradientech prostavené algoritmy.
- 8:53Tenkrát se používala učící pravidla jménem habby hebovské
- 8:56učení habby and learning anglicky, a to je v podstatě
- 8:59charakterizované takovým jakoby maximem, že když neurony
- 9:02společně jsou zapnuté, tak se i spojí tím propojením news.
- 9:07Fireg tog other a wire tog other anglicky a to vlastně znamená,
- 9:11že ta síť, kterou hopfield vytvořil, má neurny, které jsou
- 9:14propojené každé s každým a je to 1 funkční model nebo 1 z 1
- 9:18funkčních modelů asociativní paměti.
- 9:20Takže ta neuronová síť je schopná naučit se rozeznávat na
- 9:23nějakých vstupních neurodech. Nějaký vzor třeba pixely z
- 9:26obrázku kočky a je schopná asociovat nějaký vstup nějaký
- 9:30jiný obrázek s těmi pamětmi nebo s těmi vzpomínkami, které má v
- 9:34sobě uložené. Ale způsobem, který nevyžaduje
- 9:36úplně přesnou přesné mapování ze vstupu tu vzpomínku je to
- 9:41asociativní paměť, která umí třeba ze zašumělého obrázku
- 9:44kočky a asociovat tady ten obrázek s tím původním vzorem té
- 9:46kočky nebo z neúplného obrázku kočky najít ten původní obrázek
- 9:51té kočky, takže tomuhle se říká asociativní paměť a je to velká
- 9:54část toho, za co je to nobalovat.
- 9:55Cena tentokrát pro profesora hintna a hofffielda.
- 9:58A právě ta hoffieldová síť je 1 1 z 1.
- 10:03Funkčních asociativních pamětí a modelů.
- 10:05Pro to ale ten hamiltonián, což je popis toho objektu, byl
- 10:09extrémně hodně studovaný ve statistické fyzice, což je třeba
- 10:11ten fyzikální dopad a ta síť a její návrh používá hodně
- 10:14fyzikálních principů, třeba energie a její maximalizace,
- 10:17volnou energii, teplotu a nebo chování komplexních systémů.
- 10:21Takže to není úplně věda sama o sobě a během 90 let, třeba když
- 10:25počítačový věci považovali neuronové sítě, se v podstatě
- 10:28netrénovatelné tak stovky. Fyzikálních profesorů a
- 10:31profeserek pracovali právě na tom, aby.
- 10:34Tady ten výzkumný směr pokračovaly, takže fyzika je
- 10:36dobře a hodně historicky propojená právě s vývojem
- 10:40neuronových sítí i skrze ta 90 léta, kdy počítačová věda v
- 10:43podstatě zatracovala schopnost neuronových sítí se učit.
- 10:46Se učím, dá se popsat zjednodušeně ten průlom, který
- 10:49vedl k tomu, že dnes umíme učit ty neuronové sítě až do takové
- 10:54míry, že vlastně se to děje potom i automaticky do jisté
- 10:59míry. Těch filmů bylo několik, ten
- 11:01původní učící algoritmus, ten to hebovské učení, které používalo
- 11:04ty sítě, potom byly postupně nahrazeny učením pomocí
- 11:07gradientů, a to vyžadovalo, abychom byli schopni, když
- 11:10neuronová síť třeba rozezná kočku špatně.
- 11:12Dát správnou míru viny za to špatné hodnocení každému
- 11:15neuronomu a neuronu a každé synapsi.
- 11:17A tady ten způsob vlastně přiřazování viny za miss
- 11:22klasifikaci nebo za za problémy s fungováním to implementuje
- 11:26algoritmus back propagace. Zpětná propagace, kterou právě
- 11:29hodně prosazoval jeffreyhanton po tom, co zlepšil ty hopeelovy
- 11:33sítě na takzvané bolsmanovi stroje a potom restriktované
- 11:36boldsmanovy stroje. Takže Jeffrey hnton postupně
- 11:39budoval na práci profesora hopfielda společně s 1 z jeho
- 11:42studentů a. Vybudoval něco, co co se už
- 11:45hodně podobá dnešním norrovým sítím.
- 11:48A 1 klíčová věc, která se tam změnila, z těch sítí pro ty k
- 11:51těm verzím od jeffreyho hinta bylo to, že ta síť je
- 11:56hierarchická a když se učí, tak bude i hierarchické reprezentace
- 11:59toho, na co se kouká. Takže neuronová síť dnes, když
- 12:01se i dívá na kočku, tak v 1 vrstvách té neuronové sítě,
- 12:05která je mnoho vrstevnatá, posílá ten signál od toho
- 12:08obrázku až k tomu rozhodnutí na konci tak 1 vrstvy se soustředí
- 12:11třeba na orientované hrany. V rámci toho obrázku na nějaké
- 12:14malé malé. Objekty třeba svítící bod
- 12:17obklopen tmavými. Ty pixely a my v biologii vidíme
- 12:20úplně ekvivalentní neurony, které se věnou třeba u kočky v
- 12:22jejím vizuálním kortexu a čím hlouběji do té sítě jdeme.
- 12:26Tím abstraktnější jsou reprezentace toho, na co se ta
- 12:28síť dívá, takže dostaneme přes orientované hrany až po textury,
- 12:32nějaké kombinace textur až po vysokoúrovňové kombinace různých
- 12:36objektů, třeba uší očí, na základě kterých rozhodnete síť,
- 12:39že se dívá třeba na kočku a tady ta hierarchická reprezentace
- 12:43byla právě v té 1 formě. Pionýrovaná právě Jeffrey
- 12:47hindnem. V těch respektovaných
- 12:49botsmoravských strojích tak to je takové to propojení od toho
- 12:51offielda až po hintna na začátku funkčních teoronových sítí.
- 12:55Já bych na to ještěpánovou otázku navázal ještě vlastně
- 12:58jinou, že vlastně ono se v souvislosti s výzkumem výzkumy
- 13:03tady těch 2 vědců mluví o tom, kdy vlastně skončila ta zima ve
- 13:08vývoji umělé inteligence? Tak.
- 13:11Kdy skončila, kdy kdy vlastně došlo k tomu k těm jako
- 13:15nejzásadnějším průlomům? A to a tou zimou Martinem?
- 13:18Myslíš teda období, kdy to vypadalo, že se to neposouvá
- 13:20období? Kdy se to jako neposouvalo a kdy
- 13:24hlavně ta komunita, jak já to chápu, nevěřila, že to jako v
- 13:27praxi bude použitelné. To je zajímavý aspekt téhle té
- 13:30ceny, že ti pánové, kteří tam pracovali, byli hodně proti
- 13:33proudu v nějakém smyslu, že to je možná jako taková jako lekce
- 13:37pro lidi, kteří chtějí, nebylo o cenu v budoucnosti, aby
- 13:39nepracovali na té na tom hlavním proudu samozřejmě musí ubrat ten
- 13:42proud, který nakonec vyhraje a který bude funkční, ale z mého
- 13:45pohledu ta zima skončila na začátku 3.
- 13:47Tisíciletí v nultých letech 21. Století, kdy se začalo ukazovat
- 13:51právě skrze ty bolsmanovy stroje, že nebo boldson
- 13:54machines, že? Strojové učení docela dobře
- 13:57funguje. A těch několik velkých momentů
- 13:59bylo potom ještě pár a 1. Z těch klíčových věcí, což je
- 14:05potom už dál za objevit jeffreyho hintona byl třeba
- 14:08takzvaný image, což měl velký dejte 100 velká sada obrázků
- 14:12asociovaných popisů těch obrázků pro strojové vidění a tady ten
- 14:18data 100 myslím, že byl vydan v roce 2012.
- 14:20Nejsem si absolutně jistý, ale někdy kolem té doby a ten rozjel
- 14:24právě velkou soutěž ve vývoji vizuálních normových sítí,
- 14:27které. Pak nakonec vedly k tomu, že
- 14:30jsme uměli trénovat čím dál tím hlubší a širší neuronové sítě, a
- 14:33to byly ty jako prvozáklady i té vizuální domény.
- 14:36A pro mě další velký moment. Tady toho vývoje byl objev
- 14:40architektury transformerů, což je ta dnešní architektura, což
- 14:44znamená zapojení neuronů a jakoby to nastavení těch drátků
- 14:47v rámci té neuronové sítě těch synapsí té umělé neuronové sítě,
- 14:51které ta architektura dnes stojí za každým velkým jazykovým
- 14:54modelem, ale i za modely, které třeba jdete obrázky.
- 14:57Nebo chápou video nebo zvuk. Takže ta architektura je jako
- 15:00natolik univerzální, že je schopná pracovat se všemi
- 15:04modelitami, takže všemi typy dat a dnes v podstatě dominuje světu
- 15:07to byl také velký průlom v roce 2015 v článku attensions all
- 15:10unie ta klíčová komponenta transformeru je takzvaná
- 15:14pozornost nebo attention a ta se dá vnímat jako docela jasný,
- 15:18nějaký spirituální následovník těch hopfieldových a
- 15:22bolsmanových strojů nebo sítí. Protože ona se dá vnímat jako
- 15:28vysokokapacitní asociativní paměť, která dokáže vnímat
- 15:31nějaké zašumělé nebo trochu jiné vstupy a asociovat je se
- 15:34vzpomínkami a které si ta síť vybudovala během tréninku, takže
- 15:37my můžeme vidět jako docela jasnou linku intelektuální linku
- 15:40od těch původních asociativních pamětí až k nejmodernějším
- 15:43jazykovým modelům dneska. Dá se říct, že Google deepmind,
- 15:47tedy firma, kde ty pracuješ jako na začátku, byla brána jako
- 15:51někdo, kdo je na okraji a spíš jako se o ní třeba tolik nečeká.
- 15:55A pak se vypracovala vlastně v to, co je.
- 15:57Dnes já jsem si jistý, že je to pravda, protože v té době se
- 16:00třeba, když když Google kupoval deep mind skoro dekádu zpátky,
- 16:04tak bylo hodně článků, které říkali, jak je to předražená
- 16:06akvizice a že to nikdy k ničemu nepovede.
- 16:09A dnes vidíme, že máme velké jazy q modely Nobelovu cenu za
- 16:12chemii alfa go, která si síť, která už před skoro 8 lety
- 16:17porazila. Člověka 1 z nejčistších
- 16:21deskových her na světě. Takže podle mě deepine má za
- 16:23sebou obrovskou řádku úspěchu, které byly neočekávané AV
- 16:27tomhletom se mi zdá, že se podobá třeba bělovým laboratořím
- 16:29ve spojených státech, které v podstatě postavily základ
- 16:32moderní technologické civilizace a objevily tranzistor solární
- 16:36panel v podstatě cokoli moderního.
- 16:37Na co si vzpomeneme? Bylo objeveno tam a já vnímám
- 16:40deepman takovou malou verzi téhle té aspirace, takže zdá se
- 16:44mi, že ta paleta a ta konzistence vytváření obrovských
- 16:47objevů je u deepline hodně silná.
- 16:49Když jsme spolu mluvili na jaře, tak si řekl, že dnes už umíme
- 16:56vytvářet extrémně silné systémy umělé inteligence a naše
- 17:00pochopení toho, jak reálně fungují, je velice limitované.
- 17:03Což je bezprecedentní stav, ve kterém jsme nebyli, když jsme
- 17:06stavěli třeba parní stroj čili, je pochopení toho, jak vlastně
- 17:13ty naše výtvory, o kterých mluvíme, fungují skutečně
- 17:17důležité. Pro další pokrok a dosáhneme ho
- 17:20někdy nebo můžeme jít dál tou cestou, kde je vlastně
- 17:23nerozumíme moc, jak funguje to, co vytváříme, a přesto to
- 17:27způsobuje všechny ty revoluce, které kolem sebe vidíme.
- 17:30Tohleto tvrzení stále určitě platí.
- 17:32Naše pochopení toho, jak neuronová síť interně funguje,
- 17:37se sice posunulo, ale ne tolik a pravděpodobně méně, než se
- 17:40posunuly ty schopnosti těch sítí, které stavíme.
- 17:42Takže možná ještě ztrácíme ten nějaký jako náskok nebo opak
- 17:46náskoku na ten na tu praxi stavění těch sítí.
- 17:50Já si myslím, že aspirace fyziky je právě pochopit svět a
- 17:53součástí světa jsou neuronové sígy, takže tady ta cena za
- 17:55fyziku. Proč je hentona?
- 17:57A hofielda vnímám ji jako takové potvrzení toho, že ta aspirace
- 18:02je pořád naživu AA pořád důležitá.
- 18:06A. Na 2 stranu si myslím, že
- 18:10minimálně empicky neexperimentálně se zdá, že
- 18:12dokáže stavět systémy, které jsou čím dál tím lepší,
- 18:14chytřejší a silnější, aniž bychom měli důkladný a detailní
- 18:19vhled do toho, jak interně fungují.
- 18:20Takže já si myslím, že oboje bude pravda, že velký
- 18:22econtingent lidí bude pracovat na pochopení těch sítí.
- 18:24Já jsem 1 z nich a snažím se. Kdybych to mohl pochopit nějaké
- 18:27minimálně počasí toho, jak fungují new yorkové sítě a pak
- 18:30další část té e ia komunity, té AI, výzkumné komunity bude
- 18:33stavět čím dál tím silnější systémy.
- 18:34Já si myslím, že máme docela dobrou tradici IIV české
- 18:37republice. Právě s chápáním toho, jak
- 18:39fungují neuronové sítě. Nevím, jestli znáte profesorku
- 18:40Lenku s dbarovou, která pracuje na EPFL ve Švýcarsku.
- 18:43To je 1 z nejlepších univerzit v Evropě, minimálně v
- 18:45kontinentální Evropě a její výzkumný obor je právě chápání
- 18:48neuronových sítí na malých příkladech a propojování
- 18:51statistické fyziky. S neuronovými sítěmi.
- 18:55Na takzvaných spinových sklech, což je model neuronových sítí a
- 18:59věnuje se právě tématematické teorii zatím takže my máme IV
- 19:03české republice propojení s tímhletím světem, a to Nobelova
- 19:08cena. Letos se může zdát, že je trochu
- 19:11mimo. Ten hlavní proud fyziky a třeba
- 19:13v roce 2021 georgio paricy získal Nobelovu cenu za fyziku
- 19:16za právě jeho práci na komplexních systémech, což není
- 19:20až tak jiný obor a také na na těch spinových sklech, na
- 19:23kterých ta Lenka. Nebo 2 pracuje, takže máme
- 19:27docela dobré propojení a není úplně neočekávatelné, že budeme
- 19:31vidět další ceny jak ve fyzice, tak mimo za věci, které se zdají
- 19:35trochu jako umělá inteligence. Vnímáš to jako?
- 19:37Nějaké zadostiučinění třeba pro. Právě informatiky, matematiky,
- 19:42lidí, kteří nějak pracují s modelem s tím, co vidí v přírodě
- 19:48a nějak se to snaží využít pro své modely právě třeba v případě
- 19:52neuronových sítí. Že?
- 19:54To je podle mě jako určitá specifická cesta, ne ve srovnání
- 19:57s historií jako vlastně informačních vět.
- 19:59To určitě a. Právě proto neuronové sítě
- 20:01nepůsobí z toho jako striktního pohledu úplně jako matematika
- 20:04nebo informatika, protože informatiky matematika pracuje s
- 20:08hodně jinými motivacemi a jinými technikami a hodně aspektech se
- 20:12neuronové sítě a hlavně jejich trénink a nastavování a
- 20:14optimalizace podobá spíš fyzice technikami než než matematice
- 20:18nebo informatice. A tomuhle dává za pravdu i to,
- 20:21že velká část vědců a vědkyň v umělé inteligenci jsou původně
- 20:25fyzici. Třeba.
- 20:27Já jsem původně fyzik, což je malý příklad, ale třeba dar jo a
- 20:31modely se o antropicu, což je 1 z těch největších společností
- 20:34vyrábějící jazykové modely na světě.
- 20:36Má doktorát z teoretické fyziky chief science, SMS společnosti
- 20:39great caplan je profesor kvantové teorie pole nad john
- 20:43shopkins university, takže i hodně lidí, kteří mají.
- 20:46Právě svůj základ ve fyzice. Dokonce jdeme z Hasan i deepmind
- 20:51a zakladatel a dnes nobalista čerstvě zrovna dnes, tak ten se
- 20:55dokonce rozhodoval, jestli bude dělat umělou inteligenci nebo
- 20:58teoretickou fyziku ve své kariéře.
- 21:00Takže není úplně netypické, že lidé mají buď obě tyhle ty
- 21:04aspirace nebo začnou ve fyzice a skončí v neuronových sítích.
- 21:07Teď mi to připomnělo. 1 věc, že jsme se nezeptali.
- 21:11Jestli máš nějaké zprávy o tom, co teda ta cena v deepmindvolá
- 21:14vyvolala, co se tam teď děje? Třeba nebo nemůže komentovat?
- 21:17Ale samozřejmě všichni demise vy a George James gratulují,
- 21:22protože je to obrovský úspěch, ale pro hodně lidí to není
- 21:24neočekávané, protože hodně lidí čekalo jen na to, kdy se to
- 21:27stane spíš, než jestli se to stane.
- 21:29Ale myslím si, že jeho kariéra je v podstatě jako dokonalý
- 21:33příklad plánování od začátku. Nevím, jestli jsou známé třeba
- 21:37detaily toho, jak jako postupoval od šachového
- 21:39velmistra až po vlastní firmu na výrobu počítačových her po
- 21:43založení deep mindo postdoku právě v paměti.
- 21:45AV tom, jak se chovají reálné neuronové sítě v mozku?
- 21:49Podle mě je to jako úspěch za úspěchem a to, že chci vyhrát
- 21:52Nobelovu, bylo tak jako známé mezi lidmi a nakonec se mu to
- 21:55podařilo, což jako není typické. Navíc jako v jeho věku v jeho
- 21:59kariérním stádiu, takže je to extrémně působivé jako jak jak
- 22:02skvělá kariéra to je. Ale zatímco v dee.
- 22:04Mind graturuje tak Jeffrey hinton, další z těch ocenění
- 22:07vědců. Loni odešel vlastně z Googlu,
- 22:12řekl tehdy, že lituje výzkumné práce.
- 22:14Kterou udělal a vyslovil obavy z ze zneužití tady umělé
- 22:19inteligence. Sdílíte ty jeho obavy, v čem
- 22:23třeba hrozí nebezpečí? Já bych k tomu možná.
- 22:26Dodal, že teď, když mu volali při vyhlašování těch cen, tak
- 22:29hinton říkal, že on toho nelituje v tom smyslu, že by to
- 22:33znovu neudělal, že by ze stejných okolností udělal to, co
- 22:35udělal, ale že tedy. Se obává toho, že by ty systémy
- 22:39mohly být do budoucnu chytřejší než lidé a převzít vlastně
- 22:42kontrolu. Já samozřejmě.
- 22:44Mluvím jen za sebe, nereprezentuji nikoho tady natož
- 22:47Google depíd, takže z mého pohledu jsou tady ty obavy
- 22:50extrémně odůvodněné. Podle mě to není nějaký hype
- 22:52nebo nějaký způsob, jak zvýšit valuace startupů.
- 22:55Podle mě, když se podíváme nějak dlouhodoběji na trajektorii
- 22:58umělé inteligence. 1 slavný počítačový vědec jménem Scott
- 23:02airnsent to komentoval tak, že je to, jako kdybychom dneska
- 23:06měli psa, který mluví anglicky a my se zabývali tím, že občas
- 23:10dělá gramatické chyby. Ta umělá inteligence není
- 23:12dokonalá, ale to, že ten pes anglicky mluví, je extrémně
- 23:15nečekaná věc. Když se podívám na ty trajektory
- 23:19a jenom prodloužíme nějaké trendy, které vidíme, tak je
- 23:22podle mě vysoce očekávané, že buď tam dnes už jsme a nebo brzo
- 23:26budeme na úrovni, kdy umělá inteligence je chytřejší než
- 23:28nejchytřejší lidé skoro ve všech doménách, a to potenciálně
- 23:32nemusí mít žádný jako revoluční skokový dopad na svět.
- 23:37Možná to zvýší HDPO nějaké ta perkulace umělé inteligence
- 23:40skrze společnost a extrémně komplikovaná věc, která
- 23:42nesouvisí s. Inteligence samotné, ale se
- 23:44schopností třeba ekonomiky integrovat tady ty nové
- 23:47technologie, ale to, že máme umělou inteligenci, která se
- 23:50podívá na sérii písmen specifikující protein a vyrobí 3
- 23:54d struktur toho proteinu, už je dnes extrémně nadlidská věc,
- 23:57kterou lidé ani za pomoci počítačů nebyli schopni vyřešit
- 24:00předtím. Takže to samo o sobě je velká
- 24:02věc. Umělá inteligence nespráží
- 24:04nejlepší středoškolské matematiky a matematičky na
- 24:06mezinárodní matematické olympiádě na těch samých
- 24:08problémech, které řeší. Na úrovni už zlatých medailistů
- 24:11z té olympiády. Ne ve všech problémech, ale
- 24:14vzhledem k tomu, že pár let zpátky neumí vyřešit ani
- 24:16problémy na úrovni základní školy a dnes je na úrovni
- 24:18nejlepších středoškoláků na světě, tak si myslím, že ta
- 24:21trajektorie je minimálně z naivního pohledu.
- 24:23Tohohle toho typu je hodně jasná.
- 24:26Ty si no ona v těch. Ona v těch znalostech testech se
- 24:29dokonce vyrovná už i po zdokum nebo doktorandům.
- 24:33Ne, to je zajímavý aspekt. Toho, že ta inteligence, ten
- 24:36její tvar. Není rovnoměrný, rovnoměrný,
- 24:39všude v nějakých doménách je extrémně nadlidská AV nějakých
- 24:41doménách. Je až směšně špatná, třeba když
- 24:45se zeptáte GPD 4, jaký je počet znaků r westway, což je
- 24:51anglicky. Jahoda tak neumí spočítat. 3 ale
- 24:55ona řekne 2 a tady tyhlety problémy se můžou lidem zdát
- 24:59jako důkazy toho, že za ten systém je hloupý, ale jsou tady
- 25:02ten konkrétní problém. Je snadno vystopovatelný k tomu,
- 25:05jak ta ten systém vnímá vstupní data, protože on nevnímá ty
- 25:08znaky. On vnímá rozsekané kousky, které
- 25:10se jmenují to o keny a nevidí jakoby na úrovni těch znaků,
- 25:13které jsou ty vstupy. Takže takže ten tvar té
- 25:16inteligence je nějaký ten ten abstraktní formát té
- 25:18inteligence. Se nějakým lidem může v té samé
- 25:21v tom samý čas jevit jako extrémně špatný a jiným jako
- 25:23extrémně dobrý. Na základě toho použití a té
- 25:26domény, ve které jsou. Ale já si myslím, že ty
- 25:27ekonomicky důležité domény a ty domény, které posouvají vědu, se
- 25:31vyvíjí hodně rychle. Takže už podle mě už dnes jsme
- 25:34na úrovni, kde se umí na informace v podstatě vyrovnávají
- 25:36člověku a nečekám, že ten pokrok brzy přestane.
- 25:41No a. Pokud jde o ty aktuální a
- 25:43budoucí aplikace, tedy umělá inteligence, tak co považuješ za
- 25:46takové nejdůležitější? Nejviditelnější právě v té
- 25:49oblasti neuronových sítí? Samozřejmě se hodně mluví o těch
- 25:54chytrých předbotech, se kterými teď všichni plynule 2 roky skoro
- 25:58už experimentují. Tak co co jsou takové další
- 26:03třeba méně viditelné? A jaké další průlomy v nejbližší
- 26:06době ty očekáváš? Věc jako alfa.
- 26:08Faul jsou pro mě ohledně přesvědčivější důkaz pokroku v
- 26:11umělé inteligenci než třeba schopnost čerbat a bavit se s
- 26:13člověkem a projít třeba turingovým testem.
- 26:16Já si myslím, že tady ty jako reálné velké fundamentální
- 26:19vědecké problémy, a to, že budou podle mě čím dál tím rychleji
- 26:21padat pod náporem tlaku umělé inteligence to bude podle mě
- 26:26důsledek nebo viditelný dopad toho, že se zlepšujeme alfafoť
- 26:29sám o sobě, když ta 2 verze, která porazila, která byla
- 26:34schopná predikovat strukturu proteinů na úroveň lepší než
- 26:36rentgenová krystala grafie, což je ta běžná metoda.
- 26:38Experimentální, kterou lidé používají, ale o hodně rychleji,
- 26:41tak já jsem byl nadšen skoro celý týden, protože jsem si
- 26:45říkal, že tohle to je přesně to učil jsem doufal, že se stane,
- 26:48že výsledkem umělé inteligence a jejího vývoje bude právě nějaký
- 26:51fundamentální objev v přírodních vědách.
- 26:54A já si myslím, že věci tady toho typu budou, pokud se stanou
- 26:57jasná handike z toho, že získáváme čím dál tím silnější
- 26:59systémy a 1 konkrétní věc, která by mě extrémně potěšila, by bylo
- 27:03supravodič při pokojové teplotě a pokojovém tlaku, takže
- 27:06materiál, který by byl schopný schopen vést.
- 27:08S elektrickou elektrický proud bez toho, aby měl odpor.
- 27:11My tady ty materiály máme, ale musí být chlazené minimálně
- 27:14dusíkem, takže to omezuje jejich průmyslovou aplikaci.
- 27:17Ale pokud bychom pomocí umělé inteligence dokázali najít třeba
- 27:21supravodič při pokojové teplotě, tak by to úplně změnilo svět v
- 27:24hodně aspektech, takže to je takový jako aspirační problém
- 27:28pro lidi i umělou inteligenci. Ale byla by ta konkrétní věc,
- 27:30která by měla extrémně velký dopad s tím.
- 27:32Psem, který mluví anglicky, je fascinující.
- 27:36Zároveň se posledně mluvil o modelu lama 3, které.
- 27:39Který přepravuje firma meta, který má mít asi 400 miliard
- 27:43parametrů, což představuje určitě větší mozek, než jakým
- 27:46disponuje třeba ježek. Takže naplňují se tahle ta
- 27:52srovnání. Předstihli jsme už mozek.
- 27:54Savců, to je těžké říct. Protože mozek savců, když byl
- 27:58tvořen evolucí, postupně hierarchicky, nikdy nebyl
- 28:01navržen k tomu, aby co nejlépe mluvil anglicky co nejlépe
- 28:04programoval co nejlépe nejlépe řešil matematické úlohy, takže
- 28:08ten ten tlak ten optimalizační tlak vyvíjen evolucí a vyvíjen
- 28:12námi během tréninku jazykových modelů nebo neuronových sítě
- 28:15úplně jiný, ale to naivní pravdání 1 synapse s 1
- 28:18propojením 1 parametrem v umělé neuronové síti.
- 28:21Je něco, co lidé občas dělají. 1 včela má zhruba 1 miliardu
- 28:25asinapsí a jak si říkal, tak teda ten ten lama 3 model o 400
- 28:29miliardách parametrů je zhruba jako 400 včel samozřejmě
- 28:31nemůžeme včely takhle sčítat, ale je to na úrovni už jako
- 28:34větších savců. Pokud jde o počet synapsí,
- 28:35člověk je pořád o několik řádů dál, takže v tomhle tom
- 28:39porovnání ten model je o hodně horší než člověk, ale jeho
- 28:42jazykové, programovací a matematické schopnosti jsou o
- 28:45hodně lepší než ekvivalentní zvíře s podobným mozkem.
- 28:48Takže my vidíme, že zase ten tvar té inteligence.
- 28:51Který vytvářel evoluce a který tvoříme my, je úplně jiný a jeho
- 28:54schopnosti bude úplně jiné. Ten model samozřejmě není
- 28:57schopný přežít nezávisle ve světě, rozmnožit se navigovat 3
- 29:00d prostředí, protože nikdy nebyl vytvořen tak, aby tady to uměl
- 29:03ty. Tlaky byly hodně jiné, ale.
- 29:06Přijde mi, že tahleta porovnání nejsou úplně nerelevantní.
- 29:09Když třeba lidé říkají, že ty neuroové sítě už jsou dnes moc
- 29:12velké, tak my jsme pořád třeba 3 řády od toho, aby byly velké a
- 29:15podobně jako lidský mozek AI. Přesto už vidíme schopnosti,
- 29:17které se lidem v hodně aspektech podobají.
- 29:19Tak je možné, že ten ten způsob tréninku, který používáme v těch
- 29:23schopnostech, které vnímáme jako konkrétně specificky lidské.
- 29:27Nás dostihnou i při menším počtu si například lidský mozek
- 29:29vyžadoval. No er.
- 29:32Říkal jsi, že tyhlety systémy nebyly trénovány na to, aby se
- 29:36navigovaly v trojrozměrném prostředí jako v běžném světě,
- 29:40ale zase na 2 stranu běží obrovský vývoj samořiditelných
- 29:44aut. Tak je možné, že se tyhle ty 2
- 29:47směry vývoje někdy dohledné budoucnosti protnou a že získáme
- 29:50třeba už roboty schopné jaksi samostatného fungování ve světě
- 29:54existuje věc, která se. Jmenuje moravcův paradox je to
- 29:57takové pozorování toho, že ty těžké úkoly pro lidi je třeba
- 30:00hrát šachy, dělat matematiku jsou prostoje typicky o hodně
- 30:02lehčí než ty věci, co jsou pro lidi lehké třeba chodit po ulici
- 30:07nebo kácet strom. Takže já si myslím, že vidíme
- 30:10verzi tady toho v reálném světě, kde robotika a interakce s
- 30:13fyzikálním světem je. O hodně těžší než třeba
- 30:16kódování, což by potenciálně lidé možná neřekli historicky
- 30:20minimálně ve scifi v příbězích před dekádami jsme měli roboty,
- 30:24kteří pomáhali v kuchyni třeba naložit myčku a nedělali
- 30:27matematický výzkum na úrovni nejlepších matematiků světa,
- 30:29takže minimálně to očekávání v populární kultuře bylo naopak.
- 30:33Ale dnes podle mě si lidé uvědomují, že hardware robotika
- 30:36je o hodně těžší, než jsme si mysleli, ale já si myslím a
- 30:38věřím tomu, že právě průlomy. Ve velkých neuronových sítích a
- 30:42velkých jazykových modelech. Jsou něco, co povede ke zlepšení
- 30:45v robotice? Třeba 1 start up dělající
- 30:48samořídící auta v Británii využívá velký jazykový model k
- 30:51tomu, aby to auto promyslelo. Co by se stalo na křižovatce,
- 30:55kdyby třeba chodec vstoupil do vozovky, nebo kdyby zatočilo
- 30:58nějakým směrem, uvažuje na tej těmi councher v aktuálními
- 31:02scénáři, které by se mohly tomu autu stát, což je hodně jiný typ
- 31:06fungování, než se podívat na obrázek a říct si, je to kočka,
- 31:08je to jakoby uvažování s nějakým logickým, něco jako logickou
- 31:11strukturou nad tím, co by se stalo.
- 31:13Budou snažit budoucnosti, kdyby nějaká akce třeba proběhla na
- 31:16tady té úrovni. Jazyk v moroley jsou extrémně
- 31:18schopné tyhlety způsobit dedukce dělat a už dnes jsou vidět
- 31:23nějaké pokusy je použít v robotice třeba.
- 31:25Takže co si myslím, že je nějaký směr, který asi bude do
- 31:27budoucnosti růst? Ony ty jazykové.
- 31:29Modely samozřejmě se používají ve vědeckém výzkumu, slouží k
- 31:32různým průlomům, ale také vidíme jejich velké rozšíření při
- 31:37prostě využívání. Marketingu, vytváření různých.
- 31:42Fake a takových věcí a my jsme taky v minulém rozhovoru řešili
- 31:46to rozostření, co je reálné a co co není.
- 31:49Ty jsi zmiňoval, že vlastně by stálo za to začít dávat nějaké
- 31:55nějaké certifikace nebo nějaké certifikáty.
- 31:58Ty vlastně do do pravých fotek spíš než se snažit rozpoznávat a
- 32:01označovat ty ty deeffecky, tak je v tomhle nějaký posun nějaká
- 32:06naděje, že že se udrží teda tu hranici mezi realitou a úplnou
- 32:11fikcí? Já hodně doufám, že.
- 32:12Ano a zároveň si myslím, že to není úplně fundamentálně nový
- 32:15problém, že photoshop existoval už mnoho let i sovětský svaz
- 32:20vymazával z fotek nepohodlné politiky, takže není to jako
- 32:23úplně fundimentální nový problém, co je možná
- 32:25fundamentálně nové, jak je jak levný a dostupný je potenciálním
- 32:28špatným hráčům v tomhletom oboru?
- 32:30Takže jo, to je něco, na čím hodně přemýšlím a čeho se hodně
- 32:33bojím, ale myslím si, že to v podstatě nevyhnutelná věc, se
- 32:36kterou se musíme naučit. Pracovat a kterou musíme
- 32:38vyřešit? A myslím si, že nemá cenu strkat
- 32:40hlavu do písku nad tím, že tohleto není problém.
- 32:43Pro mě to reálný problém je ale jako společnost.
- 32:46Podle mě musíme s tímhle tím nějakým způsobem začít jak jako
- 32:50zákonní a regulačně, tak i technologicky se začít
- 32:52vypořádávat. Takže já jsem velký fanoušek
- 32:55aktivního řešení, tady toho problému.
- 32:57Ještě 1 problém. Před mi přijde čím dál častěji,
- 33:00zmiňuje v souvislosti s těmi velkými modely AS velkým
- 33:03výpočetním výkonem, který je zapotřebí a energetickou
- 33:06náročností, kterou která je s tím spojená v době, kdy tedy
- 33:09celosvětově se snažíme nějak spíš snižovat tu spotřebu ve
- 33:14snaze tedy chránit klima snížit emise skleníkových plynů a pořád
- 33:19velké množství energie získáváme právě s fosilních zdrojů.
- 33:22Tak, jak vnímáš tady ten ten problém?
- 33:25Tohle to je docela. Komplexní otázka.
- 33:27Ale přijde mi, že cesta, ve které zařízneme potenciální
- 33:31fundamentální technologie, už na začátku jenom proto, že se
- 33:33bojíme jejich dopadů toho blízko časového dopadu třeba na klima,
- 33:38je extrémně neprozíravý způsob, jak jak řešit velké problémy,
- 33:41kdybychom třeba před 60 lety zařízli výzkum solárního panelu
- 33:45v právě v těch billových laboratořích, které jsem
- 33:47zmiňoval, což tenkrát byla extrémně fundamentálního
- 33:51výzkumu. Ty parale byly extrémně drahé
- 33:53AV, podstatě nevyužitelné prakticky.
- 33:55To bychom dneska neměli 1 1 velkou součást řešení klimatické
- 33:58krize solární paraly, které jsou levné, takže je podle mě hodně
- 34:02neprozíravé zaříznout fundamentální pokrok jenom
- 34:05proto, že si v nějakém blízkém horizontu myslíme, že bychom tím
- 34:08ušetřili marginální množství emisí a umělou inteligenci
- 34:11vnímám jako potenciálně nejdůležitější pochod, který ve
- 34:14vědě a technologie kdekoli uděláme v celé naší historii.
- 34:17Je to automatizace kognitivní práce, která byla limitem na
- 34:20vývoj naší civilizace až do doposud.
- 34:22Takže já si myslím, že. Je hodně neprozřetelné, právě
- 34:25volat po tom, abychom ten výzkum zastavili jenom proto, že tím
- 34:28ušetříme třeba několik procent emisí.
- 34:31Zároveň ve spojených státech jsou třeba datová centra
- 34:34zodpovědná jen za 3 % spotřeby elektrické energie v celých
- 34:37spojených státech. Takže problém to je, ale je to
- 34:39relativně marginální problém proti ostatním věcem ve
- 34:41společnosti a myslím si, že jeho potenciální benefit do
- 34:44budoucnosti je natolik velký, že bychom měli být hodně opatrní ho
- 34:47tečka zastavit, kdybychom. Se pokusili o nějakou prognózu
- 34:51pro příštích 10 let. Což mi přijde jako takový
- 34:55smysluplný horizont. Vzhledem k tomu, že třeba před
- 34:5810 lety zhruba se objevily ty systémy počítačových hráčů go a
- 35:04tak dále, tak? A zároveň s.
- 35:08Když vzpomeneme na ta slova jeffreyho hintna, který se obává
- 35:13nějakých druhů zneužití, tak čeho se vlastně v těch
- 35:17nejbližších 10 letech co co očekávat a čeho se případně
- 35:21obávat? Jestli on třeba mluví o zneužití
- 35:24ve vojenské oblasti? Máme se toho bát, nebo v tomhle
- 35:27tom časovém horizontu k tomu ještě nedojde?
- 35:30Tady už o tom nejsem. Expert, takže částečně
- 35:32spekuluji, ale přijde mi, že využití vojenství je v podstatě
- 35:36nevyhnutelná věc, že pokud se ukáže, že umělá inteligence je
- 35:39strategicky důležitá, tak se nedokážu představit, že by
- 35:42libovolný stát rýma. K dispozici ji nepoužíval 1 z
- 35:46věcí, které se nějak dlouhodobě trochu bojím nebo obávám.
- 35:50Je to, že jako Evropa nemáme vlastní průmysl, který by
- 35:55vytvářel obě 2 podobného typu a nakonec je i vyvíjel produkty.
- 35:58Umělá inteligence na rozdíl od předchozích technologických
- 36:01prolubů není úzká v jejím použití, ale zároveň není
- 36:05hodnotově neutrální. Třeba dieselový motor je v
- 36:07podstatě hodnotově neutrální a může ho použít kdokoli k
- 36:09čemukoli, ale umělá inteligence často skrze to, jak funguje, tak
- 36:14trochu pod povrchem dokáže vkládat hodnoty a filozofický a
- 36:18politický nějaký způsob přemýšlení jejich tvůrců do
- 36:23toho, co dělá a. Já si já se obávám budoucnosti,
- 36:27ve které. Ty nejschopnější modely na světě
- 36:30nejsou třeba od našich civilizačních spojenců jako
- 36:32spojených států, ale třeba z číny.
- 36:35A díky tomu, že ty modely jsou levné a schopné, tak je
- 36:38používáme, ale skrz to dostáváme třeba nějaké podúrovňové, dáváme
- 36:43pod úrovňovou schopnost ovlivňovat třeba fungování
- 36:45Evropy na docela fundamentální Evropy, úrovni cizímu hráči.
- 36:49A já si myslím, že tady ta suverenita, pokud jde o
- 36:51technologický boj o umělé inteligence, je hodně velký
- 36:53problém. A podle mě víc lidí se k tomu
- 36:55probouzí. Teďka v Evropě, ale pořád je to
- 36:58hodně er marginální téma na to, jak důležité je do budoucnosti.
- 37:01Podle mě je. Já si myslím, že tady ta
- 37:02technologie je hodně jiná v tom, jak široce je použitelná, jak
- 37:05velký dopad potenciálně může mít jejich hodnotově ne neutrální AV
- 37:09téhle souvislosti. Vím, že letos vyšla vlastně
- 37:11zpráva poradního orgánu OSN. Ta se jmenuje.
- 37:15Asi to můžem přeložit jako vládnutí nebo řízení umělé
- 37:18inteligence pro lidstvo, kde je teda série nějakých doporučení?
- 37:22Tak já vím, že si ten dokument asi četl.
- 37:27Nebo narazil jsem na to IV tvém newsletteru, tak?
- 37:32Myslíš, že jsou teda na stole teď jako ta správná doporučení?
- 37:34Ono je otázka, co osn radí a co se potom v praxi ty, co ty v
- 37:37praxi státy dělají, ale že tam jsou ty zásadní opravdu.
- 37:41Cesty, jak postupovat teď a nazlo, to je o hodně.
- 37:44Větší extartka moje žena Kristýna ford, která právě
- 37:46pracuje na na gavence a policy, kolem udělají inteligence a já
- 37:50si nejsem jistý. Já si pro mě hodně těžké
- 37:53odhadnout, jakým způsobem tady ty věci regulovat tak, abychom
- 37:56získali ty největší benefiti z nich.
- 37:57Ale zároveň si udrželi velko míru bezpečí je to podle mě dost
- 38:01nejasné a obecně jsem skeptický kolem lidí, kteří mají extrémně
- 38:04jasný a silný názor, a to jak by to mělo být děláno.
- 38:07Takže já jsem hodně takový agnostický kolem toho, co bychom
- 38:09měli dělat. Jsem dost otevřený hodně věcem,
- 38:12protože vývoj v posledních třeba 10:15.
- 38:15Letech byl natolik rapidní a nečekaný pro hodně lidí pro to,
- 38:17co pracoval společnost. Že bych si asi nedovoloval
- 38:20podobné predice dělat třeba 10 let do budoucnosti právě kvůli
- 38:24tomu, jak jak rapidní ten vývoj byl, ale 1 to doporučení.
- 38:27Je třeba právě nějak opravdu pravidelně mapovat vývoj?
- 38:33Rozvoj nebo výzkumu umělé inteligence pro vlády, podobně
- 38:38jako se to děje vlastně. S výzkumem klimatologů a dalších
- 38:42vědců v souvislosti se změnou klimatu v případě toho IPC.
- 38:45Podle mě. Extrémně dobrý nápad, protože
- 38:48operovat bez informací je je špatný plán a mít dobrý přehled
- 38:52nad tím, co se děje a jakým směrem se věci vyvíjí, je podle
- 38:55mě univerzálně dobré doporučení, takže bych určitě doporučil
- 38:57lidem, kteří na tady to mají vliv IV české republice sledovat
- 39:00ten vývoj hodně detailně. I ten technický vývoj, abychom
- 39:03dokázali třeba jako stát nebo jako Evropa dobře predikovat a
- 39:06odhadovat, kam se ten vývoj posune a jak to nejlépe využít,
- 39:09tak by se dalo trochu. Skepticky namítnout, že v
- 39:12klimatologii máme velmi dobré informace, kam se klima posune.
- 39:16A jak fungují různé mechanismy? A přesto naše obranné totálně
- 39:19nedostatečná, ale kdybychom. Ty data neměli, tak by to asi
- 39:23nebylo lepší. Bylo by to ještě.
- 39:24Horší, podle mě dobrý. Argument, proč to dělat, i když
- 39:26to nemá ten ultimátní dopad a není to ultimátní řešení, ale
- 39:29souhlasím to je to je to je. Ale myslím si, že operovat slepě
- 39:32v tomhle tom je ještě horší závěrem.
- 39:35Já vím, že když se jeffreyho hintna ptali na to, jakou
- 39:38používá, on teda uměl inteligenci v případě těch.
- 39:42Generativních AI tak zmiňoval chat GPT 4.
- 39:46Tak já jsem si říkal, že bychom mohli dát na konci nakonec
- 39:49rozhovoru slovo, ale nevím, jestli se to povede.
- 39:52Vzhledem k připojení tady ve studiu, ale zkusím položit
- 39:55otázku, jakoby přihodil do toho rozhovoru.
- 39:59Několik vědců získalo Nobelovy ceny za fyziku a chemii, mimo
- 40:03jiné tedy za vývoj pokročilé umělé inteligence založené na
- 40:07neuronových sítích. Jaká otázka?
- 40:11By za tebe v novinářském rozhovoru s expertem na umělou
- 40:14inteligenci v téhle souvislosti. Sti měla padnout a je
- 40:17nejpodstatnější, pokud bych měl položit. 1 klíčovou otázku v
- 40:21rozhovoru s expertem na umělou inteligenci, která souvisí s
- 40:25oceněním Nobelovy ceny za vývoj pokročilé umělé inteligence,
- 40:28zeptal bych se, jaké jsou největší etické a společenské
- 40:33výzvy, které vznikají s rostoucím pokrokem v oblasti
- 40:36umělé inteligence a jak bychom měli tyto technologie regulovat,
- 40:40aby byly prospěšné pro společnost jako celek?
- 40:43Tato otázka pokrývá jak technické tak etické aspekty,
- 40:47což je zásadní, protože vývoj v oblasti AI bude mít velký dopad
- 40:51na společnost. To je dobrá otázka.
- 40:54Myslím, že jsme částečně zodpověděli její její části v
- 40:57předchozím rozhovoru, ale je úžasné, že tohle to vůbec
- 41:00funguje, ne? Když si představíte pár let
- 41:01zpátky, že bychom si byli schopni přirozené a sice povídat
- 41:05s něčím, co nám rozumí a chápe nás a dokáže odpovědět, to je.
- 41:09Chápe? Nás jako někdo říká, predikuje
- 41:11pouze další slovo, ale. No to to.
- 41:14Je sice jako 1 úhel pohledu, ale to je zajímavá otázka a je těžké
- 41:18na to odpovědět tak, aby to dávalo smysl na všech úrovních?
- 41:22Přesně tak. Pardon, pardon.
- 41:25Chci mluvit ale ale. Samozřejmě je pravda, že na té
- 41:28nejnižší úrovni predikuje i další slovo, což ale neznamená,
- 41:31že v té perlíci toho dalšího slova není zahrnuto hodně
- 41:35dalších výpočtů a typu chápání, které se tam skrývají.
- 41:39Takže ta pravice toho dalšího slova je takové.
- 41:42Takhle jako zatření toho, co se tam reálně může dít, protože ta
- 41:45produkce toho dalšího slova by se úplně stejně projevovala,
- 41:47kdyby ten model reálně přemýšlel a přemýšlel nad matematikou,
- 41:50programováním nebo emocemi. Takže já si myslím, že tady to
- 41:53není žádný argument proti tomu, protože úplně stejně bych mohl
- 41:56argoovat, že já sám také jenom vytvářím slovo po slově a tím
- 42:01nějak sním, jako když mluvíme, jako když přemýšlím, takže
- 42:05minimálně slavnějšího pohledu bez toho, abych například v čem
- 42:07chválím. K tomu internímu prožitku toho
- 42:09modelu nebo něčemu takovému. Tak nedokážu říct, jestli je to
- 42:12fundamentálně jiné a jediné, co může udělat, je otestovat ten
- 42:14model dostračném počtu případů, u kterých si myslím, že je k
- 42:17němu potřeba přemýšlení nebo inteligence.
- 42:19A pokud dopadne správně, tak prakticky v tady té doméně
- 42:22inteligentní je, ale asi se nemůžeme vyjádřit nějak
- 42:26fondementálně filozoficky k tomu, jestli reálně přemýšlí,
- 42:28pokud nechceme být externě restriktivní kolem toho, co
- 42:31přemýšlení je a říct, že ho umí dělat jenom člověk díky nějaké
- 42:34nějaké božské esenci naší duše. Já bych k tomu jako.
- 42:37Doplnil. Postřeh že?
- 42:39Ta umělá inteligence se v podstatě zeptala přesně na to,
- 42:42na co jsme se ptali my, byť my jsme tu otázku rozsekali do více
- 42:46dílčích, takže to. Uspořila čas a energii.
- 42:52Takže chtěl bych ještě něco k tomu doplnit?
- 42:54Co se týče teda maximalizace přínosu o minimalizování
- 42:56potenciálních rizik nad rámec toho, co zase zdá se, že je to
- 43:00jednoduchá. Otázka, ale ale potenciálně
- 43:02odpověď hodně komplexní, takže já k tomu asi víc nemám, ale
- 43:06souhlasím s tím, že je to věc, kterou bychom měli řešit, ale já
- 43:09pracuji na konkrétních technických otázkách a těm
- 43:11etickým a filozofickým. Mám sice nějaké amatérské
- 43:13názory, ale ale nejsem asi povalný expert k tomu.
- 43:17Tak třeba se k tomu. Dostaneme někdy zase příště v
- 43:20jiném rozhovoru to byl Stanislav ford s Google deepmind.
- 43:24Díky. Díky.
- 43:25Díky že. Věnujete pozornost respektu
- 43:27našim článkům, jejich audiovirzím i podcastům, které
- 43:31by nevznikly bez podpory předplatitelů a předplatitele.
- 43:34I vás, co si kupujete týdeník respekt na stáncích, tak v tom
- 43:37pokračujte a na slyšenou se těší také Štěpán Sedláček a Martinu
- 43:41uhlíř.