Latest / Týdeník Respekt / Umělá inteligence luští v DNA kód života. Vyčte mezi řádky i lék na smrt?
Transcript
- 0:02Festival Smetanova litomyšl oslava 200.
- 0:05Výročí narození Bedřicha smetany v jeho rodném městě od 8. 6. do
- 0:117. 7. Vstupenky na
- 0:13smetanovalitomyšlu.cz. Vítejte na debatě v týdení
- 0:21korespekt na festivalu afo v Olomouci s názvem kód života
- 0:24psaný umělou inteligencí. Já jsem Štěpán Sedláček a
- 0:27moderovat tuhle debatu budu spolu s kolegou vědeckým
- 0:30novinářem Martinem uhlířem. O tom, že umělá inteligence může
- 0:40změnit většinu oborů lidské činnosti, včetně těch uměleckých
- 0:45právě i díky rozšíření jazykových modelů.
- 0:47Asi dnes už pochybuje málokdo. Biologii a oblasti přírodních
- 0:51věd obecně ovšem může tedy dopomoct k přečtení, možná i
- 0:57změně. Asi toho nejcennějšího korpusu
- 1:01písmenek a sice tedy základních kódů života.
- 1:06Otázka je, jaké bariéry tam jsou a co to může ve výsledku změnit,
- 1:12protože může pomoct otevřít nové hypotézy.
- 1:15Odhalovat třeba chyby VDNA pomoct ve vývoji.
- 1:20Nových léků, ale i třeba jedů nebo biologických zbraní, je o
- 1:24tom dnes bude řeč. Já jsem si všiml, že zrovna
- 1:28tento týden v pondělí o tom referoval americký deník new
- 1:31york Times. O zveřejnění informací ze
- 1:35startupu profluend, který tedy vytváří genový editor na základě
- 1:40dat z využití krysprů, tedy těch genových nůžek, které dokážou.
- 1:44Už 10 let nebývale přesně měnit a zasahovat do genetického kódu
- 1:48a upravovat ho. No a podobné zprávy přicházejí
- 1:52jako na běžícím pásu. Právě díky tomu zrychlení ve
- 1:56vývoji umělé inteligence posledních let.
- 1:59No AO prolínání, umělé inteligence, biologii a ale i
- 2:04lékařství. Tedy budeme dnes mluvit s
- 2:07povolanými zástupci, které za chvilku představíme z různých
- 2:10oborů. Ale teď ještě dám slovo
- 2:11Martinovi, který k tomu má doplnění.
- 2:13Dobrý den. Já bych jenom doplnil takovou
- 2:17příhodu nebo ilustraci, která by to nějak lépe přiblížila.
- 2:22Bylo to roku 1889, kdy jistý francouzský lékař sestoupil z
- 2:27vysokých hor z alp a dal kapku své krve pod mikroskop a
- 2:32zjistil, že mu přibylo tím pobytem ve vysokohorském
- 2:35prostředí červených krvinek. A spekulovalo o tom, že v těle
- 2:41musí existovat nějaký mechanismus, který když je
- 2:44vystaveno nedostatku kyslíku, tak množství tady těch červených
- 2:48krvinek roznášejících kyslík zvýší a buňky, které jsou u
- 2:53zrodu tady toho mechanismu, se podařilo objevit teprve
- 2:57lonistému izraelskému týmu, poté to vyzkoušela umělá inteligence
- 3:02podobná tady těm jazykovým modelům.
- 3:06Typu chat GPT. Akorát vytrénovaná, tedy v
- 3:10biologii, genetice a genetickém profilu buněk a ta to zvládla za
- 3:156 týdnů. Takže v jistém smyslu se dá
- 3:17říct, že to, co lidstvo trvalo 134 let, tak umělá inteligence
- 3:21zvládla takhle rychle, aniž kdokoliv řekl, jaká jaká ty data
- 3:26vlastně, kterým je krmena, mají funkci tak ona na jejich základě
- 3:31dokázala rozšířit buňky asi na 1000 typů a ty buňky.
- 3:36Produkující hormon. Který je za tady tím
- 3:38mechanismem, byly mezi nimi tak to jenom pro ilustraci a tady
- 3:42bychom mohli štěpáne představit naše hosty.
- 3:45Tak po mé levici je Vojtěch bystrý z vědeckého výzkumného
- 3:49centra seitek v brně Masarykovy univerzity, kde tedy vede
- 3:53centrální bioinformatickou laboratoř.
- 3:55Ta se mimo jiné věnuje vývoji počítačových aplikací na
- 3:59zpracování dat získávaných ze sekvenování a nové generace.
- 4:05Pro klinické účely. Vystudoval aplikovanou
- 4:08informatiku na Masarykově univerzitě dobrý den.
- 4:10Díky, že jste přijal pozvání. Dobrý den, děkuju.
- 4:18Dále je to molekulární genetik, který zkoumá strukturu genomu v
- 4:22ústavu molekulární genetiky a karmy věd české republiky jan
- 4:25pačes. Ten mimo jiné sestavil databázi
- 4:28lidských endogenních retrovirových elementů.
- 4:31Vystudoval biochemii na univerzitě Karlově a
- 4:34mikrobiologii na v š ch t, kde přednáší bioinformatiku a také
- 4:39vím, že je pravidelným hostem a popularizátorem vědy.
- 4:42Na českém rozhlase dobrý den, vítejte.
- 4:45Dobrý den. A já bych doplnil moje pravice
- 4:52karloplevovou molekulární genetičku, která působí na
- 4:56lékařské fakultě a institutu ceite k Masarykovy univerzity a
- 5:01také ve fakultní nemocnici brno. Věnuje se genetice a molekulární
- 5:05biologii. Působila mimo jiné v evropské
- 5:09molekulárně biologické laboratoři EMBLV hajdlebergu a
- 5:14loni se stala spoludržitelkou ocenění Masarykovy univerzity.
- 5:18Muni inovation a vard za vývoj nové.
- 5:20Toho diagnostického testu pro hematoonkologie dobrý den
- 5:24děkujeme, že jste přišla. A konečně je to Stanislav ford
- 5:33expert na umělou inteligenci a velké jazykové modely, který
- 5:38působil. Například se podílel na vývoji
- 5:42modelu společnosti antropic klot vedl vývoj open source
- 5:48jazykových modelů pro stability AI působil v Google.
- 5:51Brain nyní pracuje jako seniorní výzkumník, který zkoumá
- 5:56bezpečnost a pochopitelnost umělé inteligence.
- 5:59V deemind má doktorát v oboru umělá inteligence ze stanfordovy
- 6:04univerzity a vystudoval fyziku, teoretickou fyziku na univerzitě
- 6:08v Cambridge tel čili. Vidíte, že jeho stručné CV
- 6:12zahrnuje ty nejznámější firmy. V oboru ho měla inteligence.
- 6:16Děkujeme, že jste přišel. Dobrý den.
- 6:18Dobrý den, moc děkuji za pozvání.
- 6:23A pustíme se do toho já jenom předešlu, že podstatnou část
- 6:26budu můžou tvořit i vaše otázky, na které bude prostor na úvod
- 6:31takové kolečko 3 až 5 minut. Každý z vás zajímá nás, jakou
- 6:36roli hraje umělá inteligence v tom vašem oboru AV aktuálním
- 6:40výzkumném poli v tom, čím se zabýváte během vašich výzkumů
- 6:45nebo. Vývoje.
- 6:47A můžete k tomu i přidat? Co třeba máte teď na srdci v
- 6:52souvislosti s tou umělou inteligencí?
- 6:54Co vám přijde vlastně nejdůležitější?
- 6:55Tak to říct takhle na úvod a nevím, jestli mám někoho
- 6:59vytáhnout, nebo se někdo do toho chce pustit sám jako 1.
- 7:05Jan pače se přihlásil, máte slovo.
- 7:07Děkuji tak já jsem bioinformatik a to znamená, že ačkoliv studuju
- 7:13vědy o životě, tak jsem nic živýho už léta neviděl.
- 7:16Jenom doma mám kočku, je to opravdu všechno.
- 7:19Jenom počítačová záležitost. No a ta technologie poslední
- 7:23doby umožnila číst vlastně jednoduchým způsobem DNAA to pro
- 7:28biologii má obrovský význam, protože víme, že DNA je to
- 7:31místo, kde se uchovává informace.
- 7:34AO tom jaký ten organismus bude, to je to, co předáváme našim
- 7:38potomkům, co jsme získali od našich předků.
- 7:41AI velká řada třeba onemocnění může souviset s tím, že v té dna
- 7:46je něco zaznamenáno co třeba zrovna dobře nefunguje?
- 7:49No a já se specializuju nejenom na tenhleten vertikální přenos
- 7:54dna, teda z předků na potomky, ale i ten horizontální existují
- 8:00různé způsoby. Toho, jak podstrčit tu
- 8:03genetickou informaci k nějakému organismu nejznámější, a to
- 8:06všichni známe, jsou viry, které prostě samy o sobě ani nežijí.
- 8:11Ale pořád tu informaci životní nesou a dokážou ji podstrčit
- 8:15živým buňkám a které za ně potom udělají tu práci.
- 8:18No a ta umělá inteligence nebo ty neuronové sítě se v biologii
- 8:24používají už poměrně dlouhou dobu.
- 8:26Biologové je nemají moc rádi nebo neměli.
- 8:29Je moc rádi donedávna, protože my jsme natrénovali takovou síť
- 8:33třeba na to, aby hledala, kde jsou DNA zapsaný geny.
- 8:35To jsou programy, které jsou starý třeba 15 let.
- 8:39A oni to dělají docela dobře. Problém je, že my nevíme
- 8:42pořádně. Proč to tak udělali AV té vědě
- 8:45hodně často nás zajímá nejenom ten nástroj, ale také proč to
- 8:50tak je. A to nám ty neuronový sítě úplně
- 8:53dobře neumožňovaly, takže ta nejistota v tom, co vlastně ta
- 8:58neuronová síť takhle objevila, tam byla poměrně velká.
- 9:02Ale to se tedy změnilo během posledních možná roku teprve v
- 9:07okamžiku, kdy jak tady asi uslyšíme do toho celého oboru,
- 9:12vstoupila ta AI generativní a velké jazykové modely.
- 9:17Které pochopitelně jednak vědcům umožňují lépe pracovat s tím
- 9:21obrovským množstvím informací. Já to používám na to, že nejsem
- 9:24moc dobrej programátor, tak mi to pomáhá opravovat ten kód,
- 9:28nebo mi to doporučuje funkce a výrazně mi to urychlilo práci.
- 9:31A na to je třeba hrozně dobrá, ale to, co si od toho velmi
- 9:35slibujeme AO. Čem bych tady dneska si chtěl s
- 9:38vámi povídat. Taky je, že nám to umožní vnímat
- 9:42tu DNA taky jako jazyk. Vlastně DNA je pořád totéž, co
- 9:46je přirozený jazyk z hlediska toho, že to je lineární řetězec
- 9:49informací, ze kterých jsme postaveni, takže to je jasná
- 9:53informace, ale ten jazyk tomu úplně přesně nerozumíme a tady
- 9:57doufáme, že nám ta IIV tom udělá nějaký.
- 10:01Prostě významné významné objevy nebo změnu paradigmatu, změnu,
- 10:05pochopení toho, jak to vlastně s tou dna s tou informací o životě
- 10:09je. Vojtěch bystrý nováže.
- 10:11Můžu navázat. Já se tedy taky bioinformatik,
- 10:13tak vlastně oborově to stejné. Jde o to nějak na počítači
- 10:18zpracovat? Jak bylo řečeno, ty přečtené
- 10:21písmena ACGT, ten kód toho té DNAA.
- 10:28My děláme hlavně pro klinické účely, kdy se snažíme odhalit z
- 10:32toho genotypu vlastně nějaký ten fenotyp té nemoci, to znamená,
- 10:35jestli jaká je význam nějaké varianty nebo nějaké mutace.
- 10:40V dna a velmi se mně líbilo jak pan kolega pačes tady říkal
- 10:47vlastně o tom, že ty neuronové sítě už jsou tady dlouho,
- 10:49protože opravdu jako to, čemu dneska se říká umělá
- 10:53inteligence. Před pár lety se tomu ještě
- 10:55říkalo strojové učení. Tak už je tady jako delší dobu.
- 10:59Vždycky byl problém té vysvětlitelnosti.
- 11:01Ten si myslím, že pořád ještě není pro překlenuta.
- 11:03Tam si myslím, že ještě bude. Docela to bránit v určitých
- 11:07směrech, obzvlášť klinice. K tomu vývoji a rád bych se
- 11:12dneska taky pobavil, protože poslední dobou nad tím hodně
- 11:16přemýšlím, jestli vlastně je možné tak, jak se natrénoval
- 11:20teďka ten velký language model na jazyku a různých jazycích a
- 11:24dokáže vlastně podchytit nejen ten jazyk samotný, ale vlastně
- 11:28trošku i stylem přemýšlení, protože vlastně simuluje trošku
- 11:32to lidský mozek, že jo ty ty neurony a to myšlení.
- 11:36Tak jestli. Pro tu DNA dokáže platit něco
- 11:40podobného, protože vy jste říkal, že DNA je v zásadě jako
- 11:45jazyk. Ano, jsou to písmena lineárně
- 11:47poskládaná na 2 stranu. To, co se bralo ještě před 20:30
- 11:52lety. Já jsem se to tak učil.
- 11:55Je to krásné vysvětlení toho, jak nebo krásná ilustrace, té
- 11:58DNA, že je to vlastně taková kuchařka?
- 12:00Já říkám, jo, kde? Si fakt přečtou ty recepty.
- 12:08A potom ty ribozomy, to jsou ty kuchaři, tak ti vyrobí ty
- 12:11proteiny, ty ty jednotlivý a to pak něco dělá a ono se zjišťuje,
- 12:17že to úplně tak není, že celá ta buňka a celý ten molekulární
- 12:20mechanismus funguje daleko složitěji než jen tady, jako
- 12:24jako přímým vlastně postupem a. Nejsem si jist, jestli vlastně.
- 12:30To když simulujeme něco, co má představovat náš mozek, tak
- 12:35jestli je to optimální na simulaci té buňky AA to bych se
- 12:40rád kolegů rozhodně zeptal. Paní doktorka plevová.
- 12:44Tak já navážu, já si připadám tady trochu v menšině.
- 12:49A nejenom pohlavím, ale i. Ale i zaměřením svojí práce.
- 12:55Já jsem původně vystudovala biofyziku a molekulární
- 12:59biofyziku na přírodovědecké fakultě.
- 13:02Ale vlastně hned po magisterském studiu se převážila vlastně ta
- 13:07bio. Část v mém já oproti té fyzice a
- 13:12je pravda, že už v 1. Ročníku mě v té mechanice paní
- 13:17profesorka řekla u zkoušky, že jsem spíš intuitivní fyzik.
- 13:22Ale každopádně já jsem spíš na straně opravdu té biologické a
- 13:26na straně molekulární biologie a genetiky.
- 13:30A vlastně postupem času jsem se začala čím dál tím víc věnovat
- 13:35diagnostice, zejména v onkologii nebo konkrétně v
- 13:38hematoonkologii, kdy hledáme různé diagnostické markry.
- 13:44A hlavně na úrovni dna, protože studujeme vlastně sekvence
- 13:49lidské dna v těch nádorových buňkách.
- 13:53Většinou jsou to změny, které tady nejsou zděděné od rodičů.
- 13:58Ale vznikají nově v té dna v těch nádorových buňkách a
- 14:03vlastně charakter a vůbec. Počet těch změn může ovlivňovat
- 14:09to, jakým způsobem se bude vyvíjet to onkologické
- 14:13onemocnění daného pacienta, a to nás zajímá.
- 14:17Snažíme se najít nejlepší cesty, jak to určit a jak to využít
- 14:23právě pro diagnostiku. A tam už potom právě.
- 14:28Narážíme na to, že i když si člověk vzdá trochu těch výpočtů,
- 14:32tak zároveň se k nim dřív nebo později vrátí, protože v dnešní
- 14:36době molekulární biologie a genetika je v podstatě
- 14:39neoddělitelná od bioinformatiky. A je potřeba už využívat
- 14:46nástroje, které umí zpracovat obrovské množství dat, a proto
- 14:51právě využíváme různé bioinformatické nástroje a už
- 14:55IAI nástroje a už IV diagnostice se dá říct, že do té diagnostiky
- 15:02ta AI problematika proniká a pořád je to podle mě pro řadu
- 15:07lidí neznámá nebo v té diagnostice.
- 15:09Furt je to velká neznámá, protože.
- 15:11Sice víme, že to má velké možnosti, ale jaké konkrétně to
- 15:16až tak úplně jasné pro řadu lidí není?
- 15:19Takže takže to je moje pole působnosti.
- 15:22A já o jí říkám, že přestože to může být pro řadu lidí na
- 15:27začátku nepřítel, tak je dobře ze svého nepřítele udělat
- 15:30přítele a naučit se ho využívat ve prospěch vlastně diagnostiky
- 15:36a lidi a lidského zdraví. Děkujeme a pan do pan ford máte
- 15:40slovo. Moc děkuji za tahleta
- 15:42představení. Já na rozdíl od mých
- 15:44spoluparalistů tady nejsem biolog, nemám žádný biologický
- 15:47background, jsem spíše intuitivní biolog než rigorózní
- 15:50biolog, ale můj background původně je ve fyzice a já jsem
- 15:55se KI dostal tak, že jsem si říkal, jaký je ten
- 15:58nejpodstatnější problém, na kterém bych mohl pracovat?
- 16:01A říkal jsem si, že automatizace řešení problémů jako samotného
- 16:05ten meta problém řešení problémů, což je to, co dělá AI,
- 16:07co dělá lidský mozek? Je to, co bych asi měl dělat
- 16:10moje práce na teoretické fyzice by pravděpodobně vedla k nějakým
- 16:13dílčím pokrokům v tom oboru, ale vyřešit ten metaproblém toho,
- 16:17jak se vlastně problémy řeší. Obecně mi přišlo jako větší
- 16:19problém, ve který se zaměřit, takže tak jsem skončil po umělé
- 16:23inteligenci a pro mě umělá inteligence je ten hlavní
- 16:25předmět zájmu nejenom analýzy, ale také vývoje, takže já se
- 16:28věnuji tomu, že je stavím trénuji, navrhuji, takže se
- 16:32věnuji tomu věnuji tomu, jak je zlepšovat.
- 16:35Ale můj hlavní výzkumný program souvisí s tím, že se snažím
- 16:37vysvětlit, jak interně fungují, takže.
- 16:39Kolegové tedy zmínili tu interpretovatelnost toho, jak ta
- 16:43jak ten systém nějak generuje ty výsledky.
- 16:45Můj ultimátní zájem je být něco takového pro mělou inteligenci
- 16:49obecně a chápat, jak produkuje ty odpovědi, které produkuje na
- 16:52nějaké úrovni, která mi brala, by mi dala vhled do toho, co
- 16:54dělají a jaké je potenciální chyby dělat mohou, takže to je
- 16:58zhruba tomu, čemu se věnuji a jazyk v moraly jsou 1 ten pilíř
- 17:02toho, čemu se věnuji, protože momentálně jsou to ty asi
- 17:05nejchytřejší systémy na světě a zdá se, že fungují.
- 17:08Jako něco, co by se mohlo nazvat prefrontálním kortexem lidského
- 17:11mozku. Taková asociativní difúzní
- 17:14mašina, která je spíše než umělou inteligencí umělou
- 17:17intuicí, což se zdá, je, že je ten těžší problém a na základě
- 17:20ní můžeme postupně bootstrapovat i logičtější rigidnější
- 17:24matematičtější systémy. Ale můj konkrétní zájem dnes je
- 17:28pochopit přesně, jak fungují tady ty umělé intuice nebo umělé
- 17:30inteligence, protože už dnes jsou.
- 17:33Potenciálně stejně dobré jako typický člověk ve většině domen,
- 17:37které intelektuálně řešíme. A možná IO hodně lepší, takže
- 17:40myslím si, že jako momentálně teď jsme v době, kdy jsme
- 17:43víceméně v paritě s umělým inteligencemi, což asi nebude
- 17:45dlouhý moment v historii, ale to pro mě ještě víc zdůrazňuje to,
- 17:49jaká je urgence toho pochopit, jak fungují.
- 17:52Já bych možná navázal takovou doplňující otázku, která tady
- 17:56vlastně už zazněla, která mi přijde mimořádně zajímavá.
- 18:00A to je, že pan bystrý zmínil to, že jaksi my vidíme, že v té
- 18:05buňce je to všechno složitější. A to vezme se ještě platí vůbec
- 18:09to centrální dogma biologie, že DNA dělá RNA, ty dělají proteiny
- 18:15a že vlastně byste se ptal, jestli něco systémy, jako jsou
- 18:20třeba ty generativní modely, které nějakým způsobem
- 18:24napodobují činnost lidského mozku, se vůbec hodí k nějakému
- 18:27hlubšímu pochopení toho, co se odehrává v té buňce?
- 18:32Vy jste zmínil, že to je spíše umělá intuice než umělá
- 18:35inteligence. Takže hodí se k tomu nebo ne?
- 18:39Já bych řekl, že skoro určitě že asi libovolná sekvence symbolů,
- 18:44která v sobě má nějakou pravidelnost.
- 18:46Ta pravidelnost je potenciálně objevitelná automaticky pomocí
- 18:49umělé inteligence. To je podle mě ten největší
- 18:51potenciál toho, co umělá inteligence dělá, což je jakoby
- 18:54vytváření efektivních teoretických popisů na té
- 18:56správné úrovni komplexity a abych se vrátil jak ke svému
- 18:59fyzikálnímu začátku, tam se mi zdálo, že ten hlavní filozofický
- 19:02komitment, co máme redukcionismus pochopit, co
- 19:04nejhlubší zákony v těch nejmenších struktur AZ nich
- 19:06extrapolovat nahoru. Potom v žebříčku, tak ho jako
- 19:10zoomování od toho systému. Problém je, že typicky popis
- 19:14kvarků elektronů protonu není vhodným jazykem pro popis třeba
- 19:17volný na moři nebo nějakého jako emergentního systému, který nás
- 19:20reálně zajímá a myslím si, že umělá inteligence je právě
- 19:23automatický způsob, jak objevit nějaké efektivní závislosti a
- 19:26popis na té správné úrovni komplexity.
- 19:28Takže podle mě tam je velký potenciál najít si nějak
- 19:32automaticky ty vzorce. I když si myslím, že
- 19:35pravděpodobně DA je díky evolučním tlakům.
- 19:38Které byly daní. Já jsem hodně amatérský.
- 19:41Jak si to představuji je, že ty constrains, které používala
- 19:44evoluce, jsou hodně jiné než to, jak vznikal jazyk, a tudíž je
- 19:48možné, že ta informační hodnota a způsob zápisu informací v
- 19:51rámci DNA je hodně jiný. A že se to možná podobá více
- 19:55nějakému zašifrovanému textu než jako textu, který se snaží
- 19:59přenést co nejvíce informací z nejefektivnějším způsobem.
- 20:01Takže si myslím, že je tam jako nějaká empirická otázka kolem
- 20:03tady toho ale nemyslím si, že je nějaká fundentální bariéra, proč
- 20:06bychom neměli? Informační bohatou sekvenci
- 20:10pochopit automaticky pomocí modelů, které jsou dobré v
- 20:13chápání lidárních sekvencí. Což jsou jakoby ty jazykovém
- 20:16role, které máme, který jazyk je tam druhotná věc, na které zas
- 20:19tolik nezáleží, je to spíše 1 z možných sekvencí.
- 20:22Úplně stejně to chápe matematiku, programování nebo
- 20:24jiné typy zápisu kódu. Měl jsem dojem a pačesa, že by
- 20:28chcete reagovat. Musím, nemůžu to vydržet.
- 20:31Jo jasně, je to lineární záznam informace.
- 20:35Problém, který by mě zajímal, jak na to tyhlety systémy
- 20:39reagují je, že VDNA neseme obrovský množství starý zátěže,
- 20:43která se postupně rozmazává. A jak si ji nezbavujeme, přitom
- 20:47to není randovní šum, tak jsou to viry třeba, který nás napadly
- 20:50naše předky, ale předky, který máme společný, třeba se
- 20:53šimpanzem a ještě ještě dále do historie a sedí v tý naší DNAA
- 20:58je jich tam dokonce víc než to, co kóduje proteiny.
- 21:01Tak to jenom pro představu pro ty, kterou už to zapomněli ze
- 21:04školy, tak DNA člověka má 3,3 miliardy písmenek ve 2 teda
- 21:08kopiích. Všichni jsme si z 99,9 %
- 21:14podobní. Ale z těch 3 miliard, jenom 2 %
- 21:18je záznam nějakýho proteinu, kterej potom dělá barvu očí nebo
- 21:23natahuje svaly, nebo staví kosti, ale těch 98 tak tam jsou
- 21:28ještě nějaké regulační oblasti, které to zapírají ve správný
- 21:31okamžik, ale ten zbytek to jsou relikty historický, prostě
- 21:34nepořádek jako na půdě nebo v šuplíku, kterej ten genom neumí
- 21:38uklidit. A tak to tam postupně jako
- 21:41stárne a degraduje. Ta otázka, kterou třeba vlastně
- 21:46teďka v tý biologii řešíme, na čem by se takovýhle umělý
- 21:49inteligence měly trénovat i na tomhle tý degradovaný informaci,
- 21:53anebo je potřeba napřed vzít? Opravdu tu, který rozumíme tak
- 21:57to, to mě to mě hrozně napínavý jako, jak to je.
- 22:00Můžu jenom ta degradace je zajímavej aspekt, protože ta
- 22:03data, na kterých se třeba velký jazykový prodal GPC
- 22:07přetrrénovává, jsou extrémně náhodná, extrémně špatná, takže
- 22:10je tam docela analogická situace v tom, že typická věta nebo
- 22:13typických 1000 slov z té datové sady pro pře trénink těch modelů
- 22:17by vypadala jako náhodná konverzace mezi lidmi na redditu
- 22:22nebo něco takového AA informační hodnota tady těch věcí, nebo
- 22:25velká část z nich jsou nějaké lineární zápisy tabulek třeba z
- 22:29excelu nebo úplně náhodný. V podstatě šum ta informační
- 22:32hodnota na každou tu větu je extrémně nízká, ale zdá se, že
- 22:36ten jazykový model během toho tréninku aspoň moje interpretace
- 22:39je, že získá něco jako fragmenty kognice, nějaké elementární
- 22:43kognitivní operace, které se pak dají složit dohromady do něčeho
- 22:46komplexnějšího. A ty další fáze toho tréninku,
- 22:49které jsou o hodně omezenější a mají o hodně menší množství dat,
- 22:52ale o hodně kvalitnějších dat. Tak ty pak vedou k tomu, že se
- 22:55to nějak syntetizuje dohromady v něco, co se chová jako
- 22:57konzistentní osobnost. A přemýšlí to lidským způsobem,
- 23:00ale ty fragmenty těch vzorců, které jsou podle mě ty
- 23:03fundamentální dílky, ze kterých se skládá to chápání toho maru
- 23:06později přichází z relativně nízko kvalitního textu na
- 23:09začátku, takže si myslím 1. Otázka je množství toho textu
- 23:12nebo množství těch dat? To by mohl být velký batonek,
- 23:15ale pokud jde o kvalitu, tak ten typický trénovací 100 pro
- 23:18jazykové em roli také není moc kvalitní a obsahuje hodně
- 23:21nějakého harampádí. Jak jste?
- 23:24Zmínil se máme na co těšit? Šuplík, půjde to.
- 23:26No, uvidíme potenciálně. Vojtěch bystrý.
- 23:29V tomto směru by mě přesně zajímalo, jestli tam není
- 23:31problém v komplexitě těch základních stavebních kamenů,
- 23:35kdy u toho jazyka přece jenom to slovo je nějak dáno a bylo
- 23:42vymyšleno lidmi ne až tak dávno a poměrně jednoduchým způsobem,
- 23:46zatímco na úrovni té DNA tam vlastně ty nejmenší fragmenty,
- 23:52my jsme si mysleli, že je známe a teď jsme zjistili, že vlastně
- 23:55moc neznáme. Ono to dává trošku smysl,
- 23:57protože tady vlastně asi 500 milionů let náhodně se jenom tak
- 24:02šoupalo do toho a. Ty buňky se nějak tvořily a
- 24:06úplně vlastně jenom to, co fungovalo, tak jako probíhalo
- 24:09dál a já jsem nejsem jistý, jestli vlastně na úrovni úplně
- 24:13té nejnižší vrstvy. Je tam něco, co je odhalitelné
- 24:16jako základní principy na úrovni celé DNA na úrovni proteinů tam
- 24:22celkem evidentně je, protože už existuje alfafota a.
- 24:25Funguje to velmi dobře, ale na té komplexní že by se dokázal
- 24:29SDNA celý ten fenotyp. Já doufám, že jo, ale nejsem si
- 24:33úplně jist, jestli se do toho nebude muset zapojit i nějaká
- 24:37kvantová mechanika na na úrovni té buňky.
- 24:42Fakt nevím, ale 2 věc je teda, že že na úrovni množství těch
- 24:45dat jsme ještě jako strašně pozadu jo, protože když bereme,
- 24:50na čem se trénoval třeba GP ty nějaký ty k kohorty?
- 24:56Já přiznám se, že nevím, kolik to je, ale jsou to. 15 100
- 24:59milionů toho kennu pro lamu 3 teďka nejnově.
- 25:01No ale kolik jako kdyby tak textu je tam dat.
- 25:05Možná 1000 wikipedií nebo něčeho takového?
- 25:07Jo a teďka v tuto chvíli, jestli máme nasekvenováno.
- 25:12Jak tak milión genomů na světě, možná 2.
- 25:15Už budou tak to? To je prostě úplně jako ještě
- 25:18ještě procento toho, co co by bylo potřeba, si myslím.
- 25:22Takže ještě to není ani jako otázka, ale i když ty data
- 25:26budou, tak si nejsem jist, jestli to jak je nastaven ten
- 25:28model. Ta neuronová síť, jestli
- 25:30principiálně vlastně dokáže toto rozlišit.
- 25:34Jsem na to chtěla zareagovat, protože my se vlastně pořád
- 25:37bavíme o oriinární DNA. Ale ono je to ta vlastně ta dna
- 25:43není lineární v té buňce a ve chvíli, kdy se právě do toho
- 25:47přidá to, že ta dna je v té buňce nějakým způsobem smotaná,
- 25:51a to, jakým způsobem je smotaná, určuje to, jakým způsobem se
- 25:55přepisuje ono to centrální dogma molekulární biologie, že z té
- 25:59DNA to jde do té do té RNA, pak až do těch proteinů, tak pořád
- 26:03vlastně platí. A díky tomu, že ta dena je nějak
- 26:08stočená a. Může interagovat nějaký element,
- 26:12který ovlivní, jestli se konkrétní gen bude přepisovat,
- 26:15nebo ne. Tak to nám vlastně jako ta
- 26:17lineární sekvence úplně neřekne. A to přidává tu další velmi
- 26:21výraznou komplexitu. Do do toho problému a proto si
- 26:25myslím, že to nebude. Neříkám, že to není reálné.
- 26:29Možná to někdy v budoucnu bude reálné, ale to si myslím, že to
- 26:32je to, co výrazně zesložiťuje tu situaci AA zkomplikuje to, aby
- 26:38ta buňka šla nějakým způsobem namodelovat.
- 26:41Tohle i ještě se k tomu vrátíme tady k těmhle těm teoretickým
- 26:44otázkám, komplexitě a podobně. Ale já bych vás možná vyzval,
- 26:48jestli byste nejdřív nám laikům. Nepředstavily, co se teda?
- 26:53Už povedlo, vy jste zmínil třeba alfa fold.
- 26:57Četli jsme o tom, že vlastně krys pr metoda genetických
- 27:01modifikací už využívá umělou inteligenci pro návrh právě toho
- 27:05systému. Tak jestli byste mohli
- 27:07představit publiku, kde už ta umělá inteligence do té biologie
- 27:11vstoupila a čím? Je těch.
- 27:14Pokud nebereme trénovaná data na jazyku, tak asi ten největší
- 27:19impakt poslední doby ostatně. Je ten alfa fold, což je
- 27:22nástroj. Natrénovaný, který dokáže
- 27:25předpovědět právě ze sekvence proteinu, to znamená posloupnost
- 27:29těch aminokyselin, které se zase dají už přímo přeložit.
- 27:33To ten genetický kód známe už 80 let se dají přímo přeložit z
- 27:38toho písmenek genů se přeloží písmenek aminokyselin a na
- 27:41základě toho pak to byl takovej ten svatý grál té molekulární
- 27:45biologie si pamatuji ještě někdy koncem 90 let, kdy.
- 27:49Jsem nastupoval na školu, tak tak to bylo takový, že kdo
- 27:51vyřeší jak. Poskládat tu 3 d strukturu z té
- 27:541 d sekvence, takže to bude prostě výhra a to se teďka
- 27:59podařilo a nepodařilo se to na základě toho, co si hodně lidí
- 28:02myslelo, že to tak půjde, že pomocí nějaké kvantové dynamiky
- 28:07vlastně nasimulujeme. Jak se ty molekuly těmi vazbami
- 28:10tam skládají, ale místo toho se vzalo akorát spoustu spoustu už
- 28:16známých struktur. Které experimentálně byly
- 28:19vyřešeny, AK tomu ty sekvence. A prohnalo se to přes tady
- 28:24nějakou krásnou neuronovou síť nebo transformer a dokáže nyní
- 28:29predikovat v podstatě ten model ty struktury lépe, než to
- 28:33dokážou ti krystalografové, ti experimentální vědci, což je
- 28:38jako úplně neuvěřitelný a. Před těmi dvěmi lety, kdy toto
- 28:43jako vyšlo ven tak. Se řešilo, že to teda bude řešit
- 28:48hodně problémů. AV podstatě to i trošku
- 28:51přehánělo, že to bude řešit všechny problémy v biologii.
- 28:53Není to úplně tak, ale například potom z toho ten výsledek toho,
- 28:58že jsme schopni nasimulovat, jak se nám bude chovat ten protein,
- 29:02když ho nějak oeditujeme, když v něm bude nějaká mutace, jestli
- 29:06bude více nebo méně patogenní, tak bez toho, aniž bysme to
- 29:10museli experimentálně zkoušet, tak to jako je velká síla.
- 29:13Já jenom, k čemu to jde? Využít teoreticky vývoj léků
- 29:16nebo. Vývoj léků já si jako velmi
- 29:19dobrý příklad, samozřejmě základní výzkum na úrovni
- 29:22proteinů a například teda já konkrétně využívám takový
- 29:27derivativ toho alfa fódu, který se jmenuje alfa missens, který
- 29:30právě predikuje jak moc nějaká mutace ovlivní strukturu toho
- 29:35proteinu na základě toho velkého modelu.
- 29:38Takže v tu chvíli já, když pak u toho pacienta.
- 29:41V těch datech vidí člověk ano, on má tady mutaci.
- 29:44V nějakém genu brká 2. Tak mně to řekne, buďto tam,
- 29:49protože on může mít tu mutaci v nějakém genu a ta mutace může
- 29:53vadit a nebo nemusí. A tady na základě tohoto modelu
- 29:56jsme schopni říct, ano, tohleto je potenciálně patogenní
- 29:59varianta, která může způsobovat tu nemoc, co ten člověk má a
- 30:04nebo ne. Tohleto je bin varianta, která
- 30:06vlastně nevadí, tak to je taková jako velká síla, kdy se to
- 30:10dělalo, se to různými způsoby, ale tento je asi nejlepší v tuto
- 30:13chvíli. Můžu jenom malou věc.
- 30:16Zajímavostí může být, že v tom týmu alfafo, což je docela malý
- 30:20tým 10 až 20 lidí, 1 čech, můj spolužák z Cambridge augusting
- 30:25se jmenuje, takže podle mě, jak jste říkal, nebo já minimálně
- 30:28cítím, že to je pravděpodobně něco se získá Nobelovu cenu. 1
- 30:31tady ten výsledek a je zajímavé, že máme také jako českou
- 30:34reprezentaci v tom týmu, který to postavil.
- 30:37To vlastně ještě jsou ty umělé inteligence, ne toho
- 30:40generativního typu. Tady pořád se snažíme spíš
- 30:42zjistit, jak to vypadá. Než že bychom z toho tolik
- 30:46predikovali, ale právě ten článek, který se zmiňoval tady
- 30:50na začátku, tak ten je o tom, že použili nějaký už zase novější
- 30:54modely toho alfafodu a vrátím se zpátky k těm krysprům, což je ta
- 30:58technologie, která vám dokáže ustřihnout tu v tý DNA vyměnit 1
- 31:01písmenko z těch našich 3 miliard.
- 31:03Teďka je velký haló, že bude genová terapie na bedatlasemi a.
- 31:10Srpkovitou anémii a to je opravdu 1 jediný písmenko z těch
- 31:133 miliard rozbitý. Víme, který a je schválená teďka
- 31:18pár měsíců 1. Jako léčba na tohleto genetická,
- 31:22když se ty krvinky odeberou ty prekurzory krvinek v nich se to
- 31:26opraví a pak se vrátí zpátky tomu pacientovi tyhlety
- 31:29genetický nůžky. Ty jsme si půjčili od bakterií a
- 31:32bakterie to maj jako ochrannej mechanismus, aby tu cizí DNA,
- 31:36kterou někde najdou ve svým okolí tak, aby jí rozstříhali,
- 31:39aby náhodou nedostali ty špionážní práce, aby nedostali
- 31:43cizí informaci. Do sebe, podle který by pak
- 31:46dělali něco špatnýho, tak oni se bojej cizí informace a maj na to
- 31:49tydlety nůžky. Ale tyhlety nůžky jsou skvělý na
- 31:53takovou obranu ale nejsou tak úplně dokonalý na to, na co
- 31:56bychom jim chtěli použít a opravit to v tom pacientovi.
- 31:59A tak je ta AI teďka udělala velikou věc.
- 32:01Uvidíme. Ještě to není ani precenzovaný,
- 32:03vyšlo to před 2 dny, že navrhla lepší ty chrispry tak jako to ty
- 32:10ty textový navrhuji text. A možná už.
- 32:14Třeba básničku navrhnou líp než ten autor třeba já kdybych
- 32:17napsal básničku, tak bych asi prohrál soutěž se umělou
- 32:21inteligencí, tak tady ta umělá inteligence navrhla ty nůžky
- 32:25vhodnější k tomu štípání navrhla jich v 50 a 1/2 z nich už
- 32:31opravdu ti autoři teda biotechnologicky vyrobili a
- 32:35vyzkoušeli, že opravdu fungují líp, než to, co máme v tý
- 32:37přírodě, tak to je. To je takový opravdu skok, který
- 32:41je nečekaný, že že dokážeme. Nejenom že dokážeme pochopit ten
- 32:47záznam, jak je v tý přírodě, tam ještě pořád nejsme, ale doufáme,
- 32:51že se tam dostaneme, ale dokonce IS tím dál nepochopením, tak už
- 32:56dokážeme navrhovat jak a vylepšovat tu věc než tak, jak
- 33:01se vyvinula za tu za ten dlouhý čas té přírodě, tak to je 1 z
- 33:06těch příkladů vlastně úplně novýho použití.
- 33:10Modelů, který nejsou jazykový, je to teda ten proteinový model,
- 33:13ale evidentně se naučil chápat ty proteiny dobře.
- 33:16Paní projevová mě zaujalo v tom vašem úvodním příspěvku, když
- 33:19jste mluvila o té diagnostice. Já třeba vím z prostředí
- 33:21radiologů, že tam, když se umělá inteligence naučí tedy na
- 33:25správně okomentovaných snímcích z rentgenu, tak tam má poměrně
- 33:29spolehlivé výsledky. Vy jste mluvila o tom, že to je
- 33:32tak trochu i nepřítel, s kterým je třeba spolupracovat.
- 33:35Ale jak tedy dnes vypadá to zapojení umělá inteligence do
- 33:40diagnostiky tedy? Nádorových onemocnění v daleko
- 33:43větším detailu, než jsou nějaké radiologické snímky.
- 33:46Právě na té buněčné úrovni, tak ja, jak už se tam třeba podařilo
- 33:50odhalit nějaké nové vzorce, které lidské oko neumělo do té
- 33:54doby vidět? Já bych se zastavila už ještě u
- 33:56těch zobrazovacích metod, protože tam opravdu už ty
- 34:01nástroje, které by dokázaly vlastně z obrazových materiálů,
- 34:06ať už z kolonoskopií nebo s mamografů, třeba tak umí opravdu
- 34:12najít drobná nádorová ložiska lépe než lidské oko.
- 34:16A to jsou systémy, které už se v dnešní době testují.
- 34:20Testují se IU nás po české republice.
- 34:23Neřeknu vám konkrétní pracoviště, abyste ja ne, že
- 34:27bych nechtěla, ale vím, že prostě těch pracovišť je opravdu
- 34:30několik, která to opravdu testují tady ty nástroje.
- 34:34A co se týká teda buněčné úrovně nebo úrovně DNA, tak to je to
- 34:39pole, kde kde. My to využíváme tím způsobem,
- 34:43že? Když se sekvenuje lidská dna,
- 34:47když už ten vzorek přijde a vyšetřujeme, buď tu zárodečnou
- 34:51dna, kterou jsme právě zdědili od rodičů a nebo tu dna jako
- 34:56sumatickou, což znamená, že to je to, co se vytvořilo v našem
- 35:00těle. V průběhu života tak nacházíme
- 35:03řady variant genetických a dřív se tomu říkalo mutace.
- 35:06Teď tomu říkáme varianta, protože.
- 35:10Ta mutace kolega, pače se, směje.
- 35:13Ale. Lekce covidu zapracovala.
- 35:16Směje být opatrnější a opatrnější.
- 35:18Tady tato terminologie se do genetiky dostala pravdu už před
- 35:21covidem, ale ten důvod je právě to, že.
- 35:27Varianty VDNA můžou mít různý význam a různý dopad můžou být
- 35:32zcela benigní, což znamená, že opravdu nezpůsobují vůbec žádné
- 35:38změny ani třeba v expresi RNA. Prostě tam můžou být a.
- 35:42A nic nedělají nebo mi dělají minimum, a nebo naopak jsou
- 35:45patogenní. A to jsou ty varianty, které
- 35:47mají ten dopad, kdy víme, že prostě to je ta varianta, která
- 35:52může vést k rozvoji třeba karcinom prsu.
- 35:55V případě třeba prcagenu, ale pak je tam poměrně široká
- 35:59skupina variant, které jsou. Je to z angličtiny variant of
- 36:04annown signifikants tak zvané vůz varianty.
- 36:08A furt je to dejme tomu třeba 20 %.
- 36:11Když se člověk hodně dobře snaží.
- 36:12Jsou na to precizně zpracovaná doporučení, jakým způsobem ty
- 36:17varianty hodnotit AI, když ta doporučení použijete, projdete
- 36:22si všechna ta kritéria, která musíte hodnotit a je jich docela
- 36:25hodně. Tak vám pořád zbyde spousta
- 36:29variant, které prostě snadno zakasifikovat nejdou a člověk
- 36:34musí studovat literaturu, procházet různé i predikční
- 36:38nástroje všechno možné. A je to poměrně náročná práce s
- 36:44tím výsledkem, že člověk občas má opravdu obavu, aby vydal
- 36:47nějakou variantu patogenní, nebo naopak benigní, protože obojí.
- 36:52Pokud je to špatně interpretované, může mít zásadní
- 36:56dopad na na ty jedince, kteří se dozví ten výsledek.
- 37:00Ta odpovědnost nese. Odpovědnost nese ten, kdo to
- 37:04vydal. No lékař teda v našem prostředí,
- 37:06ale lékař se řídí informací, kterou dostane od toho
- 37:09molekulárního genetika z laboratoře.
- 37:11A ta ai momentálně proniká právě do toho do těch postupů té
- 37:18interpretace variant a existují nástroje, některé jsou volně
- 37:23dostupné. Je to jako super, protože řada
- 37:26diagnostických laboratoří v české republice je radši, když
- 37:29může mít něco zadarmo, protože nemá úplně na to, aby si to
- 37:32zaplatili ve velkém množství, ale existují i placené verze, do
- 37:37kterých za nahrávat. Víc variant má to další funkce
- 37:41navíc. Ale tady ty nástroje výrazně nám
- 37:43usnadňují to, jakým způsobem ty varianty interpretovat a dělají
- 37:47to docela dobře. Tím i ještě 1 doplňující otázku
- 37:50se vznáší ta otázka, že vlastně potom pracují genetici s
- 37:55nějakými černými krabičkami, do kterých úplně nevidí a musí
- 37:58věřit v tu interpretaci? Na základě strojového učení?
- 38:02Tak kdybyste k tomu měla nějakou vaši poznámku, protože mi
- 38:05přišlo, že tam trochu ten. Nepřítel v uvozovkách, jak jste
- 38:08řekla, asi vězí. Ano ano přesně myslím si, že v
- 38:11tom ten nepřítel vězí, protože. Je je samozřejmě optimální, když
- 38:17člověk zvládá dobře molekulární biologii a genetiku a zároveň je
- 38:22skvělým programátorem a bioinformatikem, ale realita
- 38:26taková není a lidí, kteří by zvládali, obojí dobře velmi
- 38:30dobře, tak je velmi málo a většinou se prostě člověk buď
- 38:35přikloní na tu stranu, že dělá dobře tu práci v laboratoři.
- 38:39A rozumí líp těm datum, dokáže to třeba líp zkorelovat s
- 38:44fenotypem s tím, jak se to dané onemocnění projevuje a nebo že
- 38:48to prostě dokáže napočítat. A zná ty čísla zná ten příkazový
- 38:53řádek, ale už moc nemá kapacitu mentální na to, aby.
- 39:00Dokázal se podělat na té klínické interpretaci, takže v
- 39:03tom právě si myslím, že řada biologů dobrovolně zůstává s
- 39:08tím, že. Pracuje s.
- 39:11Protože prostě nemá kapacitu na to, aby to pojala.
- 39:15Na tady jsme. Dorazili na zajímavý problém,
- 39:17protože žijeme v dobré době v tom slova smyslu, že máme ještě
- 39:22ty odborníky. Jo, tak dneska už víme, že ty AI
- 39:25třeba dokáží lépe klasifikovat nějaký fotografie, nebo i nebo
- 39:29histologické nálezy, protože jich prostě viděla víc.
- 39:32A to ale pořád ještě zatím musí být doktor, který převezme tu
- 39:36odpovědnost a řekne, je to tak. A ten doktor tomu ještě těm
- 39:39obrázkům rozumí, protože to taky dělal celej život, ale za pár
- 39:42let už tyhlety doktory mít nebudeme, protože kdo by dneska
- 39:46se učil pořádně rozumět histologickým obrázkům, když je
- 39:49jasný, že to ta ee dělá líp a já bych byl jenom ocásek, kterej
- 39:53teda, ale na kterej pak bude ta zodpovědnost?
- 39:55Takže to je něco, co bude obrovská změna, kterou budeme
- 39:59muset nějak vyřešit jako lidstvo předat tu důvěru, teda delegovat
- 40:04tu důvěru, protože jak jsme se dozvěděli a já si jaký myslim,
- 40:07že tak bude. A jak bude za chvilku dělat ty
- 40:10věci lépe? Já na to zareaguju, takže právě
- 40:12možná z toho vzniká ta obava řady lidí, že aia ji převezme
- 40:17naši práci. Možná některý z nás ano.
- 40:22Bohužel to tak asi bude. Zároveň stále doufám, že tímto
- 40:27otevře prostor pro to, abychom mohli dělat něco jiného lepšího.
- 40:30Třeba ale ale třeba, co se týká hodnocení těch genetických
- 40:35variant, tak tam stále platí, že je preferováno, aby se to
- 40:40vyhodnocovalo nejméně 2 nástroji, protože jak jsem
- 40:43říkala, sice ty nástroje to v současné době ty výpočetní
- 40:47nástroje to dělají relativně dobře.
- 40:50Ale stále je tam. Potřeba to kontrolovat, protože
- 40:56nestává se výjimečně, že by 1 ten software jeho vyhodil. 1.
- 41:02Výsledek varianta patogenní a 2 software vyhodnotí, že je
- 41:07benigní. Může se to stát a pak právě tam
- 41:10pořád je potřeba toho člověka, kterej s tou interpretací má
- 41:14zkušenosti, který opravdu musí tu interpretaci ještě dotáhnout.
- 41:18A ještě stále v této oblasti je potřeba ten lidský prvek.
- 41:21Jo, že bez toho to prostě nejde. Mě přijde, že ten argument s
- 41:25tím, že je ten lidský expert dnes pořád umí ty histologické
- 41:28věci analyzovat, ale, že v budoucnosti nebude, protože ty
- 41:31nástroje budou lepší než on, nebo ona mi přijde potenciálně
- 41:35nepravdivý v tom, že já jsem byl celý život o hodně horší než
- 41:38kalkulačka v dělání aritmetiky v počítání věcí a neměl jsem nikdy
- 41:42ani šanci být podobně dobrý nebo jako digitální počítač AI.
- 41:45Přesto jsem se naučil, jak se dělá násobení.
- 41:48Velkých čísel vedle sebe a tak, takže.
- 41:51Bych řekl, že jakoby ta pedagogická praxe toho, jak se
- 41:54člověk vyvine, od těch jednodušších úkolů AK čemu
- 41:56komplikovanějším a ta reálná ta hranice toho, co dokáže migovat,
- 42:00co nejefektivněji a nejrychleji, možná spolu ne nutně soutěží, že
- 42:04já pořád se učím matematiku od píky.
- 42:05I přesto, že už asi od bagdge a od mechanických počítačů 200 let
- 42:10zpátky jsme to dokázali dělat rychleji a levněji, je
- 42:12efektivněji a zároveň taky, abych trochu pušval zpátky.
- 42:16Na ten blackbox argument mně přijde, že ty blackboxy
- 42:19používáme skoro všude, že já když mám.
- 42:21Jako hypotetický biolog elektromobými mikroskop nebo
- 42:23něco takového tak také nevím, jak přesně vím zhruba, jak
- 42:27funguje podobně jako vím, jak zhruba funguje ten neuronová
- 42:30síť, ale nevím přesně jak jako upravuje obraz, nebo odstraňuje
- 42:34šum nebo jak přesně ta čočka magnetická funguje a tak a zdá
- 42:37se mi, že hodně vědců dnes už závisí na hodně black box
- 42:42nástrojích, které používají v astronomii třeba, ve které jsem
- 42:46chvíli pracoval na začátku mého doktorátu.
- 42:49Se používají obrovské simulace k tomu, abychom nasimulovali vývoj
- 42:52vesmíru s různými počátečními podmínkami a my sice rozumíme
- 42:55těm zákonům, které toho vstupují na začátku, ale pak provedeme
- 42:58miliardu kroků mezi těmi zákony a tím výstupem tím, že třeba
- 43:02vidíme spirální galaxii, která se objeví v té simulaci a podle
- 43:05mě tady to naráží na zajímavé aspekty toho, co jako znamená
- 43:08pochopení, nebo co je filozoficky.
- 43:10To, co bychom chtěli mít. Protože třeba v té fyzice
- 43:12chápeme, že to pochopení je docela hluboké a fundamentální
- 43:16AI. Přesto ty důsledky těch zákonů,
- 43:17které chápeme třeba newtonových zákonů a které je třeba, vidíme
- 43:21na obloze spirální galaxie, například nejsou úplně přesně
- 43:24odvoditelné z těch zákonů samotných a potřebujeme těch
- 43:26miliardu kroků simulace mezi těmi zákony a tím důsledkem,
- 43:30takže podle mě pochopení, nebo nějaká interpretovatelnost
- 43:33přichází v různých formách a 1 z těch aspektů je, kolik kroků
- 43:37musím provést mezi tím fundamentálním zákonem tím
- 43:40popisem. A tím důsledkem a čím víc kroků
- 43:42mezi tím tím méně přímo je to propojené.
- 43:45Já třeba když vidím kyvadlo, tak chápu, proč se kyvadlo kývne
- 43:47tak, jak se kýve na základě minutových zákonů.
- 43:49Ale třeba ty spirální galaxie na obloze to, že jsou přímým
- 43:52důsledkem zákonů, jsme nevěděli až do asi 20 let zpátky, protože
- 43:56jsme prvně simulaci dokázali vidět z preální galaxii.
- 43:58Nebylo to něco, co jsme nečekali?
- 44:00Ten prior byl hodně vysoký, ale závisleli jsme na black boxu,
- 44:03který nám to ukázal, že tohleto přesně je tak konsekvence těch
- 44:06fundamentálních základů, takže mi přijde, že.
- 44:08Vůbec ten důraz to pochopení. Tady je dobrý a jako vědec tím
- 44:13hodně sympatizuji. Ale asi jsem během posledních
- 44:18pár let ztratil ten důraz na to, že to pochopení je to
- 44:21funamentální. To, co potřebuji, že to, co
- 44:23často chci, jsou predikce. A pokud to pochopení vede k
- 44:26dobrým prediktím, tak je to skvělé.
- 44:28Ale pokud k těm predikcím vede nějaký black box model, který
- 44:31očividně dělá něco ověřitelně správně, třeba ten alfapho, tak
- 44:34se zmiňovaly, že je prakticky použitelné.
- 44:36Tak ne nutně si řeknu, je to asi horší radši bych to pochopil,
- 44:40ale myslím si, že je reálně možné, že hodně zajímavých
- 44:43důležitých systémů ve světě nemá něco, co vypadá jako pochopení,
- 44:47které je natolik kompaktní, abych ho chápal jako pochopení,
- 44:49ale zároveň je tolik prediktivní, aby mi stálo za to.
- 44:52Myslím si, že je možné, že to pochopení může být obrovské.
- 44:55Je to plná kniha zákonů, a to trochu predikuje to, jak se
- 44:58třeba chovají proteiny. Ale není to něco, co by můj
- 45:01mozek vnímal jako nějaké krystalické pochopení toho, jak
- 45:04ten systém funguje a jak teďka zmenšuji tu velikost toho
- 45:07pochopení, nebo toho toho popisu tak ztrácím tu prediktivní sílu.
- 45:11To pochopení je čím dál tím méně důležité a myslím si, že
- 45:13potenciálně neexistuje ten svůj spot, kde je to natolik malé,
- 45:16aby to paslo do mého mozku AA bylo to pro mě pochopením a
- 45:20zároveň natolik prediktivní, aby to stálo za to, že možná
- 45:23newtonovi zákony a fyzika jsou špatný příklad, že možná to my
- 45:26jsme měli štěstí s tím. Že jsme našli něco tak
- 45:29kompaktního a tak prediktivního jako tý utany zákony, einsteine,
- 45:32rovnice a tak. Vojtěch bystrý ano.
- 45:35Vlastně souhlasím a jako že bych se nebál úplně black boxu na 2
- 45:39stranu v rámci. Predikcí si myslím, že to bude
- 45:43naprosto zásadní věc proto, aby to bylo uplatitelné v praxi,
- 45:48protože tam, když si představíte, že kdybyste měli
- 45:51model, který bude z 95 % predikovat správnou diagnózu.
- 45:56Z 5 % se mýlit a věděli, že ten doktor jenom z 80 % predikuje
- 46:01správnou diagnózu. AZ 20 % se mýlí tak pořád těch 5
- 46:05% z toho modelu, který akorát nasypete data a on vám řekne
- 46:09něco a vy. Na základě toho budete toho
- 46:11člověka operovat, tak už jen legislativně.
- 46:13Je to strašný problém, protože tam není ten, kdo má tu
- 46:16zodpovědnost vlastně a tam je jediný způsob si myslím, že je
- 46:19mít nějakou způsob. Vysvětlitelnosti toho modelu.
- 46:24Aby se řeklo, on na to došel proto, a proto ten doktor to
- 46:27může říct. Ano, to s tím souhlasím s tím
- 46:29postupem. A vlastně vlastně to tak říct.
- 46:33Může maličký komentář, mi to přijde analogické, jak samo
- 46:35řídícím autům? Je to tak.
- 46:37To je podobný problém, ale reálně já třeba samořídící auta
- 46:41používám minimálně každý týden v san Franciscu, zavolám si je na
- 46:44aplikaci, jako kdyby to byl uber nebo nebo bot, nebo nějaká
- 46:47nějaká věc, ale přijede bez řidiče a nastoupím.
- 46:49Odveze mě do cíle vystoupím stejně, jako kdyby to byl řidič.
- 46:53Je to na 100 % blackbox. Já nemám tušení, jak to auto
- 46:55funguje, používá hodně neuronových sítí, které
- 46:59interpretují obraz signal z lidaru laserového měřáku,
- 47:03vzdálenosti, který se točí na hoře a měří, jak daleko věci
- 47:06jsou i patě. Takže zdá se mi, že je to hodně
- 47:08ekvivalentní k tomu případu v medicíně.
- 47:10Je tam také právník zodpovědnost za třeba potenciální nehodu,
- 47:13takže tohleto je minimálně jako cesta, kde záleží na hodně malé
- 47:17chybovosti. Je tam právní zodpovědnost AI,
- 47:19přesto se to dělá a rozvíjí. Zodpovědnost za tu nehodu má
- 47:22kdo. Nemám tušení, ale minimálně
- 47:24praxe, ale minimálně prakticky se teďka dělá testuje, takže to
- 47:28asi nemůže být natolik velký problém v té cestě, aby to
- 47:30zastavilo ten vývoj. Takže to, že se jako v ulicích
- 47:33mezi ostatními auty používají, ukazuje, že to není
- 47:36nepřekonatelné nějaký roadblock nebo překážka.
- 47:38Já jsem chtěla opravdu velmi, velmi stručně.
- 47:41Ráda se omlouvám ve zdravotnictví jednoznačně
- 47:44zodpovědnost vždycky nese ošetřující personál.
- 47:48Tam se nemůže vymlouvat, to vidíme, ale ale nemůže se
- 47:51vymlouvat na black box a prostě je to je to, že jo ten lidský
- 47:56faktor bude pořád v nejbližších letech ten klíčový.
- 48:01Já bych to chtěl trošku tohle určitě vložitá otázka, ale chtěl
- 48:04bych to trošku posunout zpět k praxi.
- 48:08A sice pan ford nám před tou přednáškou říkal, že ty velké
- 48:12systémy umělá inteligence. Jsou vlastně už na úrovni mozku
- 48:16velkých savců, řekněme. Dnes je že ježek, ale má spoustu
- 48:21řekněme balastu, který ho ta evoluce tak vymodelovala, aby
- 48:25jako přežil. Zatímco ta umělá inteligence
- 48:27tohle nepotřebuje. Zároveň slyšíme, že to je trošku
- 48:31black box. Pan for se právě věnuje tomu,
- 48:34aby pochopil, jak to vůbec funguje.
- 48:36A teď tady máme tu praktickou stránku, tak kde čekáte vy jako
- 48:41experti? Že dojde třeba k nějakému
- 48:43průlomu. Bude to právě třeba v oblasti
- 48:46navrhování těch léků. Nebude to.
- 48:48Třeba v konstrukci biologických zbraní, když slyšíme, že umíme
- 48:53podle sekvence už poznat trojrozměrnou strukturu
- 48:57proteinu. Kde tedy čekáte, že nás to
- 49:01posune dál jen? Pačes ano je potřeba rozlišovat
- 49:05ty hlasy a pardon. Já si myslím, že to
- 49:07nejdůležitější, co nás čeká, že není potřeba z toho mít strach,
- 49:10že by ty umělý inteligence dokázaly navrhnout něco obzvlášť
- 49:14ošklivý jo jako bio zbraň. To umíme i bez toho jo, takže to
- 49:19na to nepotřebujeme žádnou umělou inteligenci a ta příroda
- 49:22toho vyrobila tolik, že i když se poučíme od ní, tak můžeme
- 49:25napáchat škody velký. Ale to, co mně připadá, že bude
- 49:30hrozně významné AO čem, možná by bude i zajímavá diskuze je, že
- 49:36když se dělají ty jazykové modely na jazyku na tom, tak tam
- 49:39je opravdu ta přirozená velikost toho tokenu je toto slovo.
- 49:43Tak jak vznikly. AU tý dna to nevíme tak na
- 49:45úrovni proteinů, to jsou třeba 3 písmenka, ale možná že v té DNA
- 49:49je uložená ta informace jako vícevrstevně ta jako ty dlouhé
- 49:53interakce, jak se navzájem ovlivňují, což třeba v tom
- 49:56jazyku tolik není a že tam by mohl přijít nějaký hrozně
- 50:01zajímavý průlom, že najednou nám ty to obrovský množství dat,
- 50:04který my v tý biologii taky máme.
- 50:05Jak se ty buňky chovají dneska už ty technologie umožní číst
- 50:09genetickou informaci 1 a jediné buňky.
- 50:12I to, který geny jsou tam zapnutý.
- 50:14Jak se ta buňka mění, to takové něco, co před pár lety si člověk
- 50:18vůbec nedovedl představit těch dat je hodně, ale pořád
- 50:22skládáme. Je to spíš tak, jako když máte
- 50:25ty pazla teďka z těch malejch kousků to skládáte, ale pořád
- 50:28ještě nevidíte ten celkový obraz a tam si myslím, že to bude že
- 50:33najednou najednou. Teda přijde někdo možná nebo
- 50:35chápat, jak on to vidí ten celkový obraz, ale že se zjistí,
- 50:38že tam ten celkový obraz opravdu je, že neskládáme jenom.
- 50:41Nesmyslný šum a že to všechno zapadne do sebe a dá se tam
- 50:45takhle ten pocit ten poslední kousek takhle do toho obrázku
- 50:50jo, tak na to se moc těším a to je na dohled teda.
- 50:54Si myslím. Co to bude znamenat jako co v tu
- 50:56chvíli pochopíme? Pořád ještě tu biologii, my jako
- 51:00věci taháme jako za krátkou část toho provázku prostě neumím,
- 51:04nerozumíme ty biologii nedokážeme napredikovat, neumíme
- 51:08leccos vyléčit. Nevíme, proč se něco děje tak,
- 51:10jak se děje. A to si myslím, že prostě tenhle
- 51:13ten systém začne fungovat. Já nevím, třeba z toho budeme
- 51:16mít model takový buňky v počítači, kde to bude moc moc
- 51:20všechno otestovat a nebudeme muset.
- 51:23Na pacientech zkoušet, jestli tahle chemikálie.
- 51:25To změní, nebo ne? Protože to dáme do toho modelu a
- 51:28on nám to rovnou řekne, že to změní, nebo ne?
- 51:30Takhle. Takhle si myslím, že to to bude
- 51:32ta změna velká pro medicínu. Ale hlavně si myslím, že to bude
- 51:36ta medicína bude opatrná, to je pořád.
- 51:39Je to přesně tak, je za to zodpovědět ten doktor AS tím na
- 51:42to zdraví na sebe sama jsmecití, ale biotechnologie dokážeme
- 51:46třeba nechat vyrábět bakterie nebo kvasinky nějaký plasty.
- 51:51Na požádání jo ještě v souvislosti s 3 d tiskem to
- 51:54úplně si dovedu představit, že budeme u mě dělat takovéhle
- 51:57věci. Já jestli můžu jako s tím bych
- 51:59souhlasil na na té úrovni těch biotechnologií, protože tam se
- 52:02bavíme zas taky je buňka a buňka jo buňka bakteriální, která
- 52:06ještě jenom taková, že vlastně je navržená na to, aby třeba
- 52:09chroustala plasty nebo něco metabolizovala.
- 52:13To si asi dokážu představit, že by se nasimulovat dalo AV tu
- 52:16chvíli. Opravdu by byla simulace procesu
- 52:19všech v té buňce, tak je to úplně jako neuvěřitelné.
- 52:22A pomohlo by to IV těch smyslech, kdyby byla ta stejná
- 52:25simulace na úrovni. Eukaryotických buněk jako těch
- 52:28lidských a ta ještě nedej bože s nějakým mikroprostředím, tak to
- 52:33by bylo jako úplná bomba, protože to by se fakt dalo léčit
- 52:36skoro od počítače. Ale tam teda nevěřím, že tam
- 52:40jsme jako moc blízko, ještě protože pořád v tuto chvíli
- 52:44všechny tady ty klinické věci, co jsme se bavili DNA, tak tak
- 52:48my nevíme mechanisticky, jak to funguje občas trošku.
- 52:51Ale 99 % bych řekl veškerých tady těch klinických dopadů.
- 52:56Je na statistické úrovni, že my víme, že když je nějaká změna,
- 53:00tak potom tydlencti lidi. S větší pravděpodobností jsou
- 53:03nemocní. Když je jiná změna, tak oni
- 53:05nejsou nemocní. Když mají tuto změnu, tak maj
- 53:07modrý vlasy, ale nevíme, proč my nevíme, jak to tam funguje.
- 53:10Jo, modrý, že je to zase asi ne, ale modrý.
- 53:14Oči jsem chtěl říct a nebo černý vlasy, ale to nevadí.
- 53:18Tak že nevíme proč jo je to všechno jenom statistika.
- 53:21A kdyby se tam doplnil tady právě nějakým tím modelem, to to
- 53:24proč? Jak vlastně to mechanisticky
- 53:26funguje tak to? To by jako byl úplně
- 53:28neuvěřitelný posun, ale já teda jsem trošku skeptik v tom, že si
- 53:32nemyslím, že by to bylo v řádu řekněme let.
- 53:35No to je, protože si myslím, že ta úvaha není úplně správná v
- 53:39tom slova smyslu, že ta DNA tam není úplně přesně zapsáno, jak
- 53:42ten člověk má vypadat. Ano, je tam zapsáno, že budu mít
- 53:455 prstů, ale to jak přesně vypadáme, to je interakce ty
- 53:48DNAZ prostředí a to je pokaždé jiný, protože ta ta jistota tam
- 53:51není. Nemůžeme říct tak tyhlety 4
- 53:52písmenka vždycky způsobí, že. Vypadne tenhleten vlas, protože
- 53:57záleží na tom, jestli fouká vítr, nebo padají kyselý deště
- 54:00nebo nebo já nevím, co všechno ještě, takže to není takový
- 54:04návod jako návod na budovu. To je spíš návod na to, jak
- 54:07reagovat na prostředí a prostředí mohou být různá, ale v
- 54:09tom byty EI modely jako black box mohly být výborný, protože
- 54:14tam by to možná bylo všechno obsažený.
- 54:15My bychom jistě mechanisticky nevysvětlili, jak to je, ale
- 54:18mohli bysme tam šouchnout a vypadlo by z toho správnej
- 54:20výsledek. Říkám pačes, když vás teď
- 54:22poslouchám a teď myslím všechny a hlavně teď co?
- 54:26Bylo spadlo i ve vztahu k tomu prostředí.
- 54:28AK tomu, že ty jazykové modely pro ty ten jazyk DNA je v něčem
- 54:34nepochopitelný IS ohledem na ten odpad a tak, tak a ve světle
- 54:38toho článku nebo toho propojení krisp plus u mýho inteligencí,
- 54:42řekli byste, že vlastně možná vstupujeme do nějaké nové
- 54:46evoluční fáze právě pod tlakem umělé inteligence, která dokáže
- 54:51rozkrývat ty. Řády, které jsme dosud neviděli
- 54:54a. Nějak nově působit skrze i
- 54:58genetiku. Vím, že to je jako trošku big
- 55:01picture. Asi jsme ještě daleko, ale na.
- 55:03Tuhle odpověď se nehlásí někdo jinej.
- 55:05Trochu mi tam ty puzzle vyvstávají jo a možná ten obraz
- 55:08je jiný. Stanislav fort.
- 55:10Mně přijde že své do nové evoluční fáze v podstatě
- 55:14vstoupili s tím, že vývoj světa organického života přestal být
- 55:19závislý jen na evoluci, ale začal být kulturně podmíněn, že
- 55:22přijde mi, že jako v té nové fázi jsme posledních pár 1000
- 55:24let se stavíme civilizaci, to byl ten hlavní zlom.
- 55:27Když se podíváme na ten big picture, že jo, tak miliony let
- 55:30jsme byli opice, který neměli žádný vliv na prostředí.
- 55:32Měli jsme malej počet jedinců. Na hranici věření skoro neustále
- 55:36a pár 1000 let potom, což je z té škály milionu let.
- 55:40V podstatě take of jako sigulární, že z ničeho na nic
- 55:44máme schopnost ovlivňovat ostatní život.
- 55:46V podstatě, kdybychom chtěli tak vyhladit celé druhy, což není
- 55:49jako pozitivní věc, ale ukazuje to, jak moc velký vliv máme na
- 55:52svět. Měli jsme zástupce našeho druhu,
- 55:54který chodili po povrchu měsíce a pravděpodobně se postavili
- 55:57něco, co je podobně chytrý jako my obry ještě chytřejší, takže.
- 56:00Z pohledu toho dlouhýho a časového horizontu.
- 56:03Si myslím, že ten hlavní zlom byl, když jsme začali akumulovat
- 56:06kulturní a civilizační znalosti, ne skrze emoci a skrze extrémně
- 56:10hloupej nepředvídatelnej proces toho zkoušení různejch variant,
- 56:15kterej nemá žádnej jakoby for side v tom, že on ten evoluční
- 56:18proces. Pokud to chápu správně, je
- 56:20extrémně dobrej tvůrce života, protože má hodně příležitostí ji
- 56:24zkusit různý varianty, ale nemá skoro žádnou schopnost vidět
- 56:27dopředu. Což je docela velkej rozdíl s
- 56:29tím, jak navrhujeme inteligenci dneska v počítačích, protože my
- 56:31používáme. Takzvanej gredi and the sens,
- 56:33takže ten systém jakoby vidí trochu dopředu kterým směrem by
- 56:37se měl trochu upravit, aby se zlepšil evoluce.
- 56:39Tady ty věci musí zkoušet úplně náhodně.
- 56:41A ty prostory, ve kterejch se tady ta náhodná exporace
- 56:44provádí, jsou extrémně vysokorozměrný, což znamená, že
- 56:46ten proces evoluce je hodně neefektivní.
- 56:49V tom sochařit život ze života na 2 stranu.
- 56:52Náš způsob je o hodně rychlejší náš jako lidskej ve tvorbě
- 56:55inteligencí umělejch, takže já mám asi jako 2 body 1 je, že
- 56:58podle mě ten zlom nastalo s tím, že jsme.
- 57:00Před 10 až 100 000 lety. Začali bydlická civilizace a
- 57:04začali jsme akulovat kulturní znalosti a přestali jsme být
- 57:07podmíněny evolucí. Mohli jsme trochu vyvstat z toho
- 57:10diktátu evoluce. A 2 bod je že jsme v nějakém
- 57:15slova smyslu trochu porazili nebo zlepšili ten evoluční
- 57:19mechanismus v tvorbě potenciálně v uvozovkách novýho druhu nového
- 57:23inteligentního druhu? Proč ten mechanismus, který
- 57:24používáme, je hodně výkonnější a schopnější?
- 57:29Odhadu dopředu, takže to jsou pro mě ty 2 body, které v tom
- 57:32vidím z toho vysokýho pohledu těch bystrý.
- 57:34Jestli můžu reagovat, tak zaprvé naprosto souhlasím s tím, že
- 57:38jako evoluce pro nás jako lidi je otázka, který je ten přesně
- 57:42časový bod, ale se naprosto změnila v momentě, kdy jsme
- 57:45začali zaznamenávat svoje myšlenky a vlastně v tuto chvíli
- 57:48ta biologická evoluce je naprosto pořád na na nějaké
- 57:52úrovni, zatímco ta naše kolektivní inteligence vlastně a
- 57:56kolektivní evoluce vystřelila až do vesmíru.
- 58:00A 2 teda pak další ten bod je teďka, teda dneska s tím, jestli
- 58:03začneme už i vlastně zpětně měnit.
- 58:07Teda ten kód té DNA, což je otázka, jestli budeme děláme to
- 58:13UU rostlin, což asi je v pořádku.
- 58:15Otázka, jestli se to bude dít u živočichů, to to jako je velká a
- 58:20jestli to můžeme, jestli je to vlastně správně, nebo ne, to je
- 58:25asi velká filozofická otázka. Ale ještě bych chtěl k té
- 58:29myšlence těch sítí. Vlastně, že jsme vytvořili něco
- 58:32něco inteligentnějšího nebo nový druh.
- 58:34Já si furt, jako že to mám pocit, že to už je trošku posun
- 58:39mezi biologickým životem, který je nějak jako definován a potom
- 58:43vlastně to to, o čem jste mluvil, bych řekl, že že je
- 58:46vlastně akorát, jako kdyby revers entropie, že vlastně jako
- 58:49kdyby děláme. Systém z chaosu jo a že tady
- 58:52jsme možná vytvořili něco, co bude schopno to dělat samo o
- 58:55sobě. Do budoucna, což je taky jako
- 58:58zajímavý jo AA. Možná že toto bude teda jako za
- 59:03milion let vlastně ten zlomovej bod, kde řekneme, aha, tady se
- 59:07něco odrazilo úplně novýho, co co do teďka nebylo, ale to to
- 59:12uvidíme až za milion. Let už ten malý bot, já si nějak
- 59:14obecně myslím, že nějak fundamentálně nejspíš život a
- 59:18všechny ostatní tyhlety, ty věci pravděpodobně nejsou přímo
- 59:21závislá na tom substrátu, na kterém běží a že jde spíše než
- 59:25oni. Nějaké jako na konkrétní
- 59:27realizaci, závislé věci o konkrétní o nějaký jako
- 59:31specifický vzorec výpočtu, který probíhá, a to médium, na kterém
- 59:34probíhá, může být biologické syntetické křebíkové, takže jako
- 59:38já nějak filozoficky asi nevidím úplně jakoby tu diskontinuitu
- 59:42chápu, že ten biologický život je úplně jiný, ale fundamentálně
- 59:45si myslím, že jde o nějaký jako vzorec výpočtu, který bylo
- 59:48realizován v nějakém médiu, který které bylo k dispozici
- 59:51přírodě, protože neměla ocel neměla polovodiče.
- 59:55Neměla různé prodné materiály, ale nevidím úplně potenciálně v
- 1:00:00tom dementální rozdíl mezi těmi věcmi nejsem si na 100 % jistý,
- 1:00:03ale tak nějak cítím, že nevidím jako tu tu diskontinuitu mezi
- 1:00:06nimi. To je vynikající úvaha jenom,
- 1:00:08abych k tomu dodal, že být živý znamená mimo jiné, že je ten ten
- 1:00:14ta živá entita je ohraničená v prostoru AV čase, abyste mohli
- 1:00:18být živí, tak se musíte narodit. Taky musíte umřít.
- 1:00:23Až uděláme tyhlety. Já i tak možná že ten konec tam
- 1:00:26neni a pak je otázka jestli to z definice bude ještě živý.
- 1:00:30Teď už za mě otázku tak kolegy biologii jako musíme umřít jako,
- 1:00:33jak podstata věc v definici života.
- 1:00:36To je, protože. Vím, že to je velká otázka i
- 1:00:39silicon valley a výzkum nesmrtelnosti a ale biologii
- 1:00:42taky koneckonců. Děláme všichni vědy o životě,
- 1:00:45ale ve skutečnosti nikdo neví, jak ten život nadefinovat.
- 1:00:47Byl hrozně zajímavej bylo, když poletíme na mars, tak toho jsem
- 1:00:52se účastnil někdy v roce 97. Tak samozřejmě, že byla velká
- 1:00:56otázka. Byl na Marsu život?
- 1:00:58A teď se a jak ho poznat, přiletíme tam a on to nebude ten
- 1:01:01náš život, jak jak vymyslet stroj nebo něco, aby až přiletí
- 1:01:07na mars poznalo, že tam je něco živýho a to byl problém, kterej
- 1:01:10vlastně nebyl nikdy pořádně vyřešený.
- 1:01:12Jak my poznáme, že něco žije, tady si to tak můžeme mezi sebou
- 1:01:16říct, ale když potom půjdeme IV tom životě, který známe na ty
- 1:01:20nižší hranice, tak pak máme různý parazity.
- 1:01:23Pak máme nitrobuněčný parazity, který už ani sami nemůžou žít.
- 1:01:26Pak máme viry. Ty už asi nejsou živý.
- 1:01:29Ta hranice toho života je teda poměrně taková fuzi.
- 1:01:33Málokdo to umí říct a poznat cizí život, který by byl jiný,
- 1:01:37než jaký známe. Tady nevíme, jestli může být.
- 1:01:40To je teda těžká otázka a na to asi tady neodpovíme.
- 1:01:43Ale moc dobře se o tom přemýšlí. Vy jste to právě uvrhli do
- 1:01:48takové těžké filozofické debaty? Mně připadá jo ale s tím, co je
- 1:01:53živé a neživé. Já si myslím, že pořád jako
- 1:01:55celkově to stvoření kolem nás nejsme jenom my lidé furt jsou
- 1:01:58to rostliny živočichové. Jste to zmiňoval různé
- 1:02:01mikroorganismy, třeba a tak a. Toto zase já to třeba považuju
- 1:02:07za prostě přirozenou součást života a zase si nemůžeme říkat,
- 1:02:12že přestože máme všechny super moderní technologie, které nám.
- 1:02:16Život jenom zlepší, takže prostě člověk přestává být člověkem AS
- 1:02:21tím křemíkem. Já právě jak třeba z bodu
- 1:02:24singularity, o kterém se mluví? Mám docela obavu, že ta AI
- 1:02:29převezme vlastně tu vládu nad světem nad lidmi a nad čím?
- 1:02:34Co je tady? Nebo nám třeba umožní opustit to
- 1:02:37biologické tělo a přesunout se do toho výpočetního.
- 1:02:41A budeme pak třeba cítit jo, jako jakým způsobem, když budeme
- 1:02:45uvažovat tak. To se uvidí, jak nám to
- 1:02:48navrhnou, že jo, když když nám navrhneme, když nám navrhne
- 1:02:50dobrou počítačovou síť, tak budeme neuronov, tak budeme asi
- 1:02:53cítit. Já mám hodně fundamentální a
- 1:02:55velký nejistoty kolem toho, v čem spočívá to, že já prožívám
- 1:02:59sebe tak jako se prožívám, takže bych určitě nevstoupil do
- 1:03:01simulace tím, že bych si nechal rozsekat a naskenovat.
- 1:03:05Takže já obecně bych nic takovýho nedělal.
- 1:03:07Ale filozoficky mi to přijde jako zajímavá otázka, ale nějak
- 1:03:11intuitivní. Mám pocit, že bych nerad
- 1:03:13vstoupil do simulace tím, že by někdo rozřeže mozek na
- 1:03:16nanometrový čárky a nějak naskenuje a bude ho simulovat,
- 1:03:19takže minimálně tak jako na tý bazální úrovni mám trochu to
- 1:03:24obavy, z tohohle toho taky na 2 stranu jako nevidím
- 1:03:26fundamentální rozdíl mezi mezi těma věcma, ale i tak se bojím,
- 1:03:29že přijdu jako o to, co jsem já. Tím, že bych třeba stoupl do
- 1:03:31nějakého teleportu nebo do nějaké simulace.
- 1:03:35Já jsem si teda upřímně řečeno představila, jak tady za.
- 1:03:38Odstřeloval nějakých 300 let. Tady takovýmhle způsobem
- 1:03:41filozofii nějací roboti. Baví se o tom, co ti lidé jako
- 1:03:46ten historický druh těch. Stvořitelů no.
- 1:03:50To bude i byla tady velmi zajímavá otázka, co teda si
- 1:03:53myslíme, že by ta ii mohla přinést jaké to funtální změnu?
- 1:03:57Tak říkali jsme 1 možnost by byla, že opravdu to bude sice
- 1:04:01black box. Nebudeme vědět, jak to
- 1:04:03pochopila, ale porozumění tomu životu a 2 věc je, že bude
- 1:04:06generativní. Že třeba dokáže navrhnout něco
- 1:04:10živého, co nemělo předka. Zatím to jsme se nám ještě pořád
- 1:04:15nepovedlo a bude to nejlepší. Z těch životů bude prostě
- 1:04:19výrazně. Otázka je, co je nejlepší, ale
- 1:04:23jasně jasně, ale to jsme zase u tý filozofie vy se z ní dneska
- 1:04:27nevyhrabem, ale ale že si dovedu představit, že bude schopna
- 1:04:31právě proto, že to nemusí dělat metodou pokusu o omylu třeba
- 1:04:34navrhnout minimálně u těch krysrů vidíme.
- 1:04:37Že ji dokáže nahodnout líp než tak, jak ji najdeme v přírodě a
- 1:04:40to je jenom 1 protein, ale možná že navrhneme buňku, která bude
- 1:04:45kvasinku, která bude dělat takový pivo.
- 1:04:47Tohle si myslím, že je docela realita jako než to pivo, teda
- 1:04:50možná taky ale jako jo krisper a nebo.
- 1:04:53Já bych chtěl kvasinku člověk, ráno si veme flašku s cukrem,
- 1:04:56nasype to tam do toho v 12:00 má pivo k večeru už to bude víno.
- 1:05:00Třeba jo, jo. A kvasinek se nikdo neptá tam
- 1:05:05tam to nevadí. Mě vyvstává u toho otázka,
- 1:05:08jestli je dobře, že vždycky ta ii to udělá tím správným směrem,
- 1:05:12jo, jestli ta evoluce to, že jako postupuje pozitivně.
- 1:05:17Něco jako nám neubírá jo, protože si myslím, že je dobře
- 1:05:21nacházet i ty slepé uličky, nebo?
- 1:05:25Jako v souvislosti s genetikou mě jako napadá, že i náš život
- 1:05:30obohacuje. To, že některé věci prostě se
- 1:05:33nepodaří úplně optimálně. Jo, že že si myslím, že prostě i
- 1:05:37to i to negativní. Co vlastně jako lidstvo
- 1:05:40prožíváme v řadě ohledech i ty negativní pokusy tak jsou
- 1:05:44vlastně hrozně přínosné, ale zase beru to z toho lidského
- 1:05:48hlediska chápu, že možná II to nezajímá, protože ta prostě chce
- 1:05:52postupovat dál a dál a vytvářet lepší a lepší kvality, ale pro
- 1:05:56lidský život. Si myslím, že to je velká
- 1:05:58hodnota. Bych jenom okomentoval, že tý
- 1:06:01evoluci to jde pořád dobře. Nejde ve většině případů se to
- 1:06:03nepovede. My vidíme to, co se zrovna
- 1:06:05povedlo, ale ve většině případů se to nepovede.
- 1:06:08To. Je ten odpad, který zůstává pak
- 1:06:11někde. Ale ten odpad nám taky na něco
- 1:06:13pak je. Stanisla.
- 1:06:15Já bych možná udělal konceptuální rozlišení toho, že
- 1:06:17ten a není v žádném způsobu slova perfektní, ona není, to je
- 1:06:21metafora pro ten strojovou tu strojovou preciznost a tu slepou
- 1:06:25tu následování nějakého cíle, to je hodně špatná metafora pro to,
- 1:06:28jak funguje i dneska. Historicky to byla nějaká
- 1:06:30konceptualizace toho, jak budou fungovat počítače, když budou
- 1:06:33inteligentní, protože si lidi představili tu přesnou výpočetní
- 1:06:36sílu počítače, ale dnešní jazykový modely jsou extrémně
- 1:06:39dobrý, v tom chápat, co třeba člověk implicitně myslí.
- 1:06:42Řekněme historicky byla taková metafora, nebo takovej pak
- 1:06:44příběh, kterým taková intuiční pumpa tak říkajíc lidé říkali,
- 1:06:49až budeme mít AI, tak to bude super.
- 1:06:51Budou třeba ty roboti hodně chytrý, ale my jim pak třeba
- 1:06:53řekneme, ať přinese kafe ten robot a ale už mu neřekneme jako
- 1:06:56nerozbijí vás tu cestou a nešlápni na dítě a nekopni kočku
- 1:06:59a takhle. A ten robot je nějak nominálně
- 1:07:02splní ten cíl, přinese to kafe, ale protože jsme explicitně
- 1:07:05neřekli, neudělají to a neudělali to a neudělali to máme
- 1:07:07to a ten robot nějak jako v tý metoře nechápe.
- 1:07:09Co lidi myslí implicitně tak to zkazí z toho lidskýho pohledu,
- 1:07:13ale dnešní jazykový modely vůbec nejsou.
- 1:07:14Takovýhle oni úplně přesně chápou se implicitně myslíme,
- 1:07:17když řekneme přines kafe nebo udělají něco, oni jsou v nějakým
- 1:07:20smyslu o hodně lepší. V chápání implicitního významu a
- 1:07:23emocí a lidskejch nějakejch intencí než v tý precizní
- 1:07:26logický matematice AV tom, co si představujeme, je, že počítač
- 1:07:30reálně dělá oni, jako sice běží na počítači jako substrátu a
- 1:07:32jsou to emulace hodně difúznějších, metaforičtějších,
- 1:07:36intuitivnějších systémů. Takže.
- 1:07:37To je možná zajímavá věc s tím nedávno.
- 1:07:40Bohužel zemřel profesor kádeman, který napsal tu knihu myšlení
- 1:07:44rychlé a pomalé a tam je zajímavá kapitola s experimentem
- 1:07:48s pálkou a míčkem. A to je taková jako úloha, že
- 1:07:51lidem řekneme, že míček a pálky dohromady stojí.
- 1:07:53Dolar 10 pálka je dolar dražší než míček, kolik stojí míček a
- 1:07:57lidi vždycky řeknou 0,1 $, protože intuitivní odhadnou, že
- 1:08:00se ty čísla nějak odečtou, a když řeknete, řeknete jazykovému
- 1:08:02modelu rychle mi odpověz na tady tu otázku tak 1 co vyplivne je
- 1:08:06tady ta špatná? A logicky špatná odpověď, která
- 1:08:10ale intuitivně dává smysl. Když mu pak řekneme, přemýšlej
- 1:08:12nad tím déle a může si to rozmyslet v několika toknech
- 1:08:15výstupu a až pak odpoví tak podobně jako člověk s tím větším
- 1:08:19rozmyslem odpoví správně. Takže nějaké.
- 1:08:23Relativně donedávna nečekali, ale to chování těch umělých
- 1:08:27inteligencí, která se o které jsou dnes nejsilnější, které
- 1:08:29jsou postavené na jazykových modelech v nějakém slova smyslu,
- 1:08:33zdědily lidské logické chyby, které byly právě reprezentovány
- 1:08:36v těch datech nebo v těch jako typech přemýšlení a chovají se v
- 1:08:39něčem podobně i logicky jako lidi.
- 1:08:42Takže jenom jsem chtěl trochu korigovat tu logickou metaforu
- 1:08:45toho stroje a on se nesnaží nějak myoticky optimalizovat 1
- 1:08:48cíl, ale v něčem je podobně nepřesný a podobně intuitivní
- 1:08:51jako člověk. Protože ho trénujeme na našich
- 1:08:54nepřesných výstupech. Je to možné, ale není to jisté.
- 1:08:57Tak možná až ty umělá inteligence, co vytvoří umělé
- 1:08:59inteligence. To už dneska relativně
- 1:09:02používáme, třeba já jsem spoluautorem článku, který se
- 1:09:05jmenuje consitition AI, kde necháváme 2 inteligence, aby se
- 1:09:08spolu bavili a vzájemně si kritizují výstupy na základě
- 1:09:12nějakého popisu principů, které po nich chceme.
- 1:09:15Třeba ať se chovají férově, ať nediskriminují, a tak oni
- 1:09:18odpovídají a kritizují si výstupy a vzájemně si je
- 1:09:21revidují a pak na nich. Zároveň trénují a vytvoříme v
- 1:09:24podstatě takový, jakoby takovou spirálu, která vede obě ty
- 1:09:28inteligence k lepšímu výkonu, takže už dnes používáme výstupy
- 1:09:31umělejch inteligencí, které nebo umělých inteligencí.
- 1:09:35Ten ta umělá inteligence, co vyhrála gól, že jo tu hrála
- 1:09:38spolu se sebou? Bez toho, aby kdykoliv viděla
- 1:09:41lidskou hru. To z pan profesor mluví o
- 1:09:44systému alfa zero, který vyhrál extrémně těžké, vždycky ve hře
- 1:09:48jménem go je o tom dokument na youtubu extrémně dobrej.
- 1:09:50Deepmind a go podívejte se. Je to hodně, je to dělaný ve
- 1:09:54stylu sportovního dokumentu o nějakém velkém vítězství, ale
- 1:09:57ten systém nikdy neviděl libovolnou hru.
- 1:09:59Ten původní ano, ale ten budoucí už ne libovolnou hru, kterou by
- 1:10:02hrál člověk a jenom z pravidel AZ hraní sám proti sobě se
- 1:10:06zvýšil na úroveň, která byla natolik vysoká, že jsme nebyli
- 1:10:09schopni měřit, jak dobrý v té hře je, reálně je, takže z hry,
- 1:10:12která byla neporažená dlouho doba.
- 1:10:14Nečekalo se, že další dekády bude poražená pomocí tradičních
- 1:10:17přístupů ve strojovém močení. Jsme měli něco, co během. 8
- 1:10:21hodin tréninku si myslím přesáhlo světové velmistry v
- 1:10:24úrovni a pak jsme nedokázali úplně přesně měřit, jak dobrý
- 1:10:26ten systém reálně je, protože jsme neměli žádný benchmark.
- 1:10:29Proti tomu ale všechny tady ty historické znalosti.
- 1:10:31Ta hraje 1000 let stará, které jsme čerpali jako civilizace.
- 1:10:35Ten systém znovu objevil během několika hodin výpočtů.
- 1:10:37To je fascinující, fascinující vhledy do toho, jak to funguje,
- 1:10:42ale musíme dát také prostor našemu publiku, aby nám
- 1:10:45pokládalo otázky, takže. 1 dotaz.
- 1:10:48Mě by třeba zajímal váš vhled do věci, etiky umělých inteligencí,
- 1:10:53protože samozřejmě u opena je učit gbtmage.
- 1:10:57Dali se hodně řeší, na čem se ty modely trénovaly, že bez
- 1:11:01souhlasu autorů, ať už textů nebo obrázků nebo rozvojového
- 1:11:05materiálu, vzali věci z internetu s myšlenkou?
- 1:11:09Co je na internetu, to je všech. A na tom se vytrénovali a teďka
- 1:11:12se zpětně ozývají různí autoři, ať už textů nebo například
- 1:11:15obrazů. S tím, že nedali k tomu souhlas
- 1:11:18a nechtěli, aby. Se na jejich tvorbě modely
- 1:11:22neuronové sítě trénovaly. Jak se tohle třeba řeší ve vědě?
- 1:11:25Ptáte se nějak těch lidí, jejichž skeny, ať už mozku nebo
- 1:11:30jejich DNA máte, jestli ho můžete případně použít k
- 1:11:32trénování těch modelů, nebo se tohle to vůbec neřeší?
- 1:11:35A je to ve jménu vědy 1 to bylo poskytnuto, je to anonymizováno
- 1:11:38nebo? Tohle je mimořádně velký
- 1:11:43problém, tak hodně záleží na státu jsou státy, kde je to
- 1:11:46přísné tady v Evropě zrovna my jsme na tom hodně přísném konci.
- 1:11:51AU kontroly a to se smí a to se nesmí, ale je to nevyřešená věc,
- 1:11:56nevíme to. Pacient musí dávat informovaný
- 1:11:58souhlas, ale ona ta technologie se vyvíjí tak rychle, že k čemu
- 1:12:01má rád souhlas, když ještě ani neví, k čemu to bude použité.
- 1:12:04To je je problém toho, že to se IU těch jazykových modelů
- 1:12:09zjistilo, že při správně zadaných promtech, přestože on
- 1:12:13si nepamatuje to konkrétní dílo, nemá tam někde uložený knížku,
- 1:12:17ale dokáže ho donutit. Aby ji vlastně zreprodukoval z
- 1:12:21těch z těch nebo její části, že se pozná, že byla součástí toho.
- 1:12:26No tak až se tohle bude dít s pacienty, tak to samozřejmě bude
- 1:12:30taky problém. A upřímně řečeno nikdo neví, jak
- 1:12:33to řešit, protože je tam moc úrovní.
- 1:12:35Tak my už vůbec ani nerozumíme tomu, jak oni ty modely dělají.
- 1:12:39A když to pak ještě představte, si přijdete do parlamentu a tam
- 1:12:42budete říkat, že vy se na to měl udělat zákon.
- 1:12:46Takže nevíme a je to opravdu problém.
- 1:12:49Protože ta technologie jde podstatně rychleji než naše
- 1:12:52úvahy a než naše schopnost se prostě rozhodovat no.
- 1:12:56K tomu ještě dodám, že mě k tomu hned napadlo takové to, že
- 1:13:00Amerika inovuje Evropa reguluje, platí to na evropské úrovni
- 1:13:05úplně jako stoprocentně. A je to i důvod, proč řada nebo
- 1:13:10vůbec AI proč vznikla v Americe a proč vlastně se rozvíjí v
- 1:13:13Americe daleko víc než v Evropě? Protože třeba co se týká velkých
- 1:13:18genomických projektů, tak v Americe se to rozvíjí jako
- 1:13:23daleko rychleji. Právě díky tomu, že ta.
- 1:13:25Etika je míň regulovaná v Evropě.
- 1:13:28Nevím, vlastně jak moc se to proniká mezi veřejnost a že
- 1:13:33existuje iniciativa milionu evropských genomů a je to
- 1:13:38iniciativa IV níž se evropská nebo členské státy evropské unie
- 1:13:43alespoň některé zavázaly k tomu, že na sekvenují milion
- 1:13:45evropských genomů, což by byl právě skvělý dataset právě pro.
- 1:13:50Analýzy, na které by AI mohla. Právě identifikovat různé
- 1:13:56varianty, které jsou nebo nejsou významné a podobně.
- 1:13:59AV současné době sice i je i česká republika, je součástí
- 1:14:04této iniciativy, ale i na té evropské úrovni se stále řeší,
- 1:14:08že sice jednotlivé státy a jednotlivá pracoviště mají
- 1:14:11lidské genomy na sekvenované, ale pro účely tady toho
- 1:14:15nadnárodního výzkumu je nemůžou sdílet právě z důvodu.
- 1:14:20Etických a legálních, protože není právě ošetřené to, že?
- 1:14:23Lidé souhlasili ve chvíli, kdy se ten jejich genom sekvenoval,
- 1:14:27tak nesouhlasili s tím, že ta jejich dna bude využita v
- 1:14:30nějakých velkých databázích, na kterých se potenciálně bude
- 1:14:34dělat další genomický výzkum. Takže to je teď v Evropě opravdu
- 1:14:38velké velké téma a my jsme tady do těch projektů zapojení a
- 1:14:43opravdu jako ta etika samotná ta se řeší v podstatě léta.
- 1:14:48Ta iniciativa vznikla v roce 2017 a od té doby vlastně si
- 1:14:52jednotlivé státy snaží a opravdu data generují, ale ale reálně
- 1:14:57prostě nejsou ve fázi, že by je mohly nebo mohly ty státy
- 1:15:02sdílet. Já ještě akorát k tomu doplním,
- 1:15:04souhlasím. A ano, to je legislativa bude na
- 1:15:07dlouho a jenom akorát my tady řešíme problém trošku jiný, než
- 1:15:10je u těch language modelů, nebo u toho dalí, kde to není, tak
- 1:15:15jako že bysme poznali. A to je můj obrázek, který byl
- 1:15:18použit jo, takže bychom poznali ET můj gen tady tohle to to já
- 1:15:21nechci, tam jde spíš o to, aby nebyli ti lidé
- 1:15:23identifikovatelní. Jak říkal pan kolega, pačes že,
- 1:15:26že na základě těch dat, který poskytneme.
- 1:15:30Jo, aby, aby prostě nemohl člověk jít a říct.
- 1:15:33Ano tady ten člověk asi žije tady v české republice a já si
- 1:15:36ho najdu, protože bohužel na základě celogenového sekmenování
- 1:15:40to v dnešní době jde určit lidi jenom na základě té sekvence,
- 1:15:43takže oni se nedají efektivně anonymizovat.
- 1:15:46Já si myslím, že v rámci toho učení ta anonymizace čistá půjde
- 1:15:50a že na to už jako metody jsou, ale pořád potom ta federativní
- 1:15:54učení bude poměrně složité. Možná, že to byl špatný směr tý
- 1:15:58otázky. Vlastně bychom se měli zeptat
- 1:16:00vás jako, dali byste tu informaci nám k dispozici
- 1:16:03takovou je to je upřímně řečeno zákony to jenom kodifikace,
- 1:16:07nějaká společenskýho souhlasu. Takže to si musíme tady mezi
- 1:16:13sebou říct, co co chceme? A jestli byste toho byli jako
- 1:16:16ochotný? Tu informaci nám dát učí.
- 1:16:20Účastníte se třeba nějakých. Takovýhle studií je tady někdo?
- 1:16:23Jo, já taky jsem se účastnil 2 datových studií.
- 1:16:26Jsem zvědavej, kde ty moje data teda jsou teďka, když se na to
- 1:16:28nakloníme, ale. Je to individuální věc, jak si
- 1:16:33to každý rozhodne a pak musíme dojít k nějakýmu společenskýmu
- 1:16:35konsenzu. Nebude to jednoduchý.
- 1:16:38Já bych právě jako zdůraznila to, že třeba já vidím pořád
- 1:16:41velký benefit a potenciál v tom, abychom ty genomy sbírali a
- 1:16:44analyzovali. Já mám svůj genom taky
- 1:16:46osekvenovaný a samozřejmě byla bych nerada, kdyby stále někde.
- 1:16:56Samozřejmě bych byla nerada, kdyby to někdo zneužíval a
- 1:16:59nedala bych souhlas k jeho využití k jakýmkoliv prostě
- 1:17:03experimentům a výpočetním analýzám.
- 1:17:07Ale přijde mně dobře, když právě potom pro ty pacienty, kteří
- 1:17:11přichází a třeba ty data jako nemají dobře zanalyzované, tak
- 1:17:16máme vlastně nějaké vodítka, nějaké reference a něco vůči
- 1:17:19čemu to můžeme srovnat? A jako líp se to vyhodnocuje.
- 1:17:24Má to benefit potom pro ty pacienty, takže já v tom vidím
- 1:17:27obrovský potenciál. Samozřejmě má to svá rizika, ale
- 1:17:31co v dnešní době nemá rizika? To se zase na rovinu musíme
- 1:17:34přiznat a samozřejmě je pak na té vědecké komunitě, aby se
- 1:17:40snažila ty rizika eliminovat. A není to jenom otázka, teda
- 1:17:44vědecké komunity, ale zároveň bych zdůraznila to, že je to
- 1:17:47otázka celospolečenská v podstatě.
- 1:17:50A legislativní jo, takže určitě. Si myslím, že je to, že Evropa
- 1:17:54reguluje je dobře, protože se snaží předcházet nějakému
- 1:17:57zneužívání, ale já v tom fakt vidím jako benefit, že že nás to
- 1:18:03může posunout dál. V té diagnostice v medicíně,
- 1:18:07takže se nechte sekvenovat. To jenom technický bod, že ten
- 1:18:12vědecký problém toho, jak jako síť odučit nějakou věc, je pořád
- 1:18:15otevřená. Vědecká otázka, že nevím, jak se
- 1:18:16to dělá. Že kdybychom třeba chtěli, aby
- 1:18:18jazykový model zapomněl na Harryho patra nebo něco
- 1:18:21takového, tak jako reálně nikdo na světě neví, jak to udělat, je
- 1:18:24možné netrénovat na ten Harry Potterovi?
- 1:18:26Asi to by bylo odfiltrovat úplně na začátku.
- 1:18:28Ta data, ale machine on learning se tomu teďka říká jako otevřené
- 1:18:32otázce. Nevíme, jak to udělat hodně z
- 1:18:34těch věcí, které bychom potenciálně jako společnost
- 1:18:36chtěli. Nejsou otázky toho, že by je
- 1:18:37někdo nechtěl udělat, nebo možná také jako potom, ale reálně jsou
- 1:18:41to otevřené technické problémy, u kterých neznáme ta řešení.
- 1:18:44Je taková, to je jako aspekt toho, který často lidé
- 1:18:46podceňují, že jako očekávají, že ta věda je o hodně vyspělejší
- 1:18:49než reálně je. Já jsem ještě na to chtěl
- 1:18:51navázat 1, ale věcí, že když zase si ty dveře příliš zavřeme,
- 1:18:56tak se nám může lehce stát, že budeme mít AI, které budou
- 1:19:00natrénovaný na jiných kulturních základech, než máme my tady a
- 1:19:03pak nám budou radit něco, co třeba bychom ani nebyli rádi.
- 1:19:06V medicíně to víme dobře, že velká většina léků funguje dobře
- 1:19:11a. Populaci bílou teda.
- 1:19:14Protože na tom se to většinou trénovalo a podstatně hůř
- 1:19:17funguje třeba na afroamerickou, takže to víme, že tyhlety biosy,
- 1:19:21ty ovlivnění, prostě jenom tím, že nebylo při těch klinických
- 1:19:25studiích dřív, prostě nebylo udělané dobře, aby byli všichni
- 1:19:29zastoupeni. Takže do dneška se to projevuje.
- 1:19:32V tý medicíně a tady se nám by se nám to taky lehce mohlo stát
- 1:19:36v tý ei, takže 1 věc je dát si pozor, ale 2 věc je to nepřehnat
- 1:19:40tu hranici ne neumí nikdo asi říct no bylo, je to těžký.
- 1:19:44Dobře pojďme na ten další dotaz, máte tam mikrofon dobrý den.
- 1:19:50Já bych se rád zeptal na 1. Věc tam padla taková poznámka
- 1:19:53vlastně že AI není dokonalá, pak tam byl nějaký komentář, protože
- 1:19:56vlastně čerpá z nějakých lidských textů.
- 1:19:58Já bych se právě rád zeptal na tohle, jestli v tom právě není
- 1:20:01ten jako hlavní problém, protože si lidi si myslí, že třeba AI
- 1:20:05jako nějaké soběstačné vědomí, ale reálně je to vlastně
- 1:20:08program, který napsali lidé. Ta znalostní báze vlastně toho
- 1:20:11systému programu čerpá právě z nějakých jako lidských anotací,
- 1:20:15který vlastně vytvořili lidé. Kde vlastně je ta hranice?
- 1:20:19Kdy vlastně dá se říct, že ta i je vlastně ta chytrá, jak jsme
- 1:20:23chytří my a případně kde je třeba ten bod, kdy už ta i
- 1:20:27začne? Být jako sama vlastně soběstačná
- 1:20:29a chytrá a nebo čerpat z těch lidských chyb, protože tam ten
- 1:20:32lidský faktor přece jenom hraje velkou roli, že vlastně by se
- 1:20:35dalo říct, že můžeme II pod vlastně podstrčit nějaké jako
- 1:20:38nepravdivé informace a ona je zpracuje nějakým způsobem také
- 1:20:41nepravdivě. To je skvělá otázka asi 1 taková
- 1:20:44jako mis koncepce tam je. To, že to není program napsaný
- 1:20:47lidmi, to je fundamentální rozdíl od toho, jak třeba
- 1:20:50vypráví jiný počítačový program. Třeba když bych chtěl navrhnout
- 1:20:53něco, co se třídí hromadu čísel od nejmenšího po největší, tak
- 1:20:57takový algoritmus je m jdou přesně napsaný AV každém kroku
- 1:21:00vím přesně, co to dělá, já to napíšu krok po kroku a říkám
- 1:21:02počítače, který je extrémně dobrý, v tom udělat hodně
- 1:21:05operací po sobě, ale extrémně hloupí v interpretaci přesně, co
- 1:21:08má udělat a potom vyplivne třeba sérii čísel od nejmenšího po
- 1:21:11největší nebo cestu v Google mapách mezi.
- 1:21:14Městy, která je nejrychlejší, když to už taky používá dneska i
- 1:21:17ale fundamentální rozdíl s těmi naučenými řešeními, jako jsou
- 1:21:21třeba věci ve strojovém učení, což jsou ty věci, které stojí za
- 1:21:24třeba chat GPT, je to, že my sice napíšeme ten program, který
- 1:21:27trénuje tu věc, jak třeba ty data kremíme do toho modelu, jak
- 1:21:31jsou ty neurony v rámci toho modelu propojené, ale už
- 1:21:34neřekneme, jak silné ty propojení jsou a ten trénink té
- 1:21:37sítě spočívá v tom, že ta síla těch propojení těch sinapsí se
- 1:21:40mění během toho vystavení těm datům.
- 1:21:42Takže my sice nastavíme jakoby tu vrchní smyčku toho, co to
- 1:21:46dělá, říkáme tomu tady jsou data tohleto máš odpovídat, ale
- 1:21:49neřekneme tomu jak. A to je přesně ta magie té té
- 1:21:52AI. My neumíme explicitně napsat je
- 1:21:54jak třeba vyřešit klasifikaci obrázků na to, jestli je to PS
- 1:21:56kočka želva nebo dům, nevíme jak říct, když tady ten pejsek bude
- 1:22:01takhle velikej, tak potom řekni, že je to kočka jinak řekni, že
- 1:22:04je to dům, pokud tam ten jiný pix a bude mít takovouhle
- 1:22:06hodnotu a takovouhle barvu, tak pak řekni, že je to kočka.
- 1:22:09Takový přístupy byly na začátku vývoje AI.
- 1:22:12Třeba v padesátejch šedesátejch letech ale nikdy nefungovaly.
- 1:22:14Oni jsou extrémně křehký, v tomhle tom to, co reálně
- 1:22:17funguje, je naučení automaticky obrovskýho amorfního množství
- 1:22:22synapsí mezi simulovanejma neuronama.
- 1:22:24V podstatě se to trochu podobá jak konceptuálně lidskýmu mozku
- 1:22:28v tom, že jsou tam jednotky, kterým říkáme neurony a
- 1:22:31propojení jejich síla upravuje to, jak silnej signál jima
- 1:22:35prochází a během toho učení se maličko upravujou tadyty síly
- 1:22:38těch propojení těch propojení je třeba billion v rámci.
- 1:22:41Třeba GPT 4 a během tréninku se opravujou maličkej kus a
- 1:22:44maličkým kuse a na konci z toho vypadne něco, co umí trochu
- 1:22:46přemejšlet, ale my netušíme, jak to dělá.
- 1:22:49My nemáme napsanej program, kterej by nějak explicitně
- 1:22:52říkal, když tady je nějaký slovo, tak řekněte támhleto jiný
- 1:22:54slovo. A takhle je to extrémně amorfní
- 1:22:56a extrém je takový jako, jak jsme se bavili o těch černejch
- 1:23:00skříňkách. Tak to je ono, že my nevíme, jak
- 1:23:02přesně to tu věc dělá, takže to není program.
- 1:23:04V tomhletom to byla asi 1 věc, o který jsem.
- 1:23:08Jsem mě tak zapomněl zbytek otázky a tohleto je podle mě
- 1:23:10hodně dobrá distinktion a kterou se lidi často neuvědomují, když.
- 1:23:13Mluví OAI oni si představují, že to je nějaká databáze, která má
- 1:23:16třeba všecky knížky a pak najde tu nejbližší a podle ní odpoví
- 1:23:18ale reálně všechny tady. Ty informace existujou
- 1:23:20zakódovaný v nějakejch vahách a tloušťkách synapsí mezi
- 1:23:24simulovanejma neuranama a podobně jako vždycky mozku není
- 1:23:27nějaká explicitně zapsaná knížka a její obsah, nebo Harry Potter
- 1:23:30není koncept, kterej by tam někde existoval v 1.
- 1:23:32Bodě, a to bylo všechno, že to nějak jako áborně v rámci všech
- 1:23:35neuronů, takže to je asi jako 1 věc, kterou bych chtěl zmínit.
- 1:23:38Ale pořád to trénujeme na těch lidských datech.
- 1:23:40Ne? To byl smysl té otázky.
- 1:23:42A jo to je pravda. Že kdyby měl přístup k nějakým
- 1:23:45ono, je to vždycky zprostředkování skrz nějaký
- 1:23:47senzory, ale vlastně svojí přímou zkušenost a pozorování,
- 1:23:50tak by to bylo kvalitativně. Jiný já si myslím, že to, že to
- 1:23:53jsou lidská data, asi nějaká limitace je na 2 stranu to
- 1:23:56nejsou jen lidská data, jsou to třeba výpočty v aritmetice, jsou
- 1:23:59to kusy programů, jsou to i hodně jiné typy dat než třeba
- 1:24:03jenom příběhy, nebo než jako kontratace mezi lidmi a.
- 1:24:07Schopnost predikovat další slova v rámci matematického výpočtu.
- 1:24:11V sobě tak jako zahrnuje schopnost dělat matematiku,
- 1:24:13takže jako ty schopnosti, které se to naučí během té predikce
- 1:24:16těch dalších slov na tom hodně širokém korpusu se možná v něčem
- 1:24:19podobají lidem, ale často dělají o hodně těžší úlohu než třeba
- 1:24:23lidé typicky vykonávají, třeba předvídají.
- 1:24:27Jo třeba v té matematice nebo v tom programování.
- 1:24:29To je něco, co typický člověk nedělá a typicky tady ty
- 1:24:32operace. Se dají třeba provádět po sobě a
- 1:24:37trénovat jinou AI na výsledku několika takových roků po sobě,
- 1:24:40což jakoby? Vezme výstup něčeho, jako je
- 1:24:43inteligence po nějakou dobu a snaží se jí nějak jako
- 1:24:46destilovat do kroků, který vede od toho zadání k tomu výsledku
- 1:24:50rovnou. Takže jsou tady takové kroky,
- 1:24:51které amplifikují tu inteligenci na tu úroveň těch dat, ve
- 1:24:55kterých se vyskytuje, takže to jsou asi není to nutně
- 1:24:57fundamentální limit to a já jim můžu přemýšlet rychleji déle a
- 1:25:01minimálně má o hodně širších znalosti AO hodně větší operační
- 1:25:04paměť. Třeba ten model cloud 3 od
- 1:25:06antropicu, kde jsem pracoval a který jsem spolu vyvíjel, tak
- 1:25:09ten. Obsáhne víceméně velikost 2
- 1:25:11románů, velký gatsby po sobě a má to najednou v operační
- 1:25:15paměti, aby jí to úplně přesně stejně čistě a dobře jakoby
- 1:25:18člověk třeba viděl. 5, 6 čísel, které si zapamatuje, takže už
- 1:25:22jen schopnost věnovat se kontextu, který je dlouhý jako 2
- 1:25:24romány, najednou je i něco, v čem je to hodně nadlidské, i
- 1:25:27kdyby ta schopnost přemýšlet byla jenom lidská, což je jako
- 1:25:30docela fundamentálně velký rozdíl.
- 1:25:32Může se stát, že by vlastně byl 1 obraz nebo nějaký obrázek
- 1:25:37předložen? Té síti a byl udělán třeba
- 1:25:41dvakrát a pokud by byl jiný výsledek, může se to stát jakož
- 1:25:45že může pracovat jako pokaždý jinak.
- 1:25:48Jo, ikdyž vlastně má stejné data, stejný vstup a měl by teda
- 1:25:52různý výsledky. Může se to stát při tom učení
- 1:25:55třeba i. Ty věci nejsou stochastické,
- 1:25:57takže typicky to dopadne úplně stejně, ale je tam nějaká
- 1:26:00chybovast na té hardwarové úrovni.
- 1:26:01Ty grafické karty nejsou úplně přesné, občas trefí nějaký
- 1:26:04kosmický paprsek, nějaký ten procesor.
- 1:26:06A co způsobí změnu bytu? Takže je tam nějaká
- 1:26:08stochasticita, ale fundamentálně to není udělané stochasticky.
- 1:26:11Takže je to vlastně kdyžtak chyba potom toho systému, kdyby
- 1:26:14to vypadalo jinak. Je to chyba.
- 1:26:17Na 2 stranu když si chatu jpty, zeptáte na stejnou věc vícekrát
- 1:26:21tak odpoví pokaždé jinak. Protože tam je nějaká náhodnost
- 1:26:24v tom, jak se vyčítají ty slova z toho modelu.
- 1:26:26Ono to řekne, že nejpravděpodobnější je třeba
- 1:26:27slova já 2. Nejpravděpodobnější je ty a
- 1:26:30občas si to náhodně vybere, jako i to méně pravděpodobné.
- 1:26:33Tak v tom je tam nějaká stochasticita, ale ten model to
- 1:26:34predikuje. Aspoň tak, jak je chápu vždycky
- 1:26:37stejně. Jakože obsah je stejný, ale jako
- 1:26:40formulace může být trochu jiná jo, nebo že?
- 1:26:42Ne že jako když podám kontext 1000 slov, tak ta predikce toho,
- 1:26:45jaká je pravděpodobnost dalšího slova je vždycky stejná.
- 1:26:48Ale jak je konkrétní slovo se jste pravděpodobností zvolí jen
- 1:26:51částečně náhodné. A tudíž když ho pak přidám k
- 1:26:53tomu kontextu a jdu dál, tak se to jakoby postupně hodně rychle
- 1:26:56ty 2 verze od sebe oddálí. Já bych měla dotaz na všechny,
- 1:26:59když už jsme takhle na konci té diskuze.
- 1:27:02Který aspekt umělé inteligence vás jako baví?
- 1:27:05Nebo co vás jako motivuje s ní pracovat, jakoby obecně?
- 1:27:09Z mého pohledu to usnadňuje práci.
- 1:27:11Já nemůžu říct, že bych byla nějaký široký uživatel, nebo
- 1:27:15jako že bych s tím pracovala prostě úplně každou hodinou své
- 1:27:18práce nebo každý den, ale tam, kde to potřebujeme, tak to
- 1:27:22pomáhá. Mně se na tom nejvíc líbí ta
- 1:27:24představa, že tu umělou inteligenci dokážu začlenit do
- 1:27:29svého typu přemýšlení, že ty věci, který ona umí, udělá
- 1:27:32dobře, tak já už na ni nebudu muset trávit čas a ona to.
- 1:27:36A budou s ní takhle spolupracovat?
- 1:27:38Já bych byl asi docela rád takový kybor, který by to uměl,
- 1:27:42ale to je těžký na to myšlení a umět to svoje myšlení takhle
- 1:27:45nějak rozpoltit. A to co jde tý inteligenci
- 1:27:48dobře, tak to to jsem na to měl líbí nejvíc a vidím v tom si
- 1:27:52myslím i pro to lidstvo rudou budoucnost.
- 1:27:55Mě na tom baví vlastně tam ten blackboxovost ta neznámost a že
- 1:28:00nahradím to co ti lidi si říkají.
- 1:28:02Jo, tak já se podívám tady jakou bude mít asi diagnózu.
- 1:28:06A místo toho my uděláme takový jako trik, že vlastně jenom tam
- 1:28:09nasypeme nějaká data a pak predikujeme vlastně ty diagnózy
- 1:28:12těch těch, jakou budou mít přežití a tak.
- 1:28:14A mně se líbí tady, že vznikají takové modely, které vlastně
- 1:28:18překlenou přímočarost těch jednotlivých kroků.
- 1:28:21AA to mně na tom přijde jako jako zajímavý, že že řeknu OK,
- 1:28:24vy to děláte nějak a teďka, co kdybysme to udělali jako jinak
- 1:28:29lépe AA ono to občas funguje AA to pak z toho člověk má radost.
- 1:28:34Mě na tom nejvíc rozčiluje, takže nevím jak to.
- 1:28:37Teď pan ford ještě. Je to asi osobně dennodenně baví
- 1:28:40nejvíc to, jak neprozkoumanej ten obor je a jak je to úplně
- 1:28:44jako novej typ věci, která je extrémně komplexní, zajímavá a
- 1:28:48už řeč, na kterou můžeme studovat úplně od něčeho.
- 1:28:50Není to, jako kdybychom měli tisíceletou historii studia
- 1:28:53biologii nebo čehokoli. Je to úplně nový typ entity,
- 1:28:55která je zajímavá, užitečná a komplexní.
- 1:28:58A my jsme teďka úplně na začátku jejího studia, takže v podstatě
- 1:29:01otvíráme úplně novej obor. Tak a jsem úplně nový horizonty
- 1:29:04a skoro každá věc, nad kterou se zamyslím, je nová a můžu ji
- 1:29:07prozkoumat, jako kdyby nikdy předtím nebyla prozkoumaná.
- 1:29:09Takže ta novost a ta otevřeno z těch horizontů se mi hodně líbí.
- 1:29:12Já se chci zeptat, jestli jsou nějaké aspoň zhruba definované,
- 1:29:16jakoby cíle té AI, jakoby kdy si řekneme, že už to stačí, kdy už
- 1:29:21ten vývoj jakoby nepůjde dál, děkuji.
- 1:29:25To si myslím, že si nikdy neřekneme.
- 1:29:27To je princip toho lidstva. No že jdeme pořád dál, takže to
- 1:29:30stačit nebude nikdy. Vždycky to bude lepší, nebo to
- 1:29:33půjde dělat rychleji, nebo to půjde dělat za menší množství
- 1:29:35energie? Nevidím horní hranici.
- 1:29:39Já si myslím, že 1 věc je definování si cílů pro co chceme
- 1:29:43používat, tak tam možná nějakých konkrétních cílů se dá
- 1:29:46dosáhnout. Ale souhlasím s tím, že že
- 1:29:50člověk je trochu nenasytný druh. A když si může v něčem usnadnit
- 1:29:55práci, tak to rád udělá a ta ii. Pokud mu s tím pomůže, tak to
- 1:30:01ten člověk rád použije. No.
- 1:30:03Akorát, jestli k tomu můžu doplnit, tak já myslím, že
- 1:30:05správná poznámka je v tom, že to člověk je ten nenasytný druh, ne
- 1:30:08ta AI, protože každý ten jednotlivý model se naučí jenom
- 1:30:12to, co mi mu řekneme, že se má naučit jo a ty data, co mu dáme
- 1:30:16a ty cíle, co mu zadáme, tak on se to naučí.
- 1:30:19Ale to, že chceme furt trénovat víc a víc a nově ale lépe.
- 1:30:23Tak to je náš problém jo. Ještě si můžu dodat.
- 1:30:26Já si myslím, že je to trošku souvisí s dynamikou doby,
- 1:30:29protože se od nás očekává víc v kratším čase.
- 1:30:34Takže potom prostě to automaticky spěje k tomu, že
- 1:30:36hledáme nástroje jak ty. Výsledky získat snáz a rychleji.
- 1:30:41Mně ta cílová čára přijde hodně daleko.
- 1:30:43Přijde mi, že až vyléčíme smrt a rozšíříme se jako druh po
- 1:30:47galaxii, tak asi už bude konec, ale do tý doby se mi nezdá, že
- 1:30:51existuje nějaká fundamentální čára.
- 1:30:53Kdybychom měli zastavit. Já mám pro lidstvo docela velké
- 1:30:55aspirace. Nemyslím si, že z toho dožijeme.
- 1:30:58To neříkám, že to bude zítra, ale fundamentálně nevidím.
- 1:31:01Proč bychom neměli tyhlety technologie AA vědu obecně
- 1:31:03používat k tomu, abychom obecně zlepšovali naše podmínky,
- 1:31:06abychom si je přizpůsobovali svět k tomu, abychom žili
- 1:31:08kvalitnější, lepší? Plnohodnotnější životy ve větším
- 1:31:11počtu třeba žijeme na 1. Planetě.
- 1:31:14Vesmír je obrovský. Proč jsme pokračovat dál?
- 1:31:16AI nám potenciálně může automatizovat vědu a inovace a
- 1:31:19technologický vývoj, a to nám může uvolnit tady tu cestu dál,
- 1:31:23takže já si myslím, že já nevidím žádný jako blízký limit,
- 1:31:26vyléčení smrti a šíření se pak galaxii zní jako tak nějak ta
- 1:31:31střednědobá predikce. Já jsem proti vyléčení smrti.
- 1:31:36Se namítnout, že je pak otázka, jestli to budeme my, kdo se bude
- 1:31:39po tý galaxii ještě šířit nebo už ta ai, ale to už asi musíme
- 1:31:43nechat napříště, protože bohužel jakkoliv, je to strašně
- 1:31:47zajímavý. Tak časový limit už vypršel, tak
- 1:31:51moc děkujeme publiku za pozornost a zajímavé otázky a
- 1:31:56strašně moc děkujeme našim hostům za.
- 1:31:59Strašně zajímavý vhledy. A za to, že nás provedli touhle
- 1:32:03tou složitou interakcí 2 komplikovaných oborů lidské
- 1:32:06činnosti. Děkujeme za pozvání, bylo to
- 1:32:09skvělý tady. Připomínám, že jste slyšel i
- 1:32:11Vojtěcha bystrého, jana pačesák, Karlu plevovou a Stanislava
- 1:32:14forta já taky mockrát děkuji vám za vaše dotazy.
- 1:32:18Ve mně tedy zůstává možná víc otázek než odpovědí, ale to je
- 1:32:22možná dobře, tak? Díky moc.
- 1:32:26Díky naslyšenou a naviděnou se také těší Martin uhlíř, Štěpán
- 1:32:30Sedláček. 2 tu respekt.