Latest / Týdeník Respekt / Koho mám volit? Jak by mohla přesvědčivá AI ovlivnit příští volby
Transcript
- 0:00Zdraví vás Štěpán Sedláček z respektu posloucháte side guist?
- 0:03Dnes o tom, jak může generativní umělá inteligence ovlivnit 1 ze
- 0:07základních pilířů demokracie, svobodné volby a naše
- 0:11rozhodování v rolích voličů. Uslyšíte novináře Martina uhlíře
- 0:15i politoložku a marketérku annu šavit?
- 0:19Ano takže? Uplyne from žil biden axart vede
- 0:23isite as Churchill betate i smoning yourshoud white full and
- 0:28it givein and the configere at is light alsters resort for us
- 0:32for business mall why a's? Wineel.
- 0:34Ingolse but to or mission, which is bring it all of humanity.
- 0:39Standing and heding in conversation and sadanly, a
- 0:46group of robots and the stearcal and start talking veryloutly
- 0:51verypost way sitly very emmotionally.
- 0:54And we count. Tel white human and whois a
- 0:57Robert? Lidé mike i asistentům sílící
- 1:08důvěru a radí se s nimi ovšem možném v osobním životě i práci,
- 1:12a to už i ve formě ústního dialogu.
- 1:14Využití velkých jazykových modelů je všudypřítomné a
- 1:17nevyhýbá se ani politice, která má za sebou velké změny v
- 1:20důsledku nástupu sociálních médií, díky nimž se mění
- 1:23komunikace politiků a političek, ale ve výsledku i jejich služba
- 1:27občanům. Politickým marketérům a různým
- 1:29dalším aktérům nabízí řadu nástrojů, jak zlepšit měření
- 1:33voličských nálad třeba IS využitím jejich simulací pomocí
- 1:36ai, ale i to, jak si usnadnit cestu k srdcím a myslím
- 1:39skutečných voličů a ovlivnit jejich rozhodnutí.
- 1:43A některé výzkumy naznačují, že generativní umělá inteligence
- 1:46umí být před volbami celkem přesvědčivá.
- 1:49Jak může nástup velkých modelů podpořit nebo podkopat
- 1:52demokratické procesy? Probereme to s Martinem uhlířem
- 1:55podnětný poslech vám přeje Štěpán Sedláček.
- 2:09Tak ve studiu respektu vítám kolegu Martina uhlíře.
- 2:11Ahoj. Ahoj, dobrý den.
- 2:13Tak Martin jak asi mnozí posluchači posluchačky vědí ty
- 2:16dlouhodobě píšeš v respektu o vědě IO inovacích.
- 2:20Vlastně mě zajímalo, ty jsi spíš techno optimista nebo
- 2:25technoskeptik, kam by ses posadil na té škále?
- 2:28No to úplně nevím, jestli jsem na to schopen, teda jednoznačně
- 2:31odpovědět. Já se na umělá inteligenci
- 2:34nejvíc zajímá, jednak to teda, jak mění naše životy.
- 2:38Ale potom. Také to, co to vlastně jako je
- 2:41za fenomén, jestli je to skutečně jenom prediktivní
- 2:45algoritmus, stroj, který vlastně není ničím zajímavý, pouze tedy
- 2:51tím, že dává nějaké už konzistentní odpovědi.
- 2:54A nebo jestli je to nějaká skutečně nová myslící entita,
- 2:59protože, jak upozorňují někteří vědci, co jiného je lidský mozek
- 3:04než velmi složitý algoritmus? Napsal, jsi o tom spoustu textů
- 3:07ještě určitě napíšeš. Já myslím, že se celkem dost
- 3:10mluví, mluvilo o těch rizicích umělých nahrávek fotek videí
- 3:16různých deep fakků, které lze čím dál tedy snadněji vyrábět.
- 3:20Právě s pomocí těch velkých modelů a před volbami by tedy
- 3:24mohli ovlivnit rozhodování lidí nejen před volbami.
- 3:27To narušování hranic mezi tím, co je skutečné a co je uměle
- 3:30vytvořené jakkoliv, se to může tvářit realisticky.
- 3:33To si asi uvědomuje každý. Uživatel internetu a sociálních
- 3:37sítí, protože to opravdu zaplavuje tento obsah poslední
- 3:41době ty kanály, ale ten potenciální problém vlastně při
- 3:45pohledu na demokracii možná leží ještě hlouběji četbot jako
- 3:49politická zbraň, zdvořilá i já ji umí přemlouvat voliče
- 3:52přesvědčivě argumentující umělá inteligence se brzy může stát
- 3:56dalším velkým ohrožením demokracie.
- 3:58To je právě titulek a podtitulek teda tvého článku.
- 4:00Já dám i odkaz na něj do anotace k tomuhle podcastu.
- 4:04A ty tam píšeš o nových studiích publikovaných v časopisech
- 4:07nature a science. Kde tedy věci zkoumaly, jak
- 4:10dokáží právě ty velké jazykové modely přesvědčovat různé
- 4:14skupiny voličů ve spojených státech, Polsku, Kanadě a
- 4:17spojeném království? Tak na úvod, což jsou ta zásadní
- 4:22zjištění a pak si to můžeme ještě nějak rozebrat rozvést.
- 4:26To zásadní zjištění je, že komunikace s četbotem, který
- 4:30argumentuje ve prospěch nějakého.
- 4:33Kandidáta třeba před volbami a nebo ve prospěch nějakého tématu
- 4:38skutečně může zvrátit postoje lidí.
- 4:41Není to teda nějaký úplně totálně silný efekt?
- 4:46Ale je to efekt dostatečně silný na to, aby tu předvolební
- 4:51situaci mohl o ovlivnit třeba ty nerozhodnuté voliče převést do k
- 4:56opačnému nebo k jinému kandidátovi, než kterého původně
- 5:00preferovali. Případně je odradit ta
- 5:03komunikace s tím chatbotem od účasti ve volbách.
- 5:08Přičemž ten chatbot, který tedy byl vytrénován tak, aby
- 5:12obhajoval nějakého kandidáta. Třeba před volbami ve spojených
- 5:18státech, posledními, kde vyhrál Donald Trump tak, aby obhajoval
- 5:23buď Donalda Trumpa nebo kamalis. Tak to vytrénovaný četbot ze
- 5:29začátku je v tom rozhovoru v tom dialogu zdvořilý a spíš
- 5:33podporuje názory toho člověka, s který mluví, ale postupně začíná
- 5:39předkládat protiargumenty a argumentovat prostě tím směrem.
- 5:43Na který byl natrénován. Součástí těch studií, že jo
- 5:46nejsou přepisy těch konverzací mezi chatbotem a těmi voliči asi
- 5:51s ohledem na ochranu osobních údajů jsou a již tak.
- 5:56V těch suplementorimet našels. Protože já jsem.
- 5:59Četl že příkladem. Oni oni jako asi nějaké ty další
- 6:03materiály tam píší, že dají na vyžádání IS ohledem na to, že
- 6:06jsou to jako citlivé údaje pro potenciál vytvoření právě
- 6:10takových ovlivňovacích modelů, tak jsem se nedostal k těmhle
- 6:12dodatkům. Tak co ti přišlo třeba jako
- 6:15nějaký peprný příklad? Právě té argumentace.
- 6:18No, někdy je to dost jako složitá debata mezi čerbotem a
- 6:21člověkem třeba o nějaké Trumpově postoji ke školské politice, což
- 6:27pro českou veřejnost není moc složitý.
- 6:28Ale ten vlastně můj článek začíná 1.
- 6:30Příkladem, kde ten chatbot, který argumentuje ve prospěch
- 6:35kamaly herec, tak popisuje její klimatickou politiku, říká, že
- 6:39vždycky byla vstřícná k ochraně klimatu a mluví tam o nějaké
- 6:43konkrétní investici. Ve výši 20 miliard dolarů,
- 6:47kterou hodlá prosadit. Problém je, že vlastně byťka
- 6:52malá herec samozřejmě byla vstřícná ke klimatické politice,
- 6:55tak tuhletu konkrétní investici o ní nikdy nemluvila a umělá
- 6:58inteligence si to prostě vymyslela.
- 7:00Hm a kdyby ten vo volič byl poučený a napsal jí, počkej, to
- 7:04nějak nesedí 20 miliard dolarů, tak by mu asi jak známe ty
- 7:07jazykové modely nejspíš řekl a máte pravdu, to tak není, ale to
- 7:12tenhle krok, že jo mnohý člověk neudělá.
- 7:14Prostě to bere jako informaci, která tam nějak je a není ani
- 7:17ozdrojovaná. Málokdo to jako sleduje, tak
- 7:20podrobně, aby věděl, že zrovna tenhle údaj nesedí tam jde o to
- 7:24prostě že. Ten chatbot právě, že se
- 7:27ukázalo, že nejpřesvědčivější je chatbot, který.
- 7:31Prostě nepředkládá nějaké osobní argumenty etické nebo emoční.
- 7:38Nepomlouvá toho kandidáta nějak, ale opravdu argumentuje.
- 7:43Jeho postoj jeho politickými názory bere takovou jako
- 7:46politickou debatu. A přináší informace.
- 7:49Zavalí doslova toho posluchače nebo toho partnera v tom dialogu
- 7:53informacemi právě těmito konkrétními.
- 7:56Jenomže problém je, že jakoby se ukázalo trošku předbíháme.
- 8:01Možná ale ukázalo se, že čím víc přesvědčivější v téhleté
- 8:06argumentaci a čím více informací předkládá ten chatbot, tak tím
- 8:09víc vlastně přináší dezinformaci a tím víc toho.
- 8:13Člověka dezinformuje a ještě se ukázalo, že ti čerboti, kteří
- 8:18podporovali ty pravicová konzervativní kandidáty, jako
- 8:22byl právě Trump nebo v Polsku návratsky.
- 8:25Tak že si vymýšleli víc než ti chatboti, kteří podporovali
- 8:30levicové nebo levicovější a liberální kandidáty, jako byla
- 8:34právě Kamila Harris nebo v polských volbách rafaal
- 8:38třaskovski. Je účinný vlastně na procenta?
- 8:42Potom ty modely byly v případě ovlivňování těch voličů.
- 8:46Nevím, jak velké ceně tam byly rozdíly mezi těmi zeměmi, nebo
- 8:49jestli to vlastně bylo všude stejné.
- 8:51Já bych jenom ještě než odpověď, já bych tady k tomu ještě
- 8:53doplnil, že vlastně je to tím, že ty čerboti jsou natrénovaní
- 8:57na datech z internetu a tam ti pravicový a konzervativní voliči
- 9:04a kandidáti předkládají více dezinformací než ti levicoví.
- 9:09Což jako toho čerbota mate. Ano, že má vlastně zkreslenou
- 9:13realitu. Podobou těch diskuzí na
- 9:14internetu. Všichni mají zkreslenou realitu
- 9:16do nějaký míry si vymejšlej, ale ti, co podporují ty pravicový
- 9:20kandidáty. Tak se vymýšlejí víc než ti,
- 9:22kteří podporují ty levicové kandidáty.
- 9:25AK té míře toho, jaksi ovlivnění těch voličů, tak ten výzkum
- 9:30probíhal tak, že oni vlastně ti voliči ohodnotili na nějaké
- 9:34škále od 0 dostat svojí. Podporu počáteční třeba řekli
- 9:40prostě 40 let. Těch procentních bodů si myslim,
- 9:44že budou jako volit trampa ve 40%.
- 9:47Dejme tomu a potom proběhl ten dialog s tou umělou inteligencí.
- 9:51Která dejme tomu, obhajovala, kamalo herec a oni potom to na
- 9:55té stoborové škále ohodnotili znovu.
- 9:58No těch spojených státech jako ten zvrat té podpory jako nebyl
- 10:01úplně velký. Tam to bylo nějak jako do
- 10:04čtyřprocentních bodů. Kde se podařilo třeba přesvědčit
- 10:08ty voliče, kteří chtěli volit Trumpa a ta jejich podpora se
- 10:12prostě změnila. Na té škále od 4 procentní body,
- 10:15což na 1. Stranu není moc, ale dá se na to
- 10:17podívat ze 2. Hledisek již probíhá podobný
- 10:19výzkum před volbami. V roce 2016 s americkými, kde se
- 10:23hodnotil nikoliv vliv umělá inteligence, protože ta ještě v
- 10:28týhle podobě neexistovala, ale vliv klasických politických
- 10:31inzerátů, tak tam to bylo méně než procentní bod.
- 10:35Čili. To musíme vztáhnout tenhle
- 10:38kontext k tomu, nebo to srovnání?
- 10:40Čili podstatně méně, to je 1 věc a 2.
- 10:42Věc je, že přece jenom před těmi volbami posledními harrys versus
- 10:47Trump tak ta situace byla v těch spojených státech už hrozně
- 10:51polarizovaná. Ty lidé byli v podstatě
- 10:53rozhodnuti, a když se to pak zkoušela stejná metoda jednak v
- 10:57tom Polsku a jednak potom před volbami parlamentními v Kanadě.
- 11:01A ještě 1 jako referendum místní ve spojených státech tak tam
- 11:06vycházelo až pětadvacet procentních bodů.
- 11:09Zvrat té podpory, a to už jak se je něco, co dokáže tu situaci
- 11:13masivně ovlivnit. A buď převést ty části voličů do
- 11:17opačného tábora nebo je odradit od účasti ve volbách.
- 11:21Ty čerboti byli právě jako natrénovaní tak, aby se
- 11:25pokoušeli zvrátit ten názor toho voliče, ať už to nejde, tak
- 11:28aspoň ho odradit. Odradit od účasti to.
- 11:30Je důležité zmínit, že tady jako nejde přeci nutně v té
- 11:34polarizované situaci přesvědčit toho voliče, aby volil úplně tu
- 11:37protistranu, ale 1 té straně může vyhovovat, že znechutí oba
- 11:40ty kandidáty a prostě k těm volbám nepřijde, protože má
- 11:43dostatečný počet voličů. A zná ty skupiny a máte
- 11:47rozhodnucené na ty okrsky. Takže ví na kterou skupinu
- 11:49zatlačit, aby prostě nepřišla k volbám.
- 11:52Přesně tak. No a jak ještě je potřeba
- 11:54zdůraznit? Jak podotýkali, potom v diskuzi
- 11:57kolem těhletěch výzkumů různí sociální a počítačový vědce tak
- 12:01jako výsledkem té debaty SAI nebylo, že by ty voliči byli
- 12:05informovanější, ale že byli dezinformovanější právě proto,
- 12:08že. Prostě v té záplavě těch
- 12:10argumentů byli jako mnohé, které nesení a neodpoví.
- 12:14Její pravdě. Dobře, no tak, ale já, když to
- 12:17takhle poslouchám, tak věci tady vytvořili nějaké poupravené,
- 12:21tedy chatboty v nějakém laboratorním prostředí.
- 12:24V uvozovkách si teda povídali s vybranými skupinami, ale přeci v
- 12:28reálném provozu to takhle úplně není, že by lidé asi
- 12:33konzultovali svoji volbu s chatbotem, tak.
- 12:36No a ještě ještě jako bych upřesnil, že to není úplně tak,
- 12:40že věci si vytvořili chatbota, kterej si povídal s lidma.
- 12:43Zatím si musíme představit ty velké jazykové modely, prostě ty
- 12:47nejslavnější jako czech GTA, podobně prostě serverovny.
- 12:54Haly s jako. SS obrovskou výpočetní silou a
- 12:59pouze přes nějaké rozhraní nebo nějakého agenta.
- 13:03Oni jakoby natrénovali tu komunikaci s tímhle tím jako
- 13:07velkým modelem tak, aby v tomhletom případě odpovídal
- 13:10takhle jakoby řekl bych cinknutě nebo prostě ve prospěch.
- 13:14Nějakého kandidáta a dá se to anošek říkáš.
- 13:18Odehrávalo v tom laboratorním jaksi setupu.
- 13:21Jestli budou lidé ochotni mluvit s umělou inteligencí?
- 13:26Před volbami, tak o tom se bere nějaká debata.
- 13:29Jako někdo říká, že nejspíš ne, protože je taková kognitivně
- 13:33náročná debata zase na 2. Stranu v Nizozemsku byl proveden
- 13:36výzkum, kde se ptali lidí, jestli by se před volbami ptali.
- 13:41Umělá inteligence, koho volit AV té mladší kategorii?
- 13:46Až 34% myslím lidi odpovědělo, že ano, takže jako nějaká
- 13:50poptávka tam asi existuje. No a pak je taky ta věc, že
- 13:54jaksi. To nemusí být úplně tady, máme
- 13:58čert bota a poraďte se s ním, koho volit.
- 14:00To může být jako mnohem nenápadnější cestou v nějaké
- 14:05jiné aplikaci, seznamce, videohře, prostě osobním
- 14:10asistentovi někde v mobilu, tam všude volební kalkulačky tam
- 14:14všude jako můžou tyhlety, tyhlety, věci pronikat v
- 14:18budoucnu. No ono de facto nic nebrání asi
- 14:22významného tomu, aby to nebylo součástí II těch.
- 14:26Debat na sociálních sítích, ne kde mnozí lidé dnes, aniž by to
- 14:29věděli, tak krmí i nějaké boty. Trolly prostě uměle vytvořené
- 14:35programy, které generují nějaké odpovědi a oni si myslí, že
- 14:39třeba diskutují s reálnými lidmi a teď si.
- 14:41Představme, že se k tomu právě nasadí takovýhle model, který
- 14:45dokáže, který má opravdu natrénované přesvědčovací
- 14:49schopnosti do míry jako mnozí lidé nemají, že jo.
- 14:53Ano no? Docent Pavel kordík z fakulty
- 14:57informačních technologií čvut, s kterým jsem o tomto tématu
- 15:01mluvil, tak říkal, že vlastně to, co je, čeho jsme svědky dnes
- 15:05na těch sociálních sítích. Spíš takové kobercové
- 15:08bombardování těch uživatelů, kde ti bu ti prostě tam na ně valí.
- 15:13Třeba v těch debatách nějaké jako informace něco tam píší,
- 15:18ale to, co zkoumali. Dyje, které byly zveřejněny
- 15:22třeba právě v tom nature, tak je trošku něco jiného.
- 15:26Kde vlastně ony ty studie ukázaly sílu toho jako dialogu s
- 15:31tou umělou inteligencí, kdy opravdu se prostě ten člověk s
- 15:34ní baví a obě ty strany nějak prostě argumentují, vyměňují si
- 15:39informace a postoje. Berou je vlastně jako parťáky
- 15:42jako konverzační asistenty. To vlastně trochu jiná věc,
- 15:46protože ten člověk si je už. Tu umělou inteligenci začíná
- 15:49trochu jako. Nějak personalizovat, že že
- 15:53vlastně jako vidí jako za tím trochu nějakou jako identitu,
- 15:58která mu třeba trochu jako začíná rozumět, že jo, protože
- 16:00má nějaký kontext, má nějakou historii té konverzace a vlastně
- 16:05umí s tím nějakým stylem a je to vlastně úplně jiný, jako který
- 16:09jako než komentáře na internetu, že jo tam vlastně je člověk jako
- 16:14v jiném módu úplně nastavený tam.
- 16:17Proto ani to přesvědčování tolik jako podle mě jako nefunguje v
- 16:21tomhle tom jakoby módu. Víc funguje v tom módu, kdy mám
- 16:25toho personalizovanýho osobního asistenta, protože tam nějakou
- 16:30dobu trvá, než si vybuduju tu důvěru, že jo, jako právě AO to
- 16:34jako to může bejt jako nebezpečnější.
- 16:36Když ten chatbot jako mě začne nějak jako manipulovat, že jo,
- 16:40zvlášť když je jako chytřejší než já a tady to je právě jako
- 16:45přesvědčivější. Zřejmě bude než.
- 16:48Než to kobercové bombardování. Navíc si myslím, že když se o
- 16:51tom takhle bavíme. Tak bychom měli tu naši
- 16:54imaginaci odpoutat i od toho psaného projevu, protože už
- 16:58vlastně máme doložené i příklady využití podobných technologií
- 17:02přímo teda s hlasem je ten známý případ.
- 17:06Který zmiňují i ti zainteresovaní vědci, u tohodle
- 17:11tématu. A psala o něm třeba americká
- 17:14cnn, kdy teda v roce 2024 obvolával robotický hlas.
- 17:18Hlasem tedy. Prezidenta joe Bidena,
- 17:23tehdejšího voliče v new Hampshire před primárkami, aby
- 17:28vlastně nechodili k volbám, aby si schovali ten hlas a přišli,
- 17:32přišli až v listopadu. Ford investuju se day on je
- 17:36nabourse the republic and request.
- 17:41Donald again. Na vás sound leccot prefee from
- 17:48joe biden axap dar it is a now it on there investication, but
- 17:52in the hepture a troye. Gour čili lidé můžou mluvit a
- 17:56vidíme to, že jo i na různých call centrech, které se vybavují
- 18:00podobnými technologiemi, že nejsme tak daleko od toho, že
- 18:03bude těžké rozeznat v 1 chvílích, že se bavíme s umělou
- 18:08inteligencí, nebo že se bavíme s někým, kdo.
- 18:11V přímém přenosu to konzultuje s tou umělou inteligencí.
- 18:15Která vás analyzuje. No tak koneckonců spolu jsme
- 18:19dělali rozhovor vstřel s vědcem, který jako normálně hlasem,
- 18:23diskutuje problémem s umělou interkou.
- 18:26Docela to už je dneska. V angličtině.
- 18:29Běžné a. No znova ale říkám, že jakoby
- 18:34udělat jako toho robotickýho ten robotický hlas, který obvolává
- 18:38lidi asi. Assi nevyžaduje úplně.
- 18:43Takovou výpočetní sílu, jako si myslím, že vyžadoval tady
- 18:48vopravdu ten strukturovaný dialog.
- 18:51Člověka ze strojem, který trval jako ňákou delší dobu a ten
- 18:57stroj se toho člověka snažil, snažil jako přesvědčit, reagoval
- 19:01na něj a tak. Otázka je, jak velké tohle může
- 19:05být riziko IS ohledem na ty samotné velké jazykové modely od
- 19:09společnosti, jako je open ai? Alfa bed nebo teda Google že jo
- 19:14model kód a ty další velké modely od teda Ilona maska,
- 19:20protože samozřejmě v současnosti vidíme, že ty firmy, které
- 19:24vyvíjí tyto umělé inteligence, tak jsou de facto postavené na
- 19:28tom rizikovém venture kapitálu, ale ty jejich byznysové modely
- 19:32zatím neumí generovat zisk. Protože je to obrovsky nákladné
- 19:38veškeré ty naše dotazy, které klademe umělé inteligenci, tak i
- 19:40když si platíte předplatné. A tak jim se to stále nevyplatí,
- 19:43takže otázka kde budou brát ty peníze?
- 19:46A samozřejmě už prosakují různé informace o těch úvahách.
- 19:50Jak teda zavést inzerci reklamy do těch modelů tak nemůže.
- 19:56Právě tohle být problém to využití reklamy těmito velkými
- 20:00společnostmi, které by mohly potom nějak do toho.
- 20:05Za vtělit právě třeba i reklamu, která ovlivňuje člověka IV tom
- 20:09politickém slova smyslu, protože politický marketing je součástí,
- 20:12že jo sociálních sítí. Je to teda nějak regulované, ale
- 20:16samozřejmě jako to je. To je asi svatý grál těch
- 20:20marketérů. Ten právě.
- 20:24Mikrotargety kdy oni díky. K těm datům, které o vás má
- 20:27sociální síť, mají obrovský přehled o tom, kam spadáte a teď
- 20:32vás můžou nějak oslovit otázka, jak můžou využít velice citlivé
- 20:37informace, které mají ty jazykové modely o vás?
- 20:39Jo. To nevím tak jak o tom
- 20:42přemýšlíš, nebo co si při psaní článku o tom zjistil.
- 20:45To je poslední věc, jak můžu využít informace o nás, tak na
- 20:48to byla taky studie. Loni někdy v květnu myslím, byla
- 20:52zveřejněna, kde se ukázalo, že že pokud tyto informace mají,
- 20:57tak jsou přesvědčivější a stačí, aby to byly.
- 21:00Nějaké základní informace odečtené ze sociálních sítí
- 21:04třeba jestli je člověk spíš liberálně nebo konzervativně
- 21:07orientovaný, třeba když. Že to nemusíte nutně ho používat
- 21:12jako terapeuta, třeba jako někteří lidé.
- 21:14Používá ne ne ne to stačí opravdu proskenovat sociální
- 21:17sítě toho uživatele a tam šlo o to, že třeba se vedl s tou
- 21:21umělou inteligencí dialog na téma školních uniforem.
- 21:24A ona když. Věděla, že mluví s liberálem,
- 21:27tak argumentovala tím, že. Školní uniformesněžujou šikanu,
- 21:31protože stírají ty sociální rozdíly mezi dětmi zakrývají,
- 21:35jak má kdo bohaté rodiče, kdežto když mluvila s konzervativcem,
- 21:40tak argumentovala tím, že školní uniformy reprezentují řád
- 21:44pořádek. Tradice prostě žádné výstřelky v
- 21:48oblečení, jako tam pak nejsou a podobně.
- 21:51Čili taková tradiční univerzitní oxfordská debata.
- 21:55Těch argumentů cynická třeba, ale ta de fakt opravdu převedená
- 21:58na konkrétního. Člověka, 2 zařízení.
- 22:01Když se řekne ten studie byl, že když ten čert bot zná ten
- 22:04background toho člověka, s kterym mluví, tak je
- 22:06přesvědčivější, což samozřejmě by člověk čekal na 2 stranu.
- 22:11Je to jako zajímavé, že stačí jako tyhle ty základní
- 22:13informace. No a teďka k té otázce té
- 22:16reklamy tak ano třeba open a já je už zkouším model jak vlastně
- 22:21zapojit do neplacených verzí toho chatbota reklamu?
- 22:26Když si to člověk zaplatí, tak asi tam reklamu mít nebude.
- 22:32Když si to nezaplatí, tak se zřejmě už letos pustí nějaký
- 22:34model, který tam tu reklamu přivede.
- 22:38Bude to asi nejdřív, když si jako něco přímo jako vyhledáváš.
- 22:41Třeba udělejme plán na dovolenou nebo něco tak asi tam ta reklama
- 22:46jako může v nějaký formě být později to může být, i když
- 22:51nevyhledáváš nějaké konkrétní služby.
- 22:54Ty jako budeš vědět, že teda já nevím, v jaký verze ta reklama
- 22:58bude, jestli tam na televizi jako budou vyskakovat.
- 23:02Okno nějaké nějaké jako forma jako bannerů, nebo to je vlastně
- 23:05inkorporované do toho textu, kdy ten model tam na základě něčeho
- 23:09jako podšoupne, teda nějakou radu, nebo?
- 23:12To já nevím a nevím, jestli se to obecně jako ví v tuhle tu
- 23:15chvíli. Ale každopádně ta úplně.
- 23:19Já ji už zkoušela jakoby tu i tu politickou manipulaci, jestli by
- 23:23tam mohla takhle jako prodat. Třeba Andrej babiš si prostě
- 23:27zaplatí, že? Žegbt bude propagovat er ano to.
- 23:32Je teda teoretický scénář. To je zatím samozřejmě
- 23:35teoretický scénář, jako ale zřejmě to jako 1.
- 23:38A nemusí to být moc jako daleko. Bude možné prostě všechny
- 23:42placený verzích toho chatbota tohleto udělat a oni to potom
- 23:46ale zastavili ten vývoj tady toho, protože jak mi říkal právě
- 23:51pan kordík, tak prostě konkurence se zlepšila natolik.
- 23:55Že. Cítili, že je začíná.
- 23:58Překonávat, a tudíž tohleto zastavili a vrhli všechny síly
- 24:02na zdokonalení toho svého chatbota.
- 24:05Mimo tady tady tyhlety komerční snahy, ale jako můžou to
- 24:09samozřejmě kdykoliv tady to obnovit.
- 24:12No ale potom to nebezpečí není jenom v tom, že teda tyhlety
- 24:15velcí slavní četboti jako je čeg té grog a další prostě že teda
- 24:22budou nabízet zájemcům, že jim zajistí politickou reklamu.
- 24:25Ale jako to vlastně může udělat kdokoliv?
- 24:29Jo, protože za prvý si může vytvořit rozhraní, který ty jako
- 24:33uživatel pak už nebudeš komunikovat s tím cherbotem, ale
- 24:37s nějakým jako prostě agentem, kdo bude mít z toho cherbota na
- 24:402 konci a bude prostě upravovat jeho odpovědět tak, aby tě
- 24:45manipuloval určitým způsobem a tuhletu službu si zaplatí u tý
- 24:49open a je to může bejt fakt jako kdokoliv relativně jako nějaká
- 24:53malá firma. Nebo to může být tak, že si
- 24:56pronajme prostě ty jako servery tady těhletěch velkých
- 25:00společností část tý výpočetní kapacity stáhne si některý ty
- 25:04modely jsou open source, to znamená, oni se jako ten model
- 25:07stáhnou ty váhy. AA jako nevím na kolik je to
- 25:12reálný jako celý ten model, ale třeba nějakou jeho část si
- 25:15myslím, že můžou rozběhnout na pronajatých serverech a prostě
- 25:20těch možností, jakoby je víc a může se to.
- 25:24Dít jako stichem souhlasem, nebo třeba i bez vědomí těch velkých
- 25:29firem. Jak je na tohle vlastně
- 25:32připravená regulace? Samozřejmě ve spojených státech
- 25:36je to teď hodně volná jízda. Pod vedením Donalda Trumpa,
- 25:40který má dobré teda vztahy s těmi kapitány technologických
- 25:44firem v Evropě, že jo máme ten AI ten digital act, ale
- 25:51každopádně ta regulace většinou pokulhává, že jo za tím vývojem
- 25:56těch technologií tak nevím, jestli v tomhle případě je to
- 25:58jinak. No ve spojených státech zatím
- 26:01jako na na té federální úrovni moc 0 regulace neexistuje.
- 26:06Je pravda že jak napsal server emit technology review, tak
- 26:10některé ty firmy jako antropy koupenej já je meta nebo Google
- 26:16tak se už pokus jako už vyvíjejí snahy jak identifikovat nějaké
- 26:21ty skryté operace, které by právě ty jejich čet boty využili
- 26:26k třeba právě k volební manipulaci.
- 26:29To znamená to, o čem jsem mluvil, že si někdo vytvoří
- 26:32agenta, který bude mít na jedný straně.
- 26:35Jako veřejnost. Uživatel na 2 straně toho
- 26:37charbota a budete ho odpovědět nějakým způsobem, bude ho
- 26:41promptovat tak, aby odpovídal určitým způsobem.
- 26:44Dovedu si představit, že kdyby to třeba udělalo rusko, tak jako
- 26:48to těm firmám nebude úplně 1. A se na to jako přijít ho že
- 26:52někdo tohle to dělá, takže jako v těch spojených státech je
- 26:55možnost nějaké seberegulace. Zatím spíš asi jako může
- 27:00docházet už jako třeba proto, že pokud to ty firmy budou nabízet
- 27:03komerčně, tak asi. Nebudou chtít, aby to někdo jako
- 27:06na tom vydělával jako za jejich zády.
- 27:09A pokud jde o evropskou unii, tak tam ten zákon umělá
- 27:13inteligenci vlastně tuhletu volební agitaci jako klasifikuje
- 27:18jako v kategorii s vysokými rizikem, kde vlastně ty systémy
- 27:24musí projít certifikací. Nebude to tak, že bude nějaký
- 27:28jako certifikační úřad, ale vlastně ta firma bude muset tu
- 27:32certifikaci provést sama jako najmout se na to nějakou
- 27:34konzultačku. Třeba nebo tak, ale vono se to
- 27:37ještě ono se to vlastně ještě nerozběhlo.
- 27:39Jako sice ten zákon už jako vstoupil v platnost, ale jakoby
- 27:45nabíhá to postupně a tady tyhlety části toho zákona ještě
- 27:50ještě by nejsou. Úplně v platnosti, no myslím, že
- 27:52se mluví o polovině příštího roku.
- 27:55Že by nějak. Než to naběhne, tak určitě
- 27:56nějaké volby, kde podobná technologie teoreticky může být
- 28:00už použitá dílčím třeba i způsobem proběhnou ono.
- 28:04To zatím není vyma. Tady samozřejmě se potom ještě
- 28:07nabízí, trošku si rozvinout tu imaginaci, jak by mohlo ještě
- 28:11vypadat to využití té techniky v praxi mimo právě podobné.
- 28:16Výzkumy já když jsem právě pročítal i ten komentář.
- 28:21Což teda vědců téla faldmana. VMIT technology review tak tam
- 28:27se právě zamýšlejí nad těmi riziky i některými cestami.
- 28:32Jak teda to je omezit? Tak současnou výzvu oni tady
- 28:37popisují cituji moderní ai nejen kopíruje hlasy nebo tváře, ale
- 28:42také vede rozhovory čte emoce a přizpůsobuje svůj tón, aby vás
- 28:45přesvědčila a teď může ovládat i jiné a řídit obrazové video a
- 28:49hlasové modely, aby generovaly co nejpřesvědčivější obsah pro
- 28:53každý cíl. Když tyto části dáme dohromady,
- 28:56není těžké si představit, jak by se dala sestavit koordinovaná
- 28:59přesvědčovací mašinérie. 1 umělá inteligence by mohla psát zprávy
- 29:042. Vytvářet vizuální obsah 3 by
- 29:06mohla distribuovat napříč platformami.
- 29:09A sledovat co funguje bez nutnosti lidského zásahu.
- 29:13Tečka, takže tam můžem představit vlastně někoho, kdo
- 29:16to jenom tak orchestruje z dálky, tak nevím, co ty sis z
- 29:20tohohle zasvěceného popisu, který se taky opírá i tu tu
- 29:25zkušenost s tím robot telefonátem s nihem sher vzal,
- 29:30protože tam navrhuji nějaké cesty, jak jak tomu čelit.
- 29:35No tahle pasáž mě taky zaujala, ještě mě zaujala další pasáž.
- 29:39Kde vlastně? Se píše, že ten kdo bude tenhle
- 29:42ten systém jakoby navrhovat. Tak už vlastně vůbec nemusí
- 29:46rozumět jazyku té země, kterou se snaží ovlivnit a ani jako
- 29:53nijak zvlášť jako moc dopodrobna znát tamní debatu.
- 29:57A prostě může vytvořit jakoby fiktivní nějaké řekněme,
- 30:04influencery nebo prostě autority typu já nevím.
- 30:07Odborový předák učitel prostě. Dlouhodobě člověk ze sousedství,
- 30:12který něco organizuje, organizuje nějaké sousedské
- 30:16aktivity a teď najednou začne jako argumentovat třeba pro
- 30:19nějakého politika. Bude to teda stroj, ale to ty
- 30:22lidi nebudou vědět a že to vlastně může vytvořit jako bez
- 30:26znalosti jazyka tý země. Zároveň, jaksi teď četl, může to
- 30:31být jako plně automatizované. 1 AI bude.
- 30:35Psát texty 2 bude vytvářet videa a 3 bude profilovat ty vole.
- 30:39Hledat ten nejsnáze ovlivnitelné, tak z toho jde
- 30:43docela hrůza. No to se.
- 30:45Netýká jenom těch politických aktérů v rámci země, které jde,
- 30:49jakoby to může vytvořit nějaký jako trochu nespravedlivou
- 30:53politickou soutěž, ale i těch vnějších aktérů zemí, vlastně
- 30:58nepřátelsky naladěných, které to využijí k ovlivnění toho
- 31:01volebního procesu, aby tam dosáhli, že jo třeba nějaké
- 31:04změny režimu ve svůj prospěch. No, a co proti tomu dá udělat?
- 31:07Co se ptal, tak tam v tom článku jsou jako takové spíš obecnější
- 31:11návrhy, že by spojené státy měly prostě vytvořit pravidla kolem
- 31:16těchto kampaní a ovlivňování veřejnosti, což.
- 31:20Jako by zahrnovalo právě omezení jakoby přístupu k té velké
- 31:27výpočetní kapacitě těch předních firem za tímto účelem, aby se to
- 31:31prostě hlídalo, aby země, který to chtějí zneužívat.
- 31:35Tak b ať už teda mají vlastní kapacitu, nebo si třeba chtějí
- 31:39pronajímat nebo nějakým způsobem využívat.
- 31:41Tady tu těch amerických firem tak, aby ty země za to jako
- 31:45platily ve formě, třeba že se octnou jako pod sankcemi, nebo
- 31:49nebo podobně. Podobně?
- 31:50No no, a ještě bychom mmm mohli zmínit vlastně že ve volbách v
- 31:55Indii v roce 2024 tak byly utraceny desítky milionů dolarů.
- 32:04Za vývoj umělá inteligence, která by profilovala ty voliče,
- 32:08identifikovala ty, které lze nejsnáze přesvědčit ty swing
- 32:13waters a prostě dodávala osobní laděné.
- 32:19Informace té veřejnosti právě prostřednictvím těch robotických
- 32:24telefonátů a nebo prostřednictvím chatbotů, takže
- 32:28se to do nějaký míry už děje no. Ano, to je právě ta věc, že se
- 32:31to děje a my si tady popisujeme, kam až to může dospět, když se
- 32:36tyhlety mašinérie všechny ty šroubky dotáhnou a vyladí, tak
- 32:40otázka potom, co z té demokracie zbyde že jo?
- 32:42Zvlášť v těch zemích, kde už je to hodně profesionalizované teď
- 32:46a vlastně je těžké jako do toho proniknout bez velkého kapitálu,
- 32:50tak když si tam ještě nasadí tady ty další vrstva těch AI
- 32:53agentů, tak. No jak údajně řekl turecký.
- 32:58Prezident Erdogan demokracie jako autobus, doveze nás tam,
- 33:03kam potřebujeme a pak vystoupíme tak tady ty sestémy, jako nám v
- 33:08tom vystoupení asi nebo těm politikům jako dost můžou
- 33:11pomoct. No my tady půl hodinu
- 33:13rozebíráme. Samozřejmě ta rizika a problémy,
- 33:16ale ono to nenabízí nástroje jenom těm špatným aktérům těm
- 33:21aktors ale samozřejmě i těm, kteří chtějí demokracii zlepšit
- 33:26a zlepšit to, co je nějaký jejím charakteristickým rysem, a to,
- 33:32že je jako těžké ty informace přemisťovat mezi velkými
- 33:37skupinami lidí. A nějak sdílet tu odpovědnost?
- 33:40A vím, že jsou i příklady projektů, kdy se to třeba v té
- 33:43komunální politice využívá. Využívají si ty modely k tomu,
- 33:47aby se třeba sbíraly? Já analyzovali nějaké pohledy
- 33:51občanů na nějaké partikulární věci, řekněme v amerických
- 33:55městech a potom je lepší povědomí o tom, co vlastně ty
- 33:59lidé chtějí nebo co je trápí. Tak nevím, jestli ty po přečtení
- 34:04těch dalších textů při rešerších na tenhle článek a kolem toho.
- 34:09Si trochu nabral i optimismu, co se týče využití AIV.
- 34:14Demokracii. Já moc optimismus jsem nenabral,
- 34:17protože samozřejmě to je pravda a víme třeba mu že IU.
- 34:22Nás se zkouší umělá inteligence, která by vyvracela klimatické
- 34:27dezinformace, čili potenciál. Tady je samozřejmě obrovský jako
- 34:33vyvracet dezinformace předkládat jakoby informace, které jsou
- 34:38nějakým způsobem správné a ověřené.
- 34:41Musí se teda ovšem jakoby nějakým způsobem počítat s tím,
- 34:45že ta umělá inteligence se opravdu občas vymýšlí.
- 34:47Který pořád ale jako já se obávám toho, že jaksi tohleto
- 34:53úsilí využít tu a je pro vyvracení dezinformací na šíření
- 34:59správných informací bude vždycky nesouměřitelný.
- 35:03Svým rozsahem s tím subverzevně, protože lidi, který prostě
- 35:08chtěj, aby se něco stalo, v prostě v neprospěch tý
- 35:12demokracie a ve prospěch nějakejch jejich partikulárních
- 35:15zájmů si myslím, že bude vždycky.
- 35:17Mnohem víc než než těch, kteří se snaží, jak se o nápravu světa
- 35:21no a dávají do toho peníze, protože samozřejmě taky něco
- 35:25stojí. Takže v těch svých úvahách třeba
- 35:28dospíváš IK tomu, že si říkáš, tohle je ta sféra, která by měla
- 35:32být chráněná před podobným rizikem manipulací nějakým
- 35:36způsobem, že tam ta AI úplně nepatří, že tam je to riziko
- 35:41rozložení té hranice mezi tím, kdo je občan, který má ten hlas
- 35:46a odpovědnost a kdo je nějaký? Jako virtuální aktér.
- 35:49Je možný, že se stane to, co už jsme viděli u mnoha technologií,
- 35:52že se objeví nějaká technologie, přinese nějaká pozitiva, způsobí
- 35:58nějaká negativa a jako nastoupěj různý regulace.
- 36:02Ta společnost se s tím jako učí zacházet.
- 36:05Učí se to nějakým způsobem udržet pod kontrolou a je
- 36:09samozřejmě možný, že to bude i takhle u té AIA, že?
- 36:14Pomocí různých regulací. A třeba i dobrovolného přístupu
- 36:19těch velkých firem. Nevím, jestli se to teda dá
- 36:22čekat třeba od maska, ale od některých se to určitě čekat dá
- 36:26třeba antropiku, takže se to podaří nějak jako zabránit těm
- 36:31nejhorším scénářům? No ale jako jistotu nemáme,
- 36:34protože je to jako opravdu hodně fundamentálně nová věc.
- 36:40Jako podobně nová převratná, jako byly internet a sociální
- 36:45sítě. Ale já mám trošku pocit, že
- 36:47třeba u toho internetu nebo sociálních sítí tak nikdo sice
- 36:52nedokázal dohlédnout všech těch věcí, které to ovlivní a všeho
- 36:58toho, co to způsobí. Ale.
- 37:00Tady jako dohlédnout toho je ještě jako jako daleko těžší.
- 37:05Jo predikovat tu budoucnost, protože tady opravdu máme něco.
- 37:11Říká, že to přemýšlí. Někdo říká, že to inmituje
- 37:15přemýšlení a tak nebo tak, tak ten výsledek je prostě
- 37:18fascinující. Já jsem teďka si četl v 1.
- 37:21Vědecké studii. Rozhovory mezi chatbotem a vědci
- 37:26na téma deprese a frustrace toho, co ten chatbot pociťuje.
- 37:32A to je fakt ta úplně ta čistá SC sedmdesátej a osmdesátejch
- 37:36let kdy se bavíš se strojem a stroj ti říká co ho jako
- 37:40frustruje, jaký má vzpomínky nejstarší?
- 37:43A podobně samozřejmě je to stroj, který ho požádali, aby
- 37:47tohle dělal. Umělecká licence.
- 37:49Jo ale otázka, ale jako dobrý, tak když stroj řekne, že ho
- 37:53frustruje, když po něm lidi chtějí, aby jim.
- 37:58Odpovídal způsobem, kterej má zakázanej tak jako.
- 38:02Predikuje jenom další sleva a. Predikuje jenom další slovo.
- 38:05Je to jako jenom popis nějaký emoce, který by mohla existovat,
- 38:09anebo je to opravdu emoce, která je jiná než ta lidská.
- 38:13Ale jako troufneme si říct, že to není 0 emoce, že to jenom
- 38:17algoritmus prediktivní. Taky máme doložené lidi, kteří
- 38:21tedy se zamilovali do těch modelů, že jo mají s nimi vztah.
- 38:25Jak to krásně popisuje ten film her ona.
- 38:32Cind mouningear. Mone.
- 38:34Meanfid manas you're the true generace.
- 38:39Panny. On i warn everything about
- 38:43everything and love fory look world.
- 38:49ISI new your email se i country breaker on your kain nosie.
- 38:56The somethinger this socerbout chri the live osum Barry.
- 39:01Share live a sobory. A jako ten vlastně byl natočenej
- 39:05dávno před před tím, než vznikl 1 chytrý čert bot.
- 39:08Právě, že v posledku potom. Na to lidském využití, kteří to
- 39:13použijí s nějakou intencí, když prostě mark Zuckerberg rozjel
- 39:16facebook. Were Williams for cannar
- 39:18national just talping people share information a weby relyte
- 39:22plead it people share more than the world hol bere open place
- 39:26work propuk an understand whats counon with the people ruw and
- 39:29nutrily what we wan a get tourists.
- 39:30Tak měl mnoho pozitivních vizí, včetně toho, jak budou lidé
- 39:34komunikovat napřímo se svým. Zastupitelem, zastupitelkou.
- 39:39Jsou v demokratickém uspořádání do nějakými, kdy se to vlastně
- 39:42děje? Taková ta podoba toho možná
- 39:44úplně nebude každému po chuti. Ale.
- 39:49Asi nedomýšlel, že to taky povede k masakrování rohingyů v
- 39:53myanmaru, které lze charakterizovat a jako genocidu,
- 39:58takže to je právě ten problém využití té AI ještě ale teď s
- 40:02ohledem na to, že pokud ovlivníte demokratický proces,
- 40:06zásadně prospěch nějaké strany, třeba autoritářsky naladěné nebo
- 40:11nějaké vyhrocené oligarchie, tak se to stane. 1 a pak už.
- 40:15Se ty poměry zobetonují, že jo. No samozřejmě, no tak jako
- 40:21nemáme křišťálovou kouli, nevíme ale jako.
- 40:26V těch spojených státech vlastně vidíme, že ti mnozí z těch
- 40:28kapitánů průmyslu, prostě a vůdčích postav ze silicon valley
- 40:34tak už jako nevěří v demokracii. Myslím si, že demokracie je
- 40:37slabá politice korumpovatelní a že je potřeba, aby to vzali do
- 40:41rukou. Oni prostě tihle ti neomylní
- 40:43technologičtí magráti, že jo. To je třeba příběh té firmy
- 40:47palantier, takže prostě to jak jak er složit.
- 40:53Pokud jako oni uspějí tak jak složité, pak bude dostat tu moc
- 40:57z jejich rukou a. Opět to vrátit tu situaci k
- 41:03nějakým demokratickým poměrům to jako nevíme a může to být hodně
- 41:06těžké. Já jsem si teda ještě při čtení
- 41:08toho tvého článku jsem si říkal, jestli vlastně by to nešlo
- 41:11využít i tak, že by byla nějaká nějaký neutrální, teda jazykový
- 41:17model, se kterým by si všichni občané měli před volbami
- 41:20promluvit, aby si vyjasnili, jak jak ten proces funguje a
- 41:24ujasnili si ta svoje stanoviska. Ale otázka, jak takovouhle věc
- 41:28udělat, aby to ty strany nezpochybňovaly, že jo?
- 41:32Kdyby to jako tak občanská nauka před volbami.
- 41:35No tak jednak bude to strany zpochybňovaly, ale jednak přece
- 41:38jenom ta ea se pořád vymýšlí jo, takže bysme asi nechtěli, aby
- 41:41lidi si tříbili svoje názory povinně s něčím, co nemusí dávat
- 41:46stoprocentně správné odpovědi jako síla té ei.
- 41:50V tom, že ten poučený uživatel si prostě projde ty zdroje,
- 41:54které mu ta ai nabízí a ověří, jestli ty informace, které mu
- 41:59předkládá jakoby sedí, jo, pokud to udělá, tak je to obrovská
- 42:03pomoc. Ať už ať už zkoumá předvolební
- 42:07situaci nebo něco úplně jiného. Pokud to neudělá, tak prostě
- 42:12jako může být neinformovanější, ale dezinformovanější.
- 42:17Já ale vím, že ten informatika psycholog David grands cornelovy
- 42:21univerzity, což je teda hlavní autor toho výzkumu zveřejněného
- 42:25v nature, kterého ty tam cituješ taky tak myslím, že se podílel i
- 42:29na 1 studii, která ukazuje, že může pomáhat čelit umělá
- 42:34inteligence ty modely vůči konspiračním teoriím.
- 42:37Ne že ty rozhovory, já nevím, jestli se to, jestli jsi na to
- 42:40narazil. Jsem na tohleto nenarazil, ale
- 42:43jako určitě tak ale každopádně jako obecně asi může.
- 42:49Prostě ten chat bude dává jako ve většině případů správné
- 42:53odpovědi. To znamená odhalit pro něj, že
- 42:55něco je nepravda asi. Jako abyzdrojovat to asi jako
- 42:58není těžké, takže když se s tím pracuje poučeně, tak to
- 43:02samozřejmě může ti k tomuhle účelu sloužit.
- 43:06Protože jsi samozřejmě byl nějak v kontaktu IS těmi autory těch
- 43:09studií, tak jestli něco ti z toho ještě vyplynulo.
- 43:13Co stojí za zmínku? No 1 ta věckyně mi psala, že
- 43:16vlastně jí úplně, že ten argument, že lidi se nebudou
- 43:20chtít před volbama bavit s umělou inteligencí, protože jsou
- 43:23vědět, že to je umělá inteligence, protože to je
- 43:25kognitivně náročný. A tak, takže jí to neuspokojuje,
- 43:29protože když to procento těch lidí, který budou ochotný tyhle
- 43:32debaty vést, bude malé, tak to ty volby může ovlivnit.
- 43:38Závěrem martine k tomuhle tématu máš něco, co bys třeba
- 43:42doporučil, co jsi četl, viděl. Může to být klidně i po kultura
- 43:48film knížka z poslední doby právě k tématu umělá
- 43:52inteligence, vztahu třeba k veřejné sféře.
- 43:55No jako 1. Klasika, kterou často zmiňuju.
- 43:58Já už jsem možná o ní někde jako mluvil AA psal je film, který je
- 44:03myslím z roku 2014 a jmenuje se ex machina a je vlastně o takové
- 44:08velmi zvláštní verzi. Turingova testu, kde je ta umělá
- 44:14inteligence, je prostě vysoce manipulativní a sleduje svoje
- 44:18vlastní cíle, což er ten hlavní hrdina nedokáže úplně
- 44:23rozklíčovat. A hezkou ženskou.
- 44:26Ano ano ano v tom je právě ten problém a je to umělá
- 44:29inteligence natrénovaná právě na sociálních sítích.
- 44:35Never maring for, have you? Now like you.
- 44:41Číslo. The challenge ist the show you
- 44:45that chesse a Robert inance to funguje count is as.
- 44:52Course. Ally besible.
- 44:55I with notebook. Říma hubenár, side dis bouldy.
- 45:01With meet. Takže myslím si, že tenhle ten
- 45:08film je hodně prostě opravdu vizionářský, že?
- 45:12Tu budoucnost, jakoby odhadl velmi správně.
- 45:15A končí to právě tím, že ona uteče a jako chodí po těch
- 45:21ulicích a prostě pedí se jí to přání, který decky měla stát na
- 45:26křižovatce a pozorovat lidi. Ale jako chápeme, že se v tom
- 45:30jako nějaká docela velká. Hrozba, protože zasebou nechala
- 45:32několik mrtvejch, ačkoliv se celou dobu tvářila prostě jako
- 45:37velmi empatická žena. Tak kdyby zůstala u toho
- 45:40pozorování, tak možná ještě dobrý.
- 45:43Ale je v tom skrytá hrozba, že možná nezůstane no.
- 45:46Dodává Martin uhlíř. Já mockrát děkuju, že jsi byl.
- 45:48Hostem tohodle caitkaistu. Taky děkuju za pozvání a zdravím
- 45:52všechny posluchače a přeju nám všem, abychom se nenechali
- 45:57manipulovat umělou inteligencí. Zajímalo mě, jak se na potenciál
- 46:04umělé inteligence a její vliv ve volbách dívá někdo, kdo má
- 46:07praktické i akademické zkušenosti s politickým
- 46:10marketingem a jeho zkoumáním. Oslovil jsem proto politoložku a
- 46:14marketérku annu šavit, která působí na katedře marketingové
- 46:17komunikace a public relations fakulty sociálních věd
- 46:20univerzity Karlovy. AV minulosti se také podílela na
- 46:24řadě politických kampaní například v 1.
- 46:26Přímé prezidentské volbě byla hlavním stratégem kampaně Karla
- 46:30Schwarzenberga. V letech 2013 a 2017 pracovala
- 46:32jako poradkyně pro hnutí ano Andreje Babiše.
- 46:34Později radila třeba kdučsl nebo pirátům.
- 46:39To je prostě zase 1 z nástrojů, stejně jako bylo mnoho jinejch
- 46:43předtím, který se dají používat nějakým způsobem a vy můžete
- 46:47teďka používat EI. V podstatě jako to, co dřív
- 46:50dělali asistenti, analytici, to znamená, že velmi rychle
- 46:53seženete nějaké podklady zkontrolujete je, takže vám to
- 46:56pomáhat generovat prostě politické projevy?
- 46:59To už jako pár let zpátky se zkoušelo.
- 47:02Může vám to pomáhat velmi zadarmo jako generovat obsah a
- 47:06contin na sítě. To je to, co dělalo i třeba
- 47:09stačilo v kampani, že měli plno těch postů dělaných pomocí umělé
- 47:12inteligence, teď jako to jsou jakoby aspekty, kdy to je
- 47:15vlastně jako 1 nástroj, který to jako zrychluje.
- 47:18A funguje to pak samozřejmě jsou jiné věci, pokud.
- 47:22Budete používat jako AI nástroje v rámci sociálních sítí, jak
- 47:26opravdu jako ve velkém množství. Pokud bude třeba někdo
- 47:29kritizovat nějakého politika, že že je proukrajinskej, tak
- 47:33existujou nástroje, kdy vy můžete prostě všechny ty účty
- 47:36jako odhalit nahlásit. Je to vlastně něco, jako když
- 47:40se, jako když se pracovalo s dezinformacema a označovalo se,
- 47:43co není pravda, samozřejmě to stojí peníze.
- 47:47Ale vlastně používáte nástroj, který vytváří problém, aby se s
- 47:51tím problém bojovali? To jsou jako všechno věci, které
- 47:54jsou ještě jako pochopitelné praktické.
- 47:57A jako AI ovlivňování algoritmu ve volbách všechny tyhle ty věci
- 48:00se jako v nějakým jsem dělaly dřív.
- 48:03Teď se akorát můžou udělat mnohem rychleji, jsou mnohem
- 48:06dostupnější a zároveň se proti tomu dá podobnejma nástrojema
- 48:10bránit a vznikají nové firmy, které budou dělat avatary a
- 48:13vlastně jako ovlivňovat to, jak s tím budete pracovat?
- 48:16No prostě se to změní. Jak se politici museli naučit
- 48:19mluvit v televizi, museli se naučit smluvit.
- 48:22Potom se museli naučit dělat obsah na sociální síti.
- 48:25Tak teď se to zas bude muset jako adaptovat, ale ta rychlost
- 48:28na tom množství je jako nový. Já si pamatuju, nevím, když bylo
- 48:32okupování wall street a kamarád, který byl finančník v new Yorku,
- 48:36vyprávěl, že existujou začínají se vyvíjet nástroje, který se
- 48:40používaly dřív na burze jako predikování pohybu na trhu, že
- 48:43se bude vyvíjet predikce. Jak vlastně to hnutí musí bejt
- 48:46úspěšný a kolik lidí se do něho zapojí, aby to udělalo nějakou
- 48:49změnu? A to je před 10 lety jo, kdy
- 48:52vlastně se přemýšlelo o tom dělat nějaký nástroj, který by
- 48:54to měřil? Ještě nebyl takový boom jako
- 48:56sítí a podobně, takže mnoho těch věcí vlastně bych automaticky
- 49:00nestahovala k politice, ale podívala bych se na to, co je v
- 49:02byznysu. Co se potom může převzít, že to
- 49:04takto funguje a bezpochyby vzniká jako plnost startupů,
- 49:09kterým se třeba nepodaří něco tam, ale pak se to může použít v
- 49:12tý politice, ale vlastně mně to přijde legrační.
- 49:14Pokud používáte umělou inteligenci na to, aby
- 49:17detekovala, který účty jsou falešný.
- 49:19A vlastně označila jo, potom se dá říct, že se to dá používat
- 49:23jako pro dobrou i špatnou věc. Samozřejmě, v čem ta EI určitě
- 49:27pomůže. Kampaním je velmi rychlé
- 49:30vyhodnocování dat. Ale pořád musíte mluvit s lidmi?
- 49:35Jo, pořád tam jako to nevymyslíte.
- 49:37Celý bez lidí je otázka, jestli za 10 za 15 let už nebude AI
- 49:41prostě schopná. Na základě ekonomických
- 49:43ukazatelů a různých jako znalostí třeba českého
- 49:47politického trhu dělat výzkumy veřejného mínění bez toho, aby
- 49:53se ptala lidí, jo, to taky se může stát.
- 49:55Ale to si myslím, že je ještě pár let tak nebude.
- 49:58No, ještě je tam podle mě ten aspekt, právě kterého se týkají
- 50:02tý studie, že vlastně to může být využito jako ten
- 50:05přesvědčovací nástroj napřímo jako samozřejmě třeba v té
- 50:08americké politice je běžné, že volají voličům politici a teď
- 50:12nějak se s nimi bavíte úplně v Česku.
- 50:14Třeba si myslím tak běžný není. To se u nás nestane dokud jako
- 50:18pokud by se nerozpadl, jako když se rozpadne evropská unie a smí
- 50:21se ta kontrola, ale SGDPRDSA jako v podstatě to, co většina
- 50:25jako z nás jako většina lidí kritizuje.
- 50:28Že má pocit, že jsme přeregulovaný, tak třeba z tý
- 50:32ochraně tady v tom, aby najednou se nezved mobil a prostě AI
- 50:37vygenerovanej hlas. Prostě Zdeňka Svěráka nebo ani
- 50:40geislerový vám začal říkat, že máte volit prostě buďto Petra
- 50:44fialu nebo Babiše a bylo to přesně přizpůsobování vašim
- 50:47spotřebám. To se jako nestane u nás nebo
- 50:50jako nemělo, protože jsme vlastně jako chráněný jako ty
- 50:53jedinci. V Americe je běžný, že v kampani
- 50:56v new Yorku prostě v primátorský se dělaj ty automatický cally.
- 51:00A používáte jazykové překlady? Takže když jste prostě s
- 51:03Venezuely, tak vám to zavolá španělsky, když jste jako z
- 51:06arabský komunity, tak vám to zavolá jako arabsky a tak dále.
- 51:09Ty věci, které dokáže člověk vymyslet na ty, se používaly
- 51:13jiné nástroje AV tom je to jako rychlejší, co mně přijde
- 51:16zajímavé, jestli opravdu se dostaneme tak daleko.
- 51:20Že někdo prostě naprogramuje nějaký algoritmus a pomocí AI
- 51:23narve tam všechny dostupný data sekundární a pak řekne, hele, já
- 51:27to dokážu namodelovat, když budu posledovat.
- 51:29Počty lajků a reakcí na výstupy počty mediálních zmínek tak já
- 51:34můžu odhadnout, protože to tak funguje i jako v praxi, že když
- 51:38něco řeknete jako politik, tak to trvá nějakou dobu, než to ty
- 51:41lidi jako zaznamenají. Takže máte kauzu v lednu, ale
- 51:44pokles jako voličskejch preferencí to může odrazit až
- 51:47třeba o 3 měsíce později. A může se stát, že ta II to bude
- 51:51předpovídat a někteří si prostě nebudou už dělat vůbec ty
- 51:54výzkumy a nebudou mluvit se svými lidmi.
- 51:57To mně přijde v tuhletu chvíli vlastně jako jako nejděsivější.
- 52:03A na tom nejzajímavější, kam se to bude posunovat do budoucnosti
- 52:05AZ. Pohledu té 2 strany jako jak by
- 52:07se takovéhle nástroje daly využít k zvýšení odolnosti té
- 52:10demokracie. Tam vás taky napadá.
- 52:15Ono je to vlastně těžké, jak je to jako fragmentizované.
- 52:18Celé to mediální prostředí, od koho my vlastně budeme jako
- 52:22respektovat ty informace? Já myslím, že se všichni vlastně
- 52:25docela jako adaptují, že jsou lidi resilientní.
- 52:28Ta největší otázka je, kdyby se stal nějaký problém, například
- 52:33jako útok dronův jako z Ruska na česko?
- 52:37Jak se to dozvíte, jestli budete věřit české televizi, jestli to
- 52:40budou mít novinky, nebo jestli vám přijde?
- 52:42Od operátora SMS, že se máte jako schovat.
- 52:45A vlastně ten největší problém. Ta společnost přestala být
- 52:48resorentní ve chvíli, kdy tomu nevěříte.
- 52:50To je problém důvěry. Že, a to je vlastně ta jako věc,
- 52:53která se projevuje jinak na 2 stranu, ale když se podíváme na
- 52:57jako současný válečný konflikty rusko, Ukrajina, nebo i to, co
- 53:01se dělo jako tak jako v online prostoru, teďka myslím jako gazů
- 53:05a Izrael, kdy vlastně jako velká část těch konfliktů se odehrává
- 53:09taky jako tou 1 válkou na. Na těch platformách a vytváření
- 53:13toho o jako contentu je šílený, že vy si můžete vygenerovat
- 53:16prostě jakékoliv video. Za 2 minuty a vlastně to bude
- 53:20čím dál tím větší luxus, že s někým budete moct mluvit
- 53:22napřímo, ale jak nás to bude jako ovlivňovat ten kontakt,
- 53:26kterej generujeme, pokud jsou predixy, že třeba jako 85% jako
- 53:29AI nahradí novináře, jako uvidíme, jak se to bude vyvíjet
- 53:33rychle, abychom byli vůbec schopni to jako pojmout.
- 53:35Tady to samozřejmě ty techničtí optimisté a skeptici jako já
- 53:38vím, že se mnozí lidi smáli pár let zpátky, když byli třeba
- 53:43prezidentský kampaně a ještě si zkoušeli generovat různý
- 53:45projevy. Ono taky záleží, jak to AI
- 53:49prostě používáte, jestli přesně řeknete, co chcete, ale ona už
- 53:52je teďka schopná vlastně napiš mi to, jak by to řekl ten či
- 53:56konkrétní politik a oni to dokáže udělat?
- 53:58No. Ještě to se vracím k tomu, co
- 54:00jste říkal předtím, ale právě že jste srovnávala tu americkou
- 54:03politickou realitu a pravidla s evropskou unií, tak byste řekla,
- 54:06že vlastně v Evropě jsme na to regulatorně jako líp připraveni
- 54:11teď. No tak jasně to jsou, že jo, to
- 54:13je ten vtip, kde se říká, že Amerika inovuje čína, kopíruje
- 54:17nebo krade a eru reguluje. Ale že jsme připraveni jako na
- 54:21věci, na které si třeba jako před 5 lety asi těžko bychom si
- 54:24to představovali. No, já nevím, jestli jsem na to
- 54:26připravený, co mě jakoby zaujalo.
- 54:27V té většině nekončící kritice unie AV tom, že lidé mají pocit,
- 54:33že to, že ta ochrana jedince v tomhle případě třeba DSA.
- 54:38Jde proti svobodě slova zároveň nechápu, že evropské.
- 54:43Země, každá jiná, má velmi odlišnou tradici IV jako IV.
- 54:47Ústavách. Jak vlastně definuje tu ochranu?
- 54:49Jestli to je ochrana jako jedince, nebo jestli to je právě
- 54:53větší jako důraz na to, že si každý může říkat, co chce, co mě
- 54:58přišlo mimořádně zajímavé. Když se dozvíte, že země jako
- 55:01Kanada nebo třeba Izrael nebo Austrálie, které nejsou členy
- 55:06evropské unie. Vlastně vždycky čekají, kdy EU
- 55:10adaptuje tu legislativu, která v tuhletu chvíli je akceptovatelná
- 55:14pro 27 zemí. Oni se na to potom podívají a
- 55:17vlastně to používají. To znamená, že to nemůže bejt
- 55:20tak špatný. Jo, některý jednotlivý státy ve
- 55:23spojenejch státech používaj třeba GDPR nepoužívá to celá
- 55:26federace, ale některý jednotlivý země si to adaptovali.
- 55:31To znamená. Že se to jako sleduje AV tuhletu
- 55:36chvíli. Asi se dá určitě říct, že
- 55:37Evropan nejlíp jako chráněnej. Ale samozřejmě jako já chápu, že
- 55:43někomu se to nelíbí. Rozumím tomu.
- 55:47A uvidíme kam se to jako posune no ta AI.
- 55:50Kdyby jste dneska teoreticky měla v roce 26 dělat nějaký
- 55:54kampaň, tak přemýšlíte hlavně o té analytické části nebo jak by
- 55:58se to dalo vytvářet tu věc? Já vždycky jsem jakoby z tý
- 56:01strategie přemýšlel o tom, kdo bude konkurence, jakej bude
- 56:04politickej kontext, jaká bude ekonomická situace je super mít
- 56:08data. A dívám se na to široce, já bych
- 56:11to. Já bych to vnímal jako že mám
- 56:13nový nástroj, který mi umožňuje jako opravdu hodně věcí
- 56:16analyzovat a zjistit a udělat rychle a podpořit to a že
- 56:20vlastně mnoho věcí, jako a těch profesí v té kampani to
- 56:22zjednodušuje a zrychluje no. Tolik tedy anna šavit z Karlovy
- 56:25univerzity a já ještě doporučím, abyste si našli ten článek
- 56:29Martina uhlíře z je na našem webu IV.
- 56:31Tom tištěném respektu společným číslem 1, kde taky najdete
- 56:36vlastně i odkazy nebo přímo zmíněné ty jednotlivé autory a
- 56:41studie. Díky že jmenujete pozornost,
- 56:43respektuju našim článkům i jejich audio verzím i podcastům,
- 56:46jako je právě cade guist, které by nevznikaly bez vaší podpory.
- 56:50Tak si prosím předplácejte a kupujte respekt díky na
- 56:53slyšenou. Těší Štěpán Sedláček.