Latest / Týdeník Respekt / Pentagon vs. Anthropic. Spor o AI sjednotil technologické giganty proti Trumpově vládě
Transcript
- 0:00U poslechu dalšího side gestu týdeníku respekt vás vítá Štěpán
- 0:03Sedláček dnes uslyšíte rozhovor s analytičkou Kristýnou ford o
- 0:07sporu mezi americkým pentagonem a společností entropic, který
- 0:10vyústil v bezprecedentní krok. Cisence hayes it fland cues and
- 0:15traptes AI mallo cloid for quate alme of protožes viye situsuvec
- 0:20today or now we're new yro will now to make fally a tonym is
- 0:24bughts. President down of trumset priday
- 0:27has bordering alfator eden sus to facerout the use of them
- 0:30tropic tecknology. Hopen a is a green it with
- 0:33thepenenty guncan. Americký Pentagon ukončil
- 0:44spolupráci s technologickou firmou entropic potom, co se
- 0:47nedohodli na podmínkách využití umělé inteligence pro sledování
- 0:51Američanů AV plně autonomních zbraních.
- 0:54Americké ministerstvo obrany, ovšem společnost, která stojí
- 0:57mimo jiné za velkým jazykovým modelem kód, navíc označilo za
- 1:01riziko pro dodavatelský řetězec. Ve výsledku tak zakázalo vládním
- 1:05dodavatelům používat její technologie.
- 1:07Firma antropic kvůli tomu Pentagon zažalovala a postavili
- 1:11se za ní mnozí velcí technologičtí hráči.
- 1:13Firma open ai obratem Pentagonu nabídla své služby, o co se v
- 1:18tomto sporu hraje a proč nejde jen o dohodu mezi vládou a 1
- 1:22firmou IO tom bude řeč s analytičkou Kristýnou ford
- 1:25podnětný poslech vám přeje Štěpán Sedláček.
- 1:34Hostem podcastu CGZ týdeníku respekt je analytička Kristýna
- 1:37ford, expertka nařízení a správu umělé inteligence, tedy
- 1:41governments, která aktuálně působí v americkém think tangu.
- 1:44Institut follow NAI, který se zabývá výzkumem a poradenstvím v
- 1:48oblasti práva a umělé inteligence.
- 1:50V minulosti také spolupracovala třeba se společností Google
- 1:53deapmind nebo českou vládou ahoj kristýno vítám tě v podcast v
- 1:57gustech. A ještě pane moc děkuju za
- 1:59pozvání a jenom bych teda dodala, že tady budu mluvit
- 2:02hlavně jako nezávislá expertka a všechno, co říkám, nevyjadřuje
- 2:05názory mého zaměstnavatele na. Vědomí my dnes probereme spor
- 2:09Pentagonu s americkou firmou entropic, který se táhne už řadu
- 2:14týdnů. Podíváme se na to v širších
- 2:15souvislostech, ať už tedy ten spor dopadne jakkoliv, tak totiž
- 2:19ukazuje mimo jiné potenciální za mě trhliny v těch vztazích mezi
- 2:24americkými technologickými giganty a vládou administrativou
- 2:28Donalda Trumpa, které se jevily od inaugurace poměrně růžově
- 2:34aspoň v řadě těch případů a navíc v jádru.
- 2:37Tady jde asi o to, jak bude moct tedy nejmocnější armáda a vláda
- 2:42světa nakládat s nejpokročilejšími modely
- 2:44generativní AI. Ve sférách, jako je právě
- 2:47sledování občanů nebo využití autonomních zbraní.
- 2:50Společnost antropic totiž zažalovala tedy americkou vládou
- 2:53po tom, co nepřistoupila na nové podmínky spolupráce s pentagonem
- 2:57a americké ministerstvo války tedy označilo za riziko
- 3:00dodavatelském řetězci, což v případě americké firmy je celkem
- 3:04nebývalý. Řekl bych až bezprecedentní krok
- 3:07tohle opatření obvykle je namířené na zahraniční, tedy
- 3:10aktéry. Který tedy v tomto případě
- 3:13omezuje využívání nástrojů. Od antropiků tak vzápětí
- 3:17oznámila dohodu s pentagonem společnost open ai a podporu
- 3:21antropiku vyjádřili následně vlastně nejdříve nejdříve
- 3:24desítky zaměstnanců firem Google, deepmind a open ive,
- 3:27kteří i nabídli, že poskytnou soudu informace.
- 3:31No a nejnověji, když se spolu bavíme ve čtvrtek 12-03, tak
- 3:35tento týden, tedy i řada velkých hráčů amerického technologického
- 3:38byznysu. Se postavila na stranu entropiku
- 3:42v tomhle sporu a teď mám na mysli Amazon.
- 3:45Apple, Microsoft i Google potažmo teda vlastně alfa bet
- 3:49tak já nevím, pojďme se to trochu rozebrat po pořadí a
- 3:52určitě mě můžeš opravit a úplně popořadě, když začneme tím, co
- 3:56je kdo je antropic 5 let stará společnost, kterou asi mnozí
- 4:01znají právě díky jejímu velkému jazykovému modelu.
- 4:04Kilomet tu firmu založila skupina bývalých zaměstnanců
- 4:07open jive, včetně tedy daria a modelyho, který dnes tu firmu
- 4:11vede, co bys EO? Od začátku chtěli a chtějí
- 4:15klást, tedy důraz na AI safety, tedy na bezpečnost.
- 4:18Tak co bys k tomu doplnila? Mě zajímá, jakou vlastně mají v
- 4:22branži pověst, hlavně i mezi odborníky.
- 4:25Na tyhle otázky u lidí, kteří se věnují právě regulacím a zprávě
- 4:30AI. Tak andropic má právě dlouhodobě
- 4:32tu pověst té firmy, která klade bezpečnost na 1.
- 4:35Místo. Byl to 1 z důvodů, proč se
- 4:38vlastně ta skupina? Výzkumníků, kteří založili
- 4:41antropic, rozhodla odejít z open ise.
- 4:42Zdálo se jim, že openhite. Se tomu tématu nevěnuje dost, že
- 4:46nějak ustupuje. Dejme tomu od těch svých
- 4:48zakládajících principů, které taky původně hodně zdůrazňovaly
- 4:51bezpečnost a rozhodli se vystavět konkurenční firmu,
- 4:55která si tohle bude samozřejmě nějak jako klást jako 1 ze svých
- 4:59cílů, ale zároveň samozřejmě jako pořád operují v tom
- 5:02prostoru, který je extrémně rychlý a ve kterém potřebují
- 5:05zůstat konkurenceschopní, takže je potřeba mít na paměti, že?
- 5:10Pro spoustu lidí, které je bezpečnost a hodně zajímá a
- 5:13kteří se zajímají třeba o existenciální rizika.
- 5:15I antropic určitě má jako spoustu slabých míst a nevěnuje
- 5:19se bezpečnosti tak moc, jak by mohl nedávno o tom právě mluvil
- 5:23i dario a modely na švýcarském setkání, kde kde zde myslím
- 5:29hasabisem debatoval právě o tom, kam se je posouvá.
- 5:32Společně tam probírali právě i tu otázku bezpečnosti a to, že
- 5:37si oba vlastně myslí, že by bylo ideální a aby se AIV boji nějak
- 5:41zpomalil. Protože se i modely stávají čím
- 5:43dál nebezpečnější. A sla the slow a pase than with
- 5:48coning lee producting ive my time lines so the weting get is
- 5:51tryse a sociali, but it, with, we, covid, some, code, nation,
- 5:55dary. Určitě s lidem.
- 5:56Plateb but the reason to reasing we the reason we totiž do that
- 6:01is is you know, because we have theo politik let forrest bilding
- 6:06the saine the nalogy jádej simo your pase it's very hard hown
- 6:10informaceble greeman we're vays lot down and weesel down.
- 6:13Ale zároveň oba uznávali to, že to vlastně v tom aktuálním
- 6:16klimatu nějaké soutěže mezi čínou a spojenými státy není
- 6:20možné, takže ta bezpečnost má pořád svoje limity.
- 6:24Přesto je antropic rozhodně známý svým jako bezpečnostním
- 6:27přístupem a hlavně něčím, co nazývají responsible skyline
- 6:31policy zodpovědná škálovací politika, což je nějaký jejich
- 6:34jako manuál k tomu, jak evaluují to jestli jsou jejich modely
- 6:38bezpečné k použití a snaží se to pravidelně aktualizovat a nějak
- 6:42jako dokazovat tímhle nástrojem veřejnosti, že na to opravdu
- 6:46dbají a že mají na mysli. Všechna ta velká rizika, která
- 6:49jsou SI modely spojená, ať už to je třeba různé kybernosti, které
- 6:53by mohly vést k velkým. AK bezpečnostním útokům nebo
- 6:57třeba odvednosti v oblasti vývoje chemických a biologických
- 7:01zbraní a tak dále, takže snaží se té bezpečnosti co nejvíc
- 7:05věnovat, ale zároveň tam samozřejmě zůstává spousta
- 7:07nějakých dejme tomu slepých míst, protože pořád fungují v
- 7:11tom prostředí, které teďka v oblasti AI vidíme, a to je velmi
- 7:15konkurenční, velmi rychlé, velmi dynamické a bezpečnost.
- 7:20Samozřejmě do určité míry ten vývoj zpomaluje.
- 7:23Obecně dar jo a madei je docela zajímavá.
- 7:25Ta postava IS ohledem na to, že vlastně podobně jako kdyby zase,
- 7:30aby to nebylo vyceny, ale dary amodei má background taky ve
- 7:35vědě. On je myslím i vystudovaný
- 7:37biofyzik taky vlastně esejista, protože píše OO různých těch
- 7:42rizicích i pozitivních stránkách, umělé inteligence.
- 7:45Shodou okolností jsem vlastně rozebíral trochu tu jeho
- 7:47poslední esej se standou fortem tvým manželem.
- 7:51S kterým i píšete newsletter pokrok VAI.
- 7:54Ale na 2 stranu on jako velice aktivně spolupracoval s
- 7:58ministerstvem války, dnes dříve tedy ministerstvem obrany s
- 8:01pentagonem. Aktivním nabízeli spolupráci.
- 8:03Mají vlastně dlouhodobě nějakou dohodu?
- 8:06Za zhruba nevím 200 milionů dolarů, takže Pentagon dnes
- 8:10používáte jejich modely? Víme, že je využívali IV rámci
- 8:13té operace ve Venezuele. V současnosti v Íránu, když i
- 8:18když teď teda musí přecházet asi na služby jiné firmy.
- 8:22Předpokládám openy, k čemuž se ještě dostaneme, ale tak co?
- 8:26Co vlastně dnes víme o té dosavadní spolupráci, přičemž je
- 8:30jasné, že část těch informací bude vedena pod režimem tajné,
- 8:34že? 1 věc, co mi přijde, že je
- 8:35důležité zdůraznit je, že přesně jak jsi popisoval antropic, není
- 8:38nějak jako naivní, není ani nějaký jako pacifistický.
- 8:42Dejme tomu jako už nějakou dobu se vlastně snaží dostat do těch
- 8:45různých. Vládních kontraktů a do těch
- 8:48různých vojenských kontraktů má vlastně smlouvu se společností
- 8:51palantir, která spoustu těchto služeb právě americké vládě
- 8:54poskytuje, která je myslím z roku 2024 a zároveň dariody není
- 8:58jako nějaký idealista. On vlastně IV těch svých
- 9:01textech, jak jsi zmiňoval často popisuje třeba právě ten závod s
- 9:05čínou by řekla bych, že je poměrně patriotický a zdůrazňuje
- 9:08to, že chce, aby spojené státy vyhrály v tomhle závodě, že
- 9:13nechce dát číně žádnou výhodu. V minulosti třeba lobboval právě
- 9:17za to, aby se omezoval ten přístup číny k pokročilým čepům
- 9:21a tak dále. Takže to není tak, že by hrál
- 9:24nějakou pacifistickou stranu a že by se snažil nějak
- 9:28distancovat od spojení s americkou vládou, právě naopak.
- 9:31Výsledkem toho je právě ten kontrakt, který teda s
- 9:34ministerstvem války mají. Ta spolupráce evidentně byla
- 9:38nastavená s tím, že tam byly nějaké.
- 9:41Ty červené linie, o kterých se teď hodně diskutuje.
- 9:44V oblasti toho masového sledování AV oblasti těch
- 9:48autonomních zbraní a ministerstvo na tuhle podmínku
- 9:52přistoupilo. Takže to bych řekla, že je
- 9:54taková ta hlavní věc, kterou kterou je tam důležité, si jako
- 9:58uvědomit, že ta tahle podmínka tam v té smlouvě byla.
- 10:01To není, že by se teďka antropic snažil změnit smlouvu.
- 10:04Smlouvu se nám pak snaží změnit to ministerstvo a ty na tyhle
- 10:08podmínky a americká vláda přistoupila.
- 10:10Můžou se jí teď nelíbit, ale ty podmínky v té smlouvě byly takto
- 10:14stanoveny. A za těchto podmínek byl
- 10:16antropic ochotný a schopný ty služby poskytovat.
- 10:20To, že teďka té současné administrativě nekonvenuje, je
- 10:23absolutně legitimní. Je otázkou, proč třeba i
- 10:26předtím, jakoby souhlasili s tím, že tam tyhle výjimky byly
- 10:29zahrnuty, ale je otázka, jestli je to dostatečně velký důvod pro
- 10:34to, aby ses antropicu stal to riziko v dodavatelském řetězci,
- 10:37jak jsi právě popisoval, protože tenhle celý sport by se vlastně
- 10:40dal vyřešit tím, že by rozvázali tu smlouvu a našli si jiného
- 10:43kontraktora. Což je poměrně komplikované v
- 10:47praktickém provedení. Ty systémy už jsou asi zapojené
- 10:49do různých dalších systémů, takže to odpojení systému a
- 10:53napojení nových systémů pravděpodobně sežere nějaký čas
- 10:56sežere. To nějaké úsilí a není to možná
- 10:59jako co nejpříjemnější řešení a zároveň kód je objektivně jako
- 11:02velmi dobrý velký jazykový model, takže ty služby, které
- 11:06andropic poskytoval, pravděpodobně nebyly špatné, ale
- 11:08i byla by to pravděpodobně to nejčistší řešení odstoupit od té
- 11:11smlouvy. A prostě se vyrovnat s tím, že.
- 11:14Antropic, který není ochoten změnit ty podmínky a je potřeba
- 11:17si najít jiného dodavatele. Přehled vlastně uvést nějaký
- 11:21příklad, jako na co třeba už dnes ten kolo toho kóda mohli
- 11:25používat? Víme.
- 11:26Samozřejmě, že je řeč třeba já nevím o Venezuele, tak si můžeme
- 11:30představit asi že jak velké množství nějakých zpravodajských
- 11:33informací, nějakého obrazového materiálu a ta i já jim to
- 11:36pomůže jako rychle projít a najít něco hledají.
- 11:38Nebo. Jo z těch informací, které zatím
- 11:40byly zveřejněny, to vypadá, že to bylo, že kór byl využíván
- 11:43právě hlavně k tomu zpracovávání zpravodajských informací, což
- 11:47byl pravděpodobně předtím i ten největší limit pro nějaké
- 11:49zpravodajské operace, protože typicky člověk potřebuje spoustu
- 11:54lidí, kteří ty informace zanalyzují.
- 11:56Spousta odborníků, kteří se věnují právě americké národní
- 12:00bezpečnosti, zmiňovala, že Amerika nikdy neměla problém s
- 12:03tím ty informace shromažďovat, ale spíš s tím je třídit a
- 12:06analyzovat. Protože to je ta část, kde
- 12:09potřebuješ co nejvíc lidí a co nejvíc mozků, které nad tím
- 12:12přemýšlí. A to teď.
- 12:13Já je samozřejmě extrémně zjednodušila, takže právě to
- 12:17využití pro třízení a analýzu zpravodajských informací
- 12:20pravděpodobně bylo nejvíc rozšířené, ale mluví se IO
- 12:23nějakém jako použití při plánování operací a tak dále.
- 12:27Kde máme samozřejmě žádné konkrétní příklady, ale to
- 12:31použití tam evidentně teda bylo poměrně intenzivní.
- 12:34Zdá se, že je potvrzeno. Že ten model byl využit právě v
- 12:37těch nedávných operacích, jak ve Venezuele, tak v Íránu, což je
- 12:41zajímavé i tím, že ta operace v Íránu vlastně koliduje s tím
- 12:44sporem, kdy už americká vláda tvrdila, že antropic není
- 12:49dostatečně spolehlivý, ale zároveň ten model byl vlastně
- 12:52využíván při téhle operaci, která probíhala ve stejnou
- 12:54chvíli. No.
- 12:55A když se dostaneme teda k tomu bodu, kdy to začalo drhnout.
- 12:59A to sice tedy, kdy americká vláda nebo teda ministerstvo
- 13:03války přišlo s tím, že. Nově chtějí využívat tu umělou
- 13:07inteligenci bez nějakých výjimek.
- 13:10Prostě s ohledem na platnou legislativu.
- 13:12A tady je asi třeba říct, že ta aktuální regulace umělé
- 13:15inteligence ve spojených státech je hodně omezená.
- 13:18Ne, že vlastně oni můžou dělat cokoliv, tak tak bys mohla
- 13:23trochu tohle přiblížit. A proč právě na tom bodu, tedy
- 13:26sledování masové sledování amerických občanů, že jo.
- 13:31A. Právě ta otázka autonomních
- 13:33zbraní. Jak jsi říkal err ta
- 13:35interpretace, kolem které se to celé hodně točí, je veškeré
- 13:40zákonné použití, což podle teda amerických právníků a expertů,
- 13:45kteří se věnují národní bezpečnosti, může znamenat
- 13:46opravdu hodně věcí a je to formulace, která nabízí opravdu
- 13:50jako hodně širokou paletu interpretací, takže se nezdá
- 13:53jako dostatečná záruka, protože by právě k tomu zneužívání AIK
- 13:59masovému sledování amerických občanů na americké půdě.
- 14:02AK použití autonomní zbraní nedošlo.
- 14:06Je to samozřejmě nejisté, jak jak by se pak třeba tohle u
- 14:09soudu interpretovalo a jaké by tam byly ty výjimky, ale obecně,
- 14:13a to teda jakoby říkám s tím, že nejsem právník.
- 14:15To působí tak, že v americkém právu jsou otázky národní
- 14:20bezpečnosti hodně volné a vlastně se tam dává hodně
- 14:24flexibility té vládě, takže jsou kdyby asi typicky spíš
- 14:28podpořili. Tu vládu, než že by řekli, že na
- 14:32něco neměla právo. Takže opravdu jakoby to použití
- 14:37já jim ve všech zákonných případech se nezdá, jako že by
- 14:40byla dostatečná záruka, protože to opravdu bude ve všech těch
- 14:43případech, ve kterých si asi většina z nás představuje, že by
- 14:46to bylo zákonné a dejme tomu demokratické.
- 14:49A to mě teda přivádí k tomu, co je i ten argument daria a mode
- 14:53tím pádem jako celého antropiku. Oni argumentují tím, že to
- 14:58masové sledování amerických občanů na americké půdě.
- 15:01By bylo právě v rozporu s někým jako demokratickými principy.
- 15:05Myslím si, že tahle otázka je možná teď v Americe ještě
- 15:07palčivější právě VV kontextu toho, co se děje s agenty a
- 15:12služby ASA, co se děje s nějakým jako zatýkáním na americké půdě
- 15:19a tak dále. Takže už tahle otázka vlastně
- 15:22byla nějak jako přítomná mezi zaměstnanci, nejen
- 15:25technologických firem? Kteří tohle téma hodně řešili AA
- 15:29teďka znovu bych řekla, tak jako vyvstává.
- 15:31Právě v kontextu toho, jestli by měla mít vláda vlastně přístup k
- 15:35nástrojům, které jí tohle zlehčují a dávají jí větší dejme
- 15:39tomu pravomoci v téhle oblasti u té otázky autonomních zbraní se
- 15:45hodně vyzdvihávají i nějaké jako technické limity těch modelů.
- 15:49Ty modely pořád nejsou dostatečně přesné.
- 15:52Je tam samozřejmě i spousta jako etických otázek kolem toho, jak
- 15:55by byla určována nějaká odpovědnost.
- 15:58V případě využití AV těch zbraních.
- 16:01Ale zároveň je tam právě hodně kladen důraz na ty technologické
- 16:04limity, které který vlastně potvrzují i ty ostatní firmy.
- 16:08A ty už jsi před tím zmiňoval, že spousta dalších firem, hlavně
- 16:11teda těch technologických gigantů, se za antropic
- 16:13postavila. AA oni právě také potvrzují to,
- 16:17že ty nástroje ještě nejsou dostatečně dospělé.
- 16:20Nejsou ještě dostatečně vyvinuté proto, aby mohly být v
- 16:24takovýchhle pro takovéhle účely. Zodpovědně použity.
- 16:30Je to vlastně trošku jakoby spojené hezky IS tou eseji.
- 16:32Kterou si zmiňoval od der a mode, který psal o tom, že ty
- 16:36modely jsou v nějaké jako dejme tomu fázi dospívání teď.
- 16:39Takže opravdu ještě nejsou prostě dostatečně zodpovědné a
- 16:42dostatečně přesné pro využití v téhle oblasti, ale zároveň to
- 16:47samozřejmě vyvolává i spoustu jako otázek obecně kolem té
- 16:50etiky AA kolem pravidel toho, jestli by se vůbec někdy měli
- 16:55autonomní zbrojní systémy. Používat a což je téma, které
- 17:01dlouhodobě řeší organizace spojených národů.
- 17:04AV téhle oblasti vlastně zatím neexistuje. 0 závazná úmluva,
- 17:07která by nastavovala nějaký ten rámec pro to, jestli by tohle
- 17:12mělo nebo nemělo být legální, a to, že je spojené státy teď
- 17:15tuhle otázku tak jako velmi sebevědomě vyzdvihly vlastně do
- 17:20pozornosti celého světa a řeší jí takhle viditelně.
- 17:25S americkou firmou a velmi vehementně se snaží prosadit to,
- 17:29aby tuhle schopnost ve svém arsenálu měli.
- 17:33A pravděpodobně ovlivní i ta budoucí vyjednávání na tohle
- 17:36téma, protože o tohle by samozřejmě měli zájem i další
- 17:40státy typu čína a tak dále. Já.
- 17:42Když jsem poslouchal galeria a modelyho, jak argumentoval
- 17:45naposledy, myslím to, byl rozhovor pro the Economist.
- 17:50Britský týdeník, který mimo jiné tedy spolupracuje s antropikem,
- 17:55využíváme uměl inteligenci Claude ale.
- 17:58Dali to jasně najevo, a byl to podle nich nezávislý rozhovor
- 18:00tak a modejí tam. Vysvětloval, že to je, jako
- 18:04kdyby dodavatel třeba letadel pro americkou armádu jim řekl,
- 18:08tento stroj není připravený létat v takové AV takové výšce
- 18:11nesplňuje takovéhle technické parametry a oni mu řekli, ne, my
- 18:14si s ním budeme dělat, co chceme k tomu to připodobňovat?
- 18:19Pierre year craft u saises with year craft is not save the falt
- 18:23of flible this Robert you know out toote or to turnat thesur
- 18:27and speed with the make the systems.
- 18:30QB safe of you use that in not pretical away white there night,
- 18:34so the wall from these use like we have in made you facture deme
- 18:38to to work to workwald fords be save ford is.
- 18:41Ale samozřejmě asi takové přirovnání jako nesedí u
- 18:45technologie, kdy on dál pokračoval, myslím uváděl.
- 18:48Jako představte si s nějakým vývojem do dalších let, jako že
- 18:51máte říkal 10 milionů dronů. What the fuckhan or me of ten
- 18:55million drons instanter. You know, ten million human
- 18:58souls what the norms of the of the of the i drive in tround i
- 19:03think of behudle bus wangly ukrad bestituation were therest
- 19:07very small number pro people one person a button in of controls
- 19:13the milen drons and we need incilies quastin because we down
- 19:16one make companies word powerf of the government po also don on
- 19:21i make government. So powerful tedy tedy cena pe
- 19:25step. A 1 člověk, který to někde
- 19:27ovládá a vlastně tam už potom ve výsledku úplně ani nemusí být.
- 19:32Tady prostě nechcete, nebo my nejsme přesvědčení, že naše
- 19:35technologie jako tohle tohle je schopná ještě ukočírovat.
- 19:38Myslím si, že je taky důležité jako myslet na to, že vlastně ta
- 19:41otázka spolupráce s armádou AS využitím jako technologií ve
- 19:45vojenském kontextu je dlouhodobě kontroverzní v těch firmách i
- 19:51interně AV minulosti probíhaly různé spory právě mezi vedením
- 19:56technologických firem a zaměstnanci, kteří často
- 19:59protestovali proti tady tomuhle využití.
- 20:01Takže v něčem je tady tenhle ten spor i nějaká jako interní hra?
- 20:06Protože zájem o je talent, je samozřejmě extrémně velký.
- 20:10Ten počet lidí, kteří jsou schopni dělat nějaký
- 20:12kvalifikovaný a expertní technický i výzkum, je hodně
- 20:16omezený a ten talent se vlastně přelévá prakticky jenom mezi tím
- 20:20jako omezeným počtem a laboratoří a tím pádem i jako
- 20:24nějaká ztráta zaměstnanců kvůli tomu, že přistoupíte na
- 20:28podmínky, se kterými oni nejsou eticky v souladu.
- 20:31Je poměrně velkým rizikem pro ty firmy.
- 20:33Takže mi přijde, že vlastně to, jak se antropic teď k téhle
- 20:37otázce postavil, je i nějaký signál dovnitř té společnosti a
- 20:41zároveň i signál těm dalším společnostem a myslím si, že pro
- 20:45ty ostatní společnosti vlastně bude hodně těžké teď definovat
- 20:48tu vlastní pozici, protože je pravděpodobné, že nezanedbatelný
- 20:52počet jejich zaměstnanců a bude mít nějaké jako etické rezervy
- 20:57kolem toho. Jestli by přistoupili na právě
- 21:00třeba tyhletypy využití, která ohrožují dejme tomu nějaké?
- 21:03Demokratické principy, nebo jsou nějak jako v nesouladu obecně s
- 21:07někým jako etickými humánními principy?
- 21:09A samozřejmě to typicky nejsou lidé, kteří by měli problémy s
- 21:12tím najít si jinou práci. Pokud by chtěli z té dané
- 21:15technologické společnosti odejít, takže myslím si, že je
- 21:18tam jakoby poměrně hodně tenze, jak mezi tím antropikem,
- 21:21samotným a tím externím světem, tak zároveň i vlastně ta
- 21:25komunikace vůči těm zaměstnancům uvnitř.
- 21:27My se bavíme o sféře, teda sledování Američanů.
- 21:30A autonomiich zbraní tak překvapuje tě.
- 21:33Že tam toho není víc vlastně že antropiku vadí zrovna tyhle 2
- 21:37věci, nebo diskutuje se o jiných věcech, které by samozřejmě je
- 21:40to dohoda s pentagonem. Teda to znamená nějaký
- 21:42specifický způsob využití, ale. Vlastně přijde, že tohle jsou
- 21:46taková jako témata, která se dají i jako dobře komunikovat
- 21:49ven v něčem. A takže přijde mi, že je vlastně
- 21:52poměrně jednoduše představitelné?
- 21:54Co by to znamenalo, kdyby IV těhle oblastech použitá byla?
- 21:58Takže možná tyhle příklady jsou i jako takovým jako dobrým
- 22:01ukazatelem toho, co jsou nějaké ty jako.
- 22:04Větší hodnotové, pro které je vlastně potřeba nějaká
- 22:07celospolečenská debata? Což k čemuž vyzývá jak antropic,
- 22:10tak ty další technologické společnosti, že využití v těhle
- 22:14oblastech by nemělo být otázkou, kterou si řeší interně
- 22:17ministerstvo války nebo obrany, podle toho, jakého názvu se
- 22:22člověk drží a ale mělo by to, měla by být nějaká jako široká
- 22:25celá společenská debata o tom, jestli tohle využití je vlastně
- 22:29v souladu s tím, co si většina Američanů.
- 22:32V tomhle případě dělala obecně asi.
- 22:33Co si společnosti po celém světě myslí?
- 22:37Myslím si, že jsou tam asi i jako další další oblasti, které
- 22:41by jako mohly spadat do tadyté jako sporné zóny.
- 22:45Ale tyhle ty 2 příklady vlastně dobře vystihují, jak tu otázku
- 22:49toho jako využití ve vojenství, což bych řekla, že jsou spíš ty
- 22:53autonomní zbraně, tak tak právě těch jako demokratických
- 22:56principů a možného zneužití AIA státem, což je jako další velká
- 22:59vlastně otázka, co z toho sporu vyvstává?
- 23:03Ten spor bych řekla, že do nějaké míry je o tom, jestli
- 23:06vlastně věříme víc technologiím společnostem, že budou ty
- 23:09technologie vyvíjet nějak zodpovědně a zodpovědně, je
- 23:12prodávat a používat a nebo i si víc věříme státu a věříme, že
- 23:15stát bude schopný být nějakým jako spolehlivým obráncem těhle
- 23:19těch technologií a bude využívat v souladu s platnými zákony AS
- 23:24nějakou jako naší představou o tom, že jak by je měli
- 23:27demokratické státy využívat. Otázka, jestli jsou připraveni
- 23:32obě ty strany na ty možnosti vzhledem k možnostem těch těch
- 23:36modelů jejich nárůstu rychlému. A to je otázka.
- 23:39Hlavně není vůbec nová, že vlastně tady tohle téma už ve
- 23:42svojí eseji pár let zpátky otevřel lopot assion brenner,
- 23:47který napsal esej situacial avernes, ve které právě se
- 23:51věnoval nějakému jako potencionálnímu vývoji AI.
- 23:55A on tam právě zmiňuje to, že je možné, že dojde k nějaké jako
- 23:57nacionalizaci AI. Zestátnění, které umožní tedy
- 24:02stát mít tu plnou kontrolu nad i vývojem AA zachovávat si tím
- 24:06pádem nějakou tu jako kontrolu nad násilím a mocí, což jsou ty
- 24:10věci, nad kterými typicky stát má a má má kontrolu.
- 24:13Je otázka, jak se to bude dál v Americe vyvíjet, ale není to
- 24:17žádné nové téma. Vypadá to, že teďka teda stát si
- 24:20uvědomil, že ten i vývoj je hodně rychlý.
- 24:23Jsou to nástroje, které jsou extrémně mocné.
- 24:25A ta aktuální kontrola možná není dostatečná.
- 24:29Minimálně podle toho, jak teď aktuální americká administrativa
- 24:32jedná. Mimochodem, teda my mezi řádky z
- 24:34toho vyplývá, že nějaké masové sledování mimo spojené státy,
- 24:39které je vyhodnoceno jako v zájmu národním zájmu USA, je
- 24:43vlastně v pořádku těch technologických firem.
- 24:46To bychom se tady v Evropě měli asi jako uvědomit.
- 24:49Ano to je jako to to z té smlouvy vyplývá, že tahle tohle
- 24:54využití tam vlastně je schváleno.
- 24:57Dejme tomu. A člověk si musí připomenout
- 24:59celou tu historii, co vyplynulo, že jo kolem NSA sledování třeba
- 25:03angelem Merkel a dalších věcí, ale to je to by bylo asi
- 25:06najednou najednou debatu. Každopádně, jak popsal třeba
- 25:09americký deník new york Times, tak.
- 25:13Ta výměna těch smluv mezi právními týmy dospěla vlastně do
- 25:16bodu, kdy už nedocházely najít nějakou společnou půdu, takže
- 25:18došlo i na schůzku vlastně Petera hecketa ministra, tedy
- 25:22války amerického právě s dariou a modeím a nedohodli se.
- 25:26Antropic odešli od stolu s tím, že tedy smlouva nebude, ale jak
- 25:31bychom asi očekávali, tak by došlo na nějaké.
- 25:36Zneplatnění nebo že by najednou teda ministerstvo mělo nějakou
- 25:38lhůtu a odešlo k jiné společnosti, ale oni šli mnohem
- 25:41dál, ale došlo k tomu bezprecedentnímu.
- 25:43Tedy vyloučení antropiků z dodavatelského řetězce?
- 25:48Tak jak vnímáš ty motivace, nebo jakých jaké ty možné motivace se
- 25:52nabízejí, protože řada lidí to prostě vnímá jako jasnou mstu.
- 25:57To jak se dariodejí, zachoval, že mě nějakým způsobem v
- 26:02uvozovkách pokořil nebo jak oni to vnímají a jak vlastně
- 26:06významné tohleto pro pro ten antropic je v praxi, že jsou
- 26:10takové hodnocení a jdou kvůli k tomu soudu, že jo?
- 26:13To vnímání téhle situace jako nějaké jako osobní m 100 je
- 26:16rozhodně jako rozšířené a do nějaké míry vlastně na něm
- 26:20zakládá antropic i svojí právní argumentaci, protože 1 z těch
- 26:24věcí, ke kterým se odkazují, je porušení 1.
- 26:27Dodatku americké ústavy, který se týká právě práva na svobodu
- 26:30slova a oni se odvolávají k tomu, že že byli vlastně
- 26:33označeni jako to riziko v dodavatelském řetězci kvůli
- 26:37nějakým jako ideologickým sporům.
- 26:39Spíše než jako, protože by opravdu byly rizikem v
- 26:42dodavatelském. Řetězci, což?
- 26:44Je označují za vouk vok aktér a teda.
- 26:47Přesně tak a zdá se, že to by mohla být i právní argument,
- 26:50který má nějakou šanci na úspěch.
- 26:52I právě kvůli tomu, jak americká administrativa jednala a kvůli
- 26:56tomu, co právě třeba Peter i Donald Trump psali na sociální
- 27:01sítě, kde právě označovali andropic za vook společnost a
- 27:06útočil na ni vlastně hodně ideologicky.
- 27:09Takže tyhle tweety AA tyhle prohlášení.
- 27:13Paradoxně mohou antropiku v tom soudním procesu dost pomoct,
- 27:17protože to ukazuje právě spíš k nějaké dejme tomu osobním mstě,
- 27:20než k tomu, že by antropic nebyl spolehlivým dodavatelem té
- 27:23technologie, což, jak jsem už zmiňovala, navíc potvrzuje to,
- 27:27že ve stejnou dobu vlastně probíhala ta operace v Íránu, ve
- 27:32které byl kód použit. Evidentně s ním nebyly žádné
- 27:36problémy, takže to, že by antropic byl nějaká nebezpečná
- 27:39společnost, která se snaží ohrožovat.
- 27:41Americké národní bezpečnostní zájmy evidentně není úplně
- 27:46podloženo, takže to je součástí té antropic právní argumentace a
- 27:51je možné, že právě teda to, jak se ta debata stala poměrně
- 27:55emocionální, jim může, může dost pomoci zároveň, jak jsem
- 27:59zmiňovala už předtím tyhle výpady právě na nějaké jako
- 28:03ideologické. Ideologické preference antropiku
- 28:07pravděpodobně nejsou příliš opodstatněné, protože jak jsem
- 28:10zmiňovala. Darryho a modely rozhodně není
- 28:13nikdo, kdo by se nějak snažil narušovat americkou národní
- 28:15bezpečnost, byť víte hackset, a to tvrdí právě i kvůli tomu, že
- 28:19si klade nějaké podmínky, na které jak americká vláda říká,
- 28:23nemá, nemá nárok. To je do určité míry pravda a
- 28:26dodavatele americké vládě by neměly diktovat, jak může, nebo
- 28:30nemůže technologie používat. To je určitě riziko pro nějakou
- 28:33obranu, ale jak jsem říkala, to mělo být definováno v té smlouvě
- 28:37a. Americká vláda se.
- 28:39Proti tomu při té při tom podpisu předtím nevymezila,
- 28:42takže to je spíš chyba toho ministerstva než antropiku,
- 28:46který prostě se rozhodl poskytovat svoje služby jen za
- 28:48nějakých podmínek. A na to má nezávislá a soukromá
- 28:52společnost úplné právo. Stejně jako má americká vláda
- 28:55právo na to nechtít dodavatele, který si klade takovéhle
- 28:57podmínky, zároveň možná jako ještě k té ideologické otázce mi
- 29:01přijde důležité taky podotknout, že antropic třeba financuje
- 29:05iniciativy lobbistické, které. Nejsou úplně v souladu s tím, co
- 29:10si představuje současná americká.
- 29:12Vláda aktuálně existují dejme tomu 2 takové větší
- 29:14technologické lobbistické iniciativy, které v Americe
- 29:18působí a snaží se nějak ovlivnit výsledky nadcházejících voleb a
- 29:22antropiky právě spíš na té straně, která se snaží víc
- 29:24bojovat za nějakou bezpečnost. Zatímco je tam i agresivnější
- 29:28skupina, která se naopak se snaží bojovat proti jakékoli
- 29:32regulaci i na americkém území, a to je právě třeba iniciativa,
- 29:36kterou podporuje open i. Respektive hlavně její
- 29:41zakladatelé grogbrockem a. Sam eltman.
- 29:45Z těch reakcí některých těch velkých tyhologických firem
- 29:50vyplývá, že asi americká administrativa tady překročila
- 29:53nějakou hranici, kterou oni vidí.
- 29:56Neradi že jako přikročila k téhle v uvozovkách mstě že.
- 30:00Oni si taky potom nemůžou být jistí svým, že že tady, že se
- 30:04semknou kolem společného zájmu, když si vzájemně konkurují.
- 30:08Přesně tak, protože to vlastně vytváří velkou nejistotu v rámci
- 30:11toho. Jak moc bude chtít americká
- 30:13vláda v budoucnosti omezovat soukromý sektor?
- 30:16Což je myslím trochu paradoxní, protože republikánská strana je
- 30:20typicky asociovaná spíš s někým volnotržním prostředím AS velkým
- 30:25důrazem na právě tu svobodu slova a tak dále.
- 30:30A aktuálně se to tedy v tomhle sporu příliš neprojevilo.
- 30:33Je důležité taky podotknout, že vlastně celá tahle situace se
- 30:36vyvíjí v té chvíli, kdy antropic oznamoval nebo se minimálně
- 30:41proslýchalo to. Že má nějaký zájem o to vstoupit
- 30:44letos na burzu, což samozřejmě tahle situace jako velmi
- 30:47ohrožuje a znejišťuje celé to jako investiční prostředí.
- 30:51Takže celá tahle situace má jako poměrně negativní dopad i na
- 30:54nějaký jako nějakou ekonomickou budoucnost téhle firmy, což se
- 30:58jako dál prohlubuje tím, že byla označena teda za to riziko v
- 31:01dodavatelském řetězci, což znamená nejenom to, že by
- 31:04produkty vyvíjené antropikem nemohlo používat americký státní
- 31:07sektor. A americké vládní agentury a tak
- 31:10dále. Ale zároveň i všichni jejich
- 31:12dodavatelé, což je extrémně mnoho firem, takže by to vlastně
- 31:16jen tak jako ekonomicky úplně izolovalo tropic a zároveň mu to
- 31:22prakticky jako znemožnilo dodávat svoje služby většině
- 31:26nějakých jako amerických firem, protože nějaké vládní kontrakty
- 31:29má pravděpodobně valná většina z nich, což je možná právě i další
- 31:34důvod, proč teda antropic podporují i ty další
- 31:36technologické firmy, protože si sami uvědomují, že jsou třeba
- 31:38závislé na modelech. Od antropiku, které jsou velmi
- 31:41kvalitní a to, že by je museli vyškrtnout ze svých vlastních
- 31:45dodavatelských řetězců, by pro ně rozhodně nebylo jednoduché a
- 31:48rozhodně to nebylo nějak jako přirozené a příjemné.
- 31:50Myslím, že by to mohlo být jako existenční pro antropic.
- 31:53Já vím, že oni se nějak dušovali, že ne, ale že by
- 31:56museli. Asi do nějaké míry by to pro ně
- 31:58existenční být mohlo. Pokud by to teda opravdu jako
- 32:03došlo do té jako finální fáze, což si myslím, že teďka už jako
- 32:06většina aktérů ani nechce, aby to do takové fáze došlo.
- 32:10Ale nejsem nejsem, nejsem si tím jako stoprocentně jistá.
- 32:13Myslím si, že i ono je to vlastně jak jsi říkal, tak
- 32:15bezprecedentní situace, že nikdo neví, co přesně by to znamenalo
- 32:18i spousta jako amerických právníků, kteří se této oblasti
- 32:21věnují. Vlastně říká, že vůbec netuší.
- 32:24A jak by, jak tohle může dopadnout, protože americká
- 32:27společnost historicky nikdy nebyla označená za riziko
- 32:31dodavatelském řetězci. Tohle bylo vlastně.
- 32:35Téměř výročně určené čínským dodavatelům právě proto, aby.
- 32:39Nemohli ohrozit americkou národní bezpečnost, pokud by se
- 32:43došlo k nějakému sporu mezi čínou a Amerikou, a tím pádem
- 32:47není úplně jasné, jak jak by se tohle vlastně mělo proti
- 32:50americké společnosti uplatnit? Když se teda podíváme na PR na
- 32:55nějakou jako brand toho antropicu a jak se mu vede, to
- 32:58se dostáváme k tomu IK tomu vztahu s open i, protože bylo
- 33:03vidět, že II. Ta aplikace kód, tedy ten velký
- 33:06jazykový model, se najednou vyhoupl nahoru.
- 33:09Lidé odinstalovávali chat GPTA naopak instalovali tedy kód a to
- 33:16IV reakci teda na využití modelu open i právě americkými agenty.
- 33:22ISI další věci? No a to je teda ta situace, kdy
- 33:27sam altman, šéf open ie, který nějaké u rané fázi toho sporu
- 33:31vlastně i podporoval antropic. I down personalid and the bun a
- 33:36gonshire be forne DPA gance company rol the defensis are hus
- 33:40and ropek i most the justem, as, a, comvenion, athing green,
- 33:44really carebout save the an ih be chápete waveb in support in
- 33:47our fiders. Se najednou ukázalo, že sám
- 33:50vyjednával tedy s pentagonem a krátce poté, co tedy došlo k té
- 33:54roztržce, tak uzavřel. Oznámil, že uzavřel tedy dohodu
- 33:58s pentagonem a že on tyto 2 oblasti také tam nějak řeší a
- 34:02vypořádal je. Pak se teda ukázalo, že asi
- 34:04úplně nevypořádal tak tvůj pohled na to, do jaké situace se
- 34:10vlastně sám autman s open i tady dostal.
- 34:14Myslím, že se vlastně dostal do trošku prekérní situace, což se
- 34:16vracíme k tomu, co jsem zmiňovala kolem těch jako
- 34:18interních tenzí a kolem toho, že spousta.
- 34:21Zaměstnanců těhle technologických firem není úplně
- 34:24v souladu s tím, že by se jejich modely používaly nebo modely, na
- 34:28kterých pracují, využívaly pro nějaké jako nebezpečné
- 34:31nedemokratické účely. A on to.
- 34:33Musel dost i interní vysvětlovat potom v úplně já jsem slyšel.
- 34:36Zároveň vlastně uniklo, mimo které naopak napsal interně svým
- 34:41zaměstnancům dario a modi, ve kterém právě označil open ise
- 34:45jako. Příliš důvěřivou společnost a
- 34:48řekl, že samo aspoň vlastně jako šíří lži, protože.
- 34:51Ty záruky nemůžou být dostatečně silné, AK tomu se pravděpodobně
- 34:55jako přiklání většina nějaké jako právnické veřejnosti a
- 34:59expertů, kteří zmiňují, že ty záruky pravděpodobně nemůžou být
- 35:03dostatečně silné. Protože jak jsem právě
- 35:05zmiňovala, jsou kdyby typicky asi přihlédli spíš k té
- 35:09důležitosti národní bezpečnosti a daly za pravdu právě tomu
- 35:13ministerstvu války v jejich nějaké jako volnější
- 35:16interpretaci toho, k čemu je ta smlouva zavazuje či nezavazuje.
- 35:20Samozřejmě všechno, tohle je i jako hodně těžké analyzovat,
- 35:22protože ty informace nejsou veřejné AI jako z povahy toho,
- 35:27že se jedná o národní bezpečnostní otázky, které jsou
- 35:29velmi citlivé. Ale zdá se, že to, na co vlastně
- 35:33asam altman přistoupil, pravděpodobně je slabší, než to,
- 35:37na co by přistoupil antropic. A právě proto ten kontrakt
- 35:39dostal. Ono by v něčem jinak i vlastně
- 35:42bylo nelogické, proč antropic by nemohl tyhle nějaké jako
- 35:45technické a. Právní záruky dostat a proč by
- 35:49je openy dostat mohlo, pokud by opravdu teda dostal ty podmínky,
- 35:54které antropic chtěl a open a jestli o mně řeklo a dostalo je
- 35:57tak to by to by možná ještě teda dál nahrávalo tomu, že antropic
- 36:02je takhle jako trestán spíš za nějakou tu jako ideologickou
- 36:07jinakost, než za to, že by byl špatný dodavatel.
- 36:10Ale to je všechno, jak říkám, ještě jako poměrně nejasné a
- 36:14celá ta situace je taková. Hodně zamotaná.
- 36:16Ještě v téhle souvislosti my s vyvstala ta fotka pořízená na i
- 36:21summitu v Indii, kde teda bylo řada těch tech lídrů i
- 36:25amerických, drželi se společně za ruce a vedle sebe stát kryli
- 36:28darioch a sam altman, kteří se odmítli chytit za ruce.
- 36:33Tak nevím, říkal jsem si, co co jsi u toho říkal, nebo kdyby
- 36:37jsem chtěla doplnit nějaký komentář k tomu, asi to
- 36:40potvrzuje nějakou dlouholetou. Rozluku, nebo odlišné náhledy.
- 36:47Vzhledem k tomu i kam dospělá open ai od neziskové
- 36:50společnosti, která chtěla nějak garantovat bezpečný vývoj AIK
- 36:54tomu, kam ji dostal sama altman. Myslím si, že to určitě ukazuje
- 36:58nějakej jakoby rozdílný přístup k tomu, jak chtějí ty svoje
- 37:03společnosti vést IK tomu jako kam si myslí, že by měl i vývoj
- 37:06zpět. Zároveň si myslím, že tam jako
- 37:09se možná už začínají projevovat i nějaké jako animozity, které
- 37:12můžou být jako jak osobní, protože.
- 37:14Samo altman IA darey amadei se samozřejmě znají.
- 37:16Ale zároveň i nějaké jako animozity, které třeba vychází
- 37:19právě z toho prostředí, ve kterém operují, ve kterém
- 37:22vlastně podporují do nějaké míry jako jiné strany, kde sam altman
- 37:26do určité míry jde velmi na ruku a té současné americké
- 37:30administrativě, kterou nějak aktivně podporuje, aktivně s ní
- 37:33spolupracuje a daru a modie v téhle oblasti možná o něco
- 37:37obezřetnější a má určitě do nějaké míry jako odlišné názory
- 37:41na to. Jak by se KI mělo přistupovat?
- 37:45Byť andropky také není jako společnost, která by vyloženě
- 37:48lobbovala za regulaci a proti některým těm jako regulačním
- 37:52snahám na úrovni jednotlivých amerických států se vymezili tak
- 37:59přece jen. Dlouhodobě zmiňují to, že nějaká
- 38:03regulace AI bude potřeba a že ty systémy jsou do určité míry
- 38:09velmi nebezpečné AV budoucnosti pravděpodobně budou ještě
- 38:13nebezpečnější. A ty pravidla by neměly
- 38:17nastavovat soukromé společnosti, ale spíš jako demokraticky
- 38:20zvolená vláda, která se snaží nějak reprezentovat zájmy občanů
- 38:25a toho daného státu. Si teda vzal IZ té debaty,
- 38:29kterou jsi zmiňovala v úvodu demise hasabise s dariou a
- 38:32modeím, kde jiném, do jaké míry je to public relations, ale to
- 38:36vyznívalo tak prosím, regulujte nás, jako fakt to jde rychle
- 38:39kupředu a potřebujeme regulace. Jak říkám, jakoby určitě to má
- 38:43své limity, protože za antropic také jako velmi intenzivně
- 38:47investuje právě třeba do lobbistických služeb různých
- 38:50firem, které se snaží. Dejme tomu nějak omezit ten ty
- 38:54regulační rámce, které se teď na různých jako v různých státech a
- 38:58spojených amerických státu i rozjíždějí, ale do nějaké míry.
- 39:02A je pravda, že regulace, která by.
- 39:06Ty jednotlivé snahy nějak jako sjednotila a vytvořila nějaký
- 39:09společný rámec. Vy paradoxně, mohla to fungování
- 39:13těhle firem trošku jako zjednodušit a vylepšit, protože
- 39:18fungovat na tom trhu, který bude jako extrémně roztříštěný s
- 39:22různými regulačními iniciativy vámi v různých státech, které se
- 39:26nebudou úplně plně překrývat. AA samozřejmě se spoustou jako
- 39:30různých regulací po celém světě, nejenom ve spojených státech.
- 39:34Bude bude pro ty firmy komplikovanější, než kdyby měly
- 39:37spojené státy 1. Unifikovanou regulaci typu.
- 39:41I. A který, který by jim vlastně
- 39:44ulehčilo to tu compliance. To, že tedy opravdu dodržíte
- 39:50pravidla všude a nemusí splňovat nějaké jako konkrétní specifické
- 39:55podmínky, které si určitý stát stanovil.
- 39:59A to je možná právě na tom podstatné a dobré, že se tomu
- 40:04dostává větší pozornosti. Právě díky tomu sporu.
- 40:07Kámoš se dostal, že najednou si asi i větší část americké
- 40:10veřejnosti začíná uvědomovat, že tady se bavíme o nějakých
- 40:15podmínkách, které jsou v utajených smlouvách, ale týkají
- 40:17se potenciálně celé společnosti a toho, co ten režim.
- 40:21Americký, jehož. Který se taky proměňuje s tou
- 40:26americkou administrativou Donalda Trumpa.
- 40:29Celá řada prostě věcí, které platila, dnes už neplatí.
- 40:34Řada těch neformálních pravidel neplatí, takže je jako důležité
- 40:36tuhle věc diskutovat AA věnovat tomu větší pozornost, že jo?
- 40:41Jo to to určitě a zároveň jako ta ta neprůhlednost té situace
- 40:47je prostě hodně komplikovaná. To, že vlastně veřejnost nemůže
- 40:51úplně jako plně evalovat. Co se tam vlastně děje, je
- 40:53závislá na informacích o těch jako zainteresovaných aktérů AA
- 40:57to, že přesně ta právní interpretace prostě není dost
- 41:00jasná. To, že vlastně nevíme, jak ty
- 41:04případy, které už teda teďka asi jsou podány.
- 41:07Dopadnou, ale zároveň ani jak by jako nějaké hypotetické případy
- 41:10dopadly, protože. Hodně záleží, k čemu by prostě
- 41:13soud přihlédl. A co by dejme tomu
- 41:14prioritizoval? Vytváří takovou jako zmatenou
- 41:18dynamiku. Dejme tomu, kdy vlastně všichni
- 41:20se snaží k tomu nějak vyjádřit, ale je je tam spousta hypotéz,
- 41:24které se můžou a nemusí potvrdit.
- 41:26Protože pak to končí u toho, že je tady sam altman dary a modely
- 41:30pete hexet to všichni říkají, věřte mně.
- 41:33Na základě čeho mají američtí američtí občané věřit, že jo,
- 41:36když nevidí ty tyhle papíře? A zároveň, jaky právě jak jsme,
- 41:40jak jsme se bavili to zák to zákonné využití může být prostě
- 41:43interpretováno hodně způsoby a tím pádem to není úplně jako
- 41:48termín, na který by se dejme tomu ty společnosti měli chtít
- 41:52spoléhat, pokud jim opravdu záleží na tom, aby ty jejich
- 41:54systémy nebyly zneužity k účelům a ke kterým oni je použít
- 41:58nechtějí. Ať už teda to ten sport dopadne,
- 42:01jako bude soud, nebo se třeba nějak vyrovnají, jako je tam
- 42:04potenciál na nějaký precedent a teď to nemyslím v tom přísně
- 42:07právním slova smyslu. Ale v těch vztazích kolem právě
- 42:11regulace IAIV těchhle citlivých tématech.
- 42:14Nastavuje to nebezpečný precedent v tom, že americká
- 42:17vláda by vlastně mohla vybírat vítěze v nějakých jako
- 42:21ekonomických tématech, protože jak jsme, jak jak většina z
- 42:25posluchačů asi ví, ten já i sector je poměrně koncentrovaný.
- 42:28Je tam relativně málo firem, které jsou opravdu na té špičce,
- 42:32jsou schopné poskytovat. Ty nejspičkovější a je modely a
- 42:36tím pádem. A to, že by americká vláda mohla
- 42:40de facto jako zlikvidovat 1 z takových společností, nastavuje
- 42:44opravdu nebezpečný precedent i pro ty ostatní, protože pokud
- 42:48tak říkajíc jako nepolebí prsten a ne a ne a nesplní všechno, co
- 42:51po nich americká administrativa bude chtít, tak jsou sami v
- 42:54ohrožení toho, že ten jejich byznys model bude nějak jako
- 42:57zničen, takže to je jako velmi nebezpečný precedent.
- 43:01Zároveň, jak jsem zmiňovala, je tam vlastně i zajímavá ta otázka
- 43:04té jako etiky kolem používání autonomních zbrojních systémů.
- 43:08Která je stále nedořešená a tahle situace pravděpodobně teda
- 43:11ne úplně pozitivně přispěje k rozřešení.
- 43:14Tady té toho etického dilematu, protože naopak spíš ukazuje to,
- 43:19že a Amerika se teda snaží volit nějaký jako velmi pragmatický
- 43:22přístup toho, že. Chtějí prostě ty systémy
- 43:27používat tak svobodně, jak je mohou, aby zvýšili svoji nějakou
- 43:30jako vojenskou dominanci. Takže nějaký vývoj v téhle
- 43:35oblasti? V mezinárodním právu
- 43:37pravděpodobně nebude příliš pozitivní.
- 43:40A zároveň to podle mě pořád jakoby zvedá tu důležitou otázku
- 43:44toho, komu teda vlastně při vývoji těch jako
- 43:47nejpokročilejších je modelů věřit a kdo je ten jako správný
- 43:52garanci nějaké bezpečnosti a toho, že ty modely nebudou
- 43:55zneužívány a myslím si, že to jako hodně vychází z nějakých
- 43:59jako hodnotových základů každého jedince.
- 44:01Každý má jiné preference kolem toho, jestli věří víc soukromým
- 44:05aktérům nebo. Nebo státu a ale tahle otázka
- 44:09tam vlastně asi zůstane. Tak nějak vysvětlit celým tím
- 44:12sporem AA bude pravděpodobně čím dál důležitější s tím, jak se i
- 44:19modely stanu nějakou jako důležitější součástí světové
- 44:23ekonomiky, ale zároveň našich společností a budu je nějak
- 44:27ovlivňovat a proměňovat. To je to je důležitá zmínka.
- 44:31Myslím si, že v případě Evropy, evropské unie a našich hodnot
- 44:35tak tady se klade daleko větší důraz na regulaci.
- 44:39Možná někdy až příliš říkají. Kritici, že ta inovace je tím i
- 44:44zbržděná, ale já bych rád využil toho, že vedle té americké
- 44:48reality taky dobře znáš i tu evropskou unijní legislativu.
- 44:54Tak když se tady bavíme právě o platných zákonech, které mají
- 44:57vlastně nějak limitovat to užití umělé inteligence v armádě, ale
- 45:03nejen v armádě, tak dá se nějak přiblížit, jak se liší ty 2
- 45:08reality? Co dnes jako vlastně dnes můžou
- 45:10ty americké technologické? Společnosti s velkými jazykovými
- 45:14modely nebo teda generativní. A já je už dělat a co by už
- 45:17evropské unii narazilo? Protože tady máme digital act a
- 45:21další legislativu. Regulace je tady samozřejmě jako
- 45:24o hodně přísnější AI právě tím, že máme jako regulaci, která se
- 45:27týká vyloženě čistě AIA to AOAI, který už má části, které jsou
- 45:34nyní v platnosti. Zároveň je tam poměrně ještě
- 45:36dost částí, které vlastně v platnost nevstoupily.
- 45:39Ten akt oiay klasifikuje modely podle rizika takže a jsou tam
- 45:44nějaké jako využití, které jsou jako velmi nízkorizikové a tím
- 45:47pádem mají nějakou nižší regulatorní zátěž a pak jsou tam
- 45:50taky využití, které jsou vysoce riziková.
- 45:52Nebo dokonce zakázaná a proti zakázané.
- 45:55Samozřejmě platí to, že jsou zakázané, kam by právě možná
- 45:58spadali nějaké ty využití nějakého jako masového
- 46:01sledování, protože do těch zakázaných využití právě padá
- 46:05třeba nějaký jako socialscoring a podobné věci.
- 46:08Takže to by třeba v evropské unii projít nemohlo, ale je
- 46:12důležité si připomenout, že akt o je vlastně řeší hlavně to
- 46:16civilní využití. A ty vojenské otázky tam vlastně
- 46:19vůbec nejsou zahrnuty AA. I obecně jako otázky nějaké
- 46:23bezpečnosti jsou tam a ty bezpečnosti myšleno jako využití
- 46:27AI bezpečnostními složkami jsou tam poměrně jako viaty z toho z
- 46:31té regulace, protože to byl nějaký zájem členských států.
- 46:35Si tohle nechat spíš jako ve své vlastní diskréci AA nemít tuhle
- 46:40využití zahrnuto v téhle celoevropské regulaci.
- 46:43Takže co se to třeba toho vojenského využití týče, tak ta
- 46:46regulace tam vlastně taky jako neexistuje.
- 46:48Sa samozřejmě se asi na i aj budou vztahovat ňáké jako další
- 46:52platné zákony v každém členském státu, ale ten akt AIS samotný
- 46:57se v téhle oblasti nevěnuje, takže to je taky zatím jakoby
- 47:02otevřená nedořešená otázka a zajímavostí třeba je, že vlastně
- 47:06v Evropě vznikají startupy a společnosti, které se právě
- 47:11tomuhle vojenskému vyžití věnují.
- 47:13A začínají být v téhle oblasti i poměrně úspěšné, třeba startup
- 47:17helsing je. Poměrně známý tím, že právě
- 47:20používá AI pro různé vojenské účely, prodává je nejen členským
- 47:24státům evropské unie a je jako v téhle oblasti hodně úspěšný.
- 47:28Takže. I na evropském trhu vlastně teda
- 47:32ty vznikají teďka i technologie, které jsou vyloženě zamýšleny
- 47:35pro pro využití ve vojenském kontextu.
- 47:38Ty už jsi i dvakrát myslím zmínila ty mezinárodní jednání,
- 47:41které se kolem nějaké regulace těch autonomních zbraní vedou.
- 47:46Samozřejmě jsou tady i už docela staré ty kampaně jako stop kill
- 47:50robots podpořené i jakoby v mými vědci.
- 47:54K já vím, že teď bylo i nějaké další kolo jednání začátkem
- 47:57března, že tam je jako deklarovaná podpora některých
- 48:00zemích, ale vlastně je to v bodě, kdy to nevypadá, asi že by
- 48:04mohla být brzy na stole nějaká dohoda.
- 48:06Že by se. Stejně jako já nevím.
- 48:08Technologie laserů, které vypalují lidem oči, nepoužívala
- 48:12nebo se regulovaly jaderné zbraně, takže by se došlo k
- 48:15něčemu podobnému v případě autonomních zbraní, tedy zbraní,
- 48:18které by v tom úplně plně autonomním módu byly schopné
- 48:22zabíjet bez toho, aniž by tam byl člověk, který by to nějak
- 48:25schválil. Je jako otázkou, jak je daleko
- 48:27tahle jednání pokročí a je tam nějaký cíl dojít k nějakému
- 48:32nástroji, který by tuhle tohle využití reguloval do 09-2026?
- 48:36Myslím. Ta jednání už jsou vlastně
- 48:39poměrně dlouhodobá. Tahle otázka je, jak jsi říkal
- 48:41už tady jako vyvstává delší dobu, a to vlastně už do nějaké
- 48:46míry jako předcházelo. Tady tomuhle AI boomu, který
- 48:49právě teď zažíváme a tys to vlastně nebyla shoda na tom, že
- 48:53tehdy. Se to možná nejevilo tak tak tak
- 48:55reálně jako jako dnes, že že jakoby ti prozřetelní lidé,
- 48:58kteří věděli, kam ten vývoj AI spěje, na to upozorňovali.
- 49:03A dnes, když už ty technologie, protože technologicky už to
- 49:05vlastně možné je. Tak myslím, že dřív jako to
- 49:08prostě bylo hodně sporné téma, že vlastně každý si trošku chtěl
- 49:12nechat tu diskrici, proto si sám rozhodnout, jak přesně by tuhle
- 49:17technologii využíval. Myslím, že rok zpátky byly i
- 49:21nějaké třeba diskuze o tom, jak třeba něco, co by se už možná
- 49:26dalo klasifikovat jako autonomní zbrojní systém, používá třeba
- 49:29Izrael v rámci konfliktu na v Palestině.
- 49:32Takže to to, že to jako je už aktuální vojenská realita, je
- 49:36rozhodně pravda. Ale ta shoda jsem na tom
- 49:39pravděpodobně bude hledat velmi těžko a zároveň je velkou
- 49:42otázkou, jestli by k nějaké závazné úmluvě vlastně
- 49:45přistoupili. Ty reálný klíčoví aktéři,
- 49:48protože k nějaké shodě třeba i dojít může.
- 49:50Ale samozřejmě se takové dohody nemusí účastnit třeba právě
- 49:53spojené státy, čína, rusko a další velké státy, které by
- 49:57mohly mít zájem na tom tuhle technologii používat v
- 50:01konfliktech a operacích, kterých jsou aktuálně součástí.
- 50:05A asi, když zmiňuješ, když zmiňuješ rusko a čína, tak pro
- 50:07ně je to. Může být takový signál takové
- 50:09potvrzení, že ano, Amerika to taky chce využívat plnohodnotně
- 50:14bez nějakých omezení, takže my taky jestli.
- 50:17To správně to každopádně a je je otázkou, jestli americká strana
- 50:23nějaké jako takticky pracuje s tímhle signálem a nebo jestli to
- 50:27prostě jen teď vyžívají v tom sporu AA 0 taktika zatím není a.
- 50:34Tím pádem spíš přispívají k nějakému širšímu a širšímu
- 50:38přijetí toho, že. Autonomní zbraní systémy prostě
- 50:41budou a součástí bojů budoucnosti a pravděpodobně teda
- 50:46i současnosti a nedá se s tím nic dělat a získala se prostě AV
- 50:51téhle otázce nenajde byla. To nějaká součást i závodu ve
- 50:54zbrojení? Že jo asi.
- 50:56To každopádně. Závěrem by mě zajímalo, když
- 50:59ještě odhlédneme i od tohodle konkrétního sporu, tak jestli
- 51:02vidíš nějaké třeba i větší. Ještě otazníky je možná rizika v
- 51:06tom krátkodobém horizontu právě s ohledem na to, jak teď se.
- 51:09Na tu technologii vrhnou státy a budou ji různě využívat, tak
- 51:13třeba i nějaká rizika nebo tady potenciály, o kterých není tolik
- 51:17řeč, ale už by měla měla být vedena o tom veřejná debata.
- 51:20No myslím si, že by určitě měla být víc vedená veřejná debata o
- 51:23tom, pokud je i tak moc na technologii, jak někteří sílu z
- 51:26těch společností tvrdí a bude se vyvíjet tak rychle, jak spousta
- 51:31lidí v tomhle oboru očekává, tak co je vlastně ta strategie, jak
- 51:35se na tuhle budoucnost připravit, protože připravenost
- 51:38na úrovni státu teď rozhodně není dobrá a je potřeba se nějak
- 51:43zamýšlet nad tím, jak teda bude vypadat společnost, která bude
- 51:46tak ovlivněna těmihle velmi mocnými a velmi schopnými?
- 51:51Modely a jak bude vypadat ekonomika, která bude formovaná
- 51:54touhle technologií? Myslím si, že možná jako 1 z
- 51:58mála států, které které se k tomuhle tématu nějak věnují, je
- 52:01velká Británie, která se snaží nějak jako poměrně strategicky
- 52:04přemýšlet nad tím, jak si vybudovat suverenitu.
- 52:07Dejme tomu v rámci téhle oblasti teď sami nemají společnost,
- 52:11která by je modely vyvíjela, která by byla čistě britská.
- 52:14Google deepmind má sídlo v Londýně, ale.
- 52:17Jak už jsme zmiňovali součástí konglomerátu alfabet.
- 52:20Který americký, ale snaží se nějak přemýšlet nad tím, jak si
- 52:23nějakou jako nezávislost vybudovat a jak vlastně svojí
- 52:25ekonomiku na tuhle budoucnost připravit?
- 52:29Myslím si, že tyhle úvahy by se měly rozšířit i do ostatních
- 52:32států a konkrétně třeba právě do států evropské unie, které
- 52:35vlastně zatím žádný jako vlastní přístup KI modelům na ten
- 52:40nejvyšší úrovni nemají. A jak teď vidíme?
- 52:43Já se velmi politizuje a stává se opravdu a jako tématem, které
- 52:48je. Velmi jsem jako senzitivní, jak
- 52:50bezpečnostně tak politicky. AV posledních týdnech sledujeme
- 52:55to a jak se velmi dynamicky proměňuje americká politická
- 53:00situace, americký přístup k různým nepřátelům, ale i
- 53:03spojencům. AA ta závislost evropských států
- 53:08na americké AI je aktuálně absolutní a to, že tahle
- 53:14technologie bude velmi formovat naši budoucnost.
- 53:17Ale my nad ní nemáme žádnou kontrolu.
- 53:20Je podle mě věc, které bychom se měli věnovat víc.
- 53:23A nějak se víc zamýšlet nad tím, jak ať už smluvně či jinak
- 53:26ošetřit to, že pokud se a stane nějakým jako motorem ekonomik
- 53:31budoucnosti, tak my nejsme vlastně vyšachováni z té situace
- 53:35jen kvůli tomu, že jsme se rozhodli svojí budoucnost
- 53:38zakládat na na jako nejistých vztazích s americkými i
- 53:42společnostmi a nekonkurenčním technologickým sektorem v
- 53:47evropské unii. Který takovéhle mošty prostě
- 53:49není schopen vyvíjet. My se bavíme o evropské
- 53:53technologické suverenitě. Naskakujeme celá série dalších
- 53:56otázek, ale budeme muset nechat na někdy příště hostem podcastu
- 54:01týdeníku respekt cade guista Christina ford.
- 54:04Já moc děkuju, že jsi přidal pozvání a udělal sis čas.
- 54:07Moc děkuju. Díky, že věnujete pozornost
- 54:09respektu našim článkům, jejich audio verzím i podcastům, jako
- 54:13je právě cajkist na slyšenou se brzy těší Štěpán zatláček.