Latest / Дональд Трамп и все-все-все / 17. Мир ИИ: спорим с Леонидом Волковым о том, каким он будет
Transcript
- 0:00Привет, это Евгений фельдман и выслушаете 17 выпуск моего
- 0:04подкаста Дональд Трамп и все все все и что это за выпуск?
- 0:08Я на прошлой неделе не сумел выпустить подкаст, потому что
- 0:12готовил к зданию альбома это Навальный и ну както не такой
- 0:16был стрим, чтобы из него готовы куски для вас нарезать, но
- 0:18теперь выпуск получился и ещё какой мысном волковым обсудили
- 0:23искусственный интеллект и то, как он будет влиять на.
- 0:27Общество на экономику, на политику, на политический
- 0:29процесс, на регуляцию получилось ужасно интересно, невозможно
- 0:33вообще не замечать, что наш мир стремительно меняется.
- 0:37Искусственный интеллект и в первую очередь языковые модели
- 0:40это всё ещё несовершенный инструмент.
- 0:42Я когда объявила о стриме с волковым, столкнулся с
- 0:44неожиданно большим количеством реакций.
- 0:46Ну, дескать, ну а чего они до сих пор карту с ш а не могут
- 0:50правильно нарисовать? Чего ты про них рассказываешь?
- 0:52Ну чаджи 5 сейчас это 5 по посещаемости сайт в мире, выше
- 0:56Википедии. То, что он не завершен, не
- 0:59означает, что десятки миллионов людей не обращаются к нему за
- 1:03советом каждый день, а значит, даже если вы не верите в его
- 1:07способности, вы не можете. Знать, что люди в массе,
- 1:09инвесторы, политики верят, и значит, он особенно с учётом
- 1:14этих несовершенностей влияет на наш мир.
- 1:18А значит, у нас такие технологического и человеческого
- 1:20уже есть заметные эффекты, которые стоит обсудить и
- 1:23кажется, волков, человек, который и в технологиях
- 1:26разбирается, и политикой занимается напрямую.
- 1:30Это идеальный человек для такого разговора мы с ним обсуждали эти
- 1:36проблемы больше полутора часов. Слушайте.
- 1:39Добрый вечер. День утро всем привет жень, а ты
- 1:43меня конечно ужасно и безбожно перепродаёшь это какието я
- 1:49понимаю, что это какойто закон жанра в этом в вашем ютубе я
- 1:52чтото давно отстал от технологий и от ютьюба отстал я чтото не
- 1:58понимаю, когда я последний раз был в эфире, у меня на самом
- 2:01деле какието вот первые полгода выдались ужасные, напряжённые с
- 2:05точки зрения зрения всей моей основной работы.
- 2:07Я очень сильно подзабил. Проведение соцсетей на публичные
- 2:11появления, но ужасно рад твоему приглашению.
- 2:14Мы, кстати, начали договариваться тоже буквально,
- 2:17типа в феврале или марте, то есть реально полгода.
- 2:19Январе января мы с тобой 1 раз мы ждали, когда уже стало
- 2:23понятно, что эта тема вот. А, ну я ужасно рад возможность
- 2:27поговорить на эту тему, но я хочу предупредить наших дорогих
- 2:31зрителей, что вы будете слушать. Заинтересованного дилетанта, я
- 2:36сам не пользуюсь активно инструментами.
- 2:39Я, конечно, слежу за тем, что с ними происходит и как они
- 2:43развиваются, но у меня нет какого то большого такого
- 2:46личного практического опыта скорее есть.
- 2:49Интерес и есть там некий общий жизненное предоставление о том,
- 2:53как всё это может работать, как всё это может развиваться, но я
- 2:56не являюсь глубоким экспертом в сфере и какието вещи, которые я
- 3:02говорю, могут показаться очень наивными.
- 3:05Скорее сегодня интересно послушать Евгения, который
- 3:09обещал принести. Ряд конкретных кейсов, новых,
- 3:14вот применение технологии и обсудить с ним эти кейсы.
- 3:18У вас на глазах собрать вашу реакцию, ответить на какието
- 3:21ваши вопросы вместе пофантазировать о том, как.
- 3:26Изменит. Наш мир в целом, но в контексте
- 3:31сегодняшнего обсуждения, как он изменит в политику в ближайшие
- 3:34несколько лет политику, политические кампании все вот
- 3:37эти штуки, которые действительно меня очень сильно интересуют.
- 3:40Да, я на самом деле хотел ровно с этого и начать такое, знаешь,
- 3:45небольшой анкетной части. Ну вот знаешь, что как бы
- 3:47определить для зрителя нашу позицию?
- 3:49Мы с тобой оба не эксперты по искусственному интеллекту не
- 3:52живём в долине, не рассказываем с горящими глазами про
- 3:57беспилотный автомобиль и всё такое.
- 3:58Поэтому как раз интересно, вот ты сказал, что ты редко
- 4:01используешь искусственный интеллект на практике, а если у
- 4:04тебя какието практические кейсы в работе вопервых вот.
- 4:07В. Политической, да, в первую
- 4:09очередь практики и 2 вопрос который.
- 4:11Вытекает, а что ты вообще думаешь?
- 4:13Вот самому на самом общем уровне про его перспектива.
- 4:16Ну вот там то, что называется, ты сторонник теории, какого
- 4:20значит судного дня и что искусственный интеллект тех нас
- 4:22поработить или нет? Ну давай я сразу сделаю какие то
- 4:26дисклеймеры относительно моей общей системы взглядов.
- 4:29И возможно, что у нас сразу половина зрителей отвалится,
- 4:34потому что моя система взглядов крайне скучная.
- 4:38Я не считаю, что нас искусственный телек пороботит.
- 4:42Я не считаю, что искусственный интеллект выйдет из под контроля
- 4:46и. И как значит станет новой формой
- 4:49жизни? Я даже не верю, что он както
- 4:52радикально поменяет общество. При этом с другой стороны, я
- 4:58верю, что это не фейковая революция, потому что за
- 5:01последние 20 лет все, кто следил, видел множество.
- 5:06Вот этих циклов очарования разочарования появляется новая
- 5:09технология. Она объявляется мессией.
- 5:13Считается, что эта технология изменит наш мир навсегда.
- 5:18Мир не станет таким, как прежде, и вообще всё, чем мы должны
- 5:22заниматься, мы должны заниматься этой технологией.
- 5:24Всё остальное херня вокруг неё возникает рыночные пузырь.
- 5:28Ажитация туда прибегает множество жулья, разумеется, а
- 5:32потом всё это взрывается. Мы видели это вокруг крипты,
- 5:37безусловно, которая. Там, с которой связывались
- 5:42какието, невероятные надежды, мы видели это вокруг дау н FT.
- 5:46Мы видели это вокруг метавирус. Мы видели это вокруг эдитив там
- 5:523 д печати и так далее. Ну видели ещё там много, много
- 5:56раз. Это не значит, что это были
- 5:58плохие вещи. Этим очень классная и нужная
- 6:02вещь и крипта очень классная и нужная вещь.
- 6:04Но вот после вот этого бума, а раздутых ожиданий мир более или
- 6:12менее возвращался туда, где он был до этого бы ожидания, а
- 6:16технология находила и занимала свою нишу, командизировалась,
- 6:22становила обычный крипта, используется в определенных
- 6:25типах транзакции переводов очень активно.
- 6:28Очень нужна, но это не штука, которая полностью изменила наше
- 6:32представление о деньгах и похоронила мировую финансовую
- 6:34систему братанвудскую. Или как там она?
- 6:39Трёхмерная печать и соответствующей технологии очень
- 6:43сильно изменили. Некоторые сферы производства, но
- 6:47в каждом доме, в каждом в каждой подсобке не появился 3 д
- 6:51принтер, и мы по прежнему не печатаем себе ложки
- 6:54вилкипистолеты и что там ещё обещали?
- 6:58Мы будем с утра до ночи печатать.
- 7:00При этом в определённых сферах промышленного производства эта
- 7:03технология заняла свою нишу. Это новый важный сегмент.
- 7:07Ну там NFT да вообще пока никуда не взлетели, волна пришла, ушла
- 7:13и осталось скорее ничего не нанесла.
- 7:17Осталось там же где было. А вот обычный цикл там хайпа
- 7:23вокруг новых технологий выглядит так, приходит большая волна,
- 7:27уходит большая волна. И все остается так же, как было
- 7:30или почти так же, как было открывать.
- 7:32Технологии занимаются ничего, это не всегда так яркая и
- 7:36наглядное исключение это, конечно, интернет.
- 7:39Там тоже была волна, был бум доткомов конца 90, когда значит,
- 7:44были гиперинфлированные ожидания, которые обернулись
- 7:49крахом разочарованием. Но то, что нанесло этой волной,
- 7:53оказалось гораздо больше, чем. Тонкий слой песочки это реально
- 7:58оказался просто новый уровень. Ну, типа развитие человеческой
- 8:02цивилизации? Да, мы всю нашу жизнь живём в
- 8:05интернете и без интернета мы уже не умеем жить нашу жизнь, о чём
- 8:09свидетельствуют многочисленная рассказы наших любимых и
- 8:13уважаемых соотечественников, которые сейчас всё чаще и чаще
- 8:17открывают для себя. А как в обще жить когда?
- 8:21Значит, мобильный интернет, подключённый такси и вызвать
- 8:23банкомат не работает с другом, не встретиться.
- 8:27Там ты пришёл в одну шоколадницу, он пришёл в другую
- 8:29шоколадницу. В этот момент интернет
- 8:31отключили, и вы уже не можете найтись в большом городе, потому
- 8:35что. Надо вспоминать, как это вообще
- 8:38было спрашивать дорогу и ходить, значит, по бумажным картам.
- 8:41Вот ну, то есть там интернет революция, да она.
- 8:46Радикально изменил нашу жизнь. Вот моё ощущение нынешнее,
- 8:51возможно я его скорректирую. Возможно, я не прав заключается
- 8:54в том, что там эй ну развивается.
- 8:57Разумеется, это закон человеческой психики.
- 8:59Вот как такой же большой бум с гипера надутыми ожиданиями,
- 9:04который, безусловно, в какойто момент закончатся лопанием
- 9:09пузыря, после которого, безусловно, останется тон
- 9:13толстый слой песка. Он будет достаточно толстый тол.
- 9:17Чем после крипты но тоньше, чем после интернат это не будет.
- 9:22Вот какой то следующий прямо вот сделал да, следующий
- 9:27промышленный революции это не будет.
- 9:29Что то такое, что вот мы скажем, окей, там наша жизнь полностью
- 9:33изменилась и радикально не такая, как она была 30 лет
- 9:37назад. В до интернет, но эпоху вот мне
- 9:41кажется, я не умею это доказывать.
- 9:42Это мои ощущения. Основные на моём жизненном опыте
- 9:45и каком то понимание развития технологий, что это так не
- 9:48будет, что мы будем жить, что что найдёт себе множество
- 9:53применений и множество ниш. Вымрет некоторое количество
- 9:57профессий Чечни, через это проходило, мы пересаживались с
- 10:01гужевого транспорта на автомобильный, всего какихто 100
- 10:04лет назад и ещё много чего такого было.
- 10:07Да некоторое количество профессий умрёт, изменится
- 10:12довольно большое количество технологических процессов,
- 10:15вырастет новое поколение детей. Как вот выросли диджиталнейтиз,
- 10:19которые там с 4 лет с планшетом и телефонами для которых.
- 10:23Естественно. Использовать их всегда во всём
- 10:26также вырастут эй нэйтивс, которые будут ориентироваться на
- 10:30эй в очень многих своих повседневных жизненных
- 10:33процессах. И в этом смысле да я и
- 10:36плотнейшим образом войдёт в свою жизнь в нашу жизнь
- 10:39командизируется во многих отраслях нашей
- 10:42жизнедеятельности. Но при этом это не будет.
- 10:44Вот какойто полный слом представления о том, как мы
- 10:47живём, который случился с интернетом, когда
- 10:51революционировались, революционизировалась реальная
- 10:54сама жизнь. Как мы общаемся, как мы
- 10:56работаем? Да там появился там класс людей.
- 11:00Это сотни миллионов людей во всем мире, там диджитал номер,
- 11:03да, люди, которые вот там работают удалённо это целый
- 11:06новый стиль жизни. Вот не было такого, да там до
- 11:101995 года или двухтысячного. Люди ходили на работу, а потом
- 11:15вдруг стало ясно, что сотни миллионов людей можно не ходить
- 11:18на работу и при этом работать. И это изменило там миграционные
- 11:22потоки, только устроен мир. Да, там люди стали там
- 11:27переезжать в разные места. То как люди общаются, то как
- 11:29люди заводят семьи, то как люди знакомятся?
- 11:33Да ну, то есть там на 95 год на 2025 год как бы.
- 11:38Радикально изменилась? Картина Того, как люди встречают
- 11:43своих половинок, или. Или другие части своих политику
- 11:49вот как бы. Это полностью изменило, типа
- 11:55фундаментальные штуки про то, как устроено человеческое
- 11:58общество. Вот в этом смысле мне кажется,
- 12:00что я революция так далеко не зайдёт, но это там важный
- 12:04технологический перелом, к которому мы должны быть
- 12:06готовыми. И, конечно, многие, кто ухватил
- 12:09эту волну, оседлал правильно, понял?
- 12:13Втом числе в политике многого добьются и многие, кто правильно
- 12:16сможет предсказать и понять, каким образом в тех или иных
- 12:20сферах в итоге использования устаканится, встанет коммодити
- 12:26ну заработают на этом много денег, создадут новые успешные
- 12:29бизнесы, компании уже создают и они большие молодцы.
- 12:34Классно это всё завораживающе замечательно, как вот эти
- 12:38классные замечательные технологии входят нашу жизнь?
- 12:40В этом смысле технологический оптимист мне нравится.
- 12:43Я люблю новые технологии, конечно.
- 12:46Я наверное с тобой в чём согласен в чёмто нет, давай
- 12:48порядку. Я уже сейчас, наверное, чувствую
- 12:51небольшие улучшения своей жизни. Ну какиенибудь там
- 12:53сложносочинённые поездки, которые я очень люблю,
- 12:55планировать стало существенно легче даже предыдущей версии чат
- 13:00джипи кажется, ну справлялся вот со всякими.
- 13:02Походными такими задачами типа найди мне все интересные
- 13:09магазины хардкорного винила. Если ехать из Гамбурга в вахи,
- 13:14условно говоря, вот буквально с этим он справляется и начинает
- 13:19справляться всё лучше на глаза. И ну как мне кажется, как раз из
- 13:24этого вытекает и высокая вероятность ну существенных
- 13:27изменений в быту. А дальше вот я с тобой както не,
- 13:32ну как бы когда ты говоришь, что там отлежит когото работы, я с
- 13:35этим согласен, когда ты говоришь, что это вот повлияет
- 13:38на. Многие какие профессии, занятия
- 13:42и так далее. Я с этим согласен, просто мне
- 13:43как раз кажется, что проблема в том, что это новая революция или
- 13:48даже допустим, если ты прав, не до революции она происходит
- 13:51тогда, когда человечество толькотолько упёрлось в.
- 13:55Последствия предыдущей революции да вот ну слово, разумеется,
- 14:00сходимся в том, что интернет, который пронизывает вот
- 14:02буквально всё вокруг нас прямо сейчас, да, мы с тобой из разных
- 14:06стран вместе выходим в эфир, и нас смотрят люди из ещё.
- 14:10Ну, я не знаю. 50 других стран это невероятно это было
- 14:13невозможно представить. В таком формате, да и так
- 14:16сделано на коленке ещё даже не то, что 30 лет, а 10 лет назад.
- 14:19Да ну 15. По крайней мере Так вот
- 14:23человечество сейчас. Да, если уж мы говорим про
- 14:25политику, упёрлось впоследствии это знает революция.
- 14:28Оказалось, что люди не способны переваривать информацию, когда
- 14:32её им дают алгоритмы. Да, социальные сети в первую
- 14:35очередь, ну и так далее. Да, мне кажется, что в этом
- 14:38смысле вот в социальном чаджи кие.
- 14:41Языковые модели да, это такой такие социальные сети на
- 14:44стероидах. Да Ну вот все сейчас обсуждают
- 14:46их. Как сказать необходимость
- 14:49потакать пользователю на все его вопросы?
- 14:53Да вот вчера была статья о том, как значит какойто человек,
- 14:57который не закончил старшую школу в с ш, а стал значит
- 15:01рассказывать чаджи 5 какуюто идею математическую теоремы.
- 15:05Революционной чаджи 5 стал отвечать, что?
- 15:08Да, это невероятный переворот и человек как бы еле выпал с
- 15:11трудом из этого вот цикла, как бы подкрепления бесконечного, а
- 15:16при этом, к сожалению, человечество как бы
- 15:18недоотрефлексировав предыдущую волну проблемы, входит.
- 15:22В эту предыдущую волну проблем, выросших из предыдущей
- 15:25революции, да входит в эту новую ну революцию или недореволюцию,
- 15:30вот прыгая головой вперёд это естественное свойство людей.
- 15:34Да, я здесь согласен, но опять же найти много раз, цитировал.
- 15:37Про это говорит и эту мысль, кажется, мне очень мудрый такой
- 15:40призмой. Да что человеку свойственно.
- 15:43Искать новое свойственно вот бросаться в неизведанно.
- 15:48И поэтому искусственный интеллект будет исследоваться,
- 15:51несмотря на риски, как это было, не знаю, с затомэнергетикой и
- 15:55энергией ядра и так далее. Да как это было раньше с
- 15:58конвейер с чем угодно, с любыми другими технологиями.
- 16:00И поэтому остаётся в этой части это принять.
- 16:04Но даже вот в сегодняшнем дуде дороничев рассказывает, что Ну
- 16:08вот мы хотели сделать сервис, который позволял бы всем
- 16:11определить, что что ты смотришь в интернете.
- 16:13Это создано с помощью искусственного искусственного
- 16:15интеллекта фейка или нет? И вот на это денег мы не нашли.
- 16:18Да какието прикладные вопросы, когда банки приходят там
- 16:22верифицируют документы, вот такие сдачи мы им позволяем
- 16:25решать, помогаем решать. Но не вот на уровне
- 16:28фундаментально подхода к развитию к исследованию этих
- 16:31технологий, и поэтому вот. Я как раз опасаюсь такого
- 16:36идеального, что что давайте сегодня начнём, я хочу
- 16:41поговорить об этом разговоре, разделить на 3 части.
- 16:44Сначала мы поговорим про финансы, как тот сектор, в
- 16:48котором стадная коллективное поведение уже сейчас кажется,
- 16:52зависит от Того, что делать искусственный интеллект и при
- 16:55этом. Ну как бы всё равно является да
- 16:58политическим, общественным, потом непосредственно про
- 17:01политику, а потом про какието ценностные вопросы, которые из
- 17:04этого вытекают. Вот давайте финансов начнём.
- 17:08Тут влияние искусственного интеллекта, кажется, невозможно
- 17:10не замечать. Я тебе перед этим стримом
- 17:13переслал статью мета Левина человека, про которого я много
- 17:15раз рассказывал клумниста блумберг, который пишет о том,
- 17:18как. Чаджи 5 вот в этой вот своей
- 17:22манере подкрепления с удовольствием отвечает на
- 17:25вопросы пользователей, которые просят подсказать какойнибудь
- 17:28мемсток это такая нынешняя большая тенденция?
- 17:32Да, когда люди там на какомнибудь рэддите,
- 17:34сговариваются и либо для Того, чтобы помешать тем, кто шортит и
- 17:37ставит против какихто популярных компаний, либо просто чтобы
- 17:40заработать, сговариваются вместе покупают какието не очень
- 17:43популярные, не очень дорогие акции, те начинают с этого резко
- 17:46расти. Всё это превращается.
- 17:47Ну в такой вот мем да в виральный как?
- 17:50Процесс, который сам по себе разгоняется тем, кто раньше на
- 17:53него заскочил, позволяет реально много заработать.
- 17:55Не знаю. 100 икс вот пишет, что чаджи 5 в этом своём режиме
- 18:01подкрепления. Ну, конечно, со всеми оговорками
- 18:03про то, что это очень рискованно.
- 18:05Тем не менее тем, кто спрашивает у него, как бы мне заработать,
- 18:08стоить на бирже, подсказывает эти самые мемстоки и, что важно,
- 18:12подсказывают болееменее одни и те же акции разными людям,
- 18:16которые приходят к нему с разными вопросами.
- 18:18И меня вот эта история, честно говоря, жутко пукает.
- 18:21Ну то есть у самых глупых людей, у которых при этом есть какието
- 18:24свободные ресурсы, которые они готовы тратить, появляется такой
- 18:27грандиозный и бездушный и незаметный.
- 18:30Да, амплификатор их поведения вот этого самого стадного
- 18:34поведения. Ты согласен с этим, что это само
- 18:36по себе может приводить к довольно серьёзным последствиям?
- 18:39Да, тут. Я я прочитал эту статью, я
- 18:42прочитал эту статью. Она довольно очевидна.
- 18:45Ну то есть она. Грубо говоря, это следующая.
- 18:49Я там очень коротко предскажу основную мысль.
- 18:52Поведение акций во многом зависит не от фундаментальных
- 18:57факторов, там от прибыльности компании и так далее.
- 19:00А от ожиданий игроков относительно их будущего
- 19:05поведения. Грубо говоря, если игроки
- 19:07коллективно какимто образом? Договорились, да неформально,
- 19:12разумеется, но вот какимто коллективным образом поверили,
- 19:15что эти акции будут расти. Такое предсказание становится
- 19:18обычно самосбывающимся, потому что они начинают только
- 19:20покупать, и они начинают расти. Вот и в эру искусственного
- 19:24интеллекта очевидно, такие вещи будут прояснить гораздо чаще,
- 19:27потому что. Искусственный интеллект,
- 19:29обученный делать предсказания, оптимизирующий рост доходности
- 19:34портфеля очень быстро научатся, так сказать, между собой
- 19:38договариваться. Да эй, агенты хедж фондов, грубо
- 19:43говоря, разумеется. Довольно быстро вкурят, что они
- 19:48могут разгонять стоимость портфелей.
- 19:53Покупая одно и то же вот ну, разумеется, в математика.
- 19:56Ну как бы они. Ну да да это так я не понимаю
- 20:03почему из этого делают какието апокалиптичные выводы.
- 20:07Ну то есть почему это плохо я человек, который предельно от
- 20:11этого далёк не играю на бирже никогда не собирался, для меня
- 20:14всё это вот далеко. Вот именно по этой причине,
- 20:18потому что я понимаю, что это всё.
- 20:20Ну казино, которому движут психологические факторы, а не
- 20:23фундаментальное. То есть там дело не в том.
- 20:28Как у какой компании хорошо ведут дела, все покупают,
- 20:31пройдут акции ради. Того, чтобы заработать на росте
- 20:36стоимости курса акций, они чтобы получить дивиденды от Того, что
- 20:40компания классно работает, продаёт много автомобилей или
- 20:43стирального порошка и поэтому выплачивает акционерам
- 20:46дивиденды, так и. В этой ситуации, ну как бы.
- 20:52На самом деле предсказывать ничего невозможно, потому что
- 20:55всё зависит от поведения пользователя.
- 20:59И меня не заводят и не. Вставляют все эти бесконечные
- 21:06там обещания. Что может Сейчас мы сейчас
- 21:10научим техническому анализу распознавать какието фигуры и
- 21:13вы, значит, сможете там прекрасно зарабатывать.
- 21:18Поэтому. Я от этого ужасно далёк.
- 21:22И поэтому у меня вообще вот это всё както не пугает и не
- 21:25возбуждает. Ну хорошо, да, очевидно, с
- 21:27помощью агентов этот технический анализ станет ещё более
- 21:33техническим, самозабывающееся пророчество станут ещё более
- 21:36самосбывающимся. Ну да, более хороший
- 21:40инструментарий. Для вот таких коллаборативных
- 21:42действий. Появится то, что делали с гейм
- 21:46стопом, как бы специально теперь у агентов будет получаться более
- 21:52или менее само собой. То за что в же.
- 21:55Проблема это же дисбаланс в экономике.
- 21:57Ну то есть мы привыкли. Все таки это же настоящая
- 22:01экономика этого производства. Машины стирального порошка не
- 22:04очень сильно зависит. Ну.
- 22:06Слушай, рынок наказывает тебя за неэффективность, да за плохие
- 22:09отчёты раньше так было, да, когда всётаки этим занимались.
- 22:12Скорее профессионалы эти самовые фонды, да чем больше вот это
- 22:15размыкается связка да чем больше акций цена акций зависит от
- 22:20Того, что стал сейчас джипяти или Того, что там не знаю, люди
- 22:24решили, значит собраться и пошутить и там чтото купить и
- 22:28так далее. В том, что она уже давно и так
- 22:30не зависит. Ну, то есть ещё раз, как, как
- 22:32написано в этой самой статье, которую ты мне прислала я.
- 22:35Тщательно прочитал. Надо честно сказать, что цена
- 22:38акций давно уже не зависит от фундаментальных факторов.
- 22:41От Того нам как проформит компания и так далее, а зависит
- 22:44от ожиданий, рыночных агентов. Ну окей, эти рыночные агенты
- 22:48станут там типа более прошаренные.
- 22:51Да, а то что Альфа зиро вот мой последний в жизни эфир на
- 22:58технологические темы был в передаче облако с гари
- 23:02каспаровым про альфазира в прошлом на тот момент как раз
- 23:05альфазира вынесла машина шахматный компьютер, потом
- 23:08вынес, сначала в го сначала вынес.
- 23:13Более сложное существительной точки зрения игру, а потом,
- 23:16разумеется, вынести из всех шахматы.
- 23:17Ну как много раз обсуждалось то, что альфазира достиг там
- 23:21рейтинга 3 200 или 3 300, при том что рейтинг мама карался на
- 23:252 830, не мешает людям играть в шахматы, там получать
- 23:29удовольствие от шахмат и так далее.
- 23:31Это да, там более совершенный инструментарий, он лучше умеет
- 23:36играть в шахматы. Ну да, эти штуки тоже лучше
- 23:39умеют играть на бирже, чем люди, ну люди перестанут, будут эти
- 23:43штуки играть. Ктото научится на этом
- 23:45зарабатывать деньги и что? Ну не знаю тебе не кажется, что
- 23:50это в целом опасная штука вот тем, что нас создаёт этот
- 23:53бесконечный цикл подкрепления да, подкрепление неосознанного
- 23:56поведения. Вот Дарья из нашего чата на
- 23:59патрионе спрашиваю даже шире про это.
- 24:01Ну вот как это, как и повлияет на отношения людей в социуме?
- 24:05Да не возникли ли целая большая группа людей, которая не умеет
- 24:08общаться с нормально с другими людьми, но зато подсели?
- 24:11Вот это абсолютное принятие, да? Там не ходит терапевтом, чтобы
- 24:15значит с близкими улучшить взаимодействие.
- 24:18Да, а вот значит пишет чатик, а чатик говорит Да да ты молодец,
- 24:21это во всём прав ну. Возникнет, ну возникнет опять же
- 24:25фильм этот. Ложиться так уже если британцев,
- 24:27да? Да да, фильм фильм сири был,
- 24:30когда ещё сколько лет назад, 20 лет назад.
- 24:34Как он назывался этот фильм, ну где чувак общается со своей
- 24:36Сирией, влюбляется в неё и так далее.
- 24:39Ну а там а появились видеоигры, и все нам пошли, значит
- 24:43показывать подростков, которые бегут от реальности.
- 24:45Виртуальную реальность сидят, значит там 20 08:00 в сутки,
- 24:51значит видеоиграх. И вот вместо Того, чтобы
- 24:54сталкиваться с трудностями реального мира, убегают в
- 24:56виртуальный мир и проводят там всю свою жизнь.
- 24:59Это ужасно потерянное поколение человечеству хана, потому что
- 25:02вот значит. Вот Так вот ерунда же, но не
- 25:05случилось. Подожди почему.
- 25:06Ерунда подожди я здесь выставлю, конечно, адвокатом дьявола, но
- 25:09это же не совсем так. Ну вот это вот карикатурном
- 25:12виде, в котором тогда говорили озабоченные мамаши в фондах.
- 25:16Значит, защиты детей интернета, конечно, это чушь, но мы видим
- 25:20на практике, что, например. Ну я не знаю в той же Америке да
- 25:23молодые избиратели 18 25 да например, там парни резко правее
- 25:29девушек и вероятно, это происходит как раз за счёт.
- 25:32Вот этих вот пузырей подкрепления в социальных сетях,
- 25:34да моносферы и так далее. Очевидным образом это начнёт
- 25:38проявляться. Ну во всём там, начиная от я
- 25:40фотографию, я тоже нет. Я тут выставлю как сексист, но
- 25:45главное. Это всё является проявлением не
- 25:48интернет пузыря этого фундаментальной причины, что 18,
- 25:5125 парни глобально сильно тупее девушек и в силу целого это
- 25:57биологических причин. Вот и поэтому.
- 26:02Их ловят там коллективный андерритейт с арсенаном
- 26:05маркаряном, но и это пройдёт честное слово.
- 26:10Меня это вообще не пугает лобанов.
- 26:12Окей, Леонид, у нас сегодня выступает, мы, как знаешь, как
- 26:15ангелы дьявол да вот сегодня, видимо, будем.
- 26:18Ну хорошо, я буду тебе рассказывать какието
- 26:20настороженные истории. Ну хорошо, давай перейдём к
- 26:23более масштабную историю про экономику вообще.
- 26:25А на прошлой неделе я рассказывал зрителям про.
- 26:29Отчёт о количестве рабочих мест, который был не очень хорошим в
- 26:32июле в с ш а и из которого изза пересмотра предыдущих отчётов по
- 26:37ещё в ещё худшую сторону, там уволил полу статистического
- 26:41бюро. Интересно, там на самом деле то,
- 26:44что весь тот небольшой прирост примерно кажется на 79, если они
- 26:48путают 1000 рабочих мест за. Месяц в огромной экономике это
- 26:51не очень много. Весь этот небольшой прирост
- 26:54происходит в 2 областях. Вопервых здравоохранение, и тут
- 26:57всё понятно. Да, население стареет.
- 26:58Скорее всего, эта часть американской экономики будет всё
- 27:02распухать и распухать, и исследование искусственного
- 27:05интеллекта. Вот если эти 2 части убрать
- 27:08экономика уже уходит, минус да уже растёт безработица.
- 27:12Хорошо, но тут виноват всётаки наверное не риа а дедушкины
- 27:16тарифные войны. Конечно, ну то есть нельзя
- 27:19сказать, что значит искусственный интеллект уже
- 27:21съедает рабочие места в остальной экономике.
- 27:23И значит, понятно, что делают скорее пошлины и общий хаос, но
- 27:27всётаки. Ну наверно можно предсказать,
- 27:29что рынок труда радикально изменится в ближайшие лет 10.
- 27:33Вот и дороги фудудя и ты сегодня да говоришь про не знаю
- 27:36таксистов да. Там не знаю.
- 27:39Ну таксистов, таксистов он бьёт не a и их убьёт солйвинг.
- 27:45Ну что же проявление? Я уже ну в другом давайте это
- 27:50всё знаешь как когда вот ещё про один пузырь, у нас же тоже был
- 27:54свой пузырь. Я вот говорил про н ф ти у нас
- 27:57были нанотехнологии. Тоже значит, была большая волна,
- 28:02которая не оставила за собой ничего.
- 28:05Но как сказать с учётом Российской специфики, если там в
- 28:09мире приходит такая волна, потом уходит и остаётся слой песочка,
- 28:13то тут остался слой уголовных дел и немножечко зарубежной
- 28:16недвижимости. Анатолий Борисович Чубайса но.
- 28:19Как бы. Было был такой тренд, давайте
- 28:23всё называть нано, потому что это модно и но это деньги дают.
- 28:31В железнодорожники заметили, что ширина железнодорожного рыльца
- 28:3472 миллиона нанометров, поэтому значит.
- 28:37Тоже стали претендовать на выделение денег из из росна была
- 28:43такая шутка, ну как бы нет, нет, таксистов драйвинг появились
- 28:49задолго до генеративных моделей, и всю это бума это прикладная
- 28:54математика. Это это просто очень понятная,
- 28:57сложная, классная, интересная математика.
- 29:01Вот и да, она увольняет таксистов вообще не жалко
- 29:04таксистов. Ну хорошо, хорошо, Господи,
- 29:07окажемся скорее в этом прекрасном обществе с
- 29:12безусловным базовым доходом и четырёхдневной рабочей неделей,
- 29:16где люди будут творчески реализовываться и работать
- 29:20терапевтами друг у друга. Ну и 4 я считаю, что это какоето
- 29:23неизбежное производное что если там на западе и не только
- 29:28десятки или сотни миллионов человек потеряют работу.
- 29:32Вёз Ну да да ну типа увеличение. Как это приведёт к г б д?
- 29:36Ну в смысле увеличение производительности труда?
- 29:39Ну как у тебя происходит? Увеличение производительности
- 29:41труда, то есть там ту работу, которую делала 10 человек.
- 29:44Теперь эту же работу делает один человек, ну там вместо.
- 29:49Грубо говоря, там 10 таксистов и одного автомеханика, который
- 29:55ухаживает за машинами, останется один автомеханик, а 10 таксистов
- 29:58не останутся. Значит, у тебя как бы ввп при
- 30:01этом не меняется. Глобально он растёт, потому что
- 30:04в какихто отраслях чегото ускоряется и улучшается.
- 30:07Ну значит, там Чечни 7 нужна пятидневная рабочую неделя нужна
- 30:10четырёхдневная значит. Чего мы же говорим прямо сейчас?
- 30:14За доход ты ты же главная апологет этого самого значит.
- 30:18Теория, как там его достаточно банденса это правда излишества,
- 30:22вот оно и настанет как бы. А чего подожди.
- 30:26Не знаю слушай, Ну вот мы прямо сейчас в новостях каждый день
- 30:29очевидно да видим новости про войну.
- 30:31Война происходит в регионе, в котором ну, в общемто социальные
- 30:34пертурбации возникли в том числе потому, что шахтёры потеряли
- 30:37рабочие места достаточно во взрослом возрасте, когда
- 30:39переобучать их уже было невозможно.
- 30:41Да, мне, например, буквально там не знаю Шахты рассказывали в 14
- 30:45году в под Донецком. Ветер умоляю, ну слушай, ну
- 30:48слушай, война возникла то что Путин.
- 30:51Извиняюсь, я тут это понятно. Ну то есть да шахтёры социальный
- 30:55лифт. Ну да ну когда?
- 30:5780 годах в Англии сдохла угольная промышленность.
- 31:01По той же самой причине война из за этого не возникло, потому
- 31:05что, наверное, Маргарет Тэтчер немножечко не Путин, хотя,
- 31:07наверное, тоже Маргарет Тэтчер могла придумать себе историю,
- 31:10что всех этих шахтёров послать ну снова завоёвывать Индию под
- 31:14лозунгом бомбе наш. Ну както вот этого не случилось.
- 31:20Слушай, но тем не менее это были, мягко говоря, там
- 31:22травматичные времена для огромного доли населения да,
- 31:26которая там до сих пор влияют на устройство британской политики
- 31:30риторики там и так. Далее Да да, ктото ктото да
- 31:34переживает это были для когото лихие 80 ктото написал много
- 31:38плохой. Немножко ну то есть.
- 31:40Подожди раз американскую политику говорим да ну буквально
- 31:44там приход Трампа это производная кризиса в жалоба
- 31:48поясе, да? Ну да Да да да ну как бы это
- 31:52происходит в Чечне всё время. Ну то есть как мы мы с тобой
- 31:55начали с разговора про гужевой транспорт и извозчиков.
- 31:58Ну как бы Ну да. Ну то есть да, весь этот
- 32:02коллективный Детройт стал никому не нужен.
- 32:04Да, там совсем скоро это всё будут собирать совсем роботы.
- 32:09Да, это всегда травматично, и это челлендж, с которым
- 32:13человечество сталкивалось сначала промышленной революции,
- 32:16типа последние 400 лет приходит технологии, которых глобально
- 32:21делают жизнь лучше, глобально улучшают мир, глобально
- 32:26становится лучше, но в среднем. А реально комуто становится
- 32:29лучше, а комуто становится хуже тем, комуто становится хуже,
- 32:31становится очень плохо. Моногородам в позднем Советском
- 32:38Союзе ржал он поясу в Америке. Сейчас шахтёрскому бирмингему в
- 32:4380 эцетерацетера это как раз не новый челлендж это старый
- 32:49челлендж. Мы с этим сталкиваемся там
- 32:51каждое поколение с 1700 года или с какогото ну там с парового
- 32:56двигателя точно, наверное, даже сказких мануфактур.
- 32:59Ну как бы вот. И и вовсе не обязательно из
- 33:03этого войны начинать, да? Я всётаки продолжу здесь с тобой
- 33:06спорить, и ко мне присоединяется наши слушатели Наталья з в
- 33:11чатике смотри, вот мы же видимся, как сейчас происходит.
- 33:14Одновременно, кажется, с начинающимися не столько изза и
- 33:18кризисом. На рынке рабочих мест да на
- 33:22рынке труда. Очевидно, в это время
- 33:25одновременно происходит с натуральной золота лихорадка
- 33:28Цукерберг платят по 100 миллионов или больше подъёмными
- 33:32я инженерам, которые готовы перейти в его компанию нвидиа
- 33:35становится самой дорогой компанией в мире.
- 33:38И это тоже на самом деле радикально меняет экономику.
- 33:42Да вот на этой неделе была не чувствительно поразительной.
- 33:44На самом деле, если вдуматься новость, которая тоже скорее про
- 33:47Трампа, чем про технологию, но тем не менее да про то, что мви.
- 33:50И где согласились отдавать американскому государству
- 33:53американскому бюджету 15% выручки от торговли с Китаем в
- 33:57обмен на разрешение продавать в Китай?
- 33:59Вот те самые чипы, на которых можно исследовать и развивать
- 34:03искусственный интеллект, но это же эта ветка новостей
- 34:07противоречит. Мне кажется этому прогнозу.
- 34:09Да, чем сильнее концентрация власти, ну и там денег и.
- 34:12Ресурсов. В руках всё меньшего и доли да.
- 34:17Там корпораций. И сращивание их с государством
- 34:21тем меньше. Вероятно, у этого государства
- 34:23желание вот этот самый безусловный базовый доход
- 34:26вводить, если только не случатся какието серьёзные волнения.
- 34:31Да вот этих самых уволенных таксистов.
- 34:33Ну это у американского государства, которое.
- 34:35Давай честно скажу пизданутая на всю голову.
- 34:38Ну то есть всётаки которая типа там радикально отличается от
- 34:41любого нормального государства, там совсем другое по своему DNA
- 34:46по тому, как оно устроено любое европейское государство
- 34:50реагирует именно безусловно базовым доходом.
- 34:53Ну то есть там. Да, в нынешних реалиях пока что
- 34:57там пособиям по безработице программному переобучения,
- 35:00смягчения вреда и поисками какихто достаточно там простых,
- 35:05понятных, скучных политических решений.
- 35:08Ничего делать с этими людьми, которые мимо, которых, так
- 35:11сказать, проехал на. Солдрайнг.
- 35:14Машине рынок труда ещё раз мой понял, что это было это есть,
- 35:18это будет и нормальное государство.
- 35:21Более менее привыкли к этим работать.
- 35:23Но то, что на технологических прорывах, кто то денег
- 35:25зарабатывать, но, разумеется, зарабатывать они
- 35:27технологические. Какой ты оптимист, все таки я
- 35:33знаю это про тебя, но каждый раз вот в таких темах удивляюсь,
- 35:38потому что меняется новости очень пугают.
- 35:40Мне кажется, что в области сейчас столько денег, что и это
- 35:43не. Помнит какой то момент, да?
- 35:46Это не вина компании, да, я абсолютно капиталист.
- 35:49Я согласен, что ну видео возможность заработать и
- 35:53возможность совершить технологический прорыв компании.
- 35:56В общем, вполне вправе пользоваться всеми доступными
- 35:58ресурсами. Но поскольку вот этот самый
- 36:00момент слома да совпадает с. Трампом, который готов что
- 36:05угодно делать, чтобы наскрывать свои ошибки в других областях,
- 36:08чтобы ну переделывать просто базовые принципы мировой
- 36:12торговли. Да и там про отказ от пошлины и
- 36:14про вот всётаки невмешательство в государства.
- 36:17Да, меньше года прошло с выборов, перед которыми они
- 36:20орали, что харис коммунистка, и теперь они отжимают, значит, у
- 36:23бизнеса. Прибыль да ради лицензии?
- 36:27В общем, ну это же все таки. Ну окей, у меня уже закончились
- 36:32вопросы, я понимаю, что я не согласен, но мне кажется, что
- 36:34этот природ такой тотальный ни вот технологический.
- 36:38Да как то, с чего мы начали, а именно ну как сказать системный,
- 36:42да на уровне вот Того, как работают финансовые политические
- 36:45институты, как они взаимодействуют друг с другом.
- 36:47Что да понятно, если обсуждать Да нет, слушай в Америке
- 36:54потеряют работу некоторое количество.
- 36:58Дальнобойщиков таксистов на ну там джуниор программистов.
- 37:05Очень, очень много. В Индии блин не знаю 20
- 37:11миллионов сотрудников всех поддержки работу потеряют.
- 37:14Вот это да. Вот это катастрофа, но чтото мне
- 37:17подсказывает, что эти проблемы Дональда Трампа не очень
- 37:19волнуют. Вместе с Марком закергом и сэм
- 37:24мальтм. Вот он расскажет волновайте там
- 37:27рынок, который типа умирает и умрёт завтра это вся ну в смысле
- 37:33точнее умирает. А где человек умрёт и будет
- 37:36заменён. И это, безусловно, весь касс
- 37:39номер саппорта, а также продажи и так далее.
- 37:41Там уже сейчас понятно, что i calles ну вся 1 линия, что
- 37:48продашь, что поддержке? Ну типа работать лучше, чем
- 37:52белковый человек. Ну просто эффективнее больше
- 37:55продаёт, лучше отвечает на вопросы и так далее.
- 37:57Всё кого проехали. Ну то есть как бы.
- 38:02Ну это как ни странно, там отнюдь не по американскому рынку
- 38:05труда. Ну так хорошо, если мы глобально
- 38:09с тобой говорим, но это же катастрофические изменения,
- 38:11разве нет? Я думаю.
- 38:19Что? Пересадка с лошадей на двигатель
- 38:24внутреннего сгорания было большим шоком.
- 38:27Окей, там в населения тогда было меньше, но в процентах как бы
- 38:32вот вот сколько людей было занято в индустрии транспорта,
- 38:36связанные со всем от кормления лошадей, там выращивание овса,
- 38:41доборки навоза. Я думаю, что там процентах от.
- 38:46Ворк форса это были более драматические изменения, а при
- 38:50этом тогда ещё не было там ни социальных систем, ни пенсии, ни
- 38:53пособия, ни социальных гарантий, ни говорят, что там про
- 38:57безусловные базовые доходы. Там, если покопаться, может изза
- 39:00этого 1 мировая и началась. Ну хорошо, давай с другой
- 39:07стороны, чуть вернёмся к технологиям и раз уж ты такой
- 39:09оптимист, давай проверим от себя.
- 39:13Заявление совершенно другим тоном на этой неделе Дэвид секс
- 39:16лояльный Трампу инвестор, который в Белом доме сейчас
- 39:18работает в специальном советником по искусственному
- 39:20интеллекту и крипте, написал огромный пост.
- 39:23Я не буду его пересказывать, но в целом он пишет, что.
- 39:26Пока всё идёт по наилучшему сценарию вместо резкого прорыва
- 39:31в качестве искусственного интеллекта.
- 39:32У одной компании есть 5 примерно одинаково развивающихся моделей.
- 39:35Они конкурируют друг с другом, создают ну такие небольшие, да,
- 39:39постепенные улучшения для всех, ну и так далее.
- 39:42Более того, он пишет, что. Судя по тому, как эта сфера
- 39:45называется последний год, вероятно, что одно из
- 39:47супермоделей вот этого самого ag i да тотального искусственного
- 39:51интеллекта с сильным или тем, что называется универсальным
- 39:54искусственным интеллектом не будет, а будет много прикладных
- 39:57и этот. Ну понятно да.
- 39:59Означает, скорее всего, и что не случится.
- 40:02Ну вот этого сценария значит порабощения человеческого
- 40:05искусственным интеллектом. Ты получается, согласен с этим?
- 40:07Да что вот в этом смысле отрасль идёт по хорошему треку.
- 40:11Я Дэвида сакса не читал. Все высказывания его, которые
- 40:16попытались мне на глаза, позволяли мне его
- 40:19идентифицировать как конченного мудила, но процитированная тобой
- 40:23высказывания таком виде кажется мне верным на 100% я с ним
- 40:28согласен на 100%. Да, это так есть вполне себе
- 40:32здоровое технологическая конкуренция между несколькими
- 40:35крупными игроками. Да после Того, как будут сняты
- 40:38какието лоухэнг fords, а дальше пойдёт специализация, будет
- 40:42множество прикладных моделей для тех или иных сфер там от
- 40:47корпоративных финансовых дом, медицинских исследований.
- 40:50Я и модели будут лучше, чем один эска управлять финансами малого
- 40:56бизнеса и лучше, чем лаборант. Предсказывают анализ делать,
- 41:02делать анализы и предсказывать заболевание и так далее и так
- 41:05далее. Это огромный рынок, который
- 41:08сейчас только вот пока что только жук лавкой потрогал все
- 41:12на фоне этих рынков и этих возможностей.
- 41:15Вот во всём как бы на фоне тех денег, которые закопаны в
- 41:20прикладных отраслях и в каком то интерпрайз секторе все вот эти
- 41:25развлечения сэзы моделями, которые делают смешнее ответы на
- 41:31вопросы рисуют смешнее картинки. Это всё о маленькое и ерунда
- 41:36полная. Гонка и битва идёт вот за
- 41:39огромные деньги в энтерпрайзе и в какихто очень понятных
- 41:44прикладных вещах эта гонка ведет себя вполне по рыночным законам.
- 41:49Не видно, что они это нарушаются, они в какой искать?
- 41:53Я вообще не верю. Мне кажется, что вот эти все
- 41:56алармистские разговоры на тему Того мы перестали понимать, как
- 41:59оно там внутри работает это херня, она просто масло.
- 42:03Мы хорошо понимаем, мы хорошо понимаем, какая то математика,
- 42:08что эти модели закладываются, почему они работают так как
- 42:11работают. И там, как у них получается, так
- 42:17сказать, вот там быть такими крутыми мы это хорошо понимаем.
- 42:20Я не вижу никаких оснований считать, что человечество
- 42:25потеряет контроль над значит этим самым и никакой я честно не
- 42:32верю. В эфире Леонид волков самый
- 42:34позитивный человек на свете. Если вы хотите поддержать мой
- 42:38канал, Подписывайтесь, лайкайте. Можете занатить с вопросом или
- 42:42без по корко на экране по ссылке в чате ссылки описание этого
- 42:46видео, а есть как раз с донатом и не с донатом.
- 42:50Очень похожие вопросы про. Очень понятно, я предлагаю тебе
- 42:54сферу совершенно непонятную. Мне как раз про разработчиков.
- 42:58В чате вопрос звучит так, видишь ли ты потенциальную проблему в
- 43:03вымывании джонов из этих сферы? В перспективе пару поколений,
- 43:05где брать жунов на чём учить модель?
- 43:08Если весь код будет написан искусственным интеллектом?
- 43:10Ну и Виталий знатом примерно похожее, пишет, что ресурсы
- 43:13вместо обучения людей улучшения процессов идут на кластер из GP.
- 43:17Не думаешь ли ты, что здесь тоже есть какието?
- 43:19Вот такие циклические процессы в индустрии.
- 43:21Да, которые придут. Проблемы.
- 43:24А вот здесь я как раз вернусь к своему комментарию из начала про
- 43:30то, что мы сейчас пока живём в эпоху, когда волна поднимается и
- 43:34оптимизм чрезмерен, а потом пузырь ты всётаки немножко
- 43:37подздуется и вернётся не на ноль, как я сказал, вернётся на
- 43:41довольно высокую ступеньку, но на подсдуется.
- 43:44Да, конечно, есть проблема, есть неоправданный оптимизм, что
- 43:49вообще не нужны. Что любой скрипт любой фронтенд
- 43:53любую какуюто простую вещь значит II сам закодирует нам
- 43:58нужны только архитекторы, постановщики, задач, так
- 44:03сказать, авторы промтов. Ну и те, кто там проверяют.
- 44:07Ну вопрос да когда весь код будет написано яем то.
- 44:14Что тогда будет? На чём тогда будет учиться ai?
- 44:18Ну вот в какойто момент, да, через с этим столкнётся и и, в
- 44:21общемто поймёт, что все, кто был джунами, станут написателями
- 44:24промтов и проверятелями кода, потому что там вслепую доверять
- 44:28будет нельзя нас он был сейчас они готичный случай совершенно
- 44:32когда. Страйповский л.
- 44:35Л. Бот саппорта значит, на вопросы
- 44:38про страйп стал отвечать не то, что написано в документации
- 44:41страйпа ну а как, как это часто бывает, село ботами, то, что
- 44:44хотели от него услышать задающие вопросы.
- 44:46Ну понятно, что они там вот там какие то люди должны быть в этом
- 44:50разобраться, прийти и поправить точно так же и с каким то
- 44:54базовым кодом? Да, конечно, любой инструмент
- 44:56организации хорош, ну это всего лишь ещё всё ещё всего лишь
- 45:00инструментов автоматизации все ещё инструмент повышения произ.
- 45:04Труда там, где было 5 джунов, будет один проктор и один чекер.
- 45:11Да там, както эти профессии будут называться вот а 3
- 45:14остальных джуна ну либо там станут синеверами, либо пойдут
- 45:19работать на другую работу. Если человечество выяснит, что
- 45:22такое количество. Людей базового уровня войти не
- 45:26нужно, но это же происходит и без всякого у нас и без всякого
- 45:32ай вот увёл, уберём айку боку там войти в сфере и без Того
- 45:38происходило примерно то же самое.
- 45:40Огромное количество людей решило, что там намазано мёдом,
- 45:45что каждому Олегу сделают свой оффер надо только.
- 45:48Как бы научиться писателю питоне и там сейчас прямо сейчас до IER
- 45:56и случился огромный навес как бы.
- 46:00Предложение над спросом на низких квалифицированных
- 46:04программистов. Потому что на волне там роста IT
- 46:07сектора возникло ощущение, что кого угодно нанимают на большие
- 46:11деньги, даже если он ничего толком не умеет.
- 46:14Куча людей туда ломанулась и и в силу опять же естественно
- 46:17рыночного процесса какаято часть этих людей поняли, что всё не
- 46:21так радужно и они нахер никому не нужно.
- 46:23Ну как бы. Дать стоту файн в конечном счёт.
- 46:28Ну вот как бы здесь я извиняюсь внезапным для себя займу очень
- 46:33простую позицию рыночек порешает.
- 46:37Хорошо, давай переходим к политике было за последние пару
- 46:40месяцев 2 совершенно поразительные новости про то,
- 46:43как политики стали использовать. В первую очередь чаджи 5.
- 46:50Ну и вообще искусственный интеллект и в расширенной
- 46:52системы ульф кристенсен это чем говорят новость, которая
- 46:54поразила меня в самое сердечко. Ульф кристенсен, премьер министр
- 46:57Швеции, на прошлой неделе признался, что он спрашивает 2
- 47:01мнение учату там начался некоторый скандал в Швеции.
- 47:05Значит, все ему говорят, что какого чёрта мы чат джипти не
- 47:08избирали, а избрали тебя и твою партию.
- 47:10Тем не менее, а. Его партия тоже не избирали.
- 47:14Его партия заняла 2 место на выборах, а 1 место заняли жигуле
- 47:18и. Кристерсон оказался
- 47:21премьерминистром в ходе очень сложных и не очень красивых
- 47:24коалиционных соглашений. Ну ладно, неважно, так что может
- 47:27лучше 5 чем. Да.
- 47:30Хорошо и 2, но я на самом деле да этот как раз список новостей
- 47:33не для Того, чтобы мы тут коллективно поухали.
- 47:35У меня есть вопрос по воротам тебе глава американской разведки
- 47:38талты гэббард в мае призналась, что использовалась в июне,
- 47:42призналась, что использовала искусственный интеллект для
- 47:43Того, чтобы вымрать непригодные для Публикации секретные места
- 47:47файлов про убийство Джона Кеннеди, которые Ну вот в рамках
- 47:50очередного пакета белый дом решил опубликовать талтинге.
- 47:54В общем, известная путинистка и может быть одна из главных
- 47:58антигероинь этого канала. Тут всё понятно, но.
- 48:01Если обобщать, как ты думаешь, может ли вообще как то
- 48:03регулироваться использование искусственного интеллекта
- 48:06политика, ну, наверное, регулироваться не юридическим,
- 48:09но вот потому, что люди быки натабу.
- 48:12Так. Альдон финца ну то есть нет нет
- 48:15почему? Ну то есть блин.
- 48:19Извиняюсь за классическую цитату, которая, наверное,
- 48:22непонятно зрителям нашего канала младше 1995 года рождения, но
- 48:27если. Блин, это играет хорошо, блондин
- 48:30играет плохо, то никакие тренировки не изменят.
- 48:32Это соотношение сил. Талсигарт была и есть тупая
- 48:35мразь и ей чапети не очень сильно поможет стать лучше, а
- 48:39ольф кристерсон, которого я имею честь лично знать очень умные,
- 48:43толковые и классные мужик. И наверное, от Того, что там
- 48:47какието вещи подглядывает и и спрашивает, это помогает ему там
- 48:51сократить время на принятие каких то решений или улучшить
- 48:54качество каких то решений и я не вижу здесь никакого повода для
- 48:57скандала. Почему мы от?
- 48:59Людям в использовании удобных, понятных и хороших инструментов
- 49:03эти инструменты сокращают затраты труда у повышают
- 49:07качество принятия решения, поэтому ну они делают умные
- 49:10решения умнее, а тупые решения ещё тупее.
- 49:12Ну да, окей. Я с тобой здесь точно готов
- 49:15поспорить то, что мне кажется, что здесь есть принципиально
- 49:17проблема. Мы всётаки привыкли, что
- 49:19аппараты политиков уровня премьерминистра Швеции
- 49:22принципиально прозрачны. Да кого они там назначили
- 49:25советниками это публичная информация.
- 49:27Это часто основания для скандалов.
- 49:28Да вот у этого советника. Плохая репутация, а этот не знаю
- 49:32няню нелегально нанял, а это ещё что, если вдруг выясняется, что
- 49:36помимо вот этих вот советников с какимито понятными
- 49:39компетенциями, чьи портретики на сайте партии кабинета да
- 49:43опубликованы, вдруг ещё какието непонятные технологии это
- 49:46сегодня человек 5 а завтра какаято не знаю китайская модель
- 49:50или русская модель да опять же та же самая талса гэберд вот.
- 49:55Там, как выяснилось, читает новости раша тудей да и не
- 49:57критически пересказывает их своим коллегам.
- 49:59Рекомендуя значит, ну Так вот именно что это правда?
- 50:01Ты же ты же не гребуешь это от политика раскрытия Того, какие
- 50:04новости он читает, хотя это влияет на него гораздо больше,
- 50:07чем. Ну что дж 5 которые он
- 50:09использует. Ты прав, что информация о том,
- 50:12кто у тебя советник общественно значимая информация или, скажем,
- 50:15что общественно значимая Информация на самом деле
- 50:17является роль членов семьи. Да вот там в какойто момент ко 2
- 50:23годовщине поста Алексея Навального мои страх и
- 50:25ненависть. В какойто момент мы поняли, что
- 50:29страной на самом деле управляют там Таней и валя, а не
- 50:32номинальный президент Ельцин. Это была общественно важная
- 50:35информация, которая максимально от общественности скрывалась.
- 50:39Это, блин, важно, какой из чего состоит информационный поток,
- 50:43информационный пузырь в 2025 году до хрена важно.
- 50:47Ну както вот пока нет. К сожалению, таких стандартов
- 50:51рассказать информацию. К сожалению, премьерминистр
- 50:54Швеции в рутинном порядке там перечень просмотренных им
- 50:58сайтов, прокликаемых цветов или, значит, про прочитанных
- 51:02новостей, не является паблик дама, хотя.
- 51:05Хорошо бы, потому что это прям многое бы говорило, и на этом
- 51:08фоне истории про чат JPT это вообще мелочь.
- 51:11Ну ты прав, наверное, мы должны стремиться к тому.
- 51:15Чтобы это всё было публичной информацией и что всё это
- 51:18дисклозилось, потому что это там типа гипер важная вещь, да
- 51:22понимание, что он человек на самом деле влияет в компузыре.
- 51:24Он живёт потому что ещё раз там на когото влияет жена какойто
- 51:30есть старый идиот, значит, смотрит телек, и на самом деле
- 51:33главным его там. В основе его дистиженмейкера.
- 51:39Здесь уже мэйкинги лежат политические позиции его
- 51:42любимого комментатора на фокс ньюс да, а ктото гадает по
- 51:47звёздам. Это важная информация, что
- 51:49такойто советуется с астрологом или нет.
- 51:52Подожди, подожди на уроках на на фоне этого чаджи 5 это там какой
- 51:59то минимальный грех, мне кажется нет.
- 52:01Но ровно в том же и проблема мы с тобой на примере Путина и на
- 52:04примере Трампа видим, какая огромная проблема, когда
- 52:08политики попадают. Вот в этом вот бесконечные цепи
- 52:11подкрепления, как это, кстати, и салон маском.
- 52:13Судя по всему, да произошло в твиттере.
- 52:14Да, чем больше он ратикализировался, тем более
- 52:16радикализированную картину мирную подсовывают его же
- 52:19твиттер, тем больше он ретикализировался дальше, чем
- 52:21больше там смотрел фокс ньюс, который рассказывал ему, какой
- 52:25он классный да, тем больше он верил, что он классный и что он
- 52:27во всём прав и. Слушай больше Путин читал
- 52:29папочки про то как. Его ждут с цветами и тем больше
- 52:33он говорил, что в Украине ждут с цветами.
- 52:35Конечно. Ну то есть причём тут человек дж
- 52:365, которые всего лишь то, что он?
- 52:39В том, что у него, с одной стороны, нету.
- 52:41Вот этой вот репутации подкрепителя, то есть когда ты
- 52:44не дурачок Трампа, а умный премьер министр Швеции, да ты
- 52:47лезешь не телевизор, а смотреть. А вот сейчас там JPT
- 52:49разговаривать, но проблема в том, что он эти же самые цепи
- 52:53подкрепления, на которые ты подсаживаешься и создаёт для
- 52:56тебя. Ну окей, ага, то есть я бы
- 52:59помечтал об идеальном мире, в котором политики делают диско
- 53:04ложе своих источников информации и чаджепети там должен занять
- 53:10достойную роль. Но ещё раз мне кажется, что в
- 53:13постиндустриальном обществе это вообще недооценённая тема, что
- 53:17там на человека? Да, ужасно влияет его и его
- 53:20пузырь, его круг общения как белковый, так и не белковый.
- 53:23Мы про это ничего не знаем и как бы воспринимаем эту политику,
- 53:27что вот мы его избрали он. Пудрый, а из чего мудрость
- 53:31формируется? Мы не очень понимаем.
- 53:33Это меня ты вот меня вначале спросил, как ты уже там, типа
- 53:37сталкиваешься с чатом JPT? R и я хотел как раз вот твой
- 53:45сюжет про кристофена меня навёл на одно историю.
- 53:48Я удивительным образом сталкивался.
- 53:51С чатом до 5 совсем в другой моей ипостаси мои профессорской,
- 53:57ипостаси я в осеннем семестре 2020 ноль. 4 5 года, как как я
- 54:05рассказывал, преподавал в университете уэстлин 2 курса,
- 54:10связанных с Российской политикой, с международной
- 54:12политикой для очень умных студентов и как положено в
- 54:15американском университете, они должны были сдавать мне.
- 54:19Разные разного рода письменные работы, разные эссе.
- 54:24В каждом из курсов каждый из 20 студентов должен был дать по 3
- 54:27эссе на разные темы мной заодно я их должен был прочитать и
- 54:31оценить. Это большой объём работы, то
- 54:33есть суммарно получается 120 письменных работ, и это называл,
- 54:37проверял тетрадки. Ну, в первую очередь, когда я
- 54:39кудато там далеко летел, я сидел, читал эти работы там
- 54:42разбирался, оценивал и так далее.
- 54:45Естественно, стоит ожидать, что значительная часть этих работ
- 54:51была написана с помощью чаджи 5. Смешно думать, что студенты
- 54:55этого не делали, оба заделали и университете.
- 55:00Проводилось большое количество семинаров для преподавателей.
- 55:04Какие есть новые, самые значит тузы для детекции регенерации.
- 55:10Какие значит, как ещё распознать, как вывести на
- 55:13чистую воду, как с этим бороться и так далее?
- 55:15Я ни на один этот семинар не ходил.
- 55:19Потому что я прочитал в правилах университета, что я не обязан
- 55:23запрещать это, что я могу разрешить, если я в описании
- 55:28курса в силу, если пишу, что я допустаю использование, то мне
- 55:32не надо с этим бороться. Я сказал, я допускаю
- 55:36использование, если оно явно видео оговолено, делайте,
- 55:38пожалуйста, типа в конце примечания, для чего вы
- 55:43использовали надо мы деньги писали, ну я же, я же им это
- 55:46разрешил, я не буду их наказывать за они писали, Ну вот
- 55:49я там использовал для Того, чтобы в конце поправить
- 55:52орфографию. А значит, и всё это упорядочить
- 55:56мои мысли более хорошо. Я что против такого промта да
- 56:00это мою работу облегчает как профессора мне не надо
- 56:03продираться через какието, грамматические ошибки и плохо
- 56:06структурированный текст. Моя задача понять его мысли как
- 56:11он, ну усвоил материал, что он понял.
- 56:14Теперь могло ли быть такое, что студент меня типа обманул?
- 56:18Вопервых я считаю, что ему незачем было меня обманывать,
- 56:21потому что я разрешил, и как бы большинство из них оговаривали
- 56:24таким образом, они начать ж 5 используют вовторых.
- 56:27Ну для меня это важно, всё равно что он понял, что не понял.
- 56:30Ну, то есть если он ничего не понял и пишет пром напиши мне
- 56:34эссе, про там не знаю про мэрскую компанию Навального.
- 56:38Был один из этого, но он точно напишет херню, ну то есть там не
- 56:42может быть такого, что не понимающий материал.
- 56:45Студент. Сделает такой кром, что?
- 56:49Чаджи напишет пятистраничная центра компания 2013 года и не
- 56:53напишет какойнибудь евисе, потому что мы все знаем, что
- 56:56длинный текст от лаланнки на тему.
- 57:00Ну как бы на специальную тему, эээ, он там что то думает, что
- 57:05то придумывает, сошётся на существующие источники,
- 57:08придумают не существующими надо думать несуществующие события, а
- 57:11поскольку я то в материале то я этот как бы мгновенно выловлю,
- 57:15вот и всё. И у меня с этим вообще не было
- 57:19никакой проблемы. Я был рад тому, что студенты
- 57:21используют этот чаджи, которые экономит их время, экономит моё
- 57:25время, делает работу более причесными.
- 57:27Эзлонг из айкенс, потому что мне важно не, чтобы они хорошо
- 57:33чистописанием английским занимались.
- 57:35Мне важно, чтобы они суть понимали Того, что мы обсуждали
- 57:39на лекциях и семинарах, и мне казалось, что чаджа 5 в этом
- 57:42смысле помогает им. Демонстрировать понимание сути,
- 57:46поэтому я являюсь, он как бы фанатом.
- 57:49Идея бессложи пользуйтесь на здоровье ультрасон и студенты
- 57:54дорогие а. Пожалуйста, просто в явном виде
- 57:59оговаривается. Как вы используете применение?
- 58:02Это было прозрачно. У этой истории есть печальный
- 58:05конец. Я, начиная с сентября снова буду
- 58:07преподавать, но уже не в Америке, а в европейском
- 58:11университете. Европа гораздо более
- 58:13консервативна, значит правило Того университета, в котором я
- 58:17буду преподавать этой осенью, строго запрещают Любое
- 58:21использование. Как плагиат.
- 58:27Абсолютно наглухо запрещают. Я не смогу написать студентам.
- 58:32Пожалуйста, пользуйтесь. Мне придётся распознавать
- 58:36бороться. Я чувствую, что меня ждёт
- 58:38неравная на хер, никому не нужно бессмысленно и трачу время
- 58:43борьба. Слияем, вместо Того, чтобы
- 58:46значит его все на радость друг друга использовали.
- 58:49Впрочем, я ещё собираюсь, так сказать, вести компанию внутри
- 58:52интернета внутри университета, за то, чтобы это глупо и
- 58:56ретроградное правило было отменено.
- 58:59Ну хорошо, а давай вернемся тогда к вопросу про регуляцию.
- 59:04Да вот в политике, да и тогда уж политиками искусственного
- 59:08интеллекта наоборот. Белый дом на прошлой неделе
- 59:12увлекал 20 трёх страничный план про то, что что делать с устным
- 59:16интеллектом и на 23 страницы там про регуляцию этой отрасли 4
- 59:22абзаца. Буквально президент согласен с
- 59:24меланией 1 леди, что фейк это ужасно, значит, все это грозит
- 59:28валидности судебных процессов. Значит, все будут приносить.
- 59:32Диплом их доказательства давайте попросим Минюст выработать
- 59:35рекомендации, все ничего больше нет.
- 59:38Дальше там продаться центры и как важно развивать и бороться с
- 59:41Китаем и так далее. Ничего про копипирает ничего про
- 59:44галлюцинации, ничего про прозрачность, действие
- 59:46искусственного интеллекта и то, что он должен вот этот стынкин
- 59:49показывать как теперь чаджи 5 в некоторых версиях моделей
- 59:52разрешает делать единственное, что Трамп ещё сделал в области
- 59:56регуляции это а я на почту получаю.
- 1:00:00Как бы у уведомления про их указа и один из заказов, который
- 1:00:03на последнюю неделю подписал, был указ о запрете волк.
- 1:00:07Искусственный интеллект так и называлось, и идея там была в
- 1:00:11том, что он значит, обязывает без всяких.
- 1:00:13При этом, конечно, инструментов контроля языковые модели
- 1:00:16говорить правду и быть нейтральными.
- 1:00:18Ну понятно, да, вот в их понимании нейтральности, да,
- 1:00:21чтобы значит, они были, не дай бог, не левее Гитлера.
- 1:00:25Должны ли, как ты думаешь, государство какимто образом
- 1:00:27регулировать выдачу искусственных?
- 1:00:30Ну вот этих самых языковых моделей и то, как компания эти
- 1:00:33модели развивает или это уже невозможно или это не нужно или
- 1:00:37это както можно достичь. Я думаю, что в целом эта борьба
- 1:00:40с этой мельницами. При этом я думаю, что
- 1:00:44государство или там Евросоюз вправе и должен требовать.
- 1:00:51Раскрытия. Политик.
- 1:00:58Ну то есть вот я откачу на шаг назад.
- 1:01:02Я всё время участвовал в дискуссии, в том числе с
- 1:01:04европейскими регуляторами, когда шли разговоры там вот про всякую
- 1:01:08там модерацию контента, там в фейсбуке и так далее.
- 1:01:12Ну вот там когдато в 19 веке. Родилось выражение пресса 4
- 1:01:18власть да пресса никто не избирает, она не судебная, не
- 1:01:23законодательно, не исполнительная, но она формирует
- 1:01:26мнение общества. Она имеет огромное влияние на
- 1:01:28общество, она является поэтому 4 властью и в какойто момент стало
- 1:01:32ясно, что когда 4 власть. Полностью неподконтрольно и
- 1:01:36живёт по какимто там абсолютно никому не понятным принципам, то
- 1:01:41это тоже становится большой проблемой и под влиянием
- 1:01:44некоторого количества скандалов, в том числе стали формироваться
- 1:01:49современные представления достаточно свежие.
- 1:01:52Да, там 70 плюс 50 годах. Знаешь, ну там о том о
- 1:01:57стандартах работы прессы 2 источника там туда сюда.
- 1:02:01Ну то есть направлены в общемто на то, чтобы там было понятно,
- 1:02:05какими политиками все это руководствоваться.
- 1:02:08А вот там в 2010 году стало ясно, что соцсети это 5 власть.
- 1:02:14То есть они очень сильно влияют на то там, что человек думает,
- 1:02:17как он получает информацию, мы все живём в пузырях, как эти
- 1:02:22пузыри строятся. Мы не очень понимаем и.
- 1:02:26Стали возникать всякие скандалы вокруг.
- 1:02:29Это цензурных политик, больших соцсетей.
- 1:02:32Почему это стирают? Это не стирают.
- 1:02:34Она стала выяснять, что там не знаю.
- 1:02:36Фейсбук весь мир 200 модераторов и какие то там большие языки
- 1:02:40модераторов нет вообще или там есть один причём какой то очень
- 1:02:44окрашенный, который там есть какой там маленький региональный
- 1:02:48язык в Индии, на котором говорит всего каких нибудь 50 миллионов
- 1:02:51человек и на. Этот язык у фейсбука один
- 1:02:55модератор, который в какихто там?
- 1:02:58Находится на какомто достаточно радикальном края спектра
- 1:03:02политических взглядов, и это влияет на всю дискуссию на этом
- 1:03:06языке, на всей площадке, да и, в общем, какой то момент.
- 1:03:11Вот в этих обсуждениях я даже ходила на какие то заседания
- 1:03:15версает города. Они пытались сделать публичный
- 1:03:17версает борт. Потом я тоже как бы не стало
- 1:03:22времени на это ходить. Хватать, но я не только я, это
- 1:03:25многие люди, разумеется, говорили, говорили, что ребят.
- 1:03:27Ну как бы вы. Не ищите эту проблему там за
- 1:03:33лечением количества модераторов там всё равно контента слишком
- 1:03:37много и так далее. Вы, возможно, решите эту
- 1:03:40проблему. Только вот отчуждением от себя
- 1:03:44этих политик. Ну то есть вы должны сделать
- 1:03:48прозрачными, вы их должны там полностью отсорсить, не пытаться
- 1:03:50сделать этом внутри компании, то есть как бы мы мы имеем право
- 1:03:54знать, по каким принципам формируются эти пузыри.
- 1:03:58Вот и тогда мы научимся лучше понимать там, чему верить, чему
- 1:04:02не верить, как работать с этой информацией играли и
- 1:04:04потихонечку, честь, что к этому привыкну.
- 1:04:07Вот это были такие активные бурные дискуссии. 68 10 лет
- 1:04:12назад, и они, честно говоря, там почти ни к чему не предъявили,
- 1:04:15хотя независимо у меня версает бардами крупное.
- 1:04:21Площадки всётаки потихонечку обзавелись.
- 1:04:24Ну а скажем, вот твиттер не обзавелся илону маску виднее, и
- 1:04:27он буквально сделал твиттер как раз помойкой, состоящей из очень
- 1:04:32радикальных пузырей. Да, настроил алгоритмы,
- 1:04:35наоборот, не таким образом, чтобы пузыри взаимопроникались и
- 1:04:38сглаживали, а буквально специально таким образом, чтобы
- 1:04:41провоцировать значит срач и обособление.
- 1:04:46Значит и запустили. Ну вот.
- 1:04:48Хотя эта дискуссия ещё не завершилась про социальные сети
- 1:04:52я при этом думаю, что давно уже настала время такой же дискуссии
- 1:04:57про. Языковые модели про
- 1:05:00искусственный интеллект и так далее, а.
- 1:05:04Как бы пытаться регулировать влияет на то, что там они нам
- 1:05:09говорят, как бы вряд ли возможно, но есть общественный
- 1:05:15интерес, типа в общественном контроле за том, как хотел,
- 1:05:19устроены, на каких источниках они базируются?
- 1:05:22Вы там, как они принимают решения и так далее, и,
- 1:05:25возможно, даже на. Нужна, ну как бы общественный
- 1:05:30интерес заключается в возможности квота общественного
- 1:05:33времени, то есть мы не сможем никакое государство не сможет
- 1:05:36там, типа зарегулировать, сделать так, чтобы не знаю
- 1:05:40искусственный интеллект, как хотел бы, наверное, Трамп
- 1:05:44сравнивать вероятностью говорил, что не знаю. 50% пользователей
- 1:05:49говорил, что человек произошёл от обезьяна, 50 процентам
- 1:05:53говорил, что. Не произошёл или что там они
- 1:05:56хотят? Рамках борьбы с волк повестки.
- 1:06:00Ну, очевидно, не получится. Вот но делать прозрачной
- 1:06:06понятной информацию о том, как это всё работает алгоритмически.
- 1:06:14Можно. Нам это не поможет, но
- 1:06:17следующему поколению, которые будут вот которое будет после
- 1:06:21диджиталнейти, который будет и я, и нэйтивс вот это вот
- 1:06:24понимание, типа на кончиках пальцев, так что это работает,
- 1:06:29сделают их жизнь гораздо более понятной и счастливой.
- 1:06:34Точно так же, как сейчас надо было уже последние 10 лет.
- 1:06:39В начальной школе учить фактчекингу?
- 1:06:45Поиску источников умению там умению искать в интернете, так
- 1:06:49сказать, собирать разные точки зрения, складывать для себя
- 1:06:52объективную информационную картину.
- 1:06:54Это буквально такое же важное. Я ещё немножко на шаг назад.
- 1:06:58Ну то есть вот, когда я учился в начальной школе, было очень
- 1:07:03принято таком задорновском стиле.
- 1:07:05Ну трупы смеяться над тем, что наши сверстники американцы не
- 1:07:11умеют складывать дроби. Зато их очень много значит, учат
- 1:07:15про то, что вот там не знаю, наверное, с каким то правилам
- 1:07:19безопасности, как не попасть там неприятную ситуацию учат жизнь.
- 1:07:24Вот сейчас наверно, мы все прекрасно понимаем, что это было
- 1:07:28там более правильно и более важное школьная образование,
- 1:07:33чем. Складывать дроби, что складывать
- 1:07:37дробито всё равно научишься. Но вот там базовое понимание,
- 1:07:41что если дяденьке даёте конфетку и отводит подворотнику, не надо
- 1:07:45за ним идти, а надо вызвать надо обратиться надо громко кричать,
- 1:07:50создать полицию. Это довольно важная и крутая
- 1:07:52штука. Фактору хорошо бы говорить с
- 1:07:55детьми начальной школе, Ну вот примерно так же значит, типа 10
- 1:07:59лет назад, пока в нашей школе там потихонечку поняли, что надо
- 1:08:05не только давать конкретные знания по списку, значит
- 1:08:08параграфов со страницы такой по странице такую то а.
- 1:08:13Заниматься? Развитием софт скиллс, да там
- 1:08:17эмпатии социальных навыков этоличностные коммуникации и так
- 1:08:22далее. И так далее было провороно не
- 1:08:24только в наших западной школе. Я думаю, это уже было
- 1:08:26проворонено время, когда вот надо учить диджитал нэйтивс быть
- 1:08:29эффективными диджиталнайтис да, то есть вот как бы как не
- 1:08:33вестись на. Всякую ерунду, как отличать
- 1:08:37фейки от них фейков? Как формировать объективную
- 1:08:40информационную картину, без этого жить в современном мире?
- 1:08:42Ну типа невозможно это базовое школьные знания.
- 1:08:46Вот Так вот сейчас будущее будет за теми школами, за теми детьми,
- 1:08:51которые вырастят за эти школы, которые там правильно научат
- 1:08:54реальные писать промто ну. То есть когда я ходил в школу,
- 1:08:59программирование начинали учить в 9 классе.
- 1:09:02Причем это там были первые до этого общего 11.
- 1:09:05Информатика советской школе была только.
- 1:09:07У меня уже наверно. 7 год у тебя наверно 7 сейчас никого не
- 1:09:11удивляет Того что там притом лучше во 2 классе ну то есть там
- 1:09:15во 2 классе в обычной школе обычно есть.
- 1:09:18Ну если не урок, то факультатив по какойто ну там информатике
- 1:09:22необязательно это питон ну там какие то лугомеры какойнибудь
- 1:09:25они там алгоритмические. Заставляют бегать, какуюнибудь
- 1:09:29там лего черепашку по карте и так далее.
- 1:09:30То есть даже советская российская школа.
- 1:09:33Потихонечку до этого дошла. Вот вот и и до этого тоже дойдёт
- 1:09:39что это ну какаято типа там база базовая да мы будем жить они
- 1:09:42будут жить в мире, где этот самый эй будет типа повсюду их
- 1:09:47надо к этому готовить и это гораздо ценнее, чем любые
- 1:09:51попытки государственного регулирования цензурирования
- 1:09:54Того, что. Она делает.
- 1:09:57Хорошо, давай короткий ответ. Интересно, вот знаешь, прям
- 1:10:01почти анкетного типа. Вопрос от Евгения подписчиков на
- 1:10:04патрионе, с которым мы заранее обсуждаем тему.
- 1:10:06Вот он вчера такого предложил, кто Леонид должен отвечать,
- 1:10:10когда искусственный интеллект приведёт к смерти людей?
- 1:10:18А когда селфдрайвинг Тесла когото сбивают насморк ктото
- 1:10:22отвечает. Большой вопрос, скажи ещё как
- 1:10:24раз страховая компания? Страховая матче компания в
- 1:10:30конечном вот вот это уж проблема, которая чисто на лучше
- 1:10:33возвращать. Изящный ответ, хорошо.
- 1:10:37Вот эти и это Вся деятельность тоже там будет больше и больше
- 1:10:42медицине, и. Госпитале там.
- 1:10:48Научатся перекладывать, зашивать всю эту страховку, перекладывать
- 1:10:51на стройковые компании. Это всё как бы чето научится с
- 1:10:55этим работать. Смягчит раскидает на всех, грубо
- 1:10:59говоря, хорошо, как как, как комматизируются риски от любой
- 1:11:02новой технологии? Хорошо, последний вопрос в этом
- 1:11:07политическом блоге, как ты думаешь, через год на метёрмах и
- 1:11:10через 3 года во время следующих президентских выборов США как
- 1:11:13искусственный интеллект будет влиять на агитацию вот этого
- 1:11:15самого и слопа да нелепо и нарисованных агитах.
- 1:11:19Значит, с Трампом касающихся котят или ещё чегото.
- 1:11:22Вот это станет уже. Ну какойто частью реальности,
- 1:11:25которую большинство избирателей не будет отличать, даже не будет
- 1:11:28пытаться отличить от ну как. Других.
- 1:11:32Объективно да происходящих новостей или нет, или, наоборот,
- 1:11:35это станет какимто диким зашкваром, и за это будут прям
- 1:11:38наказывать избирателей, и это всё не будет важным.
- 1:11:40Фактом это будет важным фактором, я бы навскидку сказал,
- 1:11:45но это такой быстрый прогноз. Ну давай, вот прогноз на метёр.
- 1:11:48Да там следующие самые важные выборы в мире.
- 1:11:51Да, это. Америка ноябрь 26 дорма в ноябре
- 1:11:5426 у них осталось там каких то 14 месяцев, где будет понятно.
- 1:12:00Сохранить Трамп контроль над парламентом или нет?
- 1:12:04При этом сохранение контроля над конгрессом для него является
- 1:12:07важнейшей задачей. При этом исторически эта задача
- 1:12:10практически не решаемая, потому что единственный случай, когда.
- 1:12:14Правящая партия, выигравшая президентские выборы.
- 1:12:18Партия сохранила контроль над конгрессом за последние улучшила
- 1:12:22свои показатели в конгрессе за последние 40 лет.
- 1:12:24Это был 2002/1002 год, но это было было после найн.
- 1:12:28Там было ралли раунда после на и это позволило республиканцам
- 1:12:33улучшить они ухудшить результат. Были случаи, когда правящая
- 1:12:37партия ухудшала свои результаты, но сохраняла контроль, но здесь
- 1:12:41это не тот случай, потому что у них всего там запас, да там 34
- 1:12:44места. А в палате представителей 12
- 1:12:48места в сенате. То есть тут любое ухудшение
- 1:12:51результатов приведёт к потере контроля.
- 1:12:53Это с одной стороны, и Трамп это прекрасно понимает, что как бы
- 1:12:57исторические шансы против него, а с другой стороны, разумеется,
- 1:13:00он сделает всё возможное контроль сохранить.
- 1:13:02Как мы понимаем, он готов и достаточно грязной игре, поэтому
- 1:13:06грязной игре будет много. И будет очень интересно, это
- 1:13:08действительно важнейшие выборы, Кроме шуток, выборы которых
- 1:13:11будет определяться типа Судьба мира на следующие 2 году на
- 1:13:1626/28 на 27 20 годы типа, как бы останется ли мир игрушки Трампа
- 1:13:24или утром появится какие то серьезные противополитические?
- 1:13:28Поэтому ставки очень очень высоки и за этими керами.
- 1:13:32Так вот. Подписывайтесь на канал чтобы
- 1:13:34это делать да? Так вот я вижу навскидку.
- 1:13:38Мой прогноз очень быстро, я не готовился, мой очень быстрый
- 1:13:41прогноз заключается в том, что это 2.
- 1:13:47Таких. Тренда 1 повышение
- 1:13:52производительности труда хороший тренд, ну то есть там будет
- 1:13:55огромное количество агидпродукции робоколов.
- 1:13:59Вот это все, которые уже будет делать полностью реально.
- 1:14:02Они будут хорошие, классные, неотличимая.
- 1:14:05Это позволит увеличить количество продукции,
- 1:14:08агитационные разного рода. Там возьмёт на себя значительную
- 1:14:13часть низовой агитационной работы удивительным образом.
- 1:14:16Ну, либо окей, это технология и конечно, 2 вектор это.
- 1:14:22А грязь это чёрный пиар. Он американских гоборах вообще
- 1:14:28чёрный пиар. Используется широко,
- 1:14:29используется активно, есть там гении таких технологий это не
- 1:14:36при трампе. Началось, это всё написано.
- 1:14:41Да Робертом теннем уорреном в романе всякий ролевский райтс
- 1:14:44это всё пользовался тот же самый.
- 1:14:46Вот мы сейчас же вспоминали буш старший, да его знаменитый
- 1:14:49политтехнолог карл роуф, который общем то.
- 1:14:53Был, например, пионером формирующихся запросов и многих
- 1:14:58других очень черных технологий. Этого будет только больше.
- 1:15:02И здесь, конечно, и я и даст разгуляться.
- 1:15:05Да к ноябрю 2026. Видимо, скорость развития
- 1:15:10технологий такова, что можно будет слепить любое
- 1:15:12компрометирующее видео. Уже не фоточку, ну там все же
- 1:15:17привыкли, что любую фоточку можно на фотошопить, а видео
- 1:15:21можно будет шокировать избирателей фейками такого
- 1:15:25уровня, которые до сих пор были абсолютно недоступны.
- 1:15:29Это уже не будут картинки, которые постят российские
- 1:15:32политики. Геннадий Гудков регулярно
- 1:15:34завидной. По завинным постоянством значит,
- 1:15:39попадаясь на какието смешные, я сгенерированные картинки,
- 1:15:43которые выдают за настоящие, хотя ёжику видно, что они
- 1:15:48сгенерированы, к сожалению, будет большое количество
- 1:15:50продукции, по которой ёжику ничего не будет видно и рядовому
- 1:15:54избирателю ничего не будет видно.
- 1:15:55И наоборот про настоящих информации ну.
- 1:15:58Просто Да да. Да не.
- 1:15:59Будет понятно, и это будет. Большой, большой большой
- 1:16:04проблемы. Хорошо, давай перейдём к
- 1:16:09следующему последнему блоку про ценностные вопросы.
- 1:16:12Я здесь хочу начать с темы, в которые сливаются вот предыдущие
- 1:16:16блоки, политические, финансовые возможности всех этих новых
- 1:16:19гигантских компаний. Именно они лоббировали
- 1:16:22провалившееся принятие. Запрета в с ш, а для Штатов на
- 1:16:26любую регуляцию искусственного интеллекта я подробно
- 1:16:29рассказывал в мае в большой такой пакет реформы, который
- 1:16:32пытался провести Трамп всунули неожиданно поправку, которая
- 1:16:36должна была на 10 лет запретить Штатам у себя по отдельности.
- 1:16:41Как угодно регулировать искусственный интеллект.
- 1:16:43Ну вот, например, Калифорния пыталась запретить отделы
- 1:16:46кадров, сделать автоматизировать всё это пытались суночь в эту
- 1:16:50пакетную реформу. Это вызвало скандал.
- 1:16:52Этот кусок через конгресс не прошёл, но в тот же день, когда
- 1:16:56эту поправку внесли в мае, в этот самый законопроект главы
- 1:16:59компании этого сектора. Вот все эти альтмана и так
- 1:17:02далее. Вместе с Трампом ужинали в
- 1:17:04Саудовской Аравии, отмечая успех его визита.
- 1:17:07А итогам которого стало обещание стран залива инвестировать в
- 1:17:11сотни миллиардов долларов в эти самые американские компании.
- 1:17:14Вот не кажется ли тебе, что, опять же вся эта золотая
- 1:17:18лихорадка, вся эта вот переделывание экономики и
- 1:17:23политической системы? Да а.
- 1:17:26Все это меняет. Ну какие то базовые ценности?
- 1:17:29Да, республиканцы объясняют вот такую необходимость в эту гонку
- 1:17:33прыгать головой вперед тем, что нужно обязательно обогнать
- 1:17:36Китай. Но вот не кажется ли тебе, что
- 1:17:40ну действительно вот просто ценностном уровне это проблема,
- 1:17:44да что вот любые наши тобой, ну хоть какие то осторожные нотки в
- 1:17:48этом разговоре чтото хорошо бы делать модели прозрачными и так
- 1:17:50далее. Да всё это разбивается о вот.
- 1:17:54Эту как бы готовность да значит, все проблемы всплеском этих
- 1:18:00технологий победы в гонке на с кровати или нет.
- 1:18:03Я нет. Мне сложно комментировать
- 1:18:09действия. Администрации Трампа его роман с
- 1:18:15технологическими предпринимателями неприличный.
- 1:18:18Ну то есть там очевидно коррупционный, как его роман
- 1:18:21блин с катаром, да ну, то есть как бы там нигде на этой планете
- 1:18:25не была бы возможна история про. Подарок боингу 747 от Катара,
- 1:18:32Кроме как вот при 2 администрации Трампа при 1
- 1:18:35администрации Трампа. Да то есть уровень.
- 1:18:40Как бы. Коррупции морального разложения
- 1:18:44вот сдвигание границ приемлемого.
- 1:18:47Абсолютно беспрецедентный и сложно подаётся анализу, и в
- 1:18:50этом смысле да у всех есть затоённая надежда, что осталось
- 1:18:53дотерпеть до ноября 26 и всё будет немножко.
- 1:18:56Поэтому норму и в том числе то, что они сейчас регулируют, будет
- 1:18:59немножечко норму. Но пока да как бы, хотя с маском
- 1:19:04он поругался, но в целом вот этот романс с частью
- 1:19:12технофашистского сообщества вот через диджей с кертиса ярвена
- 1:19:17Питера тиля, марка андрейсона и дальше туда он продолжается.
- 1:19:22Наверное, самый впечатляющий текст, который я прочитал там за
- 1:19:25последние несколько месяцев. Я про этот могу гдето говорил,
- 1:19:28это вот подробный профайл кертиса ярвина.
- 1:19:33В ньюйорке, где очень подробно изложена система взглядов и
- 1:19:39становится ясно, что Александр гелич дугин.
- 1:19:44Просто либерал. И займка на этом фоне.
- 1:19:48Ну то есть это настоящий, типа вот ну как технофашизм, как он
- 1:19:51есть, типа люди, которые создают технологию, всё остальные ничто.
- 1:19:56Ну и там, в общем, выживает сильнейшее, а у кого нет
- 1:19:59миллиарда идёт в жопу. Ну то есть там очень очень грубо
- 1:20:01говоря, очень интересно почитать.
- 1:20:03Эти люди сейчас там очевидным образом правят бал Трампу с ними
- 1:20:08выгодно, он от них получает деньги на политику.
- 1:20:11Плюс он, видимо, искренне разделяет эти взгляды, поэтому
- 1:20:14они сейчас много чего наворотят. В этом смысле, конечно,
- 1:20:18интереснее. Смотреть за тем, что происходит
- 1:20:21в Европе, которая очень медленная, консервативная,
- 1:20:25расторопная, погрязшего своих конфликтов и так далее.
- 1:20:28Но при этом как раз пытается построить человеческий, понятный
- 1:20:33и достаточно прозрачный фреймворк.
- 1:20:35Регуляция всего, что происходит вокруг.
- 1:20:37Я и делаю помоему так вполне не бессмысленное.
- 1:20:41Движение в этой сфере, а то, что наоборот, сейчас Трамп со своими
- 1:20:45дружичками. Мне кажется, я надеюсь, что это
- 1:20:47всё как бы не не останется в вечности, что это всё будет
- 1:20:52отыгрыно? Разговорил, есть здесь тоже
- 1:20:55заранее изготовлено ещё одна очень интересная сюжетная линия.
- 1:20:59В этом разговоре американская ассоциация политических
- 1:21:01консультантов провела опрос своих членов этот 1000 человек.
- 1:21:05А том, как они используют искусственный интеллект в работ.
- 1:21:07И это понятно и те, кто сотрудничает с Республиканской
- 1:21:11партии, и те, кто сотрудничают с демократами.
- 1:21:13Ну вопрос ответил 200 человек, 15 прошли ещё и глубинные
- 1:21:17интервью там понятно. Ну в целом всё довольно
- 1:21:19предсказуемо. Больше половины считают, что
- 1:21:21искусственный интеллект станет полезным инструментом, но при
- 1:21:24этом не трансформирует профессию. 40% уверены, что это
- 1:21:27вот общество перевернёт, наверное, в какомто смысле это и
- 1:21:29даже в нашем разговоре с тобой такое презентативное соотношение
- 1:21:32позиций, но. Интересные про то, что они
- 1:21:37говорят о своей собственной практике.
- 1:21:39Больше половины уже пользуются языковыми моделями, хотя бы
- 1:21:42несколько раз в неделю все в первую очередь используют их для
- 1:21:45Того, чтобы оптимизировать скучные или дорогие процессы,
- 1:21:48все переживают изза галлюцинации и общей, кстати, этичности
- 1:21:51использования моделей. Но самое интересное там закрытой
- 1:21:54части этого отчёта о том, что консультанты, которые работают с
- 1:21:57республиканцами, намного чаще используют искусственный
- 1:22:00интеллект почти половина, а среди демократов консультантов
- 1:22:04около четверти. Кажется, что ну это вот как
- 1:22:08будто соответствуют какому то базовому представлению.
- 1:22:11Да что правые республиканцы? Ну как то охотнее это прыгают.
- 1:22:14Это, в общемто даже сменой администрации, да, которую мы
- 1:22:18наблюдаем, иллюстрируется, да, там при байдене осторожно
- 1:22:21говорили в том числе и при регуляцию.
- 1:22:23Да при трампе вот Так вот прыгнули вперёд.
- 1:22:26С другой стороны, вэнс в одной из недавних речей сказал
- 1:22:29совершенно наоборот, что цитаты часто говорят, что крипта это
- 1:22:32фундаментальный, консервативное или правая технология, а
- 1:22:35искусственный интеллект левая. Же коммунистическая, я думаю,
- 1:22:39сказал, что это в обоих случаях преувеличения, но элемент правды
- 1:22:42в этом есть. Вот что ты про это думаешь, если
- 1:22:45какойто лайн да, какоето сочетание искусственного ну
- 1:22:49технологии да с политическим компасом или нет?
- 1:22:53Я думаю что нет. Ну то есть данные опроса,
- 1:22:59которые ты привёл, они убедительные и интересные, и не
- 1:23:01вызывают у меня никакого удивления, в первую очередь
- 1:23:05потому, что традиционно. А ну как ты знаешь, прекрасно и
- 1:23:09сам много раз рассказывал своих эфирах и видел.
- 1:23:13Демократы в целом в своих кампаниях всегда ставят ставку
- 1:23:17гораздо больше на человека с человеком на кэнэсинг надо
- 1:23:21республиканцы гораздо больше на медиа на носить же, поэтому
- 1:23:25очевидным образом, что. Первым меньше есть где
- 1:23:30использовать ai ты эй меньше сможешь послать делать кэнвинг а
- 1:23:362 больше есть где, в том числе в отработке тестирования разных
- 1:23:40месседжей влиянии на умы через свою сеть там мелких мелких
- 1:23:45радиостанций и все прочие. А вещи, то есть это отражение.
- 1:23:51Ну как бы подходов политики долгосрочных это не новый тренд
- 1:23:54какой то, как мне кажется, вот ну а есть венца про то, что
- 1:24:00значит кибернетика это продажная девка империализма.
- 1:24:06Генетика лженаука значит и так далее и так далее.
- 1:24:09А вот диалектически материализм наше всё.
- 1:24:12Ну это демонстрация эффекта подковы.
- 1:24:16Да ну то есть как бы вэнц, как как положено фашисту
- 1:24:19высказывается как коммунист, а ну то есть как он в настоящий
- 1:24:25фашистов такой вот таком в таком.
- 1:24:30Классическом смысле слова не Гитлера муссолинистском такой.
- 1:24:34Ну вот как бы нация сильная государство через сильную ничего
- 1:24:38там через здорово теле здоровый дух значит, корпоративное
- 1:24:42государство всё такое внутри там супер классический.
- 1:24:46Естественно, что он в подкове смыкается как положено
- 1:24:51ультраправым с ультралевыми. Вот с этой всей историей про то,
- 1:24:54что есть правильные науки, неправильные науки, классово
- 1:24:58близкие технологии классово чувствует технологии.
- 1:25:03Правая крипта и левый эй ну если бы это бушит, и я не вижу
- 1:25:09большой ценности в обсуждении этого булштата.
- 1:25:15Вот и всё. Хорошо, мы с тобой ложились
- 1:25:18тайны. Последний вопрос из 2 частей,
- 1:25:20правда, но закольцуем, потому что он во многом проистекает из
- 1:25:25вот моей тревожности об этих технологиях может быть
- 1:25:28безосновательно черт его знает. Как ты думаешь, какую долю
- 1:25:32разработать сфере искусственного интеллекта мы вообще видим
- 1:25:35сейчас, а какая остается? Вот где то под положено
- 1:25:38называется, если что такое у российских или западных
- 1:25:42силовиков, то что вот как бы сейчас?
- 1:25:45На волне обсуждения чаджи 5 оказывается гдето вне фокса, а
- 1:25:48на самом деле через 10 лет мы обернёмся и подумаем, блин, вот
- 1:25:52это было на самом деле важной частью всей этой истории этой
- 1:25:55фазы. А короткий ответ нет каких
- 1:25:58силовиков? Причём тут это вообще?
- 1:26:02Мы видим очень прозрачную и очень публичную гонку денег.
- 1:26:07Я это про деньги, там крупные игроки там калибра Майкрософт
- 1:26:13закапывают в год по 20 миллиардов долларов в железо
- 1:26:20это, но в первую очередь это джипиюшки.
- 1:26:23Это мвизерские процессоры. Это гонка строительства дотацент
- 1:26:28гонка строительства мощностей. Энергоснабжение и охлаждение
- 1:26:34этих фабрик учить модели там все более и более сложные, более и
- 1:26:39более совершенные. Надо гонять все больше и больше
- 1:26:42вычислений. И уже поэтому это прозрачно не
- 1:26:46может быть такого, что фсб или даже в цру.
- 1:26:49Если чуть гдето какойто значит там или даже у китайского ф с б
- 1:26:54есть какой то значит супертайн супер компьютер какой то супер
- 1:26:59тайны. Значит модели искусственного
- 1:27:01интеллекта, которая вот про которую никто не знает, но
- 1:27:03которая решает какие то специальные задачи.
- 1:27:05Не знаю там по по выявлению диссидентов это все происходит
- 1:27:09там. Ну типа максимально публично,
- 1:27:12потому что это огромные деньги, огромные устанавливаемые,
- 1:27:16вычислительные мощности, которые буквально смысле слова у всех на
- 1:27:20виду удивительным образом. Вот и его в карман не слушай не
- 1:27:25получишь. Ну то есть ты считаешь, что эта
- 1:27:27технология, которая фундаментально не сделает
- 1:27:30диктатуры более устойчиво? Диктатура сможет поставить себя
- 1:27:35на службу. Любую технологию.
- 1:27:37Ты задала вопрос немножко иначе ты задала вопрос, нет ли
- 1:27:40какихто? Тайных и я технологий уже сейчас
- 1:27:44на службе диктатуры или который диктует.
- 1:27:48Разрабатывать, безусловно, когда эти технологии там ещё более
- 1:27:53разовьются, ещё более станут общего доступными, когда
- 1:27:56появятся прикладные модельки. Отказ относительно дешевые
- 1:28:00доступные. Для не очень квалифицированных,
- 1:28:02для Того и для всего то, конечно, какието китайские
- 1:28:04умники начнут гонять на этих моделях вот там.
- 1:28:10Дикцию поведения тех или иных значит там неблагонадежных
- 1:28:13граждан и и ещё всякие гадости диктатуру умеют использовать
- 1:28:18технологии для Того, чтобы делать гадости, как это было со
- 1:28:21всеми предыдущими технологиями для оценки, как они научились
- 1:28:24использовать интернет для цензуры, пропаганды, для Того,
- 1:28:27чтобы прятать и увидеть активы. И так далее, и так далее, и так
- 1:28:32далее. Так будет и с я их гадалки не
- 1:28:36ходи, но опасения относительно Того, что технология сейчас им
- 1:28:43обеспечить какую то прорыв и скачок вперёд, дополнительный
- 1:28:48мне окажутся беспочвенным. Ну что в эфире был Леонид волков
- 1:28:53главный оптимист 2025 года. Спасибо тебе огромное, что
- 1:28:57подключился, кажется. Спасибо, случилось не спасибо
- 1:29:01нашим дорогим зрителям. Спасибо за интересную беседу.
- 1:29:05Ура. Спасибо огромное Леонид, пока
- 1:29:08вот такой разговор у нас случился.
- 1:29:09Я, честно говоря, когда звал Леонида думал, что мы с ним
- 1:29:13будем обсуждать одни и те же новости, которые я буду
- 1:29:15приносить и както синхронно охать, находясь на одних и тех
- 1:29:19же позициях. Оказалось, что он совсем не
- 1:29:21согласен с моей тревогой и занимает такую вот оптимистичную
- 1:29:25позицию, несмотря на то, что согласен с возможно масштабами
- 1:29:29изменений, которые нас ждёт, мне кажется, получилось очень
- 1:29:32интересно, спасибо вам огромное, если вы ослушали это длиннюющий
- 1:29:35разговор. И если вы хотите поддержать мою
- 1:29:38работу, вы можете подписаться на мой патрион или задать вопрос
- 1:29:41или просто задана по ссылкам в описании этого подкаста.
- 1:29:45Ну и до встречи на следующей неделе обязательно продолжу этот
- 1:29:49подкаст вести. Спасибо вам огромное друзья и до
- 1:29:52встречи.