Как компьютер научился обыгрывать человека в го и StarCraft

Всем привет! Меня зовут Самат Галимов, и это подкаст «Запуск завтра». Как технический директор я пытаюсь разобраться, как устроены сложные и интересные штуки. Я зову профессионалу, с которым можно поговорить простым человеческим языком.

Я не могу больше повторять эти слова, но Юля меня заставляет.

Пожалуйста, ставьте нам оценки и комментарии. 5 звездочек— это лучший подарок Юле на день рождения. Мы в этом подкасте уже много раз затрагивали машинное обучение. Например, мы говорили о том, как машинное обучение помогает увеличивать эффективность выращивания овощей и фруктов. Мы говорили о том, как машинное обучение позволяет предсказать, когда уволятся сотрудники и что сделать для того, чтобы их удержать в компании с Давидом Яном. Мы обсуждали, как машинное обучение помогает сделать вообще практически все сервисы Яндекса с Еленой Буниной. А сегодня будем говорить о компании, которая

занимается тем, что обыгрывает человека в игры.

начиная от аркадных игр типа Пакмана и Арканоида, в котором нужно выбивать кубики, и заканчивая шахматами Го, это такие более сложные типа шахматы азиатские, и Старкрафтом. То есть реально ребята занимаются вот этим вот, в числе прочего. При этом компания DeepMind, о которой я говорю, это одна из главных компаний в области машинного обучения в мире. Несколько лет назад ее купил Google. Зачем они пытаются обыграть человека в игры? И чем еще они занимаются? Вот об этом всем мы поговорим с сотрудником DeepMind'а Сережей Бартуновым. Это подкаст студии Либо-Либо. И мы его делаем вместе с сервисом онлайн-образования Яндекс Практикум. У Практикума есть курсы по дизайну, по анализу данных, по разработке и по английскому языку. Если вы хотите освоить цифровую профессию, переходите на сайт Яндекс Практикум и учитесь.

Всем привет, меня зовут Сергей Бартунов, я так называемый ученый-исследователь в компании DeepMind, занимаюсь исследованием в области машинного обучения. Проживаю в данный момент в Лондоне, прикреплен к поликлинике Florence Road Surgery.

Мы с тобой вместе на ВМК МГУ, но я сейчас веду подкаст, а ты работаешь в DeepMind, одной из самых классных компаний в области искусственного интеллекта. Как так получилось?

На самом деле это, конечно, череда счастливых случайностей, потому что когда мы учились вместе на ВМК, я не помню, на какой кафедре ты учился, а я учился на кафедре системного программирования. И в то время меня интересовали гораздо более прикладные вещи. Впоследствии меня заинтересовала машинное обучение, и в итоге я, будучи на кафедре системного программирования, достаточно плотно им начал заниматься. Потом пошел в аспирантуру. Мне просто очень сильно везло, и я попал к очень хорошему научному руководителю Дмитрию Петровичу Ветрову. Именно как я попал в DeepMind, это тоже достаточно интересно, потому что мне про него рассказал мой студент, которого я курировал тогда, будучи аспирантом. Потом я попал на конференцию ICML.

А что за конференция?

ICML – это International Conference on Machine Learning, то есть одна из двух-трех крупнейших, наиболее престижных конференций. Там были достаточно яркие доклады людей из DeepMind. В тот год изобрели так называемый вариационный автокодировщик.

Я ни слова не понял.

В тот год, фактически, так оказалось, что несколько коллективов независимо изобрели примерно одно и то же.

Ничего себе.

И это одно и то же. Оно сделало большой, может быть, не самый яркий такой вклад в развитие машинного обучения. Но вот для тех, кто внутри этой индустрии находится, для них все понятно, когда говорят «вариационный автокодировщик». А внутри DeepMind это было аж три статьи, написанные тремя разными коллективами, там каждый немножко своего угла. И вот они все три представлялись на этой конференции. И в общем, я просто в какой-то момент с ним познакомился. попросился на стажировку. Я в тот момент вообще не знал, покупает их Google, не покупает, а он в тот момент как раз, я так понимаю, их покупал. То есть, вся эта внутренняя подоплека меня слабо интересовала, мне просто было бы интересно съездить на хорошую стажировку. Попал на нее и потом мне сделали оффер. Так я и оказался.

Сережа, мы вот много раз уже сказали слово DeepMind, все-таки что это за компания?

Это компания, которая ставит своей целью разработать искусственный интеллект, более того, как сейчас принято говорить, Artificial General Intelligence, то есть общий интеллект, и с его помощью решить все прочие проблемы, стоящие перед человечеством.

Неплохая такая заявка.

Слушай, General Intelligence, нам нужно пояснить, что это просто сделать искусственный разум, наверное, вот русское слово, подходящий разум.

У меня вот очень сложное отношение со всеми этими терминологиями. Во-первых, люди плохо понимают, что такое искусственный Мне на самом деле не нравится вообще весь сопутствующий словарь, с помощью которого мы описываем то, что происходит. С искусственным интеллектом хочется сразу понимать какой-то сверхразум, какой-то суперинтеллект, который равен или превышает человеческий, но мы не знаем до конца, что такое интеллект, тем более мы не знаем, что такое общий интеллект. Там есть какие-то способы это формализовать и описать, но во всех них есть какие-то изъяны. Локально мы можем сказать, какие перед нами стоят задачи, но вот на сегодняшний день, что мы умеем, чего мы не умеем.

А расскажи, очень интересно.

Хороший вопрос, потому что разные люди по-разному оценят состояние нашего мира. Ну, например, мы можем достаточно неплохо сжимать и разжимать изображение, синтезировать изображение, какие-то сенсорные штуки. По-моему, все это развитие дипфейков, оно примерно говорит о том, что вот Кое-что мы умеем.

Мне понятно, о чем ты говоришь, но для мамы надо пояснить. Значит, про синтез изображений ты имеешь в виду то, что можно взять, например, фотографию человека и потом наложить эту фотографию на видео так, как будто буду говорить я на видео, а компьютер будет делать так, что говоришь ты или вообще там Путин или еще кто-нибудь.

Да, в частности это, но тут еще надо сказать, что мы уже приняли за данные, что мы само изображение можем синтезировать, а это тоже никто не обещал, что мы умеем это делать. Мы умеем действительно при определенных стараниях, вычислительных ресурсах и наличии достаточного количества обучающих данных, можем решать достаточно сложные задачи. Вот всякие успехи в том числе DeepMind'а и других организаций вроде OpenAI, они это показывают. Мы можем играть в сложные игры. Правда, тут сразу же хочется спросить самих себя, а если мы научились с них играть, точно ли они сложные? Но на момент, когда мы еще не умели это делать, всем было очевидно, что они сложные, по крайней мере так. То есть есть ряд прикладных задач, которые мы умеем решать, по крайней мере, с человеческой точки зрения, достаточно хорошо. Почему я говорю с человеческой точки зрения? Потому что тот же самый синтез изображений, там сейчас наиболее хорошие результаты визуально показывает семейство методов, так называемых GAN, Generative Adversarial Networks. Но большой вопрос, реально ли они выучивают какое-то распределение над картинками, или они просто выучивают какие-то правила, по которым можно генерировать что-то достаточно похожее на настоящее изображение. Вот какого-то консенсуса в этом вопросе нет. Я хочу сказать, что с математической точки зрения мы находимся в одном состоянии, с точки зрения приложений в другом и с точки зрения какой-то вообще стратегии о том, для чего это все нужно и что из этого можно было бы скомпоновать в третьем. И в каждом из них там есть свои вызовы. И обычно, об искусственном интеллекте, они берут какое-то подмножество этих трех фундаментальных направлений и ограничиваются этим.

Ты сказал, что ты выделяешь три компонента, да? Первое— это научное, типа математическое, второе—

это Вторая— это прикладная инженерная, потому что, например, многие результаты, которые мы сейчас получаем, мы получаем их в первую очередь благодаря тому, что у нас есть много железа и много данных. А математика, на самом деле, она как-то, конечно, тоже шагнула вперед, но ее прогресс я бы, возможно, не преувеличивал по сравнению с этим инженерным прогрессом. И третий столб— это вообще, что мы с этим всем собираемся делать. Завтра я тебе дам какую-нибудь очень крутую математику и много очень крутого железа. Что ты с этим будешь делать? Для чего ты будешь это делать? Какое-то стратегическое планирование тоже очень важно.

Офигенно. Мы все три эти темы сегодня затронем. Вот ты пришел в DeepMind, когда компания была на этапе покупки Google. Сейчас это уже компания внутри, это такое подразделение Google, да?

Я могу, мне кажется, достаточно не затрагивать никаких конфиденциальных вопросов, сказать, что это, как у нас принято говорить, это «bet» в Alphabet, то есть это какая-то буква в алфавите, но больше, пожалуй, ничего не могу сказать на тему. Я могу сказать, что я, как сотрудник, вот в моем контракте написано, что я работаю в Google UK Limited.

Класс. Я сейчас начну вот с такой человеческой стороны, может, даже со смысловой, то, что ты назвал третий пункт, да? DeepMind известен тем, что он обыгрывает человека в компьютерные игры. Это, наверное, то, через что все люди слышали это слово хотя бы раз в жизни. Как твоя компания это делает? Можешь рассказать на примере пинг-понга или, например, Arkanoid? Arkanoid— это такая игра, в которой нужно выбивать кубики шариком, при этом не потеряв шарик. написать программу, которая будет хорошо играть в пинг-понг или в Arkanoid, вот именно программу, очень просто. Это такая учебная задача, мне кажется, для людей, которые учатся программировать. Ну, потому что компьютер не совершает ошибок, поэтому ты просто говоришь, что делать правильно, и он начинает делать то, что правильно, и выигрывает. Но вы делаете по-другому. С помощью вот Machine Learning вы играете в эту игру по-другому.

Как?

Действительно, если мы заранее знаем, в какую игру мы играем, мы как люди можем просто написать бота простейшего, который поступает правильно. Но это не очень интересно, потому что если для игры в Arkanoid или в Ping-Pong это действительно сделать легко, то для более сложных игр или более сложных задач в целом, Уже нельзя такую программу выписать, она будет слишком сложной. И более того, в реальном мире правила все время меняются, и значит, тот алгоритм, который мы с таким трудом составили для одних условий, он уже не будет стоять для других. Поэтому мы ищем способ учиться, ну давайте говорить, играть, но мы учимся действовать в какой-то новой среде. И делается это в наиболее сложном варианте, который делает наименьшее количество допущений относительно задач, которую мы решаем. Это при помощи парадигмы reinforcement learning, то есть обучения с подкреплением. Предполагается, что наш агент может взаимодействовать со средой, совершать некоторые действия, получать за это некоторые награды. И его цель – эти награды максимизировать. Причем крайне важно понимать, что награды – это тоже такая штука, Если бы награды нам поступали всегда немедленно, нам было бы достаточно легко учиться. Но вот вся сложность появляется в тот момент, ну не вся, но одно из измерений сложности появляется в тот момент, когда награды у нас отложены. То есть мы сначала, играя в Arkanoid, мы подвинули платформу, от нее отбился шарик, он куда-то полетел, и только либо когда мы забили гол нашему оппоненту, либо когда гол забили наоборот нам, получаем награду, и нам нужно связать эту награду с действиями, которые мы совершили раньше. Это может быть очень сложно.

Офигеть.

Так называемая задача credit assignment, то есть я это по-русски говорю распределение ответственности, как выявить вклад какого-то действия в общий результат конечный.

Ничего себе. Тут две очень интересные концепции. Первое— это то, что в реальной жизни происходит ровно так же. Ну или там эксперименты с обезьянками и бананами. Обезьянка в какой-то момент понимает, что если нажать на кнопку, то ей дадут банан. И вот наша программа, программа, которую вы делаете, она работает по похожим принципам. Она может сделать действие, и ей за это дадут награду.

Да, только награду могут дать через 40 лет. Вот сейчас, Самат, ты делаешь этот подкаст, а через 10 лет ты издашь книгу по мотивам материалов, собранных во время этого подкаста, и тогда ты себя похвалишь за то, что ты этот подкаст сделал 10 лет назад. И вот наша человеческая жизнь и вообще сложное поведение нередко заключается вот в этой отложенности наград, в которых сложно разобраться, что же на них повлияло.

Да, и мне сейчас на самом деле очень хотелось бы пойти поесть, а потом поспать, но я вместо этого сижу, разговариваю

с тобой, потому что я знаю, что в четверг выйдет подкаст, и мне будет радостно.

Как пример.

Окей.

Значит, reinforcement learning— это на самом деле вот такая... Вы как бы моделируете как раз ситуацию, когда компьютер получает награды за свои действия.

Да, мы так ставим эту задачу, да.

Ага.

Серёжа, а есть какая-то разница между играми типа Arkanoid или ping-pong и играми в Go или в шахматы? Вот то, что считается сложными играми в Go— это типа похоже на шахматы, на японские шахматы. Короче, очень сложная игра.

Или корейские, или китайские.

Ну короче, вот восточные шахматы. Для ваших алгоритмов есть разница или нет?

Да-да-да, разумеется. В общем, про одно измерение сложности я уже рассказал. Отличается в том, что награда, в общем, какой-то эффект мы получаем только спустя какое-то время. То есть в шахматах же понятно, что нельзя наградой делать просто какой-то счет фигур, которые у вас съели или которые вы съели. Почему? Потому что вы можете пожертвовать сейчас рядом фигур, а потом внезапно сделать мат, да? Поэтому награду в реальности вы получаете только в конце. И только в конце вы знаете, вы правильно играли в начале или неправильно. Так. Вот. Это первое измерение сложности. Второе измерение сложности заключается в том, что пространство действия гораздо шире. То есть, если мы говорим про арканоид, мы можем подвинуть платформу в один момент времени либо вправо, либо влево. А если мы говорим про шахматы, то у нас есть гораздо больше ходов, которые не противоречат правилам в данный момент. И нам, соответственно, гораздо больше действий надо оценивать. Пожалуй, арканой тоже требует некоторый элемент планирования, но вот в шахматах или в ГО это совершенно очевидно, что там нельзя победить, если не просчитывать какие-то ходы вперед.

Типа, она гораздо более отложенная штука, во-первых, а во-вторых, я вот вторую немножко пропустил, сказал, что надо просчитывать шаги вперед.

Пространство действий гораздо шире.

пространство действий шире. Ага, вот это понятно. То есть в раконоиде, на самом деле, двигаю влево-вправо, а в шахматах есть там типа 100 разных ходов, которые я могу сделать. Ну, не 100, а 10 там, условно.

15. Да, да, да. И их количество будет все время меняться. И в один момент времени вот этой фигурой можно ходить, а в другой нельзя. Там пешку заблокировала кто-нибудь, все, она не может. Ей же ничего не зателось.

Ну, это кажется, что проблемы такие, что, ну, типа, надо больше ресурсов. Или там какие-то принципиальные вы как-то их решаете логически, включаете мозги для этого?

Нет, это принципиальная проблема, потому что там начинаются всякие эффекты вроде проклятия размерности. Но если в любой момент ты можешь делать всё, что угодно, то тебе очень сложно выяснить, что же именно тебе надо делать. Там начинаются всякие эффекты того, что многие действия ты вообще не можешь оценить. Тебе приходится как-то теми или иными способами сужать эффективное пространство действий.

А, то есть ты говоришь, я могу ходить не всеми фигурами, а вот совсем безумные ходы сразу надо сечь.

Я могу ходить, допустим, всеми, но про какие-то я могу сказать сразу, что мне это не выгодно, предположим. На какие-то ходы я буду тратить больше ресурсов, чтобы их оценить, на какие-то меньше. Ну, в общем, во многом вот архитектура AlphaGo, она решает эти задачи.

И это, наверное, похоже на то, как человек играет, типа он понимает, что вот эта пешка двигательного смысла большого нет, все равно ничего не поменяется.

Да, я думаю, какие-то параллели можно провести. Я очень боюсь, когда проводят параллели между тем, та или иная система искусственного интеллекта и человеческий интеллект. Во-первых, потому что мы не то чтобы очень хорошо знаем, как мы сами думаем. Во-вторых, потому что все эти параллели хочется сделать, но они редко прям 100% верны. Но да, Конечно, и альфа-ГО, и человеческий интеллект, они, с одной стороны, полагаются на некоторую интуицию, на некоторую априорную оценку тех или иных действий, но также мы иногда разворачиваем эти действия в уме, думаем, к чему бы они могли привести.

Мы тут начали говорить про ГО. Надо пояснить, почему мы про это начали говорить. В мире вообще есть... вот такие две игры шахматы и го, в которые исторически люди играют гораздо лучше, чем машины. На самом деле там уже в 70-е годы начали писать программы, которые играют в шахматы, и они сначала играли совсем плохо, потом чуть лучше, но профессиональные игроки в шахматы всегда выигрывали машины. Это одни из самых сложных интеллектуальных актуальных игр в мире. И у людей они получались лучше. В 97-м году компьютер, который построил, алгоритм, который построил IBM, выиграл чемпиона мира по шахматам. Но это только 97-й год, люди к этому шли там десятилетиями. А в 16-м году программа и команда AlphaGo, которая как раз является проектом DeepMind, в котором ты работаешь, обыграла человека в Go. Чемпиона мира среди людей обыграла в Go. Это такое историческое событие, про это все писали, это все знают. Мы поняли, что машина умеет делать лучше, чем человек.

Значит, во-первых, вот все эти выводы, машину умеете делать лучше, чем человек, давайте разбираться. Deep Blue победил Каспарова всего лишь потому, что он лучше перебирал. Вообще шахматы— это игра, которую можно перебрать. Начиная с какого-то момента в игре, там дальше можно просто просчитать все ходы, просто до самого конца. А в ГО это дерево перебора, оно гораздо больше. Кто-то считал, что количество, возможно, досок, оно больше, чем количество атомов во Вселенной, что-то в таком духе. Это нельзя перебрать. Победа шахмат, она в некотором смысле неинтересная. Потому что это просто победили перебором.

То есть просто нужен очень большой компьютер?

Да, просто быстрый компьютер. Но мы же не расстраиваемся, что калькулятор лучше нас умножает большие числа. Я лично не расстраиваюсь.

Я тоже.

Вот с Go там было чуть-чуть, конечно, интереснее, потому что, ну, на это можно смотреть по-разному, но удалось совместить перебор и интуицию. То есть всё-таки то, за что отвечал нейросети, ну, по крайней мере, в AlphaGo, с одной стороны, за интуитивную оценку полезности тех или иных ходов, тех или иных состояний досок, то есть там вероятность, с которой фактически этот ход или эта доска, она ведёт нас к победе. А с другой стороны, имел место перебор, который, хорошо, нам кажется, что этот ход там хороший, но давайте попробуем, это же всего лишь интуиция, мы же не знаем наверняка, это только то, что нам кажется. Давайте мы попробуем проверить нашу гипотезу, давайте сделаем вид, что мы делаем этот ход, а что же может сделать наш соперник. А чем мы на этом можем ответить? И мы строим такое небольшое дерево перебора, которое в какой-то момент по некоторому критерию мы все-таки останавливаем. Но в каждом листе этого дерева перебора у нас все равно есть наша интуитивная функция, с помощью которой мы оцениваем выгоду этого хода или этого состояния доски. И это уже достаточно круто, потому что с долей некого такого нехорошего спекулирования можно сказать, что здесь есть элемент интуиции, и это здорово.

А сейчас тот жанр, когда я рекламирую самого себя. Сегодня я расскажу вам о четвертом эпизоде второго сезона. Он называется «Железо, дата-центры и хостинги. Настоящий хардовый выпуск». Это эпизод, в котором Олег Любимов, Selectel, одного из главных российских хостеров, рассказывает, как устроен бизнес хостинга и как он устроен физически. Просто любые вот эти серверы, сервисы, дата-центры, все, что мы обсуждаем, это в конечном счете огромное помещение специально построенное, в котором есть специально очень хитрая система охлаждения, подведены куча кабелей электропитания, интернета. И людей, которые в этом разбираются, по-настоящему хорошо, очень мало. Олег поделился тем, как они строят эти здания, как они выбирают место для этого здания. в каком регионе России дешевле охлаждать серверы в разные сезоны и в разную погоду, какие способы хранения электроэнергии существуют, начиная от дизельных генераторов и баков с дизелем на территории этих дат-центров и заканчивая специальными бетонными блоками, которые раскручиваются до 1000 оборотов в секунду. В общем, это безумный эпизод, рекомендую его послушать. Ссылку на него мы положим в описании к этому эпизоду. Серёж, ты сказал, что мы сужаем пространство возможностей, чтобы оно было хоть как-то адекватно, чтобы его можно было вообще оценить, чтобы можно было условно перебрать варианты и посмотреть, какой оптимальный. Правильно я понял, да?

Ну, в тех случаях, когда мы решаем, что мы вообще допускаем для себя перебор, да. В некоторых случаях мы не полагаемся на перебор.

Про сужение мне просто интересно, а на основании чего ты делаешь это сужение? На основании просто правил, которые ты забил в программу? Типа ты прямо говоришь, в шахматах вот так делать нельзя, не смотри на такие ходы. Или это тоже делает как-то машина сама?

Я боюсь сейчас соврать, но мне кажется, что заведомо неверные ходы, они, конечно же, сразу отсекаются. Хотя, возможно, что во всяких этих следующих версиях, типа AlphaZero, Возможно, их уже и не отсекали как-то априорно программно. В целом, вот этот алгоритм, который стоит за AlphaGo, Monte Carlo Tree Search, эвристически мы можем иногда понять, что, например, если какое-то действие мы считаем, что его ценность очень низкая, и мы очень в этом уверены, но мы просто его даже не будем пытаться обрабатывать. А если где-то мы не уверены или где-то у нас есть высокая неопределенность, мы можем попробовать там прямо распланировать, посмотреть, что будет, если мы это сделаем, оппонент сделает это, а мы сделаем то, все. Но надо сказать, что вот этот Monte Carlo Tree Search и производная от него, это далеко не единственная парадигма, в которой можно действовать. Например, мы, как люди, мы иногда достаточно много сложных решений. Не факт, что мы их очень правильно принимаем, но мы их не редко принимаем, не планируя ничего напрямую, скажем так, в явном виде. Мы не то чтобы прямо себе детально представляем, что в точности случится, если я сделаю это, а там произойдет это. Потому что сложность среды, она может возрастать настолько, что мы не можем иметь полную картину мира у себя в голове. В этих условиях планировать в явном виде может быть трудно.

Блин, я с тобой разговариваю, и у меня такое постоянное чувство, что я лично внутри себя балансирую на грани, чтобы не уйти совсем в какой-то философский вопрос, типа, как мы принимаем решения с одной стороны, с другой стороны. Я балансирую на грани в том, чтобы не начать тебя спрашивать, типа, а как эта математика работает, потому что я, типа, нихера про это не понимаю, и это дико интересно. Это просто отдельный мир вообще того, как люди это делают.

Это действительно очень интересно, потому что нет какого-то одного заведомо правильного, хорошего, универсально верного способа. Люди до сих пор ищут и язык, на котором удобно эти вопросы себе задавать, себе и машине. Люди до сих пор ищут методы, с помощью которых они могут отвечать на эти вопросы. Но так или иначе, как мне кажется, научный дискурс более-менее, по крайней мере, сошелся к тому, вот на какие вопросы надо искать ответы. То есть, что вот мы должны уметь оценивать неопределенность каких-то чего-то. Мы должны знать, допустим, это плохо, и мы уверены в том, что это плохо. Или, а это плохо, но мы не уверены, что это плохо. И нам надо, с одной стороны, устранять неопределенность, с другой стороны, всегда ее в какой-то мере поддерживать, допускать, что мы ошибаемся. Есть, например, такой принцип, который полностью математическую имеет основание, который можно сформулировать как optimism in the face of uncertainty. То есть если мы не знаем, что с нами будет, то лучше думать, что будет хорошо. Скажем так, уровень наших сожалений будет в некотором роде минимально оптимальным, если мы будем оптимистами в тех ситуациях, когда мы не знаем, что будет. И это в некотором роде, разумеется, с некоторым допущением следует, вполне математически.

Офигеть.

И это реально применяется в играют в шахматы, например?

Полагаю, что да.

Знаешь, тут должна быть газетная статья типа «Ученые доказали, что нужно быть оптимистом».

Поэтому я и люблю весь этот журнализм вокруг искусственного интеллекта.

Мне очень нравится этот диалог. Правда, у меня есть чувство, что мы немножко к такому мета-уровню говорим, а хочется таких конкретных примеров.

Ну, я не знаю, как насчет нас, но вот то, что слушателям может быть известно, это вот всякие показы интернет-рекламы. Это все делается на так называемых бандитах. Мы начинаем показывать рекламу, и мы не знаем, на какую рекламу будут люди кликать или обращать внимание. Даже если на какую-то рекламу вот сейчас кликнули один раз, мы же не знаем, это случайность или потому что реклама действительно какая-то очень хорошо работает. И там как раз применяются вот эти алгоритмы, которые поддерживают определенный уровень неопределенности относительно полезности, качества каждой рекламы. И не все некоторым образом эту неопределенность как-то меняют в зависимости от того, как люди на это кликают. И там, в общем, ты можешь быть оптимистом. Если ты не знаешь, что вот эта реклама, она хорошая или плохая, ну поверь, что она хорошая. Если ты поверишь, то, опять же, с некоторой точки зрения ты поступишь правильно.

Офигеть, Серёж, спасибо огромное, потому что, во-первых,

как бы смешно, что эпизод подкаста рано или поздно приходит к баннерной рекламе. Видимо, на этом весь мир крутится.

А во-вторых, что вот такая, типа, теоретическая штука, типа, определённость-неопределённость, как выделать выборы, она, оказывается, вот так вот жёстко приземляется в реальность. Если не уверен, что надо показывать, покажи рекламу и пойми, что с ней, какая она. Если возвращаться к игре в го, компьютер играет в эти игры, в шахматы или в го, вообще в отрыве от того, как играли люди когда-либо. Или старые партии, которые записаны у нас, есть в книгах, в чемпионатах записываются обычные партии, они как-то используются.

Нет, они, конечно, использовались в начале, а потом от этого удалось отказаться, и это, кстати, очень сильно помогло. Действительно, первые версии AlphaGo, насколько я понимаю, они были предобучены на некоторых записанных партиях, довольно быстро там подключили элемент self-play, т.е. когда сеть играет сама собой и там против самой себя учится выигрывать, и тем самым совершенствуясь. В целом, сейчас, по крайней мере, если мы говорим про такие настольные игры, то там удалось отказаться от использования вообще каких-то данных для обучения. Там просто путем обучения целой популяции таких виртуальных игроков, которые друг с другом играют, учатся играть, там удается превзойти все системы, которые обучались на каких-то человеческих партиях.

Офигеть. То есть, если раньше мы смотрели на то, как играют лучшие игроки, и пытались делать, как они, то теперь мы просто берем миллионы виртуальных игроков, то есть внутри машина играет сама с собой.

Думаю, что не миллионы все-таки. Я не беру сейчас, сколько точно, но вряд ли миллионы.

То есть, какое-то большое количество виртуальных игроков, и машина играет сама с собой и учится по мере того, типа, выбирает лучшие ходы.

Ну, там происходит некоторый такой отсев лучших и худших игроков, и лучшие игроки там тоже становятся сильнее. За этим всем тоже стоит достаточно интересная математика, потому что в некоторых играх это не факт, что приведет к тому, что вся популяция станет сильнее. Там есть так называемые нетранзитивные игры, типа Камень, Ножницы, Бумага. где сильные игроки, они сильные только в контексте всей прочей популяции. Но поскольку там все друг с другом все время играют и чему-то учатся, то то, что сейчас сильное, оно внезапно становится слабым, а слабое становится сильным. Получается так, что популяция в общем, она не становится сильнее, что там все время просто происходит какое-то смещение трендов. Таких игр достаточно много, поэтому не бывает

камень-ножницы-бумага.

Ты можешь стать чемпионом мира в данном сезоне, а в следующем сезоне уже всё поменяется. Даже правила не поменяются, просто поменяется то, как играют все-все другие.

Обалдеть.

Кстати, тоже достаточно важно сделать этот комментарий, что в случае с игрой в GO мы можем моделировать действия среды. Мы можем понимать, как устроена среда. Даже если она содержит в себе какого-то мощного оппонента, но всё равно этот оппонент, он один, он понятный, мы наблюдаем, мы имеем доступ к полному состоянию нашей доски. А вот в какой-нибудь игре StarCraft там есть так называемый туман войны. Уже только поэтому мы не знаем, что делать наш оппонент. Следовательно, у нас появляется опять вот эта проклятая неопределённость, и нам нужно действовать исходя из неё. Это означает, что перебирать становится, ну, практически... Совсем бессмысленно.

Невозможно.

Нужно делать это совершенно другим каким-то способом, возможно. И следующие итерации вот этой альфа-го, альфа-зеро MuZero, они в общем в этом направлении отчасти и двигаются. Я все-таки хочу сказать, что здоровый человек, наверное, рад был бы перебирать все, там, совмещать интуицию с перебором, мы не имеем возможности перебирать. Наша жизнь настолько многогранна, и больше того, мы не знаем, это очень важно, у нас нет наград. В отличие от компьютера, у нас нет наград. У нас есть какие-то награды, нам всем там что-то нравится, нам не нравится, когда нас бьют, нравится, когда нас целуют, предположим, и то смотря кто, правда? Но за пределами этого мы как бы немножко сами себе устанавливаем наши награды, это наша личность в каком-то смысле, она и представляет из себя вот эту модель ценностей, модель наград, и гораздо-гораздо сложнее. Тут действительно начинается какой-то мета-уровень, от чего мне хотеть. А каким наградам мне стремиться? Хорошо, у меня есть машина по оптимизации наград, но что же для меня есть награды? Вот это очень серьезный вопрос.

Это уже экзистенциальный вопрос, к нему мы сейчас подходить не будем.

Это вопрос, который не имеет ответа.

Очень интересно, про StarCraft ты упомянул. Есть игры такие классические, типа умные, интеллектуальные, для высоколобых. Я имею ввиду шахматы, го, вот это всё. А есть StarCraft. Это игра, в которую играют подростки, которые вместо того, чтобы учиться, в неё играют. Ещё это такой competitive sport. Это стратегия, в которой нужно двигать юниты, там, создавать какие-то... здание строить и дальше мочиться. А у вас была команда, которая занималась игрой в Go, а есть команда, я так понимаю, до сих пор, которая занимается игрой в StarCraft и делает алгоритм, который лучше всех играет в StarCraft, ну или пытается.

Ну, можно так сказать, да.

Это компьютерная игра. Она что, сложнее, чем шахматы?

Ну, она определенно сложнее, чем шахматы, по крайней мере, в ряде своих аспектов. Как я уже говорил, в шахматах мы видим доску, от нас невозможно скрыть, что там происходит, да, на другой стороне доски. А в Старкрафте очень даже возможно, и в этом, в общем, большая часть игры и заключается. В том, что там нужно все время шпионить за своим соперником, знать, что он делает, потому что, глядя на то, какие здания он строит, каких юнитов, мы как бы можем садаптировать свой, так называемый, билд, в этой терминологии называется. свой билдордер, вот, чтобы наиболее хорошо бороться со своим противником. Вторых, она гораздо длиннее, эта игра. Наша награда становится еще более отложенной, пространство действий во много раз шире, потому что понятно, что мы можем выделять в этих юнитах таких-сяких строй здания там, или там на пол клеточки вправо. Мы можем делать очень много чего, и наш оппонент может делать очень много чего. У нас есть разные карты. Но это уже какие-то детали, но тем не менее у нас меняются правила компетитива StarCraft, они немножко меняются. Там меняется баланс юнитов, там у них какая-то огневая мощь, в общем, и здоровье, оно тоже меняется от сезона к сезону. И это, в общем, можно сказать, что такой пример нетранзитивной игры, по крайней мере отчасти. Оптимальность стратегии, она напрямую завязана на то, как играют остальные игроки. Эта игра однозначно имеет те измерения, в которых она сложнее, чем шахматы.

Я тут понял, что шахматы ещё это игра, в которой люди делают ходы по очереди. Типа ты сделал ход, машина сделал ход, ты сделал ход.

Да-да-да.

А в Старкрафте ты как бы непрерывная, она больше похожа на жизнь в этом плане, ты всегда можешь что-то делать.

Это правда, да.

Нейросеть учится по мере того, как она решает задачи или смотрит, как кто-то другой играет. Это одна и та же нейросеть учится и играть сначала в шахматы, потом в Старкрафт. Это какой-то дальний потомок, прямой потомок. В смысле, он знает, как играть в пинбол или уже нет? Или он забыл уже это?

В целом, мы играем всё, всё время разные, разные люди по-разному дадут свою оценку, но я считаю, что мы достаточно сильно затачиваемся под каждый конкретный проект. Но мы также всё время стремимся этого делать как можно меньше, потому что в этом-то и весь смысл. Но однозначно, ты очень хорошо задал вопрос, потому что это большая проблема одновременно играть в разные игры, одновременно решать разные задачи, они как бы вступают в некоторый конфликт. его нужно очень грамотно уметь разрешать, и это прям отдельная задача машинного обучения. если мы ни про какие игры не говорим, а просто мы хотим классифицировать изображения, но только изображения у нас, они как бы постепенно меняются. У нас добавляются новые классы, какие-то удаляются, а потом у нас мы там в течение времени, допустим, классифицируем машины, а машины они все время какие-то новые выпускаются, но остаются и старые в том числе. Вот эта проблема Интерференс, она вполне актуальна, да, что новые знания, они конфликтуются с старыми. Старые вымываются новыми, их надо как-то всех консолидировать и в то же время желательно еще и выигрывать от того, что мы решаем много разных задач. Это все открытый вопрос, на котором все работают, включая нас. Офигеть.

То есть это нерешенная задача, и я так понимаю, что сейчас каждая нейросеть, она заточена под конкретную задачу, и нейросеть, которая умеет делать много разных вещей одновременно, это какая-то вот совсем новая область.

Она не то чтобы новая, но это действительно не то чтобы мы могли много действительно разных задач решать чем-то одним. такого вывода не смог бы сделать.

То есть это скорее вы как ученые, решая один класс задач, вы уже лучше понимаете, как решать следующий класс?

Хочется, по крайней мере, в это сильно верить. Но в целом это так, потому что, например, в том же StarCraft там используются некоторые классы моделей, которые адаптированы под свою задачу, но их придумали для совершенно других задач. Да, в этом смысле преемственность есть, но вот если мы возьмем какую-то совершенно другую новую область, там с большой вероятностью придется какую-то более специализированную архитектуру искать. чтобы она лучше работала. Хотя тоже не совсем так. Вот буквально на днях выйдет статья нашего, кстати, однокурсника, моего друга, который сейчас в Google Brain работает. В общем, они этот тезис стараются ставить под сомнение, так ли сильно она специализируется.

Так, вот мы сейчас с тобой поговорим. про игры, значит мы начали с совсем простых игр, в которых можно только эту панельку двигать налево и направо, да, пинг-понг. Дальше перешли к сложным играм типа шахмат, но у них оказывается можно перебрать, в го перебрать нельзя, но тоже у них научились играть. Потом начали играть в Старкрафт, которым уже можно бесконечно играть и есть туман войны. И вот после этого, я так понимаю, начинается реальная жизнь. Это вот такой переход. Для этого делается эта ступенька. То есть мне просто очень интересно, зачем мы играем в игры? Какая практическая польза человечеству от этих побед?

Я скажу так, опять-таки это сейчас я не озвучиваю официальную стратегию DeepMind, но мне кажется, что мы играем в игры, потому что это очень удобный полигон для оттачивания наших методов. Потому что игры, в отличие от реальной жизни, можно отмасштабировать и ускорить. Можно запустить миллион старкрафтов на каких-то серверах, поиграть в них, ускорить эту игру. Нам же ничего не мешает. И это дает нам очень много опыта, на котором мы можем обучиться. Тем самым опробовав какие-то свои методы. А в реальной жизни у человека есть сколько? 80 лет, 100 может быть. И это все время, в течение которого мы учимся. Я просто хотел бы пояснить, что компьютерные игры— это здорово, но DeepMind и вообще весь дискурс в нашем сообществе исследователей искусственного интеллекта потихоньку не то что смещается, он расширяется в сторону самых разных приложений. Игры— это то, возможно, чем DeepMind себе зарекомендовал, но вот недавно у нас был очень большой успешный проект про protein folding, про свертку белков, но, несомненно, многое, что было опробовано просто ранее, опыт, конечно, пригодился там. У того же DeepMind вышло несколько статей, так или иначе, связанных с физическими приложениями. Вот, кстати, я знаю коллектив, работающий в Высшей школе экономики на факультете компьютерных наук, которые занимаются физикой высоких энергий. И они там регулярно в своих исследованиях используют очень много машинного обучения, там очень много генераций изображений. Придумывалось это все, ну, не то чтобы совсем для баловства, но без какого-то такого серьезного очень применения. И долгое время люди там просто какие-то интересные картинки генерируют, красивые. А ученые тем временем взяли и адаптировали это для симуляции каких-то своих там процессов физических. И это им помогло. То есть я лично не провожу какой-то суперглубокий параллель. Наверное, важно для инвесторов, для налогоплательщиков.

Куда наши деньги тратятся.

Да, чем ученые занимаются. Но лично я бы здесь не проводил какой-то очень строгой границы, потому что мы просто учимся учиться, мы просто учимся решать задачи. А какая следующая задача окажется наиболее востребованной, ну вот там мы это и применим. Не всегда это потребует такого уж прям большого с нашей стороны изменения подхода.

Офигеть. То есть игры— это удобный полигон, на котором можно тренироваться, решать эти задачи. С помощью компьютера.

Да.

про протеины, белки. Что это за задача? Зачем она нужна? И алгоритм машинного обучения?

Но здесь я проявлю свою полную некомпетентность, несостоятельность. Фундаментально мы, как органические существа, всё, что у нас происходит, это то или иное сворачивание белков. Вот у нас растут мышцы, какие-то белки сворачиваются. Какое-то лекарство мы принимаем, это тоже частично какие-то молекулы, которые составляют белки, каким-то образом себя вести. Задача сводится к тому, что у нас есть белок, развернутый линейно. Представьте себе, что вот мы его отпускаем, и он по каким-то законам сворачивается, ну потому что там какие-то молекулы, они любят с другом соединяться. В общем, там есть какие-то энергетические более вероятные, более эффективные состояния и менее. И есть какое-то наиболее энергетическое эффективное состояние, в которое белок хочет прийти. По одномерной структуре надо предсказать его там 3D структуру, вот когда он уже свернется.

Офигеть.

Так. Я знаю, что это очень важно для всего на свете, но я не могу сказать ничего конкретного.

Окей.

Да, это одна из фундаментальных задач, которую пытается решить человечество. Если мы научимся быстро и качественно это делать, то мы лекарства начнем быстрее изобретать, с болезнями бороться, много всего.

Это фундаментальные механизмы, которым наши тела функционируют, и было бы неплохо в нем разобраться. Я так про это думаю.

Причем здесь алгоритм машинного обучения и проект AlphaFold.

Притом, что очень сложно это делать без машинного обучения. Я так понимаю, что исследовать этот белок, получившийся, в общем, на это надо потратить много денег. И вроде как до появления AlphaFold, условно, идёт в аспирантуру, у него вполне тема диссертации может быть сворачивание какого-то конкретного белка, ну или там нескольких. Вот он, получается, 3-4-5 лет своей жизни потратит, чтобы свернуть 3-4-5 белков каких-то.

Это очень Офигеть, то есть человек ученый, он сначала как бы в школе 10 лет отучился, потом в универе 5 лет отучился, потом у него аспирантура, и вот в этой аспирантуре 30 лет жизни человека взрослого, которого мы себя одеваем, кормим за счет бюджетных денег, она уходит на то,

чтобы свернуть 5 белков.

Да, условно. Ну, наверное, там не только ему нужно свернуть, ему, наверное, надо еще там что-нибудь понять про то, почему так и не иначе, но тем не менее. мы могли бы очень сильно ускорить этот процесс. Представляете себе, вместо года, ну допустим, я не знаю, сколько работает альфа-фолл для прямо крупных каких-то белков, но я подозреваю, что неважно, если ты можешь ускорить это, допустим, до дня или до часа, ну это потрясающе совершенно.

То есть речь идет о порядках, о десятках порядков ускорения.

Да-да-да.

Офигеть. Какой прогресс вообще. У них это реально получилось сделать, вместо того, чтобы делать эксперименты, теперь можно просто в компьютер вбить, и оно заработает.

разные эти белки, они имеют разный уровень сложности. Там есть вот этот competition, КАСП, он, по-моему, называется, или КАСПР.

Это соревнования среди людей, которые…

Да, это соревнования, где все сворачивают эти белки, и потом, значит, их сравнивают с тем, что свернули ученые. То есть они, как бы, это еще пока не публикуют, придерживают, и потом смотрят, кто лучше всего это предсказал. И вот для простых белков там что-то потрясающая какая-то точность, а вот для более сложных она, на самом деле, тоже очень классная, но вот еще есть куда расти.

Так вот я узнал сегодня, что есть еще отдельный вид человеческой деятельности.

Люди сворачивают белки и очень этому радуются. Соревнования даже устраивают.

Я так понимаю, что мы все в ходе нашей жизни только этим занимаемся.

Сережа, можешь привести аналогию? Чем эта задача... Я понимаю, что ты уже несколько раз повторил, что ты лично этой задачей не занимаешься, но ты все равно в этой теме гораздо лучше меня разбираешься. Чем эта задача похожа на игру в Go, например, или на игру в StarCraft?

У нас есть комбинаторное пространство свернутого белка, вот эти 3D-структуры. То есть, чисто так формально, молекула может занимать очень много положений, какая-то конкретная, или атом, в общем, вот эти единицы. И конечных комбинаций их очень много, в которые белок может свернуться. Их очень много, а это значит, что, опять-таки, вот такие комбинационные задачи в худшем случае надо решать перебором. Но мы знаем прекрасно, что переборы, все вот эти экспоненциальные сложности, это все плохо кончается, почти никогда не кончается. Но при этом структура-то этого какая-то есть. Это же не какой-то совершенно случайной из воздуха взятой задачей оптимизации. Она имеет какую-то физическую природу за неистоящую. Я бы сказал так, что и в случае Go, и в некотором смысле, на их уровне абстракции, и Go, и StarCraft, и вообще много чего в человеческой деятельности, оно сводится к тому, чтобы предсказывать или так или иначе решать вот эти задачи оптимизации сложные, которыми что-то стоит. И если мы умеем это делать, либо напрямую оптимизируя, либо минуя вот непосредственный процесс оптимизации какой-то алгоритмической, мы все равно можем это предсказать, уже результат конечный, я бы сказал, что это очень важно. Даже сложно сказать, где это не нужно, просто буквально всё в нашем мире, так или иначе, в общем, это результат решения тех или иных задач оптимизации. Вот, кстати, я забыл упомянуть, проект, которым занимался конкретно я, который тоже имеет очень большую полезность, без всяких кавычек, это проект по комбинаторной оптимизации. У нас вот статья вышла в начале года, на архиве скоро, надеюсь, она появится ещё в каком-нибудь издании, где мы показываем разные задачи планирования, например, задачи планирования дата центра, где поставить какой компьютер. Миллион задач, которые надо решать всем постоянно, там, планирование всяких авиарейсов, и в том числе сворачивание белков, это некоторые задачи оптимизации. Их, конечно, надо очень по-разному решать, потому что по природе свои не отличаются, но вот если мы научимся решать одни, другие, третьи, это же прекрасно, это нам очень многому чего может дать.

Сейчас, мне кажется, я тебя наконец-то понял. Вообще любую задачу на свете можно просто решить, перебрав все варианты. Проблема в том, что этих вариантов так много, что никакой человек и никакой компьютер никогда в жизни не успеет перебрать все варианты.

Да, совершенно верно.

ценность нейросетей, что вы учите машину предугадывать оптимальные варианты, не делая перебора, основываясь на предыдущем опыте. То, что человек называет интуицией, вы учитесь повторять с помощью компьютера.

Это все-таки всего лишь один из срезов, но это, безусловно, верный срез. Мы, разумеется, стараемся выучить такую структуру задачи, знание которой позволяет нам там меньше или почти что-то не перебирать, а по возможности, да, просто предсказывать. Это один из срезов, там, несомненно, есть еще масса других.

Кайф. Я открыл в Википедию и там прочитал, что алгоритмы DeepMind используются в Android-телефонах для управления яркостью экрана для того, чтобы экономить батарейку. То есть даже складывание белка, это какая-то такая научная высоколобая задача, которая, наверное, появится у меня на столе через 15 лет, лекарства будут новые. А вот какие-то совсем живые применения, ты говорил про планирование авиарейсов, например, это уже реально использовать?

Авиарейсами мы конкретно не занимаемся, это привел к примеру просто комбинаторной задачи, но управлением дата-центрами, да, это публикованно, и мы этим занимаемся с разных сторон. Технологии, да, действительно могут использоваться, вот ты упомянул что-то полезное, а еще она может использоваться для плохого, в кавычках, или без кавычек, правильно? Мы же можем устраивать политические репрессии, применять это в военных приложениях. Все это очень важные вопросы, и я вот на месте попросвещенной публики, я бы в общем не интересовался, скажем так. Что

ты имеешь в виду? Причем здесь машинное обучение?

Ну вот, например, есть очень controversial статьи, в которых люди считают, что они по фотографии человека могут предсказать, склонен ли он совершить то или иное преступление.

Слушай, я слышал такую историю 150 лет назад.

Да, да, и вот человек-то нехороший, вот я вижу, вот я вижу, глаза у тебя, знаешь, такие недобрые, недобрые. В общем, есть люди, которые на полном серьезе проводят такие исследования, публикуют их даже в достаточно престижных местах, вызывают много вопросов. Слава богу, это хотя бы смешно, гораздо менее смешно, когда какого-нибудь человека не возьмут на работу, потому что скажут, знаешь, наша нейросеть предсказала, что ты склонен к воровству, поэтому ты у нас не будешь работать. Вот это было бы печально, правда?

Это реально, что ли? В смысле, такие исследования публикуются в солидных журналах?

Ну, я не знаю, сколько солидных, но, скажем так, в непомоечных. Совершенно точно есть такие ученые, такими вещами занимаются. Ну, то есть, когда у тебя в руках молоток, да, все вокруг гвозди, когда у тебя в руках нейросеть, начинаешь все подряд предсказывать. Ну, по крайней мере, некоторые люди не могут удержаться. И я поэтому говорю, что к применению этих технологий стоит, конечно, подходить как-то более-менее осмысленно.

Какие вообще команды работают над машинным обучением в мире? DeepMind не один, есть как минимум OpenAI, очень громкий проект. А сколько вообще таких сильных команд, которые работают над этой темой?

Вот очень важно, моя личная позиция заключается в том, что неправильно все сводить к тому, что есть DeepMind, OpenAI, Google, ну там еще какие-то крупные индустриальные компании. Мы просто о них больше слышим, потому что они имеют больше возможности о себе рассказать. Я считаю, что машинное обучение – это такая дисциплина-паразит, она всасывает лучшие результаты и лучших людей отовсюду. Так что в некотором роде более-менее все занимаются машинным обучением. Но есть очень много команд в России, групп, в которой я учился в аспирантуре Дмитрия Петровича Ветрова. группа байесовских методов, которая имеет свои подразделения практически в очень многих местах.

В смысле?

Типа Яндекс, Mail.ru и... Нет.

Вышка, ВМК. Насколько я понимаю, Дмитрий Петрович в исследовательском центре Samsung. Там, в общем, такая динамичная структура, которая имеет свои представительства много где, но есть еще ряд других прекрасных групп. Вот у нас есть очень сильный коллектив Виктора Лемпицкого, который до недавнего времени был главой AI-центра Samsung в Москве, которые совершенно потрясающие вещи делают абсолютно на международном уровне. Есть группы, которые, может быть, они не напрямую занимаются машинным обучением, но, тем не менее, они этим занимаются. в Сколтехе, Иван Оселедец, группа Бурнаева. Есть ряд групп, которые занимаются, ну, более, там, каким-то нейросайенс вещами. Миша Бурцов, возможно, его можно упомянуть. Есть масса людей на ВМК, тут же Константин Воронцов.

То есть это такая академическая среда.

Ну, я сейчас перечисляю академическую, разумеется, а можно говорить про прикладные группы в том же Яндексе, в Самсунге, в Хуавейе, я не знаю, в Mail.ru, везде, везде есть. очень боюсь кого-то не упомянуть, и потом это прозвучит как будто человека нет. Но я как раз призываю всех слушателей вот так не думать, что если кого-то или что-то не упоминать, значит этого нет.

Это не так. Вопрос, который я задаю всем. Посоветуй, что ты слушаешь или читаешь в интернете, или может быть книжку какую-то.

Я, к сожалению, достаточно много потребляю мусорного контента, вынужден в этом признаться. Откровенный трэш.

Тут 18+, давай как бы жарь.

Но из полезного я смотрю... Нет, нет,

нет, давай, давай, давай, давай. На какие паблики ты подписан?

Вот сейчас я с большим удовольствием читаю паблик «Обыкновенная мерзость» в ВКонтакте.

Ссылку на него мы положим в описании к этому эпизоду.

Не знаю, стоит ли. Ну, в общем, много очень контровершного контента, которые меня сам находят, я не могу им отказать в своем процессорном времени. Но если говорить про серьезно, про то, что я могу рекомендовать людям, я с большим удовольствием сейчас смотрю курс лекции, можно так обобщить по политике, Ельского университета от Ильина Шапира. Очень интересный курс, проливает очень много света на ряд событий, в том числе происходящих в нашей стране отчасти. Он в основном сфокусирован, конечно, на других странах, но тем не менее. Стараюсь самообразовывать себя в физике. Я тут читаю книжку по квантовой физике. потому что я считаю, что мне надо быть готовым к тому, когда квантовые компьютеры, значит, вовсю появятся, я уже должен понимать, что с ними делать. Хочу в этот раз напережение действовать.

Квантовые вычисления – практический подход. Ссылку, название этой книжки мы положим тоже в описании к эпизоду.

И поскольку я плохо очень учился в университете, мне иногда надо читать книги просто по математике. Введение в гладкие многообразия.

О, Господи. Название этой книги мы в описании эпизода не будем.

Серёжа, спасибо тебе огромное, что ты нашёл время и было дико интересно. И тут и математика, и какой такой мета-мета-мета уровень. Вообще кайф.

Спасибо тебе.

Спасибо, что пригласил, Самат. Всего доброго.

А я хочу порекомендовать вам фильм на ютубе. Он как раз про то, как команда DeepMind'а смогла победить человека в Go. Он называется AlphaGo. Видео доступно на YouTube бесплатно. Ссылку на него мы положим в описании к этому эпизоду. Это подкаст студии Либо-Либо. И мы его сделали вместе с сервисом онлайн-образования Яндекс Практикум. Над подкастом работали редактор Юлия Яковлева, продюсер Павел Боровков, звукорежиссер Нина Мамотина. За джингл спасибо Алексею Зеленскому. Редактор субтитров А.Синецкая Корректор А.Егорова