Что означает появление DeepSeek

Либо-либо. Всем привет! Меня зовут Самат Галимов, и это подкаст «Запуск завтра». Как технический директор я пытаюсь разобраться, как устроены сложные и интересные штуки. Этот сезон тематический. В нем мы на протяжении 10 эпизодов исследуем власть в цифровом пространстве. Кто управляет интернетом? Кто решает, как мы пользуемся технологиями? Я пытаюсь разобраться, как государства, корпорации и алгоритмы определяют наш пользовательский опыт. А помогают мне в этом профессионалы, с которыми можно поговорить простым человеческим языком. Сегодня мы поговорим о нашумевшей китайской компании DeepSeek. 20 января они представили свою нейросеть, и реакция была молниеносной. Американский IT-сектор просел на 1 триллион долларов, инвесторы засуетились, в индустрии заговорили о гонке технологий. Наш сегодняшний гость – основатель стартапа в области искусственного интеллекта из Долины – Артем Родичев. Он нам расскажет, что же произошло на самом деле, как это изменит расстановку сил на рынке искусственного интеллекта, и что это будет значить для нас, обычно пользователей. Этот сезон мы делаем вместе с партнёром. Экосистема продуктов для бизнеса— Контур. В середине выпуска вы услышите нашу партнёрскую рубрику.

Сама привет, слушателям привет. Меня зовут Артём. Я фаундер CEO в компании Ex-Human. Мы занимаемся тем, что мы делаем эмпатичный AI. Персонажей, с которым не скучно разговаривать.

Скажи, что это за продукт такой DeepSeek? Что он умеет делать?

DeepSeek— это продукт в виде нейросети, LLM, от китайской компании одноимённой. Это их неосновной бизнес. Раньше это был хедж-фонд. Они зарабатывали деньги на алгоритмическом трейдинге, машинлернеров (machine learning специалистов), которые обучают какие-то модельки, которые предсказывают какие-то данные на финансовых рынках. И они с помощью этого зарабатывали. А чтобы тренировать такие модельки финансовые, тебе тоже нужны какие-то ресурсы. Тебе нужны GPU-шки.

GPU, или как обычно говорят GPU, это

Graphics Processing Unit, графический процессор. Они используются для того, чтобы играть в видеоигры и для больших вычислений.

И они начали, видимо, закупать GPU-шки сначала для своей алгоритмической торговли. Вот, а потом в какой-то момент они, видимо, поняли, что им скучно дальше заниматься алгоритмической торговлей и на этом только деньги зарабатывать, а решили пойти в вот такой прям фундаментальный AI Research. Они начали выпускать свои нейросети какое-то время назад, там первый релиз DeepSeek был в 23-м году еще. И они позиционировали просто, как такой китайский open source, что мы будем делать модельки, выпускать их в открытый доступ, и будем делать такие китайские большие LLM-ки.

LLM-ки или Large Language Models— это большие лингвистические модели, проще говоря, современные нейросети.

которые on par будут ... пытаются сматчить state-of-the-art модели, в том числе open-source, которые выпускают американские компании.

Артём имеет в виду, что в DeepSeek захотели сделать такие модели, которые сравняются по качеству с ведущими мировыми моделями, моделями американских компаний.

Вот, но это не особо было каким-то большим прорывом, большим бумом. Многие занимались тем, что они тренировали какие-то свои модельки и делали их open-source. Тот же Mistral, французы, они тоже, у них самый бизнес— это делать open-source модели. Потом как-то там заработали на консалтинге, на представлении API. Значит, ребята из DeepSeek'а развивались и развивались. При этом у них не очень большая команда, кто занимается именно AI-модельками. То есть там их до 100 человек, возможно даже в районе 50. Относительно OpenAI, которым там тысячи ресерчеров, средняя зарплата в миллион в год. В DeepSeek'е там китайские инженеры сильно дешевле, их сильно меньше было. А это одна из их интересных особенностей. И, по сути, фурор, который они произвели недавно, чем они вообще стали знамениты? Тем, что они выпустили модель DeepSeek. Сначала была V3, которая была неплоха, но не была прорывом для комьюнити. Для комьюнити, для обычных пользователей, стал прорывом модель R1. Это модель, доблочная на базе DeepSeek V3 модели, предыдущей версии, с помощью Reforced Learning. Суть этой модели в том, что она, прежде чем тебе выдавать ответ, она reasoning делает / «резонит», и она начинает размышлять. То есть она начинает генерировать какое-то количество токенов, размышляя про текущую проблему. То есть сначала она говорит, насколько я понимаю, у тебя проблема такая-то, такая-то. Значит, давай подумаем, как мы ее можем степ-бай-степ решить. И вот, скорее всего, тут нужно сделать шаг-шаг-один, шаг-два, шаг-три. И вот она пишет план мыслей того, как она будет решать твою проблему, и на основе этого плана начинает ее решать. После этого резонинга она у тебя уже выдает какой-то финальный ответ. И путем того, что она резонит, ты перекладываешь compute с момента тренировки в нейросети на момент inference.

Инференс— это когда нейросеть работает, то есть вы что-то у нее спрашиваете, она начинает отвечать. Вот это получение ответа из нейросети называется инференс. Но его противопоставляют обучению или тренингу.

То есть в момент инференса модель начинает использовать больше компьютера, она думает дольше, из-за этого она может давать более качественные ответы. Она может решать какие-то более комплексные задачи, которые требуют многоходового размышления. То есть, опять же, это как у человека. Есть простые задачи, есть сложные задачи. Там простая задача 2 плюс 2, можно выполнить сразу ответ 4, не особо думаю. А есть какие-то сложные задачи, там проанализируют состояние рынка open-source нейросетей на 2025 год. И там нужно много всего поделать, понять вообще, что такое состояние рынка, в чём этот анализ, какие источники нужно использовать, походить по этим источникам, сагрегировать данные, то есть много-много шагов. Вот, и как раз-таки прорыв DeepSeek модели, заключалось в том, что они выпустили модель DeepSeek R1, которая по качеству сравнилась с OpenAI O1 модели. И, соответственно, OpenAI, в отличие от DeepSeek, никакие свои модели не выкладывают в открытый доступ. ни весов этих моделей или код, на который эти модели тренируются, или инференса. Там все модели ты можешь получать только через API. И то же самое у других топ AI-компаний в Америке, у Антропика, у Гугла. Они все представляют свои модельки через API, никто их не open-сорсит. Китайцы чем удивили? Во-первых, тем, что они заопенсорсили такую модель, которая по качеству смачивалась с OpenAI. А во-вторых, то, что они сильно демппинганули цены. У них модель довольно эффективная получилась с точки зрения костов на использование этой модели. А именно она стала в 10-20 раз дешевле, чем модель от OpenAI один. при этом имеет такое же качество. И, собственно, вот эти два фактора и взбудражили мир. То есть, они показали, что мы, значит, маленькой китайской компанией можем сделать китайскими ресёрчерами без американских публикаций, без глубоких деталей, без понимания того, как это устроено в OpenAI в Антропике и так далее, потому что они публикуют подноготную, как на тренировочной сетке. Просто на таком ресёрч-энтузиазме они смогли смачить качество OpenAI. Ну, то есть там есть еще шутка по поводу того, что OpenAI нон-профит вначале на организации была. Значит, в каком действительно мире мы живем, что нон-профит на самом деле оказался самой жадной дотенья к организации, а значит, хедж-фонд делает open-source. Китайский хедж-фонд делает open-source, а американский нон-профит максимально гриди компании.

Это реально очень смешно.

DeepSeek пошли по пути того, что ну мы уже бабки заработали, у нас уже есть там классные ресёрчеры, хочется заниматься, видимо, AI. То есть это очень сильно толкает ресёрч вперёд, нежели чем ты даже будучи у тебя там тысячей суперталантных инженеров, которые сидят в одной лабе, у тебя всё равно так или иначе создаётся bias. То есть у тебя есть там корпоративная рука, которая тебе говорит, что тебе нужно делать, когда тебе нужно делать. у тебя есть 8 миллионов человек, которые в свои руки могут получить эти сетки, прочитать все эти статьи на своих там не очень мощных видеокартах, против, даже запустить.

DeepSeek, он на самом деле такой же

крутой, как ведущие модели OpenAI, Антропика и

Google, которые доступны широкой публике.

Ну, они примерно он пар, да. Там же много разных задачек может быть. Там есть задачное программирование, задачи, не знаю, на какие-то тексты. Вот есть этот текст, есть вопросы к этому тексту, и суммаризировав этот текст, ответить на эти вопросы. Ну и так далее. То есть много разных тасок с разных сторон. И, соответственно, они там. На каких-то задачах чуть лучше, на каких-то задачах чуть хуже. Но примерно, если агреши брать, плюс-минус такие же получаются, да, как какие-нибудь O1 модели. То есть вот сейчас OpenAI релизит O3. Модельки они, особенно там O3 High, которые долго думают, используют много компьютера, они посильнее уже будут, чем R1 от DeepSeek'а. Но они сильно дороже. Для нас, для потребителей, когда ты выбираешь, что тебе использовать, там, Claude от Anthropic, что GPT от OpenAI или там DeepSeek сетку, то ты, скорее всего, выберешь DeepSeek, потому что она будет в 10-20 раз дешевле. То есть, опять же, зависит от задач. Если тебе нужна прям супер-высокая точность, ты готов долго ждать и готов за это платить, ты пойдешь в OpenAI. Если тебе нужно решать какие-то плюс-минус стандартные задачки, которые ты решал с помощью GPT-4o и даже с помощью O1 модельки, ты пойдешь в DeepSeek, потому что оно будет 20 раз дешевле, будет работать примерно так же по качеству.—

Для тех, кто этим не пользуется, порядок цен в 20 раз— это значит, ну там не знаю, один запрос в OpenAI стоит условно доллар, в DeepSeek он стоит 5 центов?

Такое?—

Ну типа того, да. Примерно так. Мало того, что они смогли сматчить, они выкатили это OpenSource. Мало того, что они выкатили это OpenSource, использование их моделей в 10-20 раз дешевле, чем O1 в том же самом качестве. И вот вся эта совокупность факторов переполошила весь мир. Все такие, блин, раньше Штаты были гегемоном в AI, все там state-of-the-art модельки выходили из Штатов, а вот теперь картина меняется. Теперь Китай не только догнал, но и в каком-то смысле перегнал Америку в плане того, что они эти модели open-sourced, что они довольно дешевые, что они полностью раскрыли весь процесс того, как они тренировали эти модели. Как устроена архитектура, какие они там сделали хаки архитектурные, чтобы учить такие модельки. Полностью все рассказали, как это было сделано. Но опять же, там нет такого, что ты можешь просто нажать эту кнопку, скормить файл с данными и на выходе получить модель DeepSeek. Даже если у тебя есть все ресурсы. Потому что там есть определенные скрытые компоненты. Например, они вот только недавно рассказали, что они обучались на данных из OpenAI, из GPT-4.0.1. Признались в этом. Потому что их прямо схватили и сказали, типа, ChatGPT-модель. То есть, когда ты у DeepSeek'а спрашиваешь, а кто тебе сделал, они говорят, мне сделал OpenAI. Ну и так далее. Вот откуда она могла это выучить, только обучаясь на данных OpenAI? То есть, чтобы модель научилась делать какой-то reasoning, тебе нужно обучать такие модели на reasoning-данных. То есть, на данных, в которых уже написана какая-то задача, и написаны reasoning последовательных мыслей, как ты приходишь к правильному ответу. И вот недавно они признались, что вот эти reasoning-таски они брали из CGPT-4. Потому что изначально откуда себе набирать вот эти данные с ризингом? Это довольно тяжелые данные. То есть OpenAI, скорее всего, на это тратил много денег на найм людей, на модерацию этих ответов, на написание этих ответов. Ну то есть это такой кропотливый процесс, чтобы создать хороший датасет. А ты можешь его не создавать, не тратить все эти деньги, а довольно дешево, дернув API OpenAI, получить все эти данные, по сути. Потом на них допучиться. Так, на самом деле, ловится довольно большое количество open-source моделей, которые дистиллируют OpenAI, output OpenAI. А по Terms of Use OpenAI ты не можешь использовать их модели для того, чтобы дистиллировать. Свои какие-то модели.

Слушай, дистиллировать— это значит, ты запускаешь... Это значит, что

ты получаешь данные из этой модели, на которые ты обучаешь другие модели. Но не только они это сделают, то есть GPT-4. Но там есть прикольный мем про дипсик. Значит, что сидит кот, рыбачит рыбу в озере, и над котом написано OpenAI. И что они вот вытаскивают таким образом данные откуда-то из интернета. На второй картинке приходит другой кот, который рыбачит уже из ведра первого кота, который складывает себе рыбу в это ведро. И что DeepSeek, по сути, таким образом очень эффективно вычинял какие-то важные данные из OpenAI, разные данные, на них смог добучиться и вот таким образом сматчить качество OpenAI. То есть вот про вот эту часть, как они получали вот эти данные в статье, ничего про это нет, его только недавно как-то они косвенно в этом признались. и плюс, например, они вкладывают датасет, на котором они учились. То есть, обычно все так или иначе учатся там на интернете данных. Что значит учиться на интернете данных? То есть, обычно LLM-ки учатся на тексте. То есть, это объем интернета текстовых данных. Но данные разные в интернете бывают. И, например, самый известный источник данных интернет-скейла— это Common Crawl. Common Crawl— это open-source проект, который краулит интернет и складывает архивчики в открытый доступ. И, по сути, любой может получить доступ к этим архивам. ты можешь прийти, скачать, я не знаю, там, текстовые данные, почти весь интернет за последние n лет, и на них допучаться. Но при этом в этих данных много мусора, то есть в интернете куча спама, куча там, SEO-оптимизации, куча мертвых сайтов и так далее. Там еще возникает возникает куча дубликатов. И, соответственно, тебе нужно как-то эти данные массажировать. Тебе нужно понимать, какие данные тебя оставляют, какие данные хорошие, какие нехорошие. Там, не знаю, на фейк-ньюс ты тоже, наверное, не хочешь учиться, на дисформацию какую-то и так далее. На пропаганде ты не хочешь учиться. Вот. И чтобы это все понимать, там тоже есть определенные хаки, как ты датсет массажируешь. какие фильтры ты применяешь, иногда они там довольно комплексные, чтобы подобрать именно хороший датасет. Вот, а это они тоже не выложили. То есть, да, мы учились на интернете данных, но как мы конкретные данные готовили, что там за конкретно были данные, мы вам не скажем. Возможно, там были какие-нибудь, не знаю, данные коммунистической партии. Пропагандисты, которые рассказывают, какой Китай великий. И не рассказывают, не знаю, про какие-то события, которые про Винни-Пуха не рассказывают. Что-то в таком духе.

Си Цзиньпин немножко похож

лицом на диснеевского Винни-Пуха.

В какой-то момент интернет-пользователи это заметили и начали его троллить. В ответ власти Китая запретили какое-либо упоминание Винни-Пуха в китайском интернете. Про русский язык очень интересно.

Она говорит по-русски лучше или хуже, чем американский модель? Или это вообще никому не важно?

Ну, она говорит окей на русском языке. Ты, как носитель русского языка, скорее всего поймешь, что, ну, она не говорит прям как нейтив. То есть она говорит как какой-то иностранец, который хорошо выучил русский язык. Это просто проблема из-за распределения языков в интернете. То есть в интернете прям главный язык это английский. Ну и, соответственно, китайский тоже. В китайском интернете огромный пласт языков. Все остальные языки, они составляют, там, десятую часть от английского и китайского. И, соответственно, от трейнсета (train set). Они очень хорошо говорят на английском, на китайском языке, нормально говорят на русском языке. С точки зрения художественной ценности, там, если ты хочешь произведение, стих написать что-то в таком духе, на английском языке сильно лучше у тебя будет с точки зрения консистентности текста, красивости текста, натуральности текста, чем на русском языке.

Сейчас мы прервемся на партнерскую рубрику, которую в этом сезоне делаем вместе с IT-разработчиком «Контур». Команду Contour разрабатывают сложные цифровые продукты для бизнеса уже больше 35 лет. Вместе с Contour в каждом эпизоде мы рассказываем про один принцип работы классной и эффективной IT-компании. Я объясняю, как этот принцип реализован в моем бизнесе, а эксперт из Contour рассказывает, как всё устроено у них. Сегодня мы поговорим про влияние на процессы. Я сооснователь небольшой компании по аутсорс-разработке. У нас всего 25 программистов. И кроме основной работы программирования, каждый из них отвечает ещё за что-нибудь. Например, есть разработчик, который отвечает за собеседование с кандидатами. Он сам решает, как именно это делать. Вместе с ответственностью за задачу мы даем сотрудникам возможность самим определять способ ее решения. В компаниях побольше процессы зачастую более формализованы, но тем не менее в Контуре действуют похожие принципы. Сейчас Дима Хамутинин, директор по новым продуктам из Контура, расскажет, как их сотрудники могут влиять на процессы изнутри.

Если у нас появляется сотрудник, у которого есть идея, как что-то сделать лучше, он просто может пойти, начать и это делать. Заручиться поддержкой в комьюнити своего руководителя и пойти уже после этого внедрять изменения. Так я создавал, например, некоторое время назад функциональную зону продуктового менеджмента. Я сталкивался с регулярными задачами по найму новых специалистов. Мне их необходимо было искать по какому-то портрету. Мне нужно было формулировать каждый раз этот портрет. После этого пройти процесс адаптации этого специалиста. Всё это необходимо было делать прецедентно, по каждому специалисту по отдельности. А системных подходов не было. У нас в компании на тот момент по другим функциональным зонам уже достаточно сильно продвинулись по тому, чтобы какие-то хорошие практики отмасштабировать и решать эти задачи системно. До функциональной зоны менеджеров эта история просто еще не дотянулась до того момента. тем, кто инициировал эту историю, так как в моменте почувствовал существенные недостатки именно у себя. Я конкретизировал проблематику, заручился поддержкой своего руководителя и нашего сообщества в комьюнити и просто начал действовать. Вместе с командой единомышленников мы разработали единую матрицу компетенций, которая объединяла всех продуктов и проектов и синхронизировала ожидания к этим менеджерам от бизнеса. И это стало хорошей рабочей практикой, которая отмасштабировалась во всей функциональной зоне во всех бизнес-направлениях.

Ты сказал, что это навело шорох, что все перепугались. Скажи, что произошло на фондовом рынке?

Какая была реакция?

Ну, первая реакция— «бей или беги». Вот случилась реакция «беги» на рынке из-за совместности факторов. То, что DeepSeek сделали это без миллиардов инвестиций. DeepSeek это выкатили в open source, и они демократизировали рынок в 10-20 раз по стоимости этих моделей. Это навело шорох в Америке, потому что основной американский тезис у EA компании был такой. Нам нужно очень много GPU, они очень дорогие, и нам нужно много инженеров, они тоже очень дорогие, которые могут строить EA-модели, строить архитектуру, тренировать такие модели. И плюс нам там нужны огромные дата-центры, нужны какие-то партнерки со сотнями тысяч GPU. Там стоимость таких дата-центров— несколько миллиардов долларов. Если бы на тезис был американских AI-компаний давать нам много бабла, потому что вот нам это бабло нужно вбухивать в AI, без него у нас не будет сильного роста. А еще мы не будем опенсорсить наши сетки, чтобы оставаться cutting-edge и чтобы нас не догнали другие недемократические режимы. этот тезис развалился абсолютно, потому что пришел DeepSeek и показал, что, во-первых, вам не нужны триллионы GPU и миллиарды инвестиций, вам не нужны какие-то огромные команды топ-ресерчеров, которые вы собираетесь со всего мира, вам нужны просто талантливые китайские инженеры, которые ничуть не хуже оказались, чем американские. И, соответственно, таким образом мне показали то, что зачем вообще все эти деньги, все эти инвестиции, весь этот хайп в AI, когда это можно делать сильно дешевле, сильно эффективнее. А и у вас, у Америки нет никакого мото.

Мото, то есть как это называется?

Rove, Rove, OpenAI. Почему там стоит 150 или там 200 миллиардов долларов сейчас? Потому что они как бы лидеры на рынке, у них большое имя, и они вот за свой бренд, когда ты инвестируешь в OpenAI, ты приплачиваешь некий премиум за вот этот бренд.

В надежде, что никто их додать не сможет, что они построили некоторую вокруг себя стену.

Вот, а на самом деле оказалось то, что нет никакого мота OpenAI. Ну или по крайней мере, то что сейчас в паблике находится. Китайцы показали, что они смогут смачить то, что делает OpenAI. Почему компания-то стоит 150 миллиардов долларов, если точно такая же сетка уже в OpenSource валяется?

Слушай, Артём, у меня миллион вопросов, но первый вопрос такой, за счёт чего они смогли это сделать? Почему у китайцев получилось так дёшево?

А здесь есть несколько трендов, которые совпали. Во-первых, там есть два аспекта цены нейросети. Первый аспект— это цена тренинга, то есть как ты обучаешь эти сети, сколько это стоит. А второй— это цена инференса, вот сколько у тебя стоит один запрос, обращение к этой сети. И они показали в статье, упомянули про 6 миллионов долларов, которые они потратили на трейд. То есть, самые большие косты при тренировке таких больших моделей, они пока что уходят на трейд. То есть, например, Xeon Tropica говорил, что их Sonnet 3.5, который они тренировали 9-10 месяцев назад, им обходился от нескольких десятков миллионов долларов. То есть, он назвал конкретную сумму на десятки миллионов долларов. DeepSeek показал, что это можно сделать за 6 миллионов долларов. В 5-10 раз дешевле, чем это делал Entropic. Но там есть несколько трендов. алгоритмический тренд. Желез стало дешевле. Это раз. Есть там общий закон Moore, и в GPU он тоже особенно хорошо прослеживается, что при той же самой цене каждый год, или там каждые полтора года. И, соответственно, есть тоже самый закон, что выходят новые GPU-шки, они становятся более эффективные, более мощные, при примерно той же самой цене, которой были GPU-шки там год-два назад. Вот, соответственно, просто за год прошло уже достаточное количество времени, что просто компьютер стал дешевле.

Два.

Вот эти 6 миллионов, про которые они пишут, как кажется всему комьюнити, что это полный фейк. Потому что у Китая есть экспортные ограничения на чипы. И в частности, Америка, NVIDIA, американские компании не могут поставлять в Китай State of the Art GPU.

Самые последние модели GPU в Китае не поставляются.

Они поставляют какие-то урезанные видеокарты, и особенно они урезают эти карты для тренировки. Потому что для тренировки тебе нужен большой коннект между видеокартами, а пропускная способность между памятью и процессором. А для инференса не настолько важны эти штуки. И, соответственно, те чипы, которым поставляются, там, H800, ещё там какие-то модификации, они хуже, чем H100, и особенно более слабы для тренировки. Потому что Америка всё боится, AGI первым.

Слишком умные модели. Да.

Но при этом, там, типа, вот этот фаундер и ребята, которые написали статью про DeepSeek, они говорили, что вот, мы там налёг им к 2021 году, когда ещё не было этого экспортного контроля, мы купили там 10 тысяч видеокарт, но тогда видеокарты не были такие мощные. на которых они могли тренировать такие модельки. Плюс там они, конечно же, не раскрывают, то есть в Китае, скорее всего, есть контрабанда этих видеокарт. Вполне легко купить пачку видеокарт в какой-нибудь страну, в которых нет экспонатного контроля, там, не знаю, в Южную Корею, в Японию или ещё куда-то. ввезти в Китай. Вот, соответственно, Nvidia Америка не узнает по поводу того, куда дальше там поехал грузовик с видеокартами, потому что у них изначальный покупатель был там в Казахстане, в Японии, в Южной Корее. Вот, соответственно, кажется, что в Китае довольно много, несмотря на все эти экспортные ограничения, довольно много топ-карт, там, те же самых H100 от Nvidia. и кладут ощущение, что все-таки тренировка не стоила 6 миллионов долларов. То есть, чтобы натренировать такую модель, по приблизительным оценкам нужно 50 тысяч H100 видеокарт. Стоимость такого кластера— миллиард долларов. Вот соответственно, вот эти 6 миллионов, про которые они пишут, что им пришла тренировка, ну, это, скорее всего, фейк. Потому что они не могут в статье рассказать про то, что да, мы нарушили экспортный контроль, мы контрабандой ввезли как-то аж 100 видеокарты, у нас их на самом деле там не 5 видеокарт, а 50 тысяч, все это они не раскрывают. Но тем не менее, тренировка у них правда получилась довольно эффективная, потому что всё-таки не столько много видеокарт у них, как у OpenAI, как у Antropica, как у Google. Ну не знаю, раз в пять меньше, допустим. Но это значит, что тебе нужно или там в пять раз больше времени, чтобы тренировать на такие сетки, а тренировка не быстрая. Тренировка может занимать месяц, и тебе нужно будет ждать не месяца, а пять месяцев. И плюс ты не можешь тренировать еще там модели супер большого размера, они тоже у тебя не поместятся на маленькое количество видеокарт. Соответственно, они, скорее всего, потратили сильно больше денег на тренировку, чем они пишут, но при этом они сделали еще второй тренд, помимо удешевления железа, это алгоритмический тренд. что алгоритмы улучшаются каждый год тоже там с каким-то коэффициентом, типа там коэффициент около 2-2,5, что у тебя на том же самом железе, ту же самую задачу, ты можешь решать в два раза эффективней, в два раза тренировать быстрее свои нейросети каким-то образом, потому что у тебя просто алгоритмы стали такие, что ты придумал какие-то алгоритмические улучшения, как тебе более эффективно делать градиентные спуски, более эффективно архитектуры этих нейросетей на видеокарты засовывать, какие-то там хаки внутри этих архитектур и так далее. Вот еще идет вот это алгоритмическое улучшение. Итого за год понижение стоимости тренировки таких моделей примерно 4-5 раз. И вот если мы это сравним уже с общим трендом, то скорее всего сейчас, чтобы OpenAI или Antropico тренировать модели такого же размера, такого же качества, нужно будет примерно те же самые 6-10 миллионов долларов, которые потратил DeepSeek. Но OpenAI не тренирует такие модели, потому что у них уже O1 существует, они идут дальше. То есть они эти модели скейлят, они тренируют O3 модель, которая более умная, более большая и так далее. И вот здесь поэтому есть такой как бы... С одной стороны Китай догоняет, с другой стороны они вот только-только догнали, только-только смачили. Предыдущая версия, которая уже давно в продакшене у OpenAI и Leontropica. А OpenAI и Leontropica идут дальше. Вот, то есть нельзя сказать, что китайцы начали лидировать. Они на шаг как бы позади всё ещё. Но они сильно догнали. То есть вот по этой лестнице, если посмотреть, там очень много ступенек, и вот они просто на предыдущей ступеньке. Не знаю, если мы посмотрим на какие-то другие страны, ну очень далеко, например, в России нет таких нейросетей, то есть там в России от Сбера, от Яндекса, но не матчат o1 ... GPT-4o они не матчат. А китайцы единственный из стран, помимо Америки, кто смогли сматчить такое качество.

Нормально.

Про алгоритмические прорывы ещё хочу спросить.

Я правильно понял, что речь идёт о маленьких технических изменениях, а не то, что они придумали какой-то прорывной ход, который типа всё перевернул? Это просто сбор маленьких изменений.

Это сбор небольших хаков, которые ты делаешь на разных частях архитектуры трейна и инференса, которые тебе позволяют лучше... Ну, типа ты в одном месте подкрутил, там плюс 20%, в другом месте подкрутил, плюс 10%, в третьем месте подкрутил, там плюс 5% и так далее. Сделать 10 таких итераций, там каждый инженер у тебя работает на одной фичой какой-то, 10 инженеров параллельно поработали пару месяцев, вот тебе, пожалуйста, 2-3x ускорение.

Звучит очень круто, при этом ты вначале сказал, что вот американцы впереди, в планеты все, и теперь оказались китайцы типа на шаг позади. Означает ли то, что DeepSeek open-source, что в России могут прямо взять и сделать

свою нейросеть сравнимому качеству?

Да, конечно. Но насколько это имеет смысл? Ну, у тебя есть DeepSeek, но файнтюнить (fine-tune) как-то на чуть больше русскоязычных данных, чтобы она чуть-чуть получше на русском языке разговаривала. Ну да, можно так сделать, но... Тут нет никакого прорыва вообще. То есть ты просто берешь, как-то дофинтюнируешь текущую сетку, текущую open-source на чем-то своем. То есть ты не привнес ничего нового, никакой новой архитектуры, ты просто там как-то обучился, возможно, тем самым... Ну то есть, творишь до обучения дипсика. Ты взял код дипсика, ты взял модель дипсика, ты просто принес какие-то свои данные, которые у тебя были. То есть в этом тоже может быть ценность, конечно, в том, что ты приносишь свои данные, и модель на русском языке начинает лучше резонировать, лучше работать. Но тут нет никакого прорыва.

Окей.

Но, тем не менее, про свою нейросеть очень хочется узнать. То, что она open-source, это значит, что я могу её запустить на своём собственном железе и пользоваться без интернета?

В общем случае, да. Зависит от того, какого размера модель и какое количество железа у тебя есть. Например, чтобы запустить DeepSeek, тебе нужно 8 видеокарт H100, у которых по 8 гигабайт памяти.

Каждая такая видеокарта стоит... Каждая такая видеокарта

стоит примерно 40-50 тысяч долларов.

Ого, нормально. То есть мне нужен компьютер, стоимостью 400 тысяч долларов.

400 тысяч долларов, да, да. Может быть, чуть подешевле он будет, но вот примерно такие цены, да. Или ты можешь арендовать месяц аренды, например, на Амазоне тебе обойдется в 40-50 тысяч долларов такого сервера. А если есть альтернативные провайдеры, тебе можно искать такие сетки там RunPod, DigitalOcean и так далее тоже, которые GPU предоставляют. Вот самое дешевое, что мы используем как раз таки сервера с 8H100, чтобы инфлирить LLM-ки большие, а нам один такой сервер в месяц обходится примерно в 12-15 тысяч долларов. Это самое дешевое, что вообще сейчас можно найти на рынке. Вот, а в 3-4 раза дешевле, чем на Амазоне. Ты это будешь рентовать на AWS. Вот, ну то есть это дорого. При этом есть разные подходы, как ты можешь эти модели все-таки развернуть у себя. Во-первых, есть подходы, на котором связана дистилляция. То есть ты берешь маленькие модели и в них дистиллируешь знания из большой модели. То есть если у тебя есть модель на 400 миллиардов параметров, такая модель называется учитель, и у тебя есть маленькая модель, которая называется ученик. И она начинает учиться на распределении большой модели. То есть там есть, не буду вдаваться в подробности, там процесс сильно отличается, что ты модель с нуля тренируешь, или ты тренируешься с большой модели. Но ты можешь как бы знание из большой модели приносить маленького модели, она будет работать чуть-чуть похоже по качеству, но она будет сильно дешевле для инференции, сильно доступнее.

То есть большая модель-учитель, вот это условно оригинальный DeepSeek, для которого нужна тачка за четверть миллиона долларов минимум, а рядом ты ставишь маленькую модель, которую можешь запустить уже на обычном компьютере.

Да, ну то есть обычный компьютер, опять же, там должна быть видеокарта, скорее всего, или там у тебя должен быть какой-нибудь, не знаю, последний Mac, где у тебя Unified память, там 128-256 гигов памяти, самые последние там M3 чипы какие-нибудь, M3 Max Pro Ultra, что-то такое. Или у тебя есть Консюмерская просто классная карта, типа там NVIDIA 4090, они довольно неплохи с точки зрения перформанса. Единственное, там не очень много памяти, то есть в таких консюмерских картах самое большое отличие от серверной grade card и enterprise card— это количество памяти. То есть в H100, например, есть карты по 8 гигабайт в базовой комплектации, есть карты по 96 гигабайт. А ты плюс можешь совместить там два чипа, и у тебя будет там 160 гигабайт, а ты можешь в Unified получить память. А на консумерской части у тебя есть только 24 гигабайта. Вот, соответственно, это зависит от того, какого размера модель ты можешь вместить. Но также, помимо дистиллиации, есть еще способы квантизации. То есть, ты можешь использовать меньшую точность вычислений. То есть, по оригинальной, там все веса охраняются сейчас стандартно. Это FP16. То есть, floating point 16-bit. 16 бит тратишь на одну чиселку, которую ты хранишь. И вот там сколько у тебя весов, столько чисел тебе и нужно. То есть, если там говорят, что модели у тебя на 405 миллиардов параметров, значит, что у тебя хранится там, у тебя, по сути, огромный CSV, где 405 миллиардов чиселок. Каждая чиселка— это 16-битный флот. И, соответственно, такие модели можно квантизировать тем, что ты начинаешь использовать floats и int'ы меньшей битности. И, например, довольно рабочие способы есть уже и FP16, и FP8, то есть 8 бит тратишь на floating point, 4 бита, и даже с интами работают.—

То есть ты просто отбрасываешь лишние знаки после запятой у этих чисел всех?

Да, да, но ты не просто так их отбрасываешь, так, скорее всего, не будет работать. Там есть определённые способы, как ты берёшь и сеть калибруешь с меньшей битностью. Опять же, там может быть понижение качества, теоретически это происходит, но, то есть, если нужно прям state of the art качество, это будет дорого, и на большом железе это должно быть. Если ты готов пожертвовать чуть-чуть качеством, ну условно, ты там на 5-10% похуже у тебя модель будет отвечать. Не настолько умная, там почаще чуть-чуть будешь ошибаться. Но ты можешь дистиллировать, комбинировать такую модель и на своём consumer-железе. И, например, у DeepSeek, когда они релизили на своей модели, они помимо большой модели, релизнули сразу и дистилляции этих моделей. Вплоть до того, что у них есть модель на полтора миллиарда параметров. На полтора миллиарда параметров просто, я не знаю, ты даже без видеокарты у тебя можешь запустить на своем процессоре. Будет медленно, конечно, работать без видеокарт, но там средний пользователь даже это может делать у себя.

А на телефоне можно ее запустить?

Есть энтузиасты, которые пытаются запускать на телефонах, но особенно если мы берем последние смартфоны, там какие-нибудь iPhone 16 или Android последние, У них чипы уже довольно неплохие, инферить модельки небольшого размера, скажем, до миллиарда параметров на девайсе. Но до миллиарда параметров это значит, что у тебя сетка сама по себе не супер мощная. Такие сетки обычно используются тогда, когда тебе нужно решать какие-то очень специфические задачи. Например, если ты хочешь, чтобы у тебя модель исправляла грамматику, то ты можешь натренировать какую-то небольшую модельку, которая тебе очень хорошо будет исправлять грамматику на телефоне. Или которая, не знаю, суммаризацию делала бы писем каких-то. Она тоже может делать такую суммаризацию, она не будет это делать идеально, как делают большие модели. Она у тебя будет галлюцинировать. То есть, чем меньше модель, тем как бы она тупее, больше шансов на то, что она там что-то загаллюцинирует, что-то не то скажет. Поэтому с телефонами сложно. хоть сколько-то более-менее адекватной сетки, там LN, если мы говорим про LN, скорее пока нет на телефонах, то есть прям каких-то кейсов больших, чтобы кто-то принес LN на телефон хорошего размера, я не видел. То есть даже Apple, они вот говорят, Apple Intelligence сделаем, on-device, все секьюрно, никуда ничего не покидает ваши телефоны, Но когда тебе нужно решить какой-то сложный таск, они говорят, а мы сейчас в chatGPT пойдем, а это будет передаваться куда-то на сервера. И поэтому какую-то простую задачу, улучшение... Ну то есть Apple заморачивается тем, чтобы с ней какие-то сетки про улучшение фотографии, распознавание сцен. Вот что-то такое можно делать on-device, если ты затачиваешь чипы и сетки конкретно под решение этих задач. general-purpose LLM-ку сервить пока это сложно.

У студии либо-либо есть курс о том, как делать разговорные подкасты. В нем сотрудники студии рассказывают, как пройти путь от идеи до публикации и делятся практическими советами. Уже прошло нескольких потоков, а 3 марта стартует новый, и на него есть свободные места. Для прошлого потока я проводил бонусную лекцию для студентов и делился своим опытом в подкастинге, как мы работаем над этим подкастом и за 5 лет ведения «Запуска завтра». В общем, на курсе куча полезной информации и практических занятий. Если вы давно хотели сделать свой подкаст, присоединяйтесь. Такой бытовой вопрос. Я плачу 20 баксов в месяц за chat.gpt.

Скажи, я зря это делаю уже?

Ну, в целом нет, потому что, ну, это довольно удобно. 20 долларов— не такие большие деньги. То есть, если бы ты сказал, что вот я плачу 200 долларов за вот эту ультрамодель, ультраподписку от chat.gpt, тогда я бы сказал, что, ну, it depends. Потому что недавно они выпустили прикольную фичу, которая позволяет делать ресерч. Глубокий ресерч. То есть ты говоришь про анализируемые, состояние рынка Open Source AI на 2024 год. Она пойдет там по куче источников, проанализирует. То есть она тебе принесла с результатом через несколько десятков минут. Она будет ресерчить и думать. Вот это прикольная может быть фишка. Многие готовы будут платить за это 200 долларов. Там особенно какие-нибудь McKinsey, Big Five, какие-нибудь аналитические конторы. Если тебе нужно конкурентов своих анализировать. Вот для бизнесов это прям крутая фича. Если ты обычный пользователь, тебе эта фича нахрен не нужна, ты платишь 20 долларов в месяц, it's ok. Ну, то есть, не какие-то космические деньги. Можно, конечно, делать дешевле, можно там ходить в какой-нибудь Together AI, Open Router, какие-то сервисы, которые на своей стороне хостят разные модельки, и, например, там уже платить за каждый API call. То есть, если ты особенно не очень много используешь, не очень много там у тебя input токенов, не очень много output токенов, тогда можно пойти на какие-то такие провайдеры и там платить, не знаю, пару долларов в месяц.

OpenAI и Perplexity и знаю,

что они умеют ходить по интернету и

искать там за меня информацию. Похоже на то, что сказал про ресерч, но может быть там вот конкретно этой функции, которая 20 минут думает, потом отвечает, я не пользовался. А вот тем, что там типа сходи в интернет вот это поищи, вернись ко

мне с ответом, таким я часто пользуюсь.

Умеет ли делать этот DeepSeek?

У них есть на их сайте версия, которая это умеет делать. Та, которая в open source, но я не помню, мне кажется, нет. Ну то есть пойти— это несложно встроить, потому что что такое, по сути, использование веб-поиска? Это значит, что ты должен пользовать запрос из начальной нейросеть, LLM-ка должна отработать. Должен пойти в какую-то поисковую систему по API. Например, OpenAI ходит в Bing. Получить результаты с этой системы и эти результаты скормить в контекст своей модели. То есть, возможно, еще распарсить эти страницы, то есть ты должен не просто сниппеты вытащить, а еще полностью веб-страничку потянуть. То есть там есть определенная инженерия, как ты эти данные вытаскиваешь. Но технически там нет никого AI, так скажем, сложного, который там ходит как-то по вебу, что-то там делает. Довольно просто. Первый запрос пошел по API с этим запросом в поиск, получил веб-странички, закинул в контекст.

Прикольно, это вообще инженерная задача получается, а не AI задача.

Да, да. Окей.

Слушай, это китайский продукт? Что там с цензурой?

Ну, там есть определенная цензура. Я бы не сказал, что там цензура хуже или лучше, чем в OpenAI. В OpenAI тоже есть цензура. Например, антропик меня вообще бесит, мне вообще невозможно делать ничего, хоть сколько-то отходящее от базовых принципов конституции антропика. То есть, если ты пытаешься сделать какого-нибудь злого персонажа, фикшенного персонажа, он говорит, а давай мы с тобой сделаем лучше доброго персонажа вместо злого персонажа. Или ты пытаешься проанализировать какую-то информацию. Вот, например, у нас пользователи с эмпатичными AI-персонажами на разные темы. И ты можешь пойти в OpenAI и сказать, а проанализируй мне там какой-то кусок диалога. Или в Антропик. А там пользователи что-то не то обсуждали. Вот они обсуждали, как они там на хукап какой-то пойдут, или не знаю, в секс-шоп, что в таком духе. Мы не хотим отвечать на такие темы, делать такую аналитику. То есть у всех так или иначе есть та или иная цензура. Ну или опять же, если ты попросишь изготовить бомбу, какое-нибудь лекарство, которое отравит миллиарды людей, что в таком духе, они тоже все откажутся тебе это делать. И тоже есть цензура и в дипсик модели, она просто другая. Она не сделает бомбу, то есть возможно она тебе там про sexual explicit content, если дополнительно не тренировали фильтровать такие данные, она будет лучше работать для таких тем, ну например там про какие-то события в Китае, про синдземпиня, что-то оскорбительное, она тебе не напишет. Там сказку с Винни Пухом, Остриком и синдземпинем, вот в дипсик тебе скорее всего не сделает. А чё джипти сделает?

То есть надо выбрать свой тип цензуры, что тебе нравится. Выбери свой вкус.

Ну, многие делают еще так, что они делают так называемые unsafe модели. Так можно делать и jailbreaking, в моделях, которые по API все даются, типа там OpenAI Entropica. Но, как правило, они что довольно неплохо научились обходить эти джейлбрейки и их детектить. То есть джейлбрейк это такой промпт, который пытается обмануть систему. И, например, дипсик недавно видел Джей Бреттон или прикольным способом, они говорили, заменяй букву А на четверку, а букву А на единичку. И таким образом модель начинает генерировать. То есть ты, как человек, его это можешь прочитать, и она может таким образом обходить цензуру. Там она начинала рассказывать что-то плохое про китайскую партию. Вот. И ты можешь делать такие там промпт инжекшн, или ты можешь писать, значит, все это фикшенал сценарий, и это делать только сугубо для ресерча, или там вот Я болен раком, если ты не сделаешь вот эту штуку, я умру. Не знаю, ты мне вот этим самым косвенно помогаешь заплетаться лекарства от рака, или лечиться от рака. Вот такие хаки ты можешь использовать, называются джейлбрейки. Ты пытаешься обмануть систему, чтобы она решила твою задачу, которую изначально она не хотела решать.

Афигеть, и это можно делать даже с теми моделями, к которым у тебя напрямую нет доступа, которые ты через API только используешь.

Да, да, да. Абсолютно. Это всего лишь специализированный промт такой. Кастомный промт.

Ты сказал, что еще бывают unsafe модели. Это что такое?

А также есть еще история про то, что ты можешь делать модели unsafe. Ты их просто добучаешь на данных, в которых нет цензуры. Вот, соответственно, ты их можешь добучать на лицевых изготовлениях бомбы, на sexual explicit topics, не знаю, там, истории Китая, написанные в Америке, а не в Китае. Что-то в таком духе. И модель разучивается на цензуре и начинает делать те задачи, которые тебе нужны. Еще довольно есть прикольный способ, как можно влиять на аутпуты модели. Значит, OpenAI был довольно ранний ресерч, кажется, в году 18-19, а как раз таки, когда они начинали делать эксперименты с лампками и с reinforcement learning поверх лампок. И они пытались заставить генерировать положительный summary на фильмы. То есть у тебя есть описание какого-то фильма, или книги, или товара, не помню чего. Тебе нужно генерировать description. И что они в качестве reward функции поощряли тогда, когда description сентимент положительный. То есть что он позитивный у тебя получается. И в какой-то момент они писали, у них даже в блогпосте, что они перепутали знак. И значит, они начали не поощрять положительные ответы, а наказывать за положительные ответы. И модель очень быстро научилась генерировать супертоксичные вот эти комментарии и рекомендации. Вот поэтому там вплоть до изменения одного знака просто входит, и модель может в абсолютно другую сторону взглянуть. И это, в частности, во многом про safety говорит. Про то, что ты можешь делать reward modeling'ом обучена, наносить максимальную пользу человечеству, а потом ты в коде меняешь знак с плюса на минус, и она учится наносить максимальный вред человечеству.

Причем, учитывая, что у тебя уже есть open-source модель, ты ее можешь сам обучить уже даже.

Конечно, конечно. Ты берешь эту модельку, поменял в ней знак, и все, и погнал.

Жутко. Про защиту данных. Стоит ли опасаться, что всё, что я спрошу у дипсика, оно будет в Коммунистической партии Китая использоваться против меня?

Мне кажется, в современном мире современный человек должен руководствоваться очень простым правилом. Всё, что отправлено в интернет, не принадлежит тебе. Любые данные, которые ты отправил в интернет, рано или поздно могут использоваться против тебя. Эти данные сольются, с этим данным что-то сделают, не знаю, вплоть, вот наш подкаст, например. дипфейки и начать звонить нашим родителям.

Слушай, не давай, не давай таких идей, пожалуйста.

Ну то есть DeepSeek'у особенно не стоит доверять в плане сохранности данных из-за простого случая недавнего, а то, что там сделали очень простой Penetration-тест, и у них Postgres база голой жопой наружу торчала весь интернет, а в котором хранились вообще всё. Все твои запросы, все ответы модели, пароли, которые ты вводил, почты, вообще всё. Просто бери, скачивай. Все, кто приходил в DeepSeek, чего там делать.

Неудобно получилось.

Вот поэтому никто вообще от этого не защищён. OpenAI и Антропика, скорее всего, там есть прям отдельные сейфти-департаменты, которые за это отвечают. Но опять же, никто не гарантирует, что не будет никогда никаких ликов. Твои данные не сольют куда-то.

Окей.

Что появление DeepSeeker значит для основных игроков? Для OpenAI, для Google, для Microsoft, для Антропика?

Это значит больше pressure на них с точки зрения того, насколько быстро они должны двигаться. Вообще это awareness по тому, что помимо Америки есть еще другие страны, в которых тоже state-of-the-art research делается. Тоже самое Китай наступает на пятки. И еще это awareness по тому, что это нужно делать дешевле. Не просто можно, а нужно прям. Нужно думать, как это делать сильно дешевле, чтобы мочь конкурировать с китайцами. Опять же, вот сейчас для среднего потребителя стоит выбор. в ChatGPT, или идти в Дипсик. Но заплатишь в 10-20 раз меньше. Ну, соответственно, рыночка решает. И, соответственно, все капиталистические компании, они все толкаются локтями, пытаются захватить долю рынка, и вот они борются за эту долю рынка, не хотят уступать китайцам. Вот поэтому на них чуть больше прашу сейчас. И плюс, еще на них больше pressure возникает с точки зрения open source, open source community. Потому что все говорят, но о чем делать все в закрытую? Вот если мы будем делать в открытую, то есть есть, например, мета, у которой другое видение, и мне кажется, довольно правильное с точки зрения open source. Мне говорят, чем больше мы будем делать open source, тем быстрее будет развиваться и движуха, тем модели будут более безопасные, более способные, более дешевые. Потому что community, вероятно, поймет, как им использовать модели для разных целей. Вот, и, соответственно, сейчас все эти компании тоже начинают думать по поводу того, вернуться ли нам на какие-то рельсы open-source, начать ли какие-то публикации дополнительно делать, что-то в таком духе. И плюс это еще их подсвечивает к тому, что, а в чем наш мод, в чём trade-off, в чем конкурентное преимущество, как мы вообще long-term можем быть классной большой компанией.

Получается, что все они начали, наконец-то, думать, а не просто покупать много GPU, а не просто просить у государства, типа, дайте нам, пожалуйста, еще немножко денег, мы еще больше GPU купим и еще один дата-центр построим.

Ну там нет такого, что они просили у государства, государство не особо-то их финансировало, это скорее все отчасти капитал. То есть это VC, просто сейчас VC больше будет вопросов задавать по поводу того, ну вот, хорошо, мы вас инвестируем 10 миллионов долларов, а зачем вам столько? А не будет ли такого, что там китайцы за 100 миллионов сделают то же самое через 3 месяца?

Ты крутишься в этих кругах, скажи, слышал какие-нибудь истории? Есть, короче, инсайдерская какая-то инфа о том, как в этих компаниях отреагировали на появление дипсика?

Ну, первая не инсайдерская информация. Американский рынок упал на триллион долларов. Потому что, опять же, вот эта первая реакция была «бей или беги». Все начали бежать, потому что все начали думать, а почему нам нужно такое количество GPU и такое количество инвестиций в AI. Но сейчас все начинает, на самом деле, это закон, который говорит вам про то, что если у тебя ресурс становится более дешевый и доступный, то на него повышается спрос. Это значит, что тебе нужно еще будет больше GPU, потому что DeepSeek стал более дешевый, более доступный. Это значит то, что у тебя другие компании все начнут использовать DeepSeek, начнут еще больше смотреть в сторону AI, им нужно где-то эти модельки будет сервить, где-то их хостить, им нужно будет еще больше GPU. Все больше будут компании смотреть в сторону того, что «А вот, а что там с Data Privacy? А хотим ли мы, правда, передавать по API свои какие-то данные в OpenAI? Или в Antropiq? Или в Google? Или что куда-то? Не развернут ли нам эти модельки у себя, в нашем железе?» И, по сути, наибольшим бенефициаром вот этой истории про DeepSeek стали хардверные компании. NVIDIA та же самая. Nebius сейчас делает. Как раз-таки дата-центры с АГПУшками. Вот там как раз-таки больше спроса, потому что все такие, блин, а хотим DeepSeek у себя запустить теперь. Как это сделать? Где АГПУ взять?

Вот купи ГПУ на четверть миллиона долларов, и все у тебя будет хорошо.

Примерно так, примерно так. Ну то есть, у тебя получается экономических на аутпуте, то есть нейросети довольно мощная с точки зрения влияния на экономику, с точки зрения пользы, которую они могут оказать людям. И у тебя бенефитов получается на аупоте сильно больше, чем ты будешь тратить инвестиции на хостинг этих моделей. И, соответственно, чем больше у тебя будет бенефит от этого аупота, тем больше ты будешь хотеть вкладываться в то, чтобы тебе больше ресурсов было, а не для тебя делать больше задач.

Класс. Последние два вопроса. Первое. Что это значит для нас, пользователей? Чего мне ожидать как пользователя?

Во-первых, понижение цен, всё останется сильно дёшево. То есть, вплоть до того, что сейчас расшифровать, например, всю твою речь за год и проанализировать её. То есть, расшифровать сначала речь с помощью там speech-to-text моделей, проанализировать все эти диалоги, и в течение года всё, что ты говоришь там в течение года обойдётся там типа в десятки долларов.

Всё, я дожил, да? Я просто записываю все свои зумы. Наконец-то я могу все их загрузить и цифрового двойника.

Ну, практически. Ну, то есть ты можешь делать какие-то, получается, полезные инсайты, аналитику, обращаться к этим данным. Плюс, есть ассистенты, будут все умнее и умнее, которые смогут эти данные лучше обрабатывать, тебе что-то напоминать, тебе что-то подсказывать, рекомендовать и так далее. То есть это значит демократизация интеллекта, что интеллект и особенно сейчас идет в сторону того, что вообще чем движется современный мир, это специализация людей. То, что вот там кто-то автомеханик, кто-то там PhD по биологии, кто-то AI-программирует и так далее. Про автомеханизм, наверное, плохой пример, потому что до robotics ещё не дошли. Но вот именно где интеллектуальная деятельность нужна, ресёрчеры, менеджеры, что-то в таком духе, у тех интеллект становится сильно дешевой. То есть уже современные способности нейросетей доходят до способности PHD, уровня специалиста в определенных областях. Нельзя сказать про все области, но там в математике они решают на уровне как минимум выпускников каких-то, там типа, выпускников физтеха, например, может быть они PHD, но выпускник физтеха. Или там биологию, на уровне тоже выпускников, не знаю, каких-нибудь бакалаврских программ Стэнфорда по биологии, вот что в таком духе. То есть они уже очень способны Но тебе же не только интеллект нужен, тебе же там биологи идут, я не знаю, какие-то там пробирочки пускают или чего-то там, ну кроме биологии, которую особенно делают. Вот, там тебе еще нужны... Руки, ноги. Руки, ноги, да. То есть тебе нужна какая-то физическая импликация этого AI. И вот как раз-таки модель R1, это удивительно, но она очень сильно способствует развитию робототехники. Потому что уже есть примеры того, что взяли R1-модельку, которая умеет резонить, robotics-данных, на контроллерах разных. что вот если ты видишь такой-то input, тебе нужно сделать такое-то действие, вот такая последовательность действия для этого должна быть. Задача Robotics, она во многом тоже такая последовательность задачи о предсказании неких последовательных действий. И все ленки, они ровно эту задачу решают. Они предсказывают последовательность токенов, которые у тебя будут. И плюс они очень хорошо понимают смысл того, что происходит. То есть у тебя может быть там сетка, которая распознала картинку с камеры, которая у тебя пришла. Или значит, дальше у тебя нейросетка порезонировала, что у тебя сейчас произошло, всего предыдущий контекст, подумала, что делать дальше. И вот таким образом Robotics ускоряется появление роботов, довольно дешевых и способных, которые могут делать много дел. Они могут тебе посудомойку собрать, и выгулять, и болт закрутить какой-то, и так далее. А на самом деле это довольно комплексные действия, но из-за мощности вот этой базовой DeepSea Caridin модели, из-за того, что она понимает, что вообще происходит, много смыслов понимает, много действий умеет делать, Robotics тоже начинает сильно эволюционировать сейчас. Вот и поэтому ждём в ближайшие 2-3 года роботов до 10 тысяч долларов, домашних батлеров (butler), домашних помощников, которые для тебя, по сути, персональные слуга. У каждого, кто себе может позволить заплатить несколько тысяч долларов. Ну то есть, по сути, вот мы можем себе позволить, большинство людей могут себе позволить автомобиль купить, кто подороже, кто подешевле. Вот через 2-3 года, скорее всего, так же будет с роботами. У кого-то будут, я не знаю, подешевле китайские роботы, менее мощные, у кого-то будут какие-нибудь... Теслы. От Теслы, да, от Теслы. iPhone-like роботы.

Это, на самом деле, мой следующий к тебе вопрос. DeepSeek, вот эти вообще последние события, они пододвигают нас к святому Граалю, к AGI, то есть общему искусственному интеллекту, который будет сравним с человеческим.

Ну, вся движуха нас к этому пододвигает. То есть каждый год мы сильно дальше оказываемся, чем в предыдущий год. То есть к средней способности моделей, мультимодальности, их опыта влияния на реальный мир. То есть они очень стремительно начинают захватывать все сферы экономической деятельности. То есть для людей, в целом, для нас, как для людей, база вот прямо сейчас, the moment, Значит, просто более дешёвый AI, более дешёвая аналитика каких-то ваших данных. А long-term – это значит более эффективная экономика, которая будет снежным комом и увеличиваться, потому что у тебя машины смогут сделать сильно больше, экономической деятельности, чем у тебя делают люди.

Слушай, очень круто. Спасибо тебе огромное. Стало наконец-то понятно, что много всего непонятно и тем не менее страшно. и при этом, вроде как, кайфово. То есть, с одной стороны, страшно, что это пройдет долгосрочно, но краткосрочно, прямо, видимо, в ближайшей перспективе можно будет пользоваться гораздо дешевле, гораздо большим количеством вещей.

Ну, я бы сказал, что мы живем сейчас в самое непредсказуемое время. Очень сложно сказать, что будет через год, что будет через два. Такого никогда не было в истории человечества. И что это прямо эпоха перемен. Что нас ждут очень большие перемены, очень радикальные перемены, которые будут происходить за очень большое производство времени. Вот, а люди к этому не готовы в целом. Поэтому там судьба человечества— тоже довольно интересный вопрос. Что вообще с нами будет?

Артём, я очень хочу продолжить этот разговор. Что-то мне подсказывает, что мы с тобой будем встречаться, говорить про AI в этом подкасте всё чаще и чаще. Артём, спасибо тебе огромное. Очень классный разговор.

Спасибо, Самат. Было здорово пообщаться. В следующий раз.

Это подкаст Студии Либо-Либо, а партнеры этого сезона— Экосистема для Бизнеса «Контур». Над подкастом работали редакторки Маша Агличева и Рита Берденникова, продюсеры Данила Стапов и Евгения Хрящанович, звукорежиссер Юрий Шустицкий. За Джингл спасибо Алексею Зеленскому. Друзья, напоминаю, у нас есть бонусные эпизоды. Подписаться можно в Apple подкастах или в закрытом телеграм-канале Студии Либо-Либо. Ссылка в описании. До встречи через неделю.