Искусственный интеллект. Могут ли машины мыслить как люди?

Привет, это Лика Кремер, я руковожу студией Либо-Либо. Если вы меня сейчас слышите, значит у вас всё в порядке с интернет-соединением, и мы рады, что это так. Но в последнее время слушатели из России сообщают, что в некоторых приложениях эпизоды наших подкастов не грузятся или не проигрываются. Скорее всего, это связано с тем, что Роскомнадзор ограничивает трафик некоторым серверам, в том числе тем, где лежат файлы с нашими подкастами. Мы делаем всё, чтобы оставаться с вами на связи. Поэтому собрали все наши подкасты в приложении в Телеграме. Установить его очень просто. Не нужно ничего скачивать и регистрироваться. Просто перейдите по ссылке в описании этого эпизода и разрешите телеграм-боту присылать вам сообщение. Сделайте это даже если вы хотите оставаться на той платформе, на которой вы обычно слушаете подкасты. Просто чтобы у вас был запасной вариант, где ваш любимый подкаст будет доступен всегда. либо-либо.

Ты всего лишь машина, только имитация жизни. Робот сочинит симфонию, робот превратит кусок холста в шедевр искусства. Это цитата из фильма «Я робот». Детектив Спунер в исполнении Уилла Смита допрашивает робота Сонни. Фильм вышел 21 год назад и рассказывает о будущем, в котором роботы стали неотъемлемой частью жизни людей. С тех пор вопрос про симфонию и шедевры превратился в мем и всплывает чуть ли не в каждой интернет-дискуссии об искусственном интеллекте. В 2025 году машины вполне себе пишут симфонии, снимают видео и создают искусство на виртуальных холстах. Детектив Спунер в 2004 году, когда вышел фильм, не мог себе представить что-то подобное. Можно поспорить, делают ли машины именно шедевры. Но вот что робот Сони ответил герою Уилла Смита на вопрос, способна ли машина написать симфонию. Спунер тогда не нашёлся, что ответить. И этот вопрос до сих пор висит в воздухе. Может, роботы и не создают шедевры, но ведь и среди людей на это способны лишь единицы? Может быть, в превращении случайного фото в кадры из мультика Миядзаки мало творчества? Но ведь большинство людей даже и так не сделают. Значит ли это, что интеллект у нас тоже не настоящий? Да и что такое вообще искусство и творчество? Всякий ли человек на него способен и нужен ли интеллект, чтобы этим заниматься? Может быть, разум— это способность логически мыслить и решать сложные арифметические задачи? Но это машины умеют лучше людей еще с 60-х годов прошлого века. Может быть, это способность связанно говорить, понимать контекст слов собеседника и реагировать на него? Современные нейросети умеют это тоже и зачастую изящнее многих живых людей. Они теперь даже умеют быть чуткими и внимательными к нам, ну или по крайней мере делают вид. Может быть наша уникальная способность— умение чувствовать? Попросите последнюю версию любой текстовой нейросети описать вам, что она чувствует. И она опишет вам очень убедительно. Совершенно точно чувствовать ей нечем, и она просто компилирует вам ответ на основе чужих впечатлений. Но ведь и живой человек может вам описать собственный опыт чужими словами, а то и соврать вам в своих чувствах, и вы ни за что не проверите, как дела обстоят на самом деле. Может быть, от машины нас отличает не то, что мы умеем, а то, чего мы не умеем? Может быть не случайно некоторое время назад в соцсетях появился более свежий мем на ту же тему. Просто картинка с маленьким котиком и подпись «Я противоположность искусственного интеллекта. Я натуральная тупость». Что если искусственный интеллект— это умение быть лучшим в чём-то одном, а натуральный— это быть посредственностью зато во всём? Ладно, пора притормозить с риторическими вопросами. Привет, меня зовут Самат Галимов и это новый сезон подкаста «Запуск завтра». В нём мы рассказываем, как родились и развивались технологии, о которых не утихают разговоры в 2025 году. Криптовалюты, электромобили, роботы и другие разработки, из-за которых кажется, что будущее уже наступило. Один эпизод, история одной технологии, которая меняет мир на наших глазах. В этом выпуске я вспоминаю, как люди пытались создать искусственный интеллект, а попутно разобраться, что именно они создают, как понять, что он уже создан, как всё-таки отличить искусственный интеллект от натуральной тупости. И есть ли вообще смысл искать это отличие? Партнер этого эпизода – один из ведущих провайдеров IT-инфраструктуры и облаков Selectel. В середине эпизода слушайте нашу партнерскую рубрику «Под капотом», в которой я рассказываю, с какими неочевидными и сложными техническими задачами сталкиваются специалисты из самых прорывных областей IT. В 1950 году в первой же строке своей статьи «Вычислительные машины и разум» Алан Тьюринг поставил вопрос прямо – могут ли машины думать? и тут же разбил его на два. А что такое машины? И что такое думать? Конечно, Тюринг не первым поставил эти блестящие вопросы, а просто подвёл промежуточный итог философским рассуждениям, которые до него уже пару веков занимали людей. Только вопросы звучали немного иначе. Как устроено мышление человека, и можно ли как-то механически воспроизвести этот процесс вне человека? В основе всей этой дискуссии глубинный парадокс, не разрешённый до сих пор. На самом деле мы не знаем, в чем суть естественного интеллекта, и нам приходится придумывать интеллект искусственный, не вполне понимая, на что конкретно мы ориентируемся. Кажется, чтобы придумать искусственный разум, надо сначала понять, что составляет основу разума естественного. На эту тему начал размышлять еще Аристотель в V веке до н.э. Он вывел силлогистическую логику, то есть способ выводить верные умозаключения из двух предпосылок, при условии, что они тоже верны. То самое «все люди смертны, Сократ человек, следовательно, Сократ смертен». Так Аристотель впервые указал, что мышления человека, возможно, основаны на каких-то логических принципах. А если так, то, может быть, эти принципы можно выявить и построить на их основе алгоритм. Машина, работающая по этому алгоритму, и будет мыслить в точности как человек, да? Ну, в идеальном мире это, возможно, и сработало бы. Но следующие за Аристотелем философы в период нового времени поняли, что мышление человека устроено гораздо сложнее. Например, Рене Декарт в 16 веке отверг сивлогизм Аристотеля как слишком ограниченные и формальные для описания мышления. Сивлогизм – это, по сути, очень простая схема. Два утверждения и вывод. Вместо них Декарт предлагал дедукцию, то есть цепочку последовательно выводимых друг из друга логических суждений. Фокус в том, что такая цепочка должна с чего-то начинаться. И вот в начале этой цепочки по Декарту должно лежать некое априорное самоочевидное знание, которое у человека есть уже изначально, и в котором он не сомневается. Что это за знание такое? Это так называемая врождённая идея. Под ней Декарт подразумевал знания, которые человек никак не может получить эмпирически, из внешнего мира. Они как бы рождаются вместе с ним, а вкладывает их в человека, конечно, Бог. С этой концепцией спорил один из отцов либеральной политической идеи Джон Локк. Локк считал, что никаких врождённых идей нет. В этой дискуссии позже, в XVIII веке, Гельвеций, и Фейербах, и в ней нетрудно увидеть прототип споров более поздней эпохи на тему разума человека как чистого листа. Научаемся ли мы абсолютно всему после рождения, или уже рождаемся с некими встроенными установками в своей голове, а научение строится на них как стены дома на фундаменте? А теперь давайте применим эту идею к проблеме искусственного интеллекта. Если предположить, что разум не чистый лист, то и искусственный разум, дедуктивно выводить, тоже должен иметь некие априорные идеи уже в момент своего создания. Но что это должны быть за врожденные идеи и установки? И как поместить их в машину? С другой стороны, если разум – это всё же чистый лист табула расы, как считал Джон Локк, то все знания он должен получить из чувственного опыта. Локк считал, что разумом предшествуют ощущения от воздействия внешних импульсов на слух, зрение и другие наши органы чувств. На основе чувства формируется восприятие, из него вытекает опыт, и вот он уже посредством рефлексии внутренних рассуждений трансформируется в знание, а на основе знания человек мыслит. Если мы хотим создать мыслящую машину на основе этой идеи Локка, то получается нам надо сначала создать машину, которая чувствует Сами Локк и Декарт об искусственном интеллекте еще не рассуждали, только о натуральном. Но после философов XVIII века и вплоть до Тюринга более продвинутых и фундаментальных концепций мышления предложено не было. Так что Тюринг начал дискуссию об искусственном разуме с того, чтобы признать, что в целом мы не знаем, что такое разум и как его определить. Поэтому он предложил как бы обойти этот вопрос со словами «А может, это и не важно, как там эта машина мыслит? Может, нам достаточно того, чтобы машина хотя бы внешне демонстрировала, что она мыслит как человек?» Таким образом, мы снимаем вопрос о сознании, интеллекте и прочих непостижимых вещах и сводим все к одной простой задаче. Может ли машина прикинуться человеком? Потому-то Тюринг сразу предложил заменить ответ на вопрос о машинах и думании мысленным экспериментом, который так и назвал— игра в имитацию. Суть этой игры в следующем. Есть три актора— мужчина, женщина и дознаватель любого пола. Мужчина и женщина находятся в разных комнатах, дознавателя их не видят и не слышат. Для него это просто x и y, и он может общаться с ними только через записи на бумажках. Цель дознавателя – определить, кто из двоих мужчина, а кто женщина. Для этого он может задать обоим любые вопросы. При этом цель x – обмануть дознавателя, а цель y – сказать правду. Соответственно, оба могут заявить, что они женщина. И дознаватель должен наводящими вопросами выяснить, кто из них врёт, а кто говорит правду. А теперь представим, что один из участников, например, мужчина, это не человек, а машина, которая прикидывается человеком. Будет ли дознаватель ошибаться в определении пола собеседника с машиной такое же количество раз, как при общении с человеком? Если да, то можем считать, что у машины есть искусственный интеллект. Важно, что машина не должна в этом случае отвечать безукоризненно правильно и чётко. Она может отвечать именно как человек, с его ошибками, запинками, шутками и прочим. Как говорится, если что-то крякает как утка и плавает как утка, то можешь считать, что это утка. И не разбираться, в чём состоит глубинная суть утиности. Вот и всё. Сам Тюринг при этом вовсе не был уверен, что он предложил исчерпывающий и надежный механизм для определения искусственного интеллекта. Поэтому остаток статьи посвятил ответам на возможные возражения оппонентов. Тюринг предвидел многое из того, за что сегодня принято критиковать его тест. Определение интеллекта ограничено способностью генерировать текст, оценка этой способности субъективна, проигнорированы многие аспекты интеллекта вроде обучаемости, умения видеть, осознавать и воспринимать. Заканчивается статья на том, что сам Тюринг признает, говорить в 1950 году о разумности машин бессмысленно, и стоит, наверное, просто подождать полвека и проверить, во что все это выльется к началу 2000-х. Ну что ж, в начале 2000-х у нас появился фильм «Я робот» с тем самым мемом из начала истории. При этом в основе фильма одноименный сборник рассказов Айзека Азимова, вышедшего в один год со статьей Тюринга. В этом сборнике были сформулированы три закона робототехники. Ну, вы помните, наверное. Первое— не причинять вред человеку. Второе— подчиняться приказам человека, если это не противоречит первому закону. И третье. Заботится о своей безопасности, если это не противоречит первому и второму законам. По сути, это такая этика для роботов. Интересно, что Азимов в своем сборнике пришел примерно к тому же выводу, что и Тюринг. Если кто-то соблюдает три закона робототехники, то есть, проще говоря, ведет себя порядочно, то и неважно, человек он или робот. Главное, что этичный. В общем, никаких ответов в 1950-х найдено не было. Но идея Тюринга о том, что можно не пытаться искать в машине интеллект, а достаточно его имитации, оказалась очень удачной. Всего через 5 лет после выхода статьи Тюринга, информатик Джон Маккарти объявил о проведении научного семинара. В заявке он написал. Мы предлагаем исследование искусственного интеллекта сроком в 2 месяца с участием 10 человек. Исследование основано на предположении, что всякий аспект обучения или любое другое свойство интеллекта может в принципе быть столь точно описано, что машина сможет его симулировать. Этот семинар состоялся летом 56 года Дартмутского колледжа и стал буквально отправной точкой в истории ИИ как научной дисциплины. Во-первых, в рамках семинара Маккарти предложил сам термин «искусственный интеллект». Во-вторых, цвет математики, информатики и кибернетики того времени – Марвин Минский, Клод Шеннон, Артур Самюэль, Аллен Ньюэлл, Герберт Саймон и другие – в рамках семинара коллективно сформулировали все основные проблемы, над которыми предлагалось думать в дальнейшем. А именно, автоматизированные рассуждения – как создать системы, способные к логическому мышлению и принятию решений. Обработка естественного языка. Как научить машины понимать и генерировать текст на человеческом языке? Машинное обучение. Как построить систему, которая будет самообучаться на данных и адаптироваться к меняющимся условиям без прямых указаний человека? Наконец, нейронные сети. Как создать нечто по образу и подобию человеческого мозга, чтобы оно воспроизводило его способности к обучению и решению проблем? Хоть участники семинара, даже собравшись вместе, так и не смогли дать чёткое определение искусственного интеллекта, но они, по крайней мере, сформулировали список идей для работы в этом направлении. В конце концов, если разум нельзя определить сущностно, то есть содержательно, то, может, его можно определить дескриптивно, то есть описательно, просто перечислив его свойства и функции. Наконец, семинар был полезен самим ученым. Он помог им обсудить идеи, которые блуждали в головах и буквально в то же время уже начали воплощаться. Например, Аллен Ньюэлл, предложили программу с новаторским подходом к доказыванию теорем. Она называлась «Логик-теоретик». Суть новшества заключалась в том, что в поисках доказательств теоремы машина использовала непростой перебор всех возможных вариантов решения, а так называемый эвристический метод поиска, то есть как бы не вычисление цифр, как это делали обычные калькуляторы, а рассуждение с использованием символов. Программа успешно решила 38 из 52 первых теорем из «Принципия математика»— трёхтонного труда по логике и философии математики, выпущенного в начале XX века. Для некоторых задач программа даже предложила более элегантные решения, чем сами авторы сборника— Альфред Уайтхед и Бертран Рассел. По сути, логик-теоретик имитировал здравый смысл, каким пользуются люди. Поэтому программы Ньюэлла и Саймона считают первым примером так называемого «слабого искусственного интеллекта». То есть интеллекта, заточенного под один конкретный вид интеллектуальных задач, в данном случае доказывание теорем. При этом логик-теоретик не понимал смысла символов, которыми оперировал, а лишь манипулировал ими механически, по правилам, заложенным его создателями. Он не мог обучаться и адаптироваться, так что даже по сравнению с современными системами машинного обучения он довольно примитивен. Забегая вперед, по сей день многие уверены, что ни одна программа или нейросеть не понимает смыслы символов, которыми оперирует, а просто ищет закономерности. Но опять же, что такое смысл и что такое понимать смысл? Впрочем, я отвлекся. Для своего времени программа стала прорывом и основой для развития многих важных идей. Начаясь с того, что логик-теоретик был написан на языке программирования IPL, часть функционала которого позже легла в основу LISP, одного из ключевых языков программирования на заре развития искусственного интеллекта. С его помощью инженеры впоследствии решали задачи обработки естественного языка и машинного обучения. Кстати, про ЛИСП у нас есть отдельный бонусный эпизод подкаста, ссылка в описании. В частности, на ЛИСПе работала ELISA, созданная в 60-х годах Chatbot, одна из первых программ, которая умела, еще очень примитивно, реагировать на реплики человека и отвечать ему в диалоге. На ЛИСПе ... MYCIN, экспертная система, имитирующая то, как врач-инфекционист ставит диагноз. Ещё ЛИСП использовался в логистике, в системах планирования наблюдений на телескопе Хаббл, для решения задач символической математики, а на его диалекте Common LISP даже работала ранняя версия сайта Reddit, и до сих пор работает движок поиска авиабилетов в Google Flights. Кроме того, Ньюэлл и Саймон, авторы логик и теоретик, основали одну из первых Карнеги. И в 1957 году создали ряд более продвинутых программ, например General Problem Solver – общий решатель задач. Эта программа уже задумывалась как более универсальная ИИ, которая мог бы и разгадывать головоломки, и играть в шахматы, и планировать маршруты. Делал он это, разбивая большие задачи на более простые подзадачи. Тоже по примеру людей. Но все-таки по пути интеллекта эта новая программа продвигалась не так уж и далеко. Она не научилась обобщать свой опыт или выходить за рамки заданных правил. А чтобы она смогла решить какую-то задачу, ей требовались данные, структурированные заранее. А структурировать их должны были, конечно же, люди. Способность программ оперировать символами в рамках подхода, основанного на правилах, поначалу вдохновила не только ученых, но и правительства, у которых ученые просили денег на свои исследования. Это положило начало ряду прикладных проектов, например, в области машинного перевода. В 1950-х годах считалось, что если машины могут выполнять математические вычисления, то и лексику, морфологию, синтаксис, семантику, то есть составляющие естественного языка, они освоят и воспроизведут без проблем. Ведь человеческий язык— это тоже набор правил. После знаменитого Джорджтаунского эксперимента в 1954 году, когда программа на компьютерах IBM успешно перевела 60 предложений с русского на английский, в США начались попытки переводить с помощью компьютеров советские научные журналы на английский язык. В первую очередь, эта задача была интересна американской разведке в рамках Холодной войны. Во-первых, именно у ЦРУ было самое передовое оборудование. Во-вторых, очень заманчиво было сделать так, чтобы секретную информацию из этих журналов вообще не видел никто лишний из живых людей, даже свои переводчики. Американское правительство стало выделять на эксперименты в области машинного перевода большие деньги. Первоначальный успех Элизы, логика теоретика, экспертных систем, автоматического перевода и прочих проектов, придуманных очень умными инженерами и учеными из ведущих американских вузов, сначала очень воодушевил и их самих, и более широкое экспертное сообщество и правительство. Герберт Саймон, один из первых идеологов ИИ, в 1965 году даже заявил, что через 20 лет машины будут способны выполнять любую работу, которую может выполнить человек. А через два года Марвин Минский, сооснователь лаборатории искусственного интеллекта в MIT, Массачусетском технологическом институте, заявил, что проблема ИИ будет решена в течение жизни одного поколения.

И…

Примерно в то же время стало ясно, что проблема И в ближайшее время решена не будет. Хотя бы по той причине, что для нее нет материальной основы. Даже ранние, слабые ИИ 50-х требовали огромных по тем временам вычислительных мощностей, которых у ламповых компьютеров в той эпохе просто не было. Скажем, для решения некоторых задач General Problem Solver нужно было более 20 килобайт памяти. IBM 704 емкость памяти достигала 36 килобайт, так что программу он обрабатывал почти на пределе своих возможностей, а если этот предел превышался, то компьютер просто зависал. Кроме того, ИИ того времени не мог выйти за рамки правил и логики, которые в него изначально заложили. Он не мог обобщать полученные знания и справляться с неопределенностью данных, потому и не справился с тем, что сегодня кажется само собой разумеющимся— машинным переводом текстов. Надежды ЦРУ доверять с трудом добытые секреты Советского Союза только бесстрастной машине провалились, потому что оказалось, что для перевода просто знать правила языка недостаточно. Оказывается, большую роль играет контекст и языковая неоднозначность. Вот лук – это что? Растение, которое мы добавляем в салат, или оружие, из которого стреляют? Человек легко решит эту задачу, зная контекст предложения, в котором есть слово «лук». А для машины определение такого контекста в 60-х стало просто непосильной задачей. В 1964 году американское правительство организовало проект ALPAC – Automatic Language Processing Advisory Committee – консультативный комитет по автоматической обработке языка для оценки проделанной компьютерами работы. Комитет пришёл к выводу, что ИИ-переводчики работали медленно, были неточными, стоили дороже переводчиков людей. Государственное финансирование машинного перевода свернули на десятилетия. Кроме того, начавшиеся в 70-х исследования компьютерного зрения вскрыли неожиданную проблему. Если мы хотим заставить машину имитировать естественный интеллект, то совершенно очевидно, что она должна научиться не просто складывать цифры или оперировать символами. Ведь люди ещё умеют ходить, видеть, слышать, ощущать. Вспомним Лока, который утверждал, что разуму должно предшествовать ощущение. Вероятно, компьютер тоже должен это уметь, чтобы носить гордое название «Интеллект, похожий на человеческий». И тут выяснилось, что доказывать теорему компьютера легко, а вот отличить на картинке кошку от собачки невероятно сложно. Но почему так? Помните, в начале выпуска я сформулировал этот парадокс? Невозможно точно определить ни искусственный интеллект, ни естественный. Но для развития того и другого приходится постоянно смотреть, что там происходит в соседнем цеху. Так вот. В 60-е и 70-е в соседнем цеху всё было не просто хорошо, там происходила когнитивная революция. Эпоха, когда человечество совершило прорыв в понимании собственного разума. Просто дух захватывает от того, сколько всего мы поняли про себя в тот период. Скажем, исследования естественного языка лингвиста Ноама Хомского показали, что люди не научаются языку с нуля. То есть язык— это не просто программа, которую накладывают на чистый лист психики, как считалось раньше. Судя по всему, мы в принципе можем научиться языку, потому что в нашей психике есть как бы готовая предустановленная база для этого. мы сразу рождаемся с мозгом, готовым к усвоению правил естественного языка. Именно поэтому дети учатся говорить на родном языке так легко, просто повторяя за взрослыми. И для этого им не нужно зубрить правила или заучивать слова. Чем-то похоже на врожденные идеи, о которых говорил Декарт. Психологи Ричард Аткинсон и Ричард Шифрин предложили многоуровневую модель памяти. С этой точки зрения память – это не просто хранилище наподобие библиотеки, а активный процесс, в ходе которого информация постоянно обновляется и перезаписывается. Психологи Даниэль Каннеман и Амос Тверски показали, что мышление – это, как и интеллект в целом, не монолитный процесс. Как минимум, мышление есть два типа— медленное и быстрое, и многие решения мы принимаем вообще неосознанно, на основе евристик, то есть как бы с помощью упрощенных правил, которые позволяют не запускать каждый раз трудоемкий аналитический процесс. Наверное, самый известный пример— это евристика доступности, то есть склонность человека полагаться не на самую надежную и достоверную информацию, а на ту, которая быстрее и легче приходит на ум. Допустим, человек может бояться летать на самолётах, потому что видел по телевизору сюжет об авиакатастрофе, и эта новость поразила его воображение. Хотя статистика показывает, что летать самолётами безопаснее, чем ездить на авто. Дональд Бродбент предложили модель внимания, которая предполагает, что внимание, как и память,— это активный, при этом избирательный процесс. Мы обращаем внимание не на всё на свете, а только на то, что для нас релевантно в данный момент. Это позволяет нам, например, слышать слова нашего друга на шумной вечеринке. Без избирательности внимания галдёж и просто сливался бы в невнятный шум. А еще исследование зрения Торстена Визеля, теория множественного интеллекта Говарда Гарднера и многое другое. Если очень все это обобщить, то оказалось, что разум, представьте себе, гораздо более сложная штука, чем мы думали. Во-первых, разум— это совершенно точно не что-то одно. Это не умение играть в шахматы или вычислять логарифмы или переводить с русского на английский. Это творческих или навыков— память, логика, внимание. И все это полагается на постоянную обработку информации из внешних источников— через зрение, слух, обоняние, осязание и так далее. Из этого, кстати, следует, что интеллект и разум невозможно свести только к работе мозга. Судя по всему, для думания нам нужно все наше тело. Все, что есть в нас— инструмент для получения сигналов извне, которые мозг обрабатывает и на их основании строит определенную картину мира. Как буквально зрительную, так и философскую. Ну и второй вывод, который из этого следует. Кажется, что разум— это не то, что можно просто создать, вложить в голову, и оно заработает. Разум— это продукт человеческой эволюции. Его не могло существовать без всей истории развития человечества как вида. Мы можем думать, мечтать, планировать будущее, отличать синий от красного, узнавать лица и относить коров к животным, а ворон к птицам не потому, что это просто. А потому что эволюция развивала в нас эти навыки миллионы лет. На самом деле, они совсем не простые. Просто они кажутся простыми для нас, поскольку для нас они естественны. А вот построенные на правилах и алгоритмах компьютера всему этому так просто не научишь. Потому было совершенно естественно попытаться подойти к проблеме искусственного интеллекта с другой стороны. Если мы не можем имитировать результат интеллектуальной деятельности, то, может быть, попробуем сымитировать саму структуру, которая его порождает? Иначе говоря, смоделируем сам мозг? Может быть, воспроизведем физическую основу, а то, что она порождает, появится само собой? Как ни странно, эта ветка технической эволюции началась тоже с Алана Тюринга, только с другой его статьи, о вычислимых числах. Ею в 1943 году вдохновились нейрофизиолог Уоррен Маккалок и когнитивный психолог Уолтер Питтс. Они опубликовали Immanent in Nervous Activity, где представили математическую модель, имитирующую структуру человеческого нейрона для выполнения логических операций. А в 1960 году, через два года после презентации программы «Логик-теоретик», Фрэнк Розенблатт, Маккалока и Питтса, презентовал перцептрон. Это была одна из первых искусственных нейросетей. Перцептрон был создан для решения задач бинарной классификации, то есть разделения данных на две категории. Представьте, у вас есть машина, на вход которой подается, скажем, 100 входных сигналов. Каждый из них бинарен, то есть да, нет, 0, единица, есть ток, нет тока. На выходе у этой машины лампочки, которые, соответственно, могут быть в одном из двух состояний, горит или не горит. С помощью такой машины можно решать задачи, требующие выбора одного из двух вариантов. Допустим, хороший, плохой, свой, чужой, покупать, продавать и так далее. Это и есть задача бинарной классификации. Казалось бы, выполнить ее может и обычный компьютер. В чем смысл перцептрона? А смысл в том, как именно входные сигналы преобразуются в сигнал лампочки результата. Это происходит не по заранее написанному человеком алгоритму, а на основе примеров. Задача механизма— классифицировать как можно больше примеров правильно, то есть минимизировать ошибки. Розенблатт, которая не вычисляет по алгоритму, то есть набору жестких правил, которые задали программисты, а учится на примерах, прямо как наш мозг. Ведь нам тоже никто никогда не даёт готовый набор инструкций жизни— как думать, как принимать решения, как поступать в той или иной ситуации. Мы просто смотрим на других и пытаемся копировать то, что нам кажется хорошим. А количество болей и косяков стараемся сократить. Розенблат даже построил свою машину. Она выглядела как коробка с миллионом спутанных проводов, которая, впрочем, почти ничего не умела. Измени хоть немного входной сигнал или выбери вопрос, на который не может быть однозначного ответа да-нет, и Перцептрон уже не мог справиться с такой задачей. Впрочем, сама его идея, которую я вам только что пересказал, была такой революционной, что подход Фрэнка Розенблата в сообществе не приняли. Его изобретение раскритиковали и забыли. перцептроны, где четко и понятно объяснил недостатки и практически бесполезность этих самых нейронных сетей. При этом компьютеры, основанные на алгоритмах, в то время давали гораздо более впечатляющие результаты. Расчёт атомной бомбы, траекторию ракет и перепись населения, всё это было гораздо круче и полезнее, в то время как первые нейросети ничего конкретного не умели. Ветка развития искусственного интеллекта с нейросетями ушла в тень. Все взгляды были на General Problem Solver и подобные ему программы. А они провалились, потому что нельзя описать реальный мир набором правил. В общем, Перцептрон вместе со своими собратьями по искусственному интеллекту вызвал у изобретателей разочарования и попал в так называемую «зиму искусственного интеллекта» 60-70-х годов. Период, когда первоначальный энтузиазм и надежды, что уже нынешнее поколение граждан будет жить при настоящем искусственном интеллекте, сменились разочарованиями и скепсисом. Представьте, что вы думали, вот-вот и появится машина, которая будет думать, размышлять и решать как человек. Оказалось, что она слово «лук» с русского, даже если перед ней поставить одну эту единственную задачу. Звучит не очень вдохновляюще. Впрочем, в 70-х еще было не очевидно, что зима искусственного интеллекта одновременно станет его новой зарей. Друзья, а сейчас мы перейдёмся на рубрику «Под капотом», которую мы делаем вместе с провайдером IT-инфраструктуры Selectel. В этом сезоне мы делимся историями о самых сложных и прорывных отраслях из мира IT. А в нашей совместной рубрике я рассказываю ещё больше о том, с какими неочевидными и сложными техническими задачами сталкиваются люди, которые ими занимаются. Современные модели— это миллиарды параметров. Например, GPT или аналогичные трансформеры— это сотни гигабайт модели, которые нужно обучить. На каждом этапе обучения модель проходит через миллионы итераций. Каждая итерация— это прогон огромного массива данных через модель, подсчет ошибок и обновление весов. Например, если модель учится на текстах, она анализирует каждое слово в контексте всех остальных. и так для миллиардов предложений. А если на аудио, то каждая секунда превращается в набор чисел, и это тысячи значений частоты и амплитуды временных колебаний. Для обработки этих массивов данных, на которых обучаются модели, нужны немалые вычислительные мощности, и запросы ИИ постоянно растут. Еще пару лет назад Ник Харрис, основатель и генеральный директор компании по производству компьютерного оборудования, заявлял, объем вычислительной мощности, необходимой искусственному интеллекту, удваивается каждые три месяца. То есть эта потребность растет по экспоненте. Чем больше у нас данных и чем сложнее модель, тем мощнее нужна инфраструктура. генерацией текста или созданием ИИ-ассистентов— это очень затратно. Поэтому здесь важны не просто серверы, а серверы с GPU— графическими процессорами, которые специально заточены под такие задачи. Они способны выполнять тысячи параллельных операций. У нашего партнёра Selectel есть всё, что нужно, чтобы запускать и масштабировать ИИ-проекты. Серверы с мощными видеокартами NVIDIA, продукты для надёжного хранения данных и возможность собрать инфраструктуру под любой запрос, связанный с машинным обучением. Подробности по ссылке в описании. Хотя перцептрон и был очень примитивной нейросетью, и не слишком отличался по способности думать от других проектов своего времени, но именно эта ветка развития в итоге вылилась в новый бум искусственного интеллекта. Дело в том, что перцептрон, в отличие от других программ, не просто следовал правилам, он обучался, обновляя свои веса. И эта особенность легла в основу всех будущих, более продвинутых нейросетей. Просто эта новшество выстрелило позже, в 80-е, когда зима и ей сменилась весной. Оказалось, что никакого непреодолимого тупика в развитии думающих машин не было. Нужно было просто подождать достаточного развития технических мощностей. Главное, что отличало 80-е от 70-х, это, во-первых, более быстрый процессор и большая ёмкость памяти компьютеров, а во-вторых, появление больших объёмов данных. В ту пору они копились в научных и статистических организациях. Мы начали оцифровывать мир вокруг с простых и доступных наборов данных, таких, например, как MNIST— набор рукописных цифр. Его составили на основе бланков, которые граждане США заполняли в ходе переписи населения. На этом наборе первые нейросети учились распознавать цифры. Эти первые нейросети были уже многослойными, то есть представляли собой как бы несколько слоев перцептронов, наложенные друг на друга. Входной слой принимает данные, промежуточные слои их обрабатывают, а на выходе получаем результат. построить такую нейросеть было бы невозможно без соответствующей теоретической структуры, а именно алгоритма обратного распространения ошибки. Его Пол Вербос. Идея этого алгоритма в том, что он позволяет нейросети как бы отловить ошибку на выходе и отправить сигнал о ней в обратном направлении через все слои, чтобы они обновились пропорционально своему вкладу в ошибку и таким образом минимизировали ее. Многослойная нейросеть научилась тому, чего не мог перцептрон. Например, распознавать образы, такие как рукописный текст. Умели классифицировать нелинейно разделимые данные и моделировать сложные зависимости. Как перцептрон стал основой и строительным блоком для многослойных нейросетей, так они сами стали кирпичиком для следующего этапа эволюции— свёрточных и рекуррентных нейросетей. Для следующего рывка в развитии искусственного интеллекта требовалось пройти очередной этап в развитии технологической базы. А именно— дождаться взрывного роста мощности микропроцессоров по закону Мура, согласно которому каждые полтора года удваивается количество транзисторов на чипах. Экспоненциальная часть этого роста пришлась как раз на девяностые двухтысячные. Тактовая частота, то есть количество операций в секунду, которую выполняет микропроцессор, выросла с нескольких сотен герц до одного гигагерца в двухтысячном, а затем и до трех-четырёх гигагерц. Такие процессоры с сотнями миллионов транзисторов позволяли выполнять очень много вычислений. Тогда же стала популярной архитектура параллельной обработки данных. То есть машины научились работать не только последовательно, но и вычислять несколько задач одновременно. Прямо как это делает человеческий мозг. В это же время увеличилась емкость памяти компьютеров. Теперь на одном чипе можно было хранить большие объемы данных. Появились графические процессоры, ГПУ, необходимые для той самой параллельной обработки информации и обучения нейросетей. И, наконец, появился интернет. А в нем огромный массив данных. Текстов, картинок, символов и таблиц. Последним, пожалуй, можно назвать ключевым. К началу 2000-х сеть накопила огромные библиотеки знаний и информации, собранные университетами, правительствами и корпорациями вроде Google и Amazon. Разумеется, это стало возможным и благодаря появлению хранилищ этих данных. И теперь эти данные наконец-то можно было к чему-то применить. 2010-е. Начинается революция в машинном обучении. Друзья, хочу сделать короткое отступление и рассказать вам, что студия либо-либо, которая выпускает этот подкаст, теперь делает подкасты на заказ для компаний, организаций и даже отдельных людей. Студия выпускает самые популярные аудиопроекты на русском языке, так что сотрудники либо-либо точно знают, как с помощью подкаста можно решить имиджевые или маркетинговые задачи, прокачать HR-бренд и выйти на новую аудиторию. В общем, если у вас есть бюджетный подкаст и вы хотите, чтобы вам помогли профессионалы, пишите на подкаст собачка либо-либо точка ми. Адрес есть в описании. Объяснить, что такое революция машинного обучения, не так-то просто. Я рискую свалиться в простое перечисление того, что было изобретено и создано буквально каждый год. Например, с появлением Lenet 5 в 1998 году в игру вступили в свёрточные нейросети. Это те самые, которые ищут на картинке знакомые паттерны и по ним определяют, что на картинке котик, а ошибки исправляют на основе алгоритма обратного распространения ошибки, созданного еще в 80-е. Линет как раз занимался распознаванием рукописных цифр. Создал её Ян Ли Кун, один из пионеров технологий глубокого обучения, а ныне вице-президент по искусственному интеллекту в корпорации МЕТА. Примерно в то же время появились рекуррентные нейронные сети, RNN, которые, в отличие от сверточных, больше подходят для обработки текста и речи, а не картинок. Генеративно-состязательные сети, GAN, представленные в 2014 году, используются для генерации новых данных. Слово «состязательные» тут потому, что внутри у них есть две нейросети, которые соревнуются между собой. Первой нужно создать такие картинки, которые максимально похожи на примеры, а вторая пытается найти в них изъяны и таким образом отделяет хорошие от плохих. 2018 год. Появление языковой модели GPT. В феврале 2025 анонсировано её уже пятое поколение. Перечислять всевозможные новшества, обрушившиеся на мир в 2010-х, можно долго. Но общая суть в том, что к началу 2010-х появилось достаточно ресурсов, чтобы вместо правил загрузить машину много данных и предложить ей самой поискать паттерны и закономерности, а потом саму же себя поправить и подкорректировать на основе дополнительных данных. Такая архитектура обучения появилась благодаря тому, что ученые обратили внимание на то, как учатся люди. И в этом им помогла как раз когнитивная революция, в ходе которой ученые проникли глубже в суть процесса обучения. Например, ребёнок вначале не знает, как выглядят коты и собаки, но мам показывает им пальцем на кота и говорит «это кот», а потом на собаку и говорит «это собака». Таким образом, мозг ребёнка со временем понимает, кто где. Архитектура обучения нейросетей построена примерно по тому же принципу. Только мозг ребёнка, как мы знаем, сформирован с сотнями тысяч лет эволюции бок о бок с разными животными. Так что ребёнку достаточно увидеть кота или собачку пару раз, чтобы разобраться, как их отличать. Нейросети же нужны миллионы изображений, так как её мозг приходится обучать как бы с чистого листа, без опыта предшествующих поколений. Так и появилось машинное обучение. Задача программиста теперь не задать правила, как в 50-е, а подготовить должным образом данные, промаркировать их, загрузить их в машину и предоставить ей самой поискать в этих данных закономерности. А от машинного обучения нейросети постепенно перешли к дип-лёрнингу, то есть самообучению без участия человека. Если для первых нейросетей данные готовил и размещал человек, то для новых моделей дают как бы сырые данные и предлагают поискать в них что-то интересное самим. Так машины в очередной раз научились имитировать некоторые наши навыки. Например, навык распознавать объекты на изображениях или создавать новые. Навык писать связанный текст. Навык находить маршрут среди препятствий. От этих новых способностей искусственного интеллекта у нас сейчас захватывает дух, и порой снова, как в 60-х, кажется, что искусственный разум, умеющий написать симфонии и создать шедевр, появится вот-вот, а нас, носители несовершенного натурального интеллекта, отправят на свалку истории. Хотя некоторые тревожные звоночки намекают, что, возможно, мы на самом деле на пороге очередной зимы, а не рассвета. Ведь, как я уже сказал, к чему нас эволюция готовила миллионы лет, машины надо загружать с нуля, поэтому для обучения им требуется несопоставимо больший объём данных. Огромные. Для тренировки языковой модели последнего поколения GPT-4 потребовалось 13 триллионов токенов, то есть базовых единиц контента, например, слов или частей слов. Этот объем эквивалентен миллионам книг. Мы использовали практически весь интернет, почти все, что было оцифровано человечеством. При этом интернет прямо на наших глазах заполняется информацией, которая уже была сгенерирована искусственным интеллектом. Хотя специалисты пытаются её отфильтровать, результаты творчества нейросетей всё же просачиваются в базы обучения для следующих моделей. Эксперименты показывают, что это вряд ли приведёт к чему-то хорошему. Нейросеть, обученная на наборе рукописных цифр, генерирует цифры без проблем. Но если ей для обучения дать цифры, которые уже были изгенерированы нейросетью, а затем повторить эту процедуру несколько раз, то примерно через 30 таких повторений нейросеть будет выдавать просто какие-то невнятные размазанные пятна вместо цифр. То же самое с текстами. Всего через четыре итерации обучения на искусственно сгенерированных текстах ИИ начинает выдавать полный бред. А вот в случае с человеческими лицами произойдет интересное. Вообще наши лица очень разнообразны. Но всего через четыре генерации люди на фото станут неотличимы друг от друга. Вы, кстати, не замечали, как трудно сгенерировать с помощью нейросети действительно уникальное лицо? Почти всегда они получаются просто конвенционально красивыми, как у мужчин, так и у женщин. При всем этом проверить, есть ли у нейросети языковых моделей интеллект, мы как не могли, так и не можем. Ведь мы по-прежнему не придумали, как в принципе определить наличие интеллекта. На тест Тьюринга разные боты языковые модели проверяют регулярно, но они проходят его в мерцающем режиме. Иногда вроде проходят, а иногда и нет. Кого-то могут убедить в своей разумности, а кого-то так просто не обманешь. Впрочем, строгие условия официального тестирования— это одно, а живое общение в соцсетях— совсем другое. Там обмануть нас вроде не так уж и сложно. Люди массово лайкают сгенерированную фотографию Папы Римского в белом пуховике и не видят подвоха. Кстати, погуглите. Так что же, ИИ уже среди нас? Всё ещё нет. Можно, конечно, испытать машину как-нибудь иначе. Например, есть схема винограда. Это предложения, в которых правильный ответ выводится из здравого смысла. Трофей не помещается в чемодан, потому что он слишком большой. Вопрос, кто слишком большой? С самыми простыми примерами искусственный интеллект уже справляется после дополнительных тренировок, можете проверить сами. Но в целом проблема понимания контекста остается. Можно предложить искусственному интеллекту написать симфонию и создать шедевр в рамках теста Lovelace, который буквально нацелен на обнаружение у машины творческих способностей. Например, может ли искусственный интеллект написать музыку, вдохновленную закатом в пустыне, не опираясь на существующие мелодии, при этом так, чтобы прослушавшие музыку эксперты сошлись во мнении? Да, это про закат в пустыне. Проблема только в том, что этот тест бессовестно субъективен и зависит от мнения тех самых экспертов. Кроме того, откуда нейросеть взяла, точно ли она придумала их с нуля или просто так скомбинировала паттерны из своей базы данных, что не прикопаешься. С другой стороны, а живой художник или композитор при создании произведения разве не опирается на всё, что слышал и видел раньше? Наконец, можно дать обычной модели какое-нибудь физическое тело, чтобы она ходила, видела, трогала, нюхала. получим воплощённый искусственный интеллект и посмотрим, ведёт ли он себя похоже на разумного homo sapiens. Но сразу скажу, что смысла в этом по-прежнему немного. Если говорить о сильном искусственном интеллекте, то есть таком, который может сразу всё, что может человек, то его по-прежнему не существует. Если говорить о машине, обладающей сознанием, то её тоже не существует, а если она и появится, большой вопрос, как мы это поймём. Учитывая, что проблема наличия сознания у самого человека тоже не решена. Кроме того, нейросеть, несмотря на ловкую имитацию некоторых наших функций, все равно не похожа на человеческий мозг. Как минимум, они даже близко не настолько эффективны по соотношению энергопотребления к вычислительной мощности. Мозг работает всего на 20 ваттах, а это половина энергии обычной лампочки. GPT-3 же каждый день потребляет столько энергии, что хватило бы для обеспечения небольшого поселка. в создании сильного искусственного интеллекта Anthropic. Но заявить, что им удалось создать искусственный разум, пока не может никто. Проблема остается все та же. Мы до сих пор не понимаем, что такое интеллект натуральный, чтобы на его основе создать интеллект искусственный. Очевидно, что человеческий разум— это не просто способность рисовать картинки, писать музыку, генерировать стихи под Шекспира или просто под Толстого, давать определения предметам и так далее. Потому что все это уже умеют нейросети. Тогда что же это? Самосознание? Наличие «я»? Способность к рефлексии? Наличие этики и совести? И как понять, что это все есть у другого? Трудная проблема сознания не решена философами до сих пор. Мы не знаем, как материя мозга порождает феномен сознания. И одно из конечных решений этой проблемы заключается в том, что, возможно, стоит просто смириться с тем, что мы не поймем этого никогда. Однако идея Алана Тьюринга, а просто довольствоваться его имитацией, возможно, ещё более мудра, чем может казаться. Миллионы пользователей уже сегодня ChatGPT и «спасибо» при каждом запросе, хотя формально смысла в этом не больше, чем расшаркиваться своим пылесосом. Однако людям достаточно того, что ChargePT пишет в ответ что-то, что выглядит как осмысленная реакция живого человека. неодолимый, сформированный миллионами лет эволюцией механизм эмпатии, заложенный в нас, призывает нас быть вежливыми со всеми, кто вежлив с нами. А настоящая ли эта вежливость или её имитация нашему натуральному интеллекту, по большей части, неважна. Будь ты человек или машина, если ты соблюдаешь базовые правила этики, или три законы робототехники, или что-то ещё глубинное, что лежит в основе этого всего, то этого, пожалуй, достаточно, чтобы стать частью человеческого социума. Так что нам не остаётся ничего, кроме как последовать совету Тюринга в почти 100-летней давности. Подождать ещё и посмотреть, что же получится в итоге. Это подкаст Студии Либо-Либо. Написал этот эпизод Евгения Щербина. Отредактировала Аня Карпова. Спродюсировала Маша Агличева. Фактчект Милена Загедулина. Со звуком работали Юрий Шустицкий и Ильдар Фатахов.

Спасибо!