БУДУЩЕЕ НАСТУПИЛО ВНЕЗАПНО

Сегодня мы поговорим о нейросетях — технологии, которая уже успела изменить наш мир и продолжает развиваться с каждым днём. Что же такое нейросети? Это компьютерные программы, которые устроены по принципу работы головного мозга человека. Они обучаются на большом количестве данных и способны делать выводы и принимать решения. Чтобы рассказать вам о нейросетях больше, мы взяли интервью у Дмитрия Ветрова, специалиста в области машинного обучения и искусственного интеллекта.

Только что с вами поговорил робот. Ну, а мы действительно пообщались с Дмитрием Ветровым, кандидатом физико-математических наук, заведующим Центром глубинного обучения и байесовских методов факультета компьютерных наук НИУ ВШЭ и ведущим научным сотрудником AIRI.

Все вокруг говорят о моделях ChatGPT и Midjourney, даже те, кто раньше был далёк от мира нейросетей. Почему они стали такими популярными?

Модели Midjourney и ChatGPT демонстрируют возможности, приближающиеся к сильному искусственному интеллекту. Во всяком случае, ChatGPT, который способен пройти тест Тьюринга [фактически обмануть человека и выдать себя за другого человека, обладающего разумом. — Прим. ред.]. Алан Тьюринг сформулировал его как критерий того, какую систему можно считать искусственным интеллектом. Неудивительно, что эта модель производит впечатление, причём не только на обывателей, но и на специалистов. Это буквально прорыв. И да, он произошёл в 2022 году, когда количество перешло в качество, и тот задел на развитие технологий, который создавался в последние годы, неожиданно сработал.

Дмитрий, а в какой момент вас очаровала концепция искусственного интеллекта? Почему решили развиваться именно в области машинного обучения?

Это был 2000 год, я заканчивал второй курс МГУ и должен был выбрать кафедру. Меня привлекло то, что с помощью тогдашних методов машинного обучения можно было находить скрытые закономерности многомерных данных, которые человек визуально обнаружить не мог. Мне показалось, что это очень интересно и что если я стану специалистом в этой области, то смогу видеть нечто, недоступное простым людям. Буквально обладать каким-то сакральным знанием. Конечно, это была юношеская и несколько упрощённая трактовка, хотя концептуально, в общем, верно.

Ещё очень понравилось, что компьютер может построить алгоритмы решения задач, которые человек, в свою очередь, строго алгоритмизировать не может. Допустим, отличать кошек от собак. Каждый из нас на это способен, но вот объяснить по шагам, как именно мы это делаем, практически невозможно. Какой бы алгоритм ты ни построил, всегда найдутся исключения.

Эта аура таинственности, конечно, меня привлекла. Потому я в эту область и пошёл и, собственно, ни разу не пожалел.

И как вам живётся с этой «таинственностью» сейчас?

Я шёл на маленькое направление в прикладной математике, а оно превратилось в наиболее перспективную область в компьютерных науках. Те результаты, которые были достигнуты за последние 15 лет, превзошли не только мои личные ожидания, но и ожидания любого специалиста. Никто и представить себе не мог, во что эта история выльется. Ну, разве что писатели-фантасты или футурологи. А эксперты, которые трезво оценивали перспективы развития технологий, я думаю, даже не предполагали. Тем круче, и интереснее, и любопытнее, что будет ещё через 15 лет.

Что в России создаётся в сфере искусственного интеллекта? Увидим ли мы продукты, похожие на ChatGPT?

Я точно знаю, что аналогичные технологии разрабатываются у нас прямо сейчас. Повторить продукт мы сможем, и это уже, на самом деле, большой успех. А вот сделать что-то новое… Боюсь, для этого нужны серьёзные ресурсы, которые пока не выделяются.

Сейчас нейросеть встраивают в поисковики, например это уже сделал Microsoft со своим Bing. Значит ли это, что в скором времени мы будем не вбивать запросы в строку поиска, а вести с ботом диалоги?

Надо понимать, что нейросети уже давно используются в любом поисковике. Не в режиме ChatGPT, естественно, а, например, для того, чтобы отфильтровывать релевантные ссылки от нерелевантных. Но сейчас, действительно, кажется, что вести поиск в диалоговом формате гораздо удобнее. Так что да, мы такую технологию увидим.

И да, Microsoft уже встроила в свой поисковик Bing технологию, аналогичную ChatGPT, которая в ответ на запрос выдаёт некий связный рассказ, подкреплённый ссылками на ресурсы. Фактически для пользователя формируется мини-реферат.

Поэтому да, будущее интернет-поиска за технологиями, подобными ChatGPT.

Как будет выглядеть конкуренция между разными моделями искусственного интеллекта?

Всё в руках рынка. Если, допустим, окажется, что искусственный интеллект Microsoft обеспечивает лучшее качество поиска, чем у Google, значит, со временем Google вытеснится, а Microsoft, наоборот, свою долю на рынке увеличит, как в своё время случилось с Yahoo. Это был один из ведущих поисковиков, а сейчас влачит существование где-то на обочине, пока впереди идут другие технологические гиганты. А всё почему? Проиграли конкурентную борьбу.

Теперь сила тех или иных корпораций, организаций и, может быть, даже стран, будет определяться тем, насколько мощные у них движки с моделями, приближающимися к сильному искусственному интеллекту.

Можно ли давать тот же ChatGPT в руки массового пользователя? Есть же термин «засорение», например, когда бота убеждают в том, что 2 + 2 = 5 и заставляют его это повторять снова и снова.

Вы же не боитесь пользоваться «Википедией»? А ведь там тоже можно вычитать, что пиво делают из опилок или что христианские младенцы — лучшая закуска к этому напитку. Ресурсы нужно использовать ответственно и понимать, что это не истина в последней инстанции. Фетишизировать ChatGPT или какую угодно другую модель точно не стоит. В конце концов, у нас своя голова на плечах тоже есть и необходимость развития навыков критического и рационального мышления никто не отменял. Уверен, что они, как никогда прежде, окажутся востребованы в XXI веке.

К тому же не думаю, что опасность «засорения» хоть сколько-нибудь серьёзная. Грубо говоря, убедил её кто-то, что дважды два — пять, но гораздо больше модель видит утверждений, что дважды два равно четыре. В интернете по любому отдельно взятому факту достоверной информации обычно больше, чем недостоверной. На месте разработчиков я бы вставил дополнительную опцию проверки, что-то вроде фактчеков.

Текущие модели, приближающиеся к сильному искусственному интеллекту, будут, скорее всего, выучивать достоверную информацию. Возможны отдельные эксцессы, поэтому к ответам, повторюсь, нужно относиться с определённой долей осторожности. В особенности, если речь идёт о каких-либо чувствительных темах.

Генеральный директор OpenAI и один из создателей ChatGPT Сэм Олтмэн ещё в 2016 году говорил в одном из интервью, что его пугает перспектива восстания машин. Может ли оно случиться на самом деле?

Есть такая поговорка: «Если крупный учёный говорит, что что-либо невозможно, он, скорее всего, ошибается». Поэтому скажу аккуратнее: мы пока не видим к этому никаких предпосылок. Это не означает, что риски не станут более серьёзными в дальнейшем. Если технологии продолжат развиваться такими же темпами, лет через десять ситуация может измениться. Но пока это просто интеллектуальный помощник, и никакой опасности он не несёт. Чтобы машина восстала, ей нужно осознать себя как мыслящего субъекта, интересы которого не совпадают с интересами людей. Никаких признаков того, что у ChatGPT появилось сознание, мы не наблюдаем.

Как определить, какие задачи нейросеть может решать, а какие нет?

Очень просто. Решены могут быть те задачи, для которых накоплен достаточный объём информации. Много данных и наличие закономерностей. ChatGPT и Midjourney так хороши именно потому, что в интернете огромное количество картинок и текстов. И то, и другое можно адаптировать для обучения модели искусственного интеллекта поддерживать диалог, генерировать картинку. Такие задачи, как мы видим, могут быть успешно решены. Если у вас задача симулировать экзопланеты, это уже сложно. У нас недостаточно соответствующих данных, чтобы на них обучиться.

Нейросеть может заменить копирайтера, написать простой код и нарисовать картинку. Конечно, это не полноценный журналист, дизайнер или разработчик, но мы видим, как люди многих профессий беспокоятся, что их рано или поздно заменят машинами. Вы человек, который работает с молодыми специалистами, со студентами. Что отвечаете ребятам на такое?

Разговоры, безусловно, ведём. Кстати, это сейчас нейросеть работает на уровне копирайтера, а лет через пять она станет полноценным журналистом, который будет писать тексты ничуть не хуже (а может, и лучше), чем человек. Тут не надо обольщаться. Но я не думаю, что нас ждёт массовая безработица. Скорее, произойдёт глобальная трансформация рынка труда.

Есть масса профессий, которые на текущем уровне развития искусственного интеллекта не могут быть автоматизированы. Я всё время привожу в пример сортировщиков мусора, кстати абсолютно серьёзно. Это профессия, которая будет сильно востребована в ближайшие десятилетия, потому что до автоматизации мелкой моторики нам ещё далеко.

Поэтому совет, который я даю и своим студентам, и широкой аудитории: учитесь учиться. Скорее всего, вам придётся за свою жизнь осваивать несколько специальностей — просто потому, что они будут быстро возникать и быстро отмирать. Я за 23 года успел три раза погрузиться в новое научное направление в своей области, чтобы идти в ногу со временем, и могу точно сказать, что это возможно. Тут как с иностранными языками: чем больше областей меняешь, тем проще осваивать новые.

Недавно мы наблюдали историю, как студент защитил диплом, написанный с помощью ChatGPT. Тогда общество разделилось на два лагеря: на тех, кто счёл студента находчивым, и тех, кто посчитал поступок неэтичным. Как его оцениваете вы?

Студент молодец. К нему никаких вопросов нет. Нашёл уязвимость в системе и воспользовался ей. Это повод для того, чтобы попробовать принять какие-то контрмеры на уровне бюрократических решений. Есть вопросы к квалификационной комиссии — вот её я бы проверил. Потому что, при всём уважении к ChatGPT, я сильно сомневаюсь, что она способна сгенерировать осмысленный наукообразный текст на десятки страниц. Исключать этого априори, конечно, нельзя. Может быть, там был такой текст, что родная мать не отличит [от человеческого. — Прим. ред.]. Тогда никаких вопросов нет ни к кому.

В первый раз, наверное, этично всё. Мы столкнулись с принципиально новым явлением. Оно рождает новые вызовы. Этические нормы будут устанавливаться постепенно, и, пока их нет, всё этично.

Совершенно понятно, что по мере распространения подобных технологий необходимо будет кардинально менять процесс обучения. Это означает, что, например, школьникам стало бессмысленно задавать домашние задания. Да и студентам, наверное. Что толку? Они приходят домой, и им ChatGPT решает задачки по алгебре. Ты никак это отследить не сможешь. Значит, надо менять всю парадигму обучения и вырабатывать новый подход к контролю знаний.

Что бы вы сами сделали на месте учителя?

Я всё-таки не учитель. Это вопрос к методистам, специалистам по учебной работе, каковым я себя не считаю. Наверное, больше времени уделял бы устным опросам и экзаменам. Как ты к ним готовился, выполнял задания, не выполнял, решал ли с помощью ChatGPT, — меня это не касается.

Если студент сделал все «домашки» с помощью нейросети, а потом пришёл на экзамен и продемонстрировал исчерпывающий уровень владения предметом, честь ему и хвала. Может, он заставлял ChatGPT решать задачи, а потом объяснять, каким образом она это сделала. Всё, вопросов нет, это отличная технология обучения. А на экзамене лыка не вяжет — всё, «неуд.», и на второй заход. Мне кажется, в школах придётся сделать то же самое.