Грозит ли нам абсолютная власть искусственного интеллекта?

Всем нам известен образ искусственного интеллекта в массовой культуре: это сверхразум, который однажды вырывается из-под контроля людей и порабощает человечество. С развитием методов машинного обучения и нейронных сетей вопрос о будущем искусственного интеллекта обсуждается все чаще, и мнения технологических лидеров в этом вопросе диаметрально противоположны. Или нет?

Летом этого года бурную дискуссию о развитии искусственного интеллекта начали Илон Маск и Марк Цукерберг. Маск ещё с 2014 года высказывает громкие опасения о “роботах, убивающих людей” и о том, что искусственный интеллект является главной угрозой для человечества.

If you're not concerned about AI safety, you should be. Vastly more risk than North Korea. pic.twitter.com/2z0tiid0lc

— Elon Musk (@elonmusk) August 12, 2017

Об обоснованности этих опасений Марка Цукерберга спросили в одной из его трансляций на Facebook, на что он ответил неожиданно резко и прямо:

У меня довольно четкое мнение насчет этого. Я настроен оптимистично. […] люди, которые пытаются привлечь внимание апокалиптическими сценариями — я не понимаю этого. Это действительно плохо и в какой-то степени безответственно.

Конфликт продолжился и дальше, когда Маск сказал об ограниченном понимании области Цукербергом. Кто из них имеет более весомые доводы и что думают об этом другие эксперты?

Критики

Одним из главных скептиков по поводу развития искусственного интеллекта является профессор Стивен Хокинг. Уже несколько лет он высказывает опасения о том, что искусственный интеллект может положить конец существованию нашего вида.

Потенциальная польза создания искусственного интеллекта огромна… Мы сможем уничтожить заболевания и бедность, каждый аспект нашей жизни изменится. Создание ИИ может стать крупнейшим событием в истории нашей цивилизации. Но оно может стать и последним событием, если мы не научимся избегать рисков. Вместе с пользой ИИ принесет такие опасности, как мощное автономное оружие или новые способы подавления большинства. Вкратце, создание искусственного интеллекта станет либо лучшим, либо худшим событием в нашей истории. Мы пока не знаем наверняка.

Билл Гейтс изначально поддерживал точку зрения Маска и Хокинга. В своей AMA-сессии на Reddit основатель Microsoft сказал, что “сначала машины начнут выполнять часть работы за людей”, но через несколько десятилетий ИИ станет достаточно мощным, чтобы превратиться в проблему. Гейтс также сказал, что “не понимает людей, которые не обеспокоены”. Но в недавнем споре Маска и Цукерберга Билл Гейтс не поддержал Илона.

Так называемая проблема, которая беспокоит Илона, не является чем-то неизбежным. Мы не должны паниковать. Но мы и не должны игнорировать факт, что постепенно проблема будет развиваться.

Главная проблема, которая беспокоит критиков искусственного интеллекта, это вопрос регуляции. При отсутствии плана создание сильного ИИ (или artificial general intelligence) может действительно стать катастрофой. Для того, чтобы предотвратить концентрацию власти и силы у ограниченного круга людей и компаний, Илон Маск совместно с президентом Y Combinator Сэмом Альтманом создали некоммерческую компанию OpenAI. Её цель — максимально прозрачная работа над дружественным искусственным интеллектом. Первые успехи OpenAI связаны с обучением алгоритмов прохождению игр, в частности, созданному организацией боту уже удалось обыграть профессиональных игроков в Dota 2.

Энтузиасты

Гораздо больше технологических лидеров стремятся к быстрому развитию систем машинного обучения. По прогнозам Tractica, доходы отрасли вырастут от $1.4 миллиарда в 2016 до $59.8 миллиардов к 2025. Неудивительно, что многие компании хотят быстрее получить преимущества искусственного интеллекта.

Крупнейшими игроками здесь являются Google и Facebook. Создание искусственного интеллекта в Google видят в качестве расширения поискового опыта на весь веб. Компания усиленно вступила в борьбу с Apple и Amazon, представив своего голосового помощника Google Assistant. 90% дохода Google составляет текстовая реклама, и развитие нового медиума критически важно для сохранения лидерства компании на рекламном рынке. Эта позиция напрямую соотносится с личным мнением со-основателя Google и CEO Alphabet Ларри Пейджа:

Искусственный интеллект будет окончательной версией Google. Финальным поисковым движком, понимающим все в вебе. Он будет понимать, чего именно вы хотите, и даст вам именно это. Сейчас мы далеки от этого, но мы можем приблизиться к этому опыту, и над этим мы сейчас и работаем.

Развитие искусственного интеллекта является одним из главных приоритетов Facebook: с 2013 года лабораторию по изучению ИИ возглавляет Ян Лекун, один из самых авторитетных ученых в этой области. Сам Марк Цукерберг крайне позитивно относится к перспективам машинного обучения:

Одна из причин моего оптимизма по поводу ИИ — это то, что исследования улучшают системы во многих областях: от диагностики заболеваний до создания беспилотных автомобилей, от отображения лучшего контента в вашей ленте новостей до доставки более релевантных результатов поиска. Каждый раз, когда мы совершенствуем наши методики искусственного интеллекта, все эти системы становятся лучше. Я взбудоражен всем этим прогрессом и его потенциалом для того, чтобы сделать мир лучше.

Цукерберг доказывает свою позицию личным примером. В 2016 году его целью стало создание личного помощника для управления домом, основанного на системах распознавания лиц и речи и обработки языка. Результатом работы стал Джарвис, система, которая понимает голосовые запросы, может узнавать и автоматически впускать в дом гостей, а также поддерживает общение через мессенджер.

Существующие сейчас системы искусственного интеллекта представляют собой сети глубокого обучения, далекие от того, чтобы стать сильным всеобъемлющим искусственным интеллектом. Нейронные сети сейчас состоят из нескольких горизонтальных слоев, обрабатывающих информацию, но этого недостаточно для полной имитации работы человеческого мозга, в котором нейроны связаны не только горизонтально, но и вертикально. Каждая система может выполнять свой определенный диапазон задач, который может быть как очень специализированным, например, игра в Го, так и более широким, но не выходящим за рамки своего назначения.

В своей сути мнения противников развития искусственного интеллекта не так уж и отличаются от взглядов его сторонников. Главным вопросом здесь является нахождение баланса между развитием технологии и сохранением контроля над этим прогрессом. И даже если Стив Возняк, который был готов стать питомцем роботов, изменил свое мнение, то нам тем более не стоит опасаться порабощения человечества и конкуренции с роботами за рабочие места.

Как лучше всего реагировать на искусственный интеллект и роботов?