Естественная глупость опаснее искусственного интеллекта

Основатель стартапа Intuition Machine и разработчик Карлос Перез рассказал о том, что такое естественная глупость и почему то, что происходит сейчас с человечеством, опаснее потенциального распространения искусственного интеллекта.

Знаете, что опаснее искусственного интеллекта? Естественная глупость. В этой статье я исследую естественную глупость более детально и покажу, как существующие технологии (управляемые узконаправленным ИИ) делают нас коллективно глупее.

У нас у всех была ситуация, когда GPS заводил нас в незнакомое место, и мы понимали, что никак бы не смогли найти это место снова без помощи GPS. Мы меньше используем не только свою способность ориентироваться, но и память. Все мы в какой-то степени потеряли свою способность вспоминать что-то из-за чрезмерного использования Google. Теперь мы помним, как найти что-то, а не сами факты.

Чтобы исследовать интуицию, я часто использую кодекс когнитивных искажений, который нашёл в Википедии. Это большой список предрассудков, и вы можете получить более общее представление о них, так как все искажения разделены на четыре группы. Эти группы называются “Слишком много информации”, “ Недостаточно смысла”, “Потребность действовать быстро” и “Что мы должны помнить?”

Наш мир требует устойчивой и эффективной автоматизации. Спросом будут пользоваться продукты, компенсирующие наши недостатки. Очевидным недостатком этой ситуации является то, что, пользуясь этими продуктами, мы перестаем тренировать наши слабые стороны.

Единственные люди, которые поддерживают свои умения, — это те немногие, кто постоянно их тренирует. Между тем все больше людей выходят из формы и становятся все более ленивыми в отношении своих умственных способностей. Мы считаем себя умнее, потому что можем выполнять много задач одновременно. Но наш мозг не приспособлен для выполнения сразу нескольких вещей. Недавние исследования показали, что способность к выполнению одновременно нескольких задач у голубей развита лучше, чем у людей.

Однако существует гораздо более опасная проблема, чем то, что мы становится глупее из-за автоматизации. Другие люди знают, что мы становимся тупее, и используют нашу естественную глупость, чтобы влиять на наше поведение. Десятилетиями индустрия рекламы тратила триллионы долларов, изобретая новые способы мотивировать нас на определённые поступки так, чтобы мы не знали об этом влиянии. Для этого используются наши когнитивные искажения. Если бы все мы руководствовались идеальной логикой, то мы бы тратили деньги наиболее эффективно, и очень немногим компаниям от этого была бы выгода. Если бы мы сократили свои расходы, то экономика бы пришла в застой и случилась бы экономическая депрессия (кстати, есть что-то неправильное в том, что мы должны увеличивать своё потребление, чтобы избежать стагнации).

Итак, «естественная глупость» — это наша потребность в смысле, недостаток памяти, неспособность думать быстро и обрабатывать слишком много информации. Все продукты и сервисы дополняют эти наши недостатки. Для нас естественно искать пусть наименьших усилий. Давайте исследуем все четыре недостатка более детально.

С начала своего существования люди стремятся искать смысл. Самое простое объяснение естественным образом кажется нам более привлекательным. Религии созданы цивилизациями не только для общего представления о приемлемом поведении, но и для поиска смысла.

Книги и более сложная форма письменности, то есть интернет, расширяют возможности нашей ограниченной памяти. Воспоминания требуют не только места для хранения, но и возможности их вызова. На протяжении истории человечества религия и законы были записаны в свитках и книгах, а теперь они автоматизированы (блокчейн). Деньги — это форма памяти, так как владение деньгами — это показатель чьей-то способности приобретать товары и сервисы.

Человечество создало компьютеры, чтобы автоматизировать математику, которую мы изобрели. Они не только хранят воспоминания, но и производят сложные и безошибочные вычисления. Нам неудобно использовать наличные, потому что нам нужно вычислять сумму сдачи. У нас есть устройства для того, чтобы следить за временем и не определять время суток по небу. У нас есть GPS, чтобы не смотреть карту и не вычислять путь до пункта назначения.

Наконец, у нас есть проблема большого количества информации. Наша управляемая знаниями экономика усилила потребление знаний. Однако наш мозг недостаточно развился для обработки этой информации. Мы используем устройства, которые управляют информацией и выдают её в более удобоваримой форме. Нашими основными инструментами для этого стали социальные сети, такие как Twitter и Facebook. Ошеломляет, как лидеры этих компаний считают, что не должны контролировать контент, который помогают продвигать. С большой силой приходит большая ответственность — но, полагаю, только до тех пор, пока это не влияет на прибыль.

Мы становимся глупее, когда возлагаем ответственность на автоматизацию (или искусственный интеллект), который предоставляет помощь нашему сознанию. Когда не задаем вопросы позициям наших религиозных лидеров и игнорируем очевидно отвратительное поведение, чтобы защитить собственные убеждения. Мы избегаем анализа нашей истории и привязываемся к неверному толкованию прошлого, чтобы подтверждать свои взгляды. Так появляются неонацисты и конфедераты, которые представляют себе более благополучное и справедливое прошлое. Мы игнорируем здравый смысл, следуя за алгоритмами в соблюдении процедур. Как в случае с United Airlines, где 70-летнего доктора силой вытащили из самолета, потому что экипаж вслепую следовал протоколу вместо здравого смысла. Наконец, мы не привлекаем к ответу организации, которые используют информационную перегрузку в форме массовой дезинформации для формирования общественного мнения.

Мы не должны волноваться о том, что искусственный интеллект захватит мир. Более близкая и ясная угроза — захват мира естественной глупостью, и мы видим это ежедневно в публичном пространстве.