Конец программирования, каким мы его знаем

Когда в ноябре на свет появился ChatGPT, большинство из нас восхитились его способностью писать тексты рэпа, сопроводительные письма и школьные сочинения по английскому языку. Но Адам Хьюз, разработчик программного обеспечения, был заинтригован столь разрекламированной способностью искусственного интеллекта к написанию кода. Поэтому он зарегистрировал аккаунт и попросил ChatGPT запрограммировать модифицированную игру «Крестики-нолики», задав ей несколько странных правил, чтобы бот не мог просто скопировать код, который уже написал другой человек. Затем он задал ему вопросы по кодированию, которые задают кандидатам на собеседовании.

Что бы он ни спрашивал, Хьюз обнаружил, что ChatGPT возвращается с тем, к чему он не был готов: очень хорошим кодом. Он не сразу понял, что это означает для карьеры, которую он любит — карьеры, которая до сих пор обеспечивала ему не только хороший заработок и гарантию занятости, но и чувство того, кем он является. «Я никогда не думал, что меня заменят на моей работе, никогда, до ChatGPT», — говорит он. «У меня был экзистенциальный кризис прямо тогда и там. Многие знания, которые я считал для себя особенными, на которые я потратил семь лет, просто устарели».

Программирование, как профессия, долгое время считалось убежищем от неумолимого прогресса технологий. Даже когда новые штуковины заменили другие профессии, люди, которые писали инструкции для машин, чувствовали себя неприкасаемыми. Университеты поспешили расширить свои программы по компьютерным наукам. Политики, пытающиеся защитить рабочую силу от будущего, придерживались одной непоколебимой идеи: учитесь программировать! Но в последние недели за закрытыми дверями я слышал, как многие кодеры признавались в растущем беспокойстве по поводу внезапного появления генеративного ИИ. Те, кто занимался автоматизацией, боятся, что скоро их самих автоматизируют. И если программисты не в безопасности, то кто же?

О том, что ИИ придет на рабочие места «белых воротничков», написано уже немало. Исследователи из OpenAI, создавшие ChatGPT, недавно изучили степень, в которой большие языковые модели могут выполнять 19,000 задач, составляющих 1,000 профессий в экономике США. Их вывод: 19% работников занимают должности, в которых по крайней мере половина задач может быть выполнена искусственным интеллектом. Исследователи также отметили две закономерности среди наиболее уязвимых профессий — они требуют более высокого образования и имеют большие зарплаты. «Мы не думали, что так будет», — говорит Итан Моллик, профессор менеджмента в Уортоне, изучающий инновации. «С помощью ИИ всегда предполагалось автоматизировать опасные, грязные задачи — не те вещи, которые мы сами хотим делать».

Но один набор навыков «белых воротничков», как показало исследование, особенно подвержен риску автоматизации: компьютерное программирование. Причина? Большие языковые модели, такие как та, что используется в ChatGPT, были обучены на огромных хранилищах кода. Исследователи из Microsoft и ее дочерней компании GitHub недавно разделили разработчиков программного обеспечения на две группы — одну с доступом к помощнику по кодированию с искусственным интеллектом, а другую без него. Те, кому помогал ИИ, справлялись с задачами на 56% быстрее, чем те, кому он не помогал. «Это большая цифра», — говорит Моллик. Для сравнения, внедрение парового двигателя в середине 1800-х годов повысило производительность на крупных заводах всего на 15%».

Технологические компании поспешили принять генеративный ИИ, признавая его способность ускорить программирование. Компания Amazon создала своего собственного помощника по кодированию, CodeWhisperer, и поощряет своих инженеров использовать его. Google также просит своих разработчиков опробовать новые функции кодирования в Bard, конкуренте ChatGPT. Учитывая торопливое внедрение ИИ в технологической отрасли, нетрудно представить себе ближайшее будущее, в котором нам понадобится в два раза меньше инженеров, чем сегодня, или, в более отдаленном будущем, одна десятая или одна сотая (Эмад Мостак, генеральный директор Stability AI, зашел так далеко, что предсказал: «Через пять лет программистов не будет»). Хорошо это или плохо, но развитие искусственного интеллекта фактически означает конец програмирования в том виде, в котором мы его знаем.

Прежде чем мы погрузимся в этот сценарий конца света, давайте сделаем небольшую паузу и рассмотрим доводы оптимистов. Возможно, как предсказывают более благоприятные прогнозы, спрос на программирование будет достаточным, чтобы использовать как людей, так и ИИ. Конечно, с появлением трактора многие фермеры остались без работы. Но программирование не похоже на фермерство. «Есть только столько еды, сколько могут съесть 7 миллиардов человек», — говорит Закари Тэтлок, профессор информатики в Университете Вашингтона. “Но неясно, существует ли предел количества программного обеспечения, которое человечество хочет или в котором нуждается. Можно подумать о том, что в течение последних 50 лет мы массово недопроизводили программное обеспечение. Мы не удовлетворяли спрос на ПО”. Иными словами, ИИ может помочь людям писать код быстрее, но мы все равно будем нуждаться в людях, потому что нам нужно столько программного обеспечения, сколько они могут создать, и так быстро, как они могут его создать. В самом оптимистичном прогнозе, весь прирост производительности от ИИ резко увеличит спрос на программное обеспечение, делая кодеров будущего еще более востребованными, чем сегодня.

Еще один аргумент оптимистов — даже если ИИ возьмет на себя основную часть работы по кодированию, люди-кразработчики найдут новые способы сделать себя полезными, сосредоточившись на том, что ИИ не может сделать. Вспомните, что произошло с банковскими служащими после широкого распространения банкоматов. Можно подумать, что банкоматы уничтожили эту профессию, но, как ни удивительно, число банковских кассиров в период с 1980 по 2010 год даже выросло. Почему? Потому что банковские операционисты, как показал один анализ, стали меньше походить на кассиров и больше на продавцов, выстраивая отношения с клиентами и продавая им дополнительные услуги, такие как кредитные карты и кредиты. Аналогичным образом Тэтлок представляет себе будущее инженеров-программистов, которые будут меньше писать код и больше проверять весь дешевый и потенциально опасный код, который будут генерировать машины. «Возможно, вам не нужно официально проверять виджет на вашем сайте, — говорит Тэтлок, — но вы, вероятно, захотите официально верифицировать код, который входит в систему ассистента вождения в вашем автомобиле или управляет вашей инсулиновой помпой». Если сегодняшние программисты — это писатели, то их будущие коллеги будут редакторами и проверяющими факты.

Так что, возможно, в долгосрочной перспективе люди-кодеры выживут в какой-то новой, пока еще не определенной роли. Но даже при самом благоприятном сценарии, признают оптимисты, переход будет болезненным. «Это будет означать, что жизнь некоторых людей будет перевернута», — говорит Тэтлок. «Это происходит с каждым технологическим изменением». Некоторые кодеры неизбежно будут вытеснены, не сумев адаптироваться к новому способу работы. А те, кто перейдет в будущее, управляемое ИИ, обнаружат, что выполняют задачи, радикально отличающиеся от тех, которые они делают сегодня.

Первый вопрос: в этой эволюционной борьбе за выживание, кто лучше всего адаптируется, а кто останется позади? Интуитивно можно подумать, что опытные ветераны — те, кто уже тратит меньше времени на кодинг и больше на абстрактное, стратегическое мышление высшего порядка — будут менее уязвимы для ИИ, чем те, кто сразу после окончания колледжа занимается написанием фрагментарного кода. Но в исследовании GitHub было показано, что именно менее опытные инженеры получили больше преимуществ от использования ИИ. Новая технология, по сути, уравняла шансы новичков и ветеранов. В мире, где опыт имеет меньшее значение, Senior-инженеры могут оказаться в проигрыше, потому что они не смогут оправдать свои астрономические зарплаты.

Кроме того, возникает вопрос качества работы. Оптимисты полагают, что ИИ позволит нам перепоручить ботам большую часть скучной, повторяющейся работы, оставив нам возможность сосредоточиться на более интеллектуально стимулирующей работе. Но что если в итоге произойдет обратное, и ИИ возьмет на себя всю веселую работу? Не хочу проявить неуважение к моим коллегам из исследовательского отдела, которые выполняют жизненно важную работу, но я писатель, потому что люблю писать — я не хочу, чтобы моя работа превратилась в проверку фактов галлюцинирующего и склонного к ошибочным тенденциям ChatGPT. Что кажется пугающим в генеративном ИИ, так это его способность выполнять такие высококвалифицированные задачи, которые больше всего нравятся людям. «Я очень люблю программирование», — говорит Хьюз, разработчик программного обеспечения. «Мне кажется, что я один из немногих людей, которые могут с уверенностью сказать, что я занимаюсь той профессией, которой хочу заниматься. Поэтому страшно видеть, что она находится под угрозой».

Но самый большой сбой в сценарии «все будет хорошо» — это то, что признают сами оптимисты: он основан на предположении, что генеративный ИИ будет служить дополнением к человеческому труду, а не его полной заменой. Когда появились банкоматы, банковские служащие смогли приспособиться, потому что все еще оставались вещи, которые они могли делать лучше, чем машины. Но вернитесь на несколько десятилетий назад, и вы обнаружите технологию, которая уничтожила то, что было одной из самых распространенных профессий для молодых женщин: механическое переключение телефонных аппаратов. Звонить самому себе по телефону с поворотным номеронабирателем было намного быстрее и проще, чем через оператора коммутатора. Многие из вытесненных операторов вообще прекратили работу, а если и продолжали работать, то на более низкооплачиваемых специальностях. Их судьба заставляет задуматься — в какой момент ИИ станет настолько хорош в программировании, что человеку-программисту уже нечего будет делать?

Тот факт, что нам необходимо задать этот вопрос, подчеркивает одну из наиболее очевидных проблем, связанных с исследованиями в области ИИ. Слишком большая их часть направлена на замену человеческого труда, а не на расширение его возможностей. Почему мы направляем наши лучшие и самые блестящие умы на то, чтобы заставить машины делать то, что уже умеют делать люди, вместо того, чтобы разрабатывать технологии, помогающие им делать что-то совершенно новое? «Это печальное использование инноваций”, — говорит Катя Клинова, руководитель отдела ИИ, труда и экономики в некоммерческой организации Partnership on AI. В мире существует множество серьезных проблем, требующих решения, отмечает она, например, острая необходимость в увеличении количества источников чистой энергии. Вопрос, который мы должны задавать об ИИ, заключается не в том, насколько хорошо он может выполнять существующие человеческие задачи и сколько денег сэкономит предприятиям эта автоматизация, а в том, делает ли эта технология то, что мы, общество, хотели бы, чтобы она делала.

В то же время, на индивидуальном уровне, лучшее, что могут сделать программисты — это изучить новую технологию и сосредоточиться на том, чтобы стать лучше в том, что ИИ не может сделать. «Я действительно считаю, что всем нужно как можно больше работать с ChatGPT, чтобы узнать, что он делает и чего не делает», — говорит Моллик. «Главное — думать о том, как вы работаете с системой. Это модель кентавра — как мне получить больше пользы от того, что я наполовину человек, наполовину лошадь? Лучший совет, который я могу дать, — это рассмотреть набор задач, с которыми вы сталкиваетесь, и спросить себя: «Как я могу хорошо справиться с теми задачами, которые с меньшей вероятностью будут заменены машиной?»”

Моллик добавляет, что он наблюдал, как люди пробуют ChatGPT в течение минуты, обнаруживают, что не впечатлены его возможностями, а затем идут дальше, утешаясь своим превосходством над ИИ. Но он считает, что это опасно недальновидно, учитывая, как быстро совершенствуется технология. Например, когда ChatGPT, работающий на базе модели GPT 3.5, сдавал экзамен на адвоката, он набрал 10%. Но менее чем через год, когда экзамен сдавал GPT-4, его результат составил 90%. «Предполагать, что это самое лучшее и на этом все остановится, мне кажется рискованным предположением», — говорит Моллик.

Хьюз видел такую же реакцию своих коллег-программистов. После того как ChatGPT справился с заданием «Крестики-нолики», он боялся посмотреть на свой телефон, опасаясь увидеть очередной заголовок о человекоподобных возможностях инструмента. Тогда, в качестве катарсиса, он написал длинный пост в своем блоге на Medium — пошаговый, наихудший сценарий того, как, по его мнению, ИИ может заменить программистов в течение следующего десятилетия. Реакция была показательной. Разработчики засыпали раздел комментариев страстной критикой, причем некоторые из них были настолько агрессивными и токсичными, что Хьюз был вынужден их удалить. Комментарий за комментарием они перечисляли все способы, которыми, по их мнению, они все еще являются лучшими программистами, чем ChatGPT. «Вы действительно плохой разработчик программного обеспечения, если не понимаете количество ограничений ИИ», — прорычал один из них. ИИ, были уверены они, в ближайшее время не заменит то, что они привносят в работу.

Читая комментарии, я поймал себя на мысли, что критики упускают суть. ИИ все еще находится в зачаточном состоянии. Это означает, что, как и в случае с новорожденным человеком, мы должны начать думать о том, как он повлияет на нашу жизнь и средства к существованию, уже сейчас, пока его потребности не превзошли наши возможности. На данный момент у нас еще есть время, чтобы сформировать будущее, которого мы действительно хотим. Рано или поздно может наступить день, когда мы уже не сможем этого сделать.

Источник