Уже более 1100 человек, включая Илона Маска, Стива Возняка и Тристана Харриса из Центра гуманных технологий, подписали открытое письмо, призывающее «все лаборатории ИИ немедленно приостановить на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4«.
В письме говорится:
“Современные системы ИИ в настоящее время становятся конкурентоспособными по отношению к человеку при выполнении общих задач, и мы должны спросить себя — должны ли мы позволить машинам наводнить наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, включая те, которые приносят людям удовлетворение? Должны ли мы развивать нечеловеческие разумы, которые в конечном итоге превзойдут, перехитрят, заменят нас и сделают устаревшими? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны быть делегированы неизбираемым техническим лидерам. Мощные системы ИИ должны разрабатываться только тогда, когда мы уверены, что их влияние будет положительным, а риски — управляемыми”.
Далее в письме говорится, что не существует вменяемого «уровня планирования и управления», и что вместо этого в последние месяцы неназванные «ИИ-лаборатории» участвовали «в неконтролируемой гонке по разработке и внедрению все более мощных цифровых разумов, которые никто — даже их создатели — не может понять, предсказать или надежно контролировать».
Авторы письма, некоторые из которых являются экспертами в области ИИ, утверждают, что пауза, о которой они просят, должна быть «публичной и проверяемой, и включать всех ключевых участников». Если такая пауза «не может быть введена быстро, правительства должны вмешаться и ввести мораторий», — говорится в письме.
Впрочем, Сэм Альтман, исполнительный директор OpenAI, не подписал письмо. Другие эксперты говорят о его смехотворности и о том, что прогресс остановить невозможно:
https://twitter.com/jeffjarvis/status/1640834319647141888
Само воззвание вы можете прочитать здесь.