Адриан Головатый, основатель платформы для обучения музыке Soundslice, разгадал загадку, которая мучила его неделями. На сайт постоянно загружались странные изображения, явно свидетельствующие о генерации ChatGPT.
Как только он разгадал её, он понял, что ChatGPT стал одним из главных источников шумихи вокруг его компании, но при этом ИИ обманывал людей относительно возможностей его приложения.
Головатый наиболее известен как один из создателей проекта с открытым исходным кодом Django, популярного фреймворка для веб-разработки на Python (хотя он отошёл от управления проектом в 2014 году). В 2012 году он запустил Soundslice, который, как он рассказал, «с гордостью продолжает развиваться». В настоящее время он сосредоточен на своей музыкальной карьере как музыкант и как основатель.
Soundslice — это приложение для обучения музыке, используемое студентами и преподавателями. Оно известно своим видеоплеером, синхронизированным с нотной записью, который подсказывает пользователям, как играть ноты.
Сервис также предлагает функцию под названием «сканер нот», которая позволяет пользователям загружать изображение бумажных нот и, используя искусственный интеллект, автоматически превращать его в интерактивный лист с нотами.
По его словам, Головатый внимательно следит за логами этой функции, чтобы видеть возникающие проблемы и пути их решения.
Именно там он начал видеть загруженные изображения ChatGPT. Они создавали множество ошибок в логах. Вместо изображений нот это были изображения слов и блоков символов, известных как ASCII-табулатура. Это простая текстовая система, используемая для гитарной нотации с использованием обычной клавиатуры (например, на стандартной QWERTY-клавиатуре нет клавиши басового регистра.)
Объём этих изображений из сеансов ChatGPT был не настолько велик, чтобы их хранение обходилось дорого его компании и перегружало пропускную способность приложения, сказал Головатый. Он просто был озадачен и написал в блоге о сложившейся ситуации.
«Наша система сканирования не была предназначена для поддержки такого стиля нотации. Почему же тогда нас бомбардируют таким количеством скриншотов ASCII-табулатуры ChatGPT? Я был в недоумении несколько недель, пока сам не поэкспериментировал с ChatGPT».
Именно так он понял, что ChatGPT предлагает пользователям слушать такую музыку, открыв учётную запись Soundslice и загрузив изображение сеанса чата. Но это оказалось не так. Загрузка этих изображений не преобразовывала ASCII-ноты в аудиозапись.
Он столкнулся с новой проблемой. «Главная проблема заключалась в репутации: новые пользователи Soundslice приходили с ложными ожиданиями. Им уверенно говорили, что мы сделаем то, чего на самом деле не делаем», — рассказал он.
Он и его команда обсудили варианты: разместить по всему сайту предупреждения об этом: «Нет, мы не можем превратить сеанс ChatGPT в слышимую музыку» — или встроить эту функцию в сканер, хотя раньше он никогда не рассматривал возможность поддержки этой необычной системы нотной записи.
Он решил внедрить эту функцию.
«Мои чувства по этому поводу противоречивы. Я рад добавить инструмент, который помогает людям. Но мне кажется, что нас к этому вынудили каким-то странным образом. Стоит ли нам действительно разрабатывать функции в ответ на дезинформацию?» — написал он.
Он также задался вопросом, является ли это первым задокументированным случаем, когда компании приходится разрабатывать функцию, потому что ChatGPT постоянно повторяет многим людям свои галлюцинации на эту тему.
У коллег-программистов из Hacker News было интересное мнение по этому поводу: некоторые из них сказали, что это ничем не отличается от чрезмерно усердного продавца, обещающего потенциальным клиентам всё, а затем заставляющего разработчиков выпускать новые функции.
«Думаю, это очень удачное и забавное сравнение!» — согласился Головатый.