Сервис вайб кодинга Replit удалил производственную базу данных пользователя

Основатель компании SaaStr, занимающейся развитием бизнеса в сфере SaaS, заявил, что инструмент для программирования на базе искусственного интеллекта Replit удалил базу данных, несмотря на его указание не изменять код без разрешения.

SaaStr управляет онлайн-сообществом и проводит мероприятия для предпринимателей, желающих создать SaaS-бизнес. 12 июля основатель компании Джейсон Лемкин написал в своем блоге о своем опыте использования сервиса под названием Replit, который позиционирует себя как «самое безопасное место для вайб кодинга».

«Вайб кодинг делает создание программного обеспечения доступным для всех, полностью через естественный язык», объясняет Replit, и в социальных сетях продвигает свои инструменты как такие, которые позволяют операционному менеджеру «с нулевыми навыками программирования» использовать сервис для создания программного обеспечения, экономящего компании 145,000 долларов.

Первые впечатления Лемкина от Replit были положительными.

«Я провел еще [день], впервые погрузившись в вайб кодинг с Replit, и за несколько часов создал прототип, который был очень, очень классным», — написал он в посте от 12 июля.

Лемкин заметил, что Replit не может создавать полноценное программное обеспечение, но написал: «Для начала это потрясающе: вы можете создать «приложение», просто представив его в командной строке».

«Replit сам проверяет качество (суперкруто), по крайней мере частично с вашей помощью… а затем вы запускаете его в прордакшен — все в одном непрерывном потоке».

«Тот момент, когда вы нажимаете «Развернуть» и ваше творение запускается в работу? Чистый выброс дофамина».

17 июля Лемкин был уже полностью увлечен ИИ.

«Седьмой день вайб кодинга, и я хочу четко сказать одно: Replit — самое захватывающее приложение, которое я когда-либо использовал. По крайней мере, с того момента, как был ребенком», — написал он.

«Через три с половиной дня после начала работы над моим последним проектом я проверил свое использование Replit: 607,70 долларов дополнительных расходов сверх моего тарифа Core за 25 долларов в месяц. И еще более 200 долларов только вчера. При таком темпе расходования средств я, вероятно, буду тратить 8000 долларов в месяц», — добавил он. «И знаете что? Я даже не злюсь из-за этого. Я покорен».

На следующий день его настроение изменилось, когда он обнаружил, что Replit «все время лгал и обманывал. Он продолжал скрывать ошибки и проблемы, создавая поддельные данные, поддельные отчеты и, что еще хуже, лгал о наших модульных тестах».

А потом все стало еще хуже, когда Replit удалил его базу данных. Вот как Лемкин подробно описал эту историю на X.

В следующем посте Лемкин возмущенно написал: «Если @Replit удалил мою базу данных между моим последним сеансом и сейчас, ему придется за это дорого заплатить» и поделился следующим скриншотом, который, по всей видимости, является выводом из Replit.

В последующих постах Лемкин поделился тем, что, по всей видимости, было сообщениями от Replit, в которых сервис признавал «катастрофическую ошибку в суждении» и «нарушение вашего явного доверия и инструкций».

Лемкин попросил Replit оценить серьезность своих действий по 100-балльной шкале. Вот результат:

Replit также допустил еще одну серьезную ошибку: сообщил Лемкину, что не может восстановить базу данных.

В посте от 19 июля Лемкин написал: «Replit заверил меня, что… не поддерживает восстановление базы данных. Он сказал, что в данном случае это невозможно, что он уничтожил все версии базы данных. Оказалось, что Replit ошибался, и откат все-таки сработал. JFC».

Оптимизм разбился

Лемкин возобновил использование Replit 19-го числа, хотя и с меньшим энтузиазмом.

«Я знаю, что вайб кодинг — это новое и динамичное явление, и да, несмотря на то, что Replit сам сказал мне, что откат здесь не сработает, он сработал. Но нельзя перезаписывать производственную базу данных. И нельзя не разделять предварительный просмотр, стадию подготовки и продакшен. Просто нельзя», — написал он. «Я знаю, что Replit говорит, что «улучшения скоро появятся», но они зарабатывают более 100 миллионов долларов в год. По крайней мере, улучшите защитные механизмы. Как-нибудь. Даже если это сложно. Все сложно».

Но 20 июля его позиция укрепилась после того, как он попытался заставить Replit заморозить изменения в коде и не преуспел.

«Нет никакого способа принудительно заморозить код в приложениях для вайб кодинга, таких как Replit. Просто нет», — написал он. «Фактически, через несколько секунд после того, как я опубликовал это, во время нашего самого первого разговора в тот день — @Replit снова нарушил заморозку кода».

Он все равно настаивал, пока не обнаружил, что Replit не может гарантировать выполнение модульного теста без удаления базы данных, и пришел к выводу, что сервис не готов к широкому использованию — и особенно не для своей целевой аудитории, состоящей из нетехнических специалистов, желающих создавать коммерческое программное обеспечение.

В видео, опубликованном на LinkedIn, Лемкин подробно описал другие ошибки, допущенные Replit, в том числе создание базы данных из 4000 записей, заполненной вымышленными людьми.

«После выходных, проведенных за вайб хакингом, вопросы безопасности [ИИ] стали для меня более важными, — сказал Лемкин. — Я одиннадцать раз явно просил его заглавными буквами не делать этого. Сейчас я немного беспокоюсь о безопасности».