OpenAI объявила, что теперь позволяет сторонним разработчикам интегрировать ChatGPT в свои приложения и сервисы через API. Кроме того, компания открыла Whisper, свою модель преобразования речи в текст на базе ИИ, и также сделала ее доступной через API.
OpenAI заявляет, что ChatGPT API можно использовать не только для создания чатов на основе ИИ (хотя и выделяет несколько компаний, которые использовали его для этой цели, включая функцию Snap My AI, о которой было объявлено ранее на этой неделе). Разработчики говорят, что новое семейство моделей под названием gpt-3.5-turbo является «лучшей моделью для многих случаев использования, не связанных с чатом».
OpenAI предлагает 1000 токенов за 0.002 доллара и говорит, что это «в 10 раз дешевле, чем существующие модели GPT-3.5», отчасти благодаря «серии общесистемных оптимизаций». Хотя 1000 — это много, стоит отметить, что отправка одного фрагмента текста для ответа API может стоить несколько токенов («токены» — это блоки текста, на которые система разбивает предложения и слова, чтобы предсказать, какой текст она должна вывести).
Согласно документации OpenAI, например, запрос «ChatGPT is great!» занимает шесть токенов — API разбивает его на “Chat”, “G”, “PT”, “ is”, “ great” и “!”. Компания предоставляет инструмент для проверки того, сколько токенов потребуется для интерпретации строки текста, и говорит, что общее практическое правило заключается в том, что «один токен обычно соответствует примерно 4 символам» на английском языке.
Компания заявляет, что разработчики также смогут получить выделенный instance ChatGPT, если они обрабатывают большой объем данных через API. В сообщении говорится, что это даст больше контроля над тем, какую модель вы используете, как быстро вы хотите, чтобы ИИ отвечал на запросы, и как долго могут длиться разговоры с ботом.
OpenAI также анонсировала еще один новый API для Whisper, модели преобразования речи в текст. Компания заявляет, что вы можете использовать его для перевода аудио в текст по цене 0.006 доллара в минуту. Технически модель Whisper имеет открытый исходный код, поэтому вы можете запускать ее на собственном оборудовании, ничего не платя. Тем не менее, OpenAI, вероятно, имеет доступ к более мощному оборудованию, поэтому, если вы ищете скорость или вам нужно выполнять транскрипцию на устройствах с низким энергопотреблением, таких как телефоны, использование API может быть подходящим способом.
Компания также заявляет, что работает над улучшением времени безотказной работы и что «главным приоритетом ее инженерной команды теперь является стабильность производственных вариантов использования».
В то время как несколько разработчиков придумали обходные пути для включения чат-сервисов в свои приложения, в том числе с использованием обычного GPT API от OpenAI, который уже был доступен некоторое время, представление официального ChatGPT API может привести к новой волне приложений с ИИ. Хотя существует множество компаний, работающих над своими собственными моделями чат-ботов с искусственным интеллектом, такие вещи совершенно недоступны для большинства разработчиков. Теперь они смогут просто использовать технологию OpenAI.