Connect with us

API

OpenAI открыла ультрабыстрый доступ к API

В первую очередь Ultrafast ориентирован на реагирование на инциденты, финансы, безопасность, поддержку пользователей, голосовые интерфейсы, коммерцию и исследования.

Опубликовано

/

     
     

OpenAI открыла ограниченный предварительный доступ к Ultrafast — новому уровню обслуживания OpenAI API, который позволяет запускать GPT-5.6 Sol со скоростью до 14 раз выше, чем в стандартном режиме обработки. Режим работает на инфраструктуре Cerebras и способен генерировать до 750 выходных токенов в секунду. На первом этапе доступ получит только ограниченная группа клиентов, а более широкое развёртывание запланировано по мере увеличения доступных мощностей.

Сервис предназначен для продуктов и рабочих процессов, где задержка напрямую влияет на полезность ответа. По словам OpenAI, раньше для достижения скорости, близкой к реальному времени, командам часто приходилось выбирать более маленькую или специализированную модель. Ultrafast, напротив, переносит самую интеллектуальную модель компании в сценарии с минимальной задержкой, позволяя получать больше полезного результата за секунду без такого компромисса.

В первую очередь Ultrafast ориентирован на реагирование на инциденты, финансы, безопасность, поддержку пользователей, голосовые интерфейсы, коммерцию и исследования. Команды смогут анализировать логи, изменения кода, транзакции и рыночные сигналы прямо по мере развития событий. Голосовые системы и службы поддержки смогут выполнять многоэтапные запросы, не прерывая разговор. Коммерческие инструменты смогут проверять наличие товаров, персонализировать рекомендации и устранять проблемы при оформлении заказа ещё до того, как покупатель покинет сайт. Исследователи, в свою очередь, смогут быстрее проверять гипотезы и корректировать работу.

OpenAI уже использует этот уровень обслуживания внутри компании. Во время инцидентов разработчики применяют его для анализа логов, трассировок, внутренних обсуждений, последующих проверок, а также для подготовки и проверки исправлений. При этом ответственность за принятие решений и развёртывание изменений остаётся за инженерами. Исследовательские команды используют Ultrafast вместе с подключёнными инструментами для поиска по базам знаний, выполнения запросов к данным и систематизации результатов. По словам OpenAI, некоторые экспериментальные циклы, которые раньше выполнялись всю ночь, теперь позволяют провести несколько итераций в течение одного рабочего дня.

В раннем тестировании участвуют Jane Street, Podium, Basis и Rogo. Их отзывы в основном касаются более сфокусированных сессий программирования, ускорения сложных голосовых взаимодействий, создания приложений с минимальной задержкой на основе передовой модели и финансовых исследований, которые по ощущениям становятся ближе к работе с биржей в реальном времени.

Ultrafast развивает партнёрство OpenAI с Cerebras, чья инфраструктура обеспечивает заявленную скорость работы GPT-5.6 Sol. Предварительная версия доступна через API, а OpenAI собирает отзывы первых клиентов, чтобы дорабатывать сервис по мере расширения мощностей.

Для желающих доступна форма регистрации для получения обновлений о доступе, однако компания пока не объявила ни цены, ни сроки выхода Ultrafast в общедоступный режим.

Если вы нашли опечатку - выделите ее и нажмите Ctrl + Enter! Для связи с нами вы можете использовать info@apptractor.ru.
Telegram

Популярное

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: