OpenAI постоянно вносит небольшие коррективы в свои модели и цены, и сегодня как раз такой случай. Компания выпустила несколько новых моделей и снизила цену на доступ к API — это в первую очередь интересно разработчикам, но также интересно для постоянных пользователей.
GPT-3.5 Turbo — это модель, с которой взаимодействует большинство людей, обычно через ChatGPT, и сейчас она служит своего рода отраслевым стандартом. Это также популярный API, который дешевле и быстрее, чем GPT-4, для многих задач. Цены на ввод снижаются на 50%, а на вывод — на 25%, до $0,0005 за тысячу токенов на входе и $0,0015 за тысячу токенов на выходе.
Когда люди начнут использовать эти API для приложений, требующих большого количества текста (например, для анализа целых статей или книг), эти токены действительно начнут расти. И пока модели с открытым исходным кодом или самоуправляемые модели догоняют OpenAI по производительности, компании нужно быть уверенной, что ее клиенты просто не уйдут. Отсюда и постоянное снижение цен — хотя это тоже естественный результат оптимизации моделей и улучшения их инфраструктуры.
GPT-3.5 Turbo также получил новую версию модели, 0125, которая включает улучшения, но OpenAI не описала их подробнее.
GPT-4 Turbo получил новую предварительную модель для использования в API, также 0125, в которой есть интересное исправление:
«Эта модель выполняет такие задачи, как генерация кода, более тщательно, чем предыдущая модель, и призвана уменьшить количество случаев «лени», когда модель не выполняет задачу».
Также есть несколько новых и улучшенных моделей встраивания текста, которые больше предназначены для людей с технической стороны. Кроме того, компания выпустила новую версию API для бесплатной модерации, которая выявляет потенциально опасные тексты. Она обозначается как 007.