ИТ-холдинг Т1 проверил более 20 ИИ-моделей на альтернативах NVIDIA: стоимость инференса может сократиться в разы

На Kazan Digital Week 2026 Дмитрий Харитонов, генеральный директор ИТ-холдинга Т1, раскрыл результаты тестирования различных графических ускорителей (GPU), проведенного компанией в 2026 году. По данным компании, смешанный ИИ-парк NVIDIA и китайских ускорителей позволяет наращивать мощности в условиях дефицита, а подбор оборудования под конкретные задачи — снижать стоимость инференса в отдельных случаях в 2–2,5 раза.

Источник: ferra.ru

По словам Дмитрия Харитонова, основной критерий готовности компании к работе с искусственным интеллектом (AI Ready) — измеримый экономический эффект, достигнутый за 6–9 месяцев, а не количество запущенных пилотов. «AI Ready начинается не с хайпа, а с циничного менеджерского отношения к задаче: компания, которая может запустить 5–7 пилотов в месяц, не является AI Ready автоматически. Эффект должен быть измеримым, иначе проект просто сворачивается», — заявил он.

Эксперты ИТ-холдинга Т1 в 2026 году сфокусировались на снижении зависимости компаний, использующих ИИ, от оборудования NVIDIA.  Для испытаний GPU различных производителей, в том числе китайских, была создана специализированная лаборатория. Уже протестировано более 20 ИИ-моделей и выполнено более 1000 прогонов на альтернативных чипах. Полученные результаты демонстрируют возможные сценарии эффективного использования GPU в инфраструктуре отечественных компаний с учетом специфики, решаемых ИИ-задач:

  • при использовании ИИ-ассистентов для работы с документами или поиска по базам знаний китайские ускорители позволяют добиться снижения стоимости инференса в 2–2,5 раза при сопоставимом качестве ответов;
  • для задач дообучения собственных больших моделей можно распределять нагрузки между платформами: использовать NVIDIA для обучения, дообучения и инференса сверхбольших LLM, а сопутствующие сервисы и подходящие задачи инференса переносить на альтернативные ускорители;
  • в задачах компьютерного зрения китайские решения оказались конкурентоспособны по цене, при этом уступили NVIDIA по скорости.

Замена недозагруженной модели NVIDIA H100 на одну модель C550 китайского производителя экономит свыше 2 млн рублей в год при размещении в облаке. При этом объем инфраструктуры зависит от потребностей компании. На крупных предприятиях на один сервер требуется от 2 до 8 карт, а при построении внутреннего контура — десятки и сотни серверов.

При этом Дмитрий подчеркнул, что стоимость владения (TCO) ИИ-решений нужно считать комплексно, включая стоимость лицензий, сопровождения, а также обучения персонала.  Отдельное внимание, по его словам, необходимо уделять защищённому контуру (особенно субъектам КИИ): в данном случае необходимо использовать реестровые ПАК в собственном контуре, так как в этом случае требования безопасности и использования серверов без санкционных рисков являются основополагающими.

Что будем искать? Например,ChatGPT

Мы в социальных сетях