Сегодня искусственный интеллект (ИИ) может взять на себя рутинные бизнес-процессы, а интегрировать в компанию его можно как за пару часов, так и за несколько месяцев. Чтобы ИИ органично встроился в бизнес — нужно выбрать подходящий уровень его работы и способ внедрения.
Евгений Перов, директор по продукту в корпоративном мессенджере Compass, рассказал про два способа интеграции ИИ в корпоративные продукты, которые подойдут российским компаниям.
Способ 1. Интеграция готового ИИ
Способ для компаний, которым не нужна своя языковая модель или глубокая настройка ИИ. Процесс быстрый и не требует много средств. Ниже представлены основные шаги.
Шаг 1. Определение целей и выбор платформы
Если нужна помощь с поддержкой клиентов, созданием контента, анализом данных и другой рутиной — стоит выбрать ChatGPT.
Кроме ИИ от OpenAI, есть и другие модели, например, Claude, Mistral и LLaMA. Однако на данный момент ChatGPT лучше справляется с рабочими задачами и стоит дешевле.
Шаг 2. Регистрация на платформе
Чтобы начать работу с ChatGPT, нужно зарегистрироваться на сайте OpenAI. Регистрация предоставит доступ как к самому ИИ, так и к его инструментам.
Здесь можно выбрать, какой уровень интеграции нужен — простой с GPTs или полноценный через API-ключ:
- Бот GPTs.
Если стартап небольшой, клиентам с ИИ контактировать не нужно, а команда может работать в ChatGPT через web-сервис и приложение — делайте GPTs. Это nocode-боты, которых можно быстро обучить под конкретные задачи, используя подсказки и документацию прямо в ChatGPT. Также можно использовать GPTs других пользователей платформы, все переписки будут конфиденциальны.
Например, можно найти или обучить L&D-бота, который будет отвечать на вопросы новичков во время адаптации. Или сделать бота-редактора, который будет проверять статьи перед публикацией на соответствие стилю компании и делать фактчекинг.
- Интеграция через API.
Если ИИ будет использоваться внутри продукта — потребуется API. Это внешний ключ, с помощью которого ChatGPT может получать запросы из корпоративного продукта и отвечать на них. Также понадобится программист, который создаст код для такого взаимодействия.
С помощью API ИИ внедряют в сложные бизнес-процессы, например:
- анализ и обработка больших массивов данных;
- персонализированное взаимодействие с клиентами на основе их предпочтений;
- автоматизация сложных процессов, таких как управление цепочками поставок.
Чтобы получить внешний ключ, достаточно зайти на API platform OpenAI, ознакомиться с ценами и условиями, выбрать подходящий вариант.
Шаг 3. Настройка и дообучение модели
После интеграции нужно настроить и дообучить модель под потребности. Это необходимо, поскольку ИИ опирается на общие знания, и без учета специфики бизнеса он не сможет продемонстрировать оптимальные результаты.
Например, если ИИ нужен для поддержки клиентов — загрузите в него информацию об услугах компании, а также ответы на часто задаваемые вопросы.
Шаг 4. Тестирование и внедрение ИИ
Перед тем как начать полноценную работу с ИИ, обязательно протестируйте его. Проверьте, как он справляется с поставленными задачами, и откорректируйте его работу по мере необходимости. После успешного тестирования внедрите ИИ в работу.
У интеграции готовой модели ИИ есть свои преимущества и недостатки.
Преимущества:
- Быстрая интеграция. Можно за несколько дней настроить ИИ и начать использовать его для обработки клиентских запросов.
- Низкие затраты. Готовое решение экономит деньги и время, что особенно важно для компаний, которые хотят улучшить свои процессы здесь и сейчас.
Недостатки:
- Угроза безопасности. Интеграция готового ИИ может привести к утечке данных, если вести себя неосторожно. Не стоит передавать приватную информацию через внешний API.
- Ограниченные функции. Готовый ИИ не всегда подходит для специфических задач бизнеса. Например, ChatGPT пока не умеет следить за историей покупок, демографическими данными и текущими трендами в розничной торговле.
Способ 2. Обучение собственной генеративной модели и развертывание ИИ на своих серверах
Если готовый ИИ не справляется со всеми задачами бизнеса, компания может пойти другим путем — создать, обучить и развернуть собственную генеративную модель. Этот путь более сложный, и в России крайне мало корпоративных продуктов с собственными ИИ.
Сейчас у разработчиков главная задача — догнать по качеству и функциональности западные продукты, к которым привык бизнес. Все ресурсы уходят на завоевание доли рынка, и, как правило, ИИ в эту статью расходов не вписывается. Рассмотрим шаги развертывания ИИ на собственных серверах.
Шаг 1. Постановка задач и определение требований
Прежде чем начать работу над собственной моделью, необходимо определить пул задач, для которых она будет использоваться. Подумайте, что именно компания хочет получить от ИИ. Например, если работаете с большим объемом конфиденциальных данных, важно, чтобы они не покидали пределы компании. В этом случае собственная модель станет лучшим решением.
Шаг 2. Выбор и настройка базовой модели
Для разработки можно использовать уже существующую генеративную модель, например, одну из моделей с открытым исходным кодом. Так можно сократить время на разработку и сконцентрироваться на дообучении модели под нужды компании. Популярные модели, такие как GPT-3, Llama 3.1 и Mistral Large 2, могут стать отличной основой.
Шаг 3. Сбор и систематизация данных для обучения
Для обучения модели нужны качественные данные. Они должны быть репрезентативными и охватывать все аспекты задачи, которую нужно решить.
Важно, чтобы данные были чистыми и структурированными. Для этого нужно удалить ошибки, дубликаты и лишние элементы. Например, если цель — обработка клиентских запросов, соберите переписки службы поддержки с хорошими ответами.
Шаг 4. Обучение модели на данных компании
Обучение займет от нескольких дней до нескольких месяцев, в зависимости от объема данных и сложности модели. Процесс требует значительных вычислительных ресурсов, поэтому лучше проводить его на мощных серверах или в облачной инфраструктуре. Важно помнить, что обучение модели — это не разовый процесс. Его нужно повторять регулярно, чтобы ИИ адаптировался к новым условиям.
Шаг 5. Развертывание модели на собственных серверах
Развертывание включает в себя настройку серверов, установку необходимого программного обеспечения и интеграцию модели с существующими системами компании. Настройте инфраструктуру так, чтобы модель могла масштабироваться и обрабатывать большие объемы запросов без потерь в производительности.
Шаг 6. Тестирование и оптимизация
После развертывания модель нужно протестировать в реальных условиях. Здесь важно убедиться, что она справляется с задачами и работает так, как задумано. Тестирование выявит слабые места и поможет оптимизировать работу перед тем, как сотрудники и клиенты получат доступ к ИИ.
Рассмотрим преимущества и недостатки обучения собственной генеративной модели и развертывания ИИ на собственных серверах.
Преимущества:
- Контроль над данными. On premise-способ дает полный контроль над ИИ и гарантирует безопасность данных.
- Возможность настройки ИИ под специфику бизнеса. Модель обучается только на данных компании и учитывает все особенности работы.
Недостатки:
- Высокие затраты на разработку и поддержку. Речь про миллионы рублей и месяцы работы .
- Сложности в реализации. Все может пойти не по плану из-за множества факторов, например, если данные для обучения будут плохими или их будет мало. Или если разработчик базовой модели неожиданно изменит пользовательские условия и она перестанет быть open-source.
Какой способ лучше
Зависит от потребностей бизнеса и ресурсов компании.
Если ИИ нужен здесь и сейчас, интеграция ChatGPT или аналогов — лучший выбор. Такой подход позволит быстро внедрить ИИ в существующие процессы. Как итог, можно получить готовый продукт с минимальными затратами времени и ресурсов.
Если задачи компании уникальны и требуют специфического подхода, лучше обучить собственную генеративную модель. Процесс сложный, долгий и дорогой, но в итоге ИИ будет адаптирован под бизнес-процессы.