Подняли инфраструктуру корпоративного доступа к LLM
О продукте
Единое решение, которое обеспечивает сотрудникам доступ к необходимым для работы LLM, позволяет собирать статистику использования и повышает продуктивность работы.
2 человека
2 недели
Достижения
80% звонков теперь имеют meeting notes с action items, что повышает продуктивность работы команд
Какая была задача
Наш клиент столкнулся с несколькими проблемами, связанными с использованием искусственного интеллекта:
- В РФ недоступны многие модели ИИ, поэтому каждому сотруднику приходилось регистрироваться в отдельных сервисах и обходить ограничения.
- Внутренние проекты компании, в которых задействован AI, тоже требовали зарубежного хостинга.
- Не все LLM одинаково эффективны для разных задач (например, для работы с кодом больше подходит Claude, а для генераций – ChatGPT).
Решение
В ответ на эти вызовы мы внедрили единый инструмент, который позволяет сотрудникам компании работать со всеми необходимыми моделями ИИ. Решение основано на открытых наработках, имеет богатую функциональность и может быть интегрировано в короткие сроки.
Мы подняли и настроили инфраструктуру, подключили к API и сгруппировали пользователей, чтобы давать им доступ в зависимости от бизнес-ролей. Например, для системных и бизнес-аналитиков представлены определенные модели, наиболее подходящие для решения их задач.
Кроме того, мы реализовали систему сбора статистики. Аналитика ежемесячно показывает, насколько часто и в каком объеме сотрудники пользуются ИИ-моделями. Полученные данные влияют на прогнозирование бюджета: оплата за использование ИИ зависит от количества токенов (слов), которые пользователи запрашивают у модели и получают в ответ. Также есть возможность отслеживать, чтобы LLM использовались по рабочим вопросам, а не для личных нужд.
Сейчас продолжаем обновлять продукт и актуализировать модели ИИ (Chat GPT, Gemini, Deepseek, Mistral, Claude), следя за последними тенденциями и апдейтами технологий.
Результаты
Внедрение нашего инструмента помогло клиенту не только решить проблемы с доступом к ИИ, но и создать более продуктивную рабочую среду для своих сотрудников.
- Единое решение. Сотрудники авторизуются в единой системе и без препятствий получают доступ к актуальным моделям ИИ, что упрощает рабочий процесс.
- Управляемый доступ. Настройка доступа по группам позволила адаптировать инструмент под конкретные роли, повышая общую эффективность.
- Глубокая аналитика. Регулярный анализ использования ИИ-моделей помогает руководству компании лучше понимать потребности сотрудников и планировать бюджет.
- Развита культура работы с LLM. Раньше ими пользовались отдельные специалисты, а теперь 80% сотрудников заходят минимум раз в неделю, что делает работу результативнее.
Основные функции
Технологии
Галерея
Хотите такой же или похожий продукт? Заполните заявку ниже, мы свяжемся с вами, чтобы обсудить вашу задачу
