AI / RAG / Telegram / 2024
Мульти-LLM чат-бот: диалог, поиск по документам, инструменты и мультиязычность.
AGI AI Bot - интеллектуальный ассистент в Telegram для повседневной работы с текстом и документами. В одном диалоге пользователь может задавать общие вопросы, загружать собственные материалы и получать ответы с учётом их содержания. Несколько моделей и инструментов скрыты за единым понятным интерфейсом.
В зоне ответственности
Бизнес-задача
Пользователь не должен разбираться, какая модель лучше подходит для конкретной задачи. При работе с документами важно отделять ответ на основе загруженного источника от общего ответа модели, сохранять контекст и корректно сообщать, если в материалах нет нужной информации.
Подход
Мы построили маршрутизацию запросов по типу задачи и отдельный контур работы с документами. Загруженные файлы проходят подготовку и индексацию, после чего релевантные фрагменты добавляются в контекст ответа. Команды и пресеты помогают управлять режимами без сложных настроек.
Продукт
Функции связаны в единый пользовательский сценарий и поддерживают основные рабочие процессы продукта.
Работа TeamATech
Разработали архитектуру ассистента, интеграционный слой для языковых моделей и пайплайн RAG. Спроектировали команды, обработку документов и хранение контекста диалога. Добавили пользовательские состояния для индексации, долгого ответа, ошибки модели и отсутствия данных в источнике.
Итог
Ассистент превращает Telegram в рабочую точку доступа к нескольким ИИ-сценариям. Пользователю не нужно переключаться между сервисами или вручную выбирать модель, а загруженные документы становятся частью текущего рабочего диалога.
Следующий проект
Удаление и замена фона на фото