LLM 
AI-ассистенты

Опыт в работе с LLM и создании продуктов для помощи менеджерам проекта

AI-интерфейс для управления корпоративными знаниями

В долгосрочных проектах, особенно в таких сложных и многосоставных, как строительные, со временем накапливается огромный объем информации. Это могут быть корпоративные знания, шаблоны, отчеты, письма, протоколы и другая переписка. Однако, из-за кадровой текучки, изменения состава команды, ухода сотрудников и прихода новых, существует риск потери этих знаний или их недостаточного распространения среди новых сотрудников. Это приводит к снижению эффективности работы и удорожанию проектов.

Решение:
Создать AI-интерфейс, который станет виртуальным коллегой, обладающим всем накопленным опытом и знаниями компании. Такой ассистент сможет:

Отвечать на вопросы по любым аспектам проекта, предоставляя развернутые ответы, ссылки на материалы и пояснения.
Помогать новым сотрудникам быстро адаптироваться и получать доступ к всей необходимой информации, без необходимости долго искать её по разрозненным источникам.
Поддерживать актуальность базы знаний, автоматически интегрируя новые данные, документы и отчеты.
Предотвращать потерю знаний при уходе ключевых сотрудников, сохраняя их опыт в едином доступном формате.
Повышать общую эффективность команды, делая доступ к нужной информации быстрым и простым.
Примеры использования:

Поиск по истории проекта: Новый сотрудник может спросить, как ранее решались определенные задачи, и получить полный отчет с ссылками на предыдущие решения и протоколы.
Подготовка документации: Ассистент может предоставить шаблоны документов, которые использовались в аналогичных ситуациях в прошлом, с пояснениями по их заполнению.
Решение текущих задач: В режиме реального времени сотрудники могут получать консультации по стандартам и процедурам, не отвлекая коллег.

Преимущества:

Сохранение и систематизация корпоративных знаний.
Снижение зависимости от отдельных сотрудников и минимизация рисков, связанных с текучкой кадров.
Ускорение процессов адаптации новых членов команды.
Повышение прозрачности и согласованности действий в проекте.

AI-интерфейс для управления корпоративными знаниями станет незаменимым помощником в долгосрочных проектах, обеспечивая доступность знаний для всех членов команды в любое время. Это позволит сохранить накопленный опыт, повысить эффективность работы и обеспечить высокое качество выполнения задач.

3 важных шага ну пути к AI

01.

Анализ и определение задач

Цель: Определение конкретных задач, которые LLM-ассистент должен решать, и оценка ожидаемых результатов.
Действия: Анализ бизнес-процессов, определение областей применения LLM, сбор требований от команды и заинтересованных сторон. Это также включает в себя понимание, какие данные будут использоваться и как они будут обработаны.
Результат: Четкое понимание функционала и целей использования LLM-ассистента.
02.

Разработка и настройка модели

Цель: Адаптация LLM под конкретные нужды бизнеса и подготовка модели к использованию.
Действия: Настройка LLM для работы с необходимыми данными, обучение модели на специфичных данных компании (при необходимости), интеграция модели с существующими системами. Включает также тестирование модели для обеспечения ее точности и эффективности.
Результат: Рабочая модель LLM, адаптированная под задачи компании и интегрированная в текущие бизнес-процессы.
03.

Поддержка и коммуникация

Цель: Запуск LLM-ассистента в реальных условиях и его оптимизация на основе полученных результатов.
Действия: Внедрение модели в повседневную работу, обучение сотрудников взаимодействию с LLM-ассистентом, мониторинг производительности модели, сбор отзывов пользователей и внесение необходимых корректировок. Оптимизация работы модели на основе практического опыта и данных.
Результат: Эффективно работающий LLM-ассистент, который помогает достигать поставленных бизнес-целей.

FAQ LLM

Какой личный опыт создания AI-Ассистентов?

В рамках работы были сделаны три MVP с различной архитектурой:
- HR BOT - бот для проведения опросов для сотрудников, сбора аналитики по компании, интеграция с аналитикой BI (на данный момент без LLM)
- ICP BOT - бот для отправки всем пользователям аналитики из Power BI при регулярном обновлении базы, в дальнейшем к боту привязан сервер в Visual Studio, который пользовался LLM на локальном сервере в LM-Studio. Рабочая модель на данный момент llama3.1. Бот можно запускать с поддержкой RAG, который сформирован и корпоративных текстов, порубленных через Langchain (RecursiveCharacterTextSplitter) и вставленных в векторную базу данных ChromaDB. Поиск осуществляется через Retriver от OpenAI (лучший результат был показан с search_kwargs={"k": 50}).
Альтернативный вариант запуска без LM-Studio, напрямую с локального сервера Ollama, поддержка истории запросов и диалогов. Все библиотеки взяты на GitHub и HuggingFace.
- TrainHUB - ИИ-Ассистент для написания программы тренировок и программы питания, на базе llama3.1
- Spark-BOT - ИИ-Асситент для использования API от СПАРК-Интерфакс и API от Gigachat. На стадии концепции, находится в разработке.

Какие общие задачи может решать LLM?

AI ассистент на базе LLM функционирует как интеллектуальный помощник, способный взаимодействовать с пользователем через текстовые запросы. Пользователь вводит вопрос или команду, а ассистент анализирует запрос, используя обученные модели для понимания контекста и содержания, и генерирует ответ. Ассистент может интегрироваться с различными системами и базами данных, чтобы предоставлять релевантную информацию, ссылки на документы и выполнять другие задачи, такие как автоматизация процессов или поддержка клиентов.

Какие специфические задачи для управления проектом может выполнять AI c LLM?

В строительной сфере менеджеры проектов могут использовать LLM для выполнения различных задач, что поможет повысить эффективность управления проектами, оптимизировать процессы и улучшить коммуникацию. Вот несколько вариантов использования LLM:

1. Подготовка и управление документацией
- Создание отчетов и протоколов: LLM может автоматически генерировать отчеты по прогрессу строительства, а также протоколы совещаний на основе предоставленных данных.
- Разработка шаблонов: Ассистент может создавать и обновлять шаблоны для различных документов, таких как контракты, графики выполнения работ и сметы.
- Контроль сроков и задач: Генерация и обновление графиков выполнения работ, контроль сроков задач с напоминаниями и автоматической отчетностью.
2. Анализ и управление рисками
- Оценка рисков: LLM может анализировать данные по проекту и выявлять потенциальные риски, предлагая стратегии их минимизации.
- Анализ предыдущих проектов: Использование данных о завершенных проектах для прогнозирования возможных проблем и улучшения планирования текущего проекта.
3. Коммуникация и поддержка команды
- Ответы на вопросы команды: LLM может выступать в роли виртуального помощника, отвечая на вопросы команды о предыдущих проектах, процедурах или технических деталях.
- Автоматическая рассылка обновлений: Ассистент может составлять и рассылать обновления и отчеты заинтересованным сторонам проекта, включая владельцев, подрядчиков и субподрядчиков.
- Управление задачами: LLM может помогать в постановке задач для команды, распределяя их на основе приоритетов и ресурсов.
4. Оптимизация процессов и планирования
- Планирование ресурсов: Анализ данных для оптимального распределения ресурсов (материалов, рабочей силы, оборудования) на различных этапах проекта.
- Бюджетирование: LLM может анализировать затраты по проекту, помогать в составлении бюджета и контролировать соответствие расходов плану.
- Оптимизация графиков: Предложение изменений в графике работ на основе реальных данных, погодных условий или доступности ресурсов.
5. Поддержка принятия решений
- Анализ данных для принятия решений: LLM может обрабатывать большие объемы данных (например, погодные условия, доступность ресурсов, предыдущий опыт) и предлагать оптимальные решения для текущих задач.
- Моделирование сценариев: Возможность прогнозирования результатов различных сценариев развития событий (например, задержки поставок, изменение сроков) и предоставление рекомендаций по действиям.
6. Управление знаниями и обучением
- Создание базы знаний: Формирование и поддержка актуальной базы знаний о проекте, включая лучшие практики, типичные ошибки и их решения.
- Обучение новых сотрудников: LLM может использоваться для создания обучающих материалов и проведения тренингов для новых членов команды, ускоряя их адаптацию.
7. Интеграция с другими системами
- Интеграция с BIM (Building Information Modeling): LLM может взаимодействовать с BIM-системами для анализа строительных моделей, прогнозирования проблем и оптимизации процессов.
- Интеграция с системами управления проектами: Ассистент может синхронизировать данные с популярными системами управления проектами, такими как Microsoft Project или Primavera, обеспечивая автоматическое обновление статусов задач и отчетов.
8. Поддержка взаимодействия с подрядчиками и клиентами
- Автоматическая генерация и отправка запросов: LLM может автоматизировать процесс создания запросов на информацию (RFI), предложения (RFP) или предложения цены (RFQ), отправлять их подрядчикам и отслеживать ответы.
- Обработка запросов от клиентов: Ассистент может обрабатывать запросы от клиентов, предоставлять информацию о ходе работ, затратах и других аспектах проекта.
Изображение
Алексей Санин
Зам. Директора по управлению проектами 
ООО «ПМК»
Изображение
Telegram