Вопрос

Как гарантировать, что ИИ не предложит обходное или небезопасное решение и учтёт продукт, права и контекст клиента?

Ответ

Для снижения риска ошибочных и нежелательных ответов в Swarmica используются ограничения источников и поведения ИИ.

Штатный ИИ-агент на канале реагирует на конкретный публичный вопрос клиента — публичный комментарий в тикете. К внутренним комментариям и защищённым конфиденциальным данным у него нет доступа. Остальные метаданные — поля заявки, компанию и другие свойства — он не проверяет. Для ответа он использует только опубликованные статьи базы знаний. Если решения в БЗ нет, агент сообщает об этом.

У агента заданы внутренние ограничения, которые уменьшают вероятность выдуманных ответов и нежелательной информации. Его поведение можно дополнительно настроить редактированием промпта.

ИИ-агент через MCP может учитывать поля и данные Swarmica, доступные ему и разрешённые конфигурацией его навыков. Доступ к операциям также определяется правами используемого API-токена. Такой агент позволяет настроить работу с контекстом клиента под конкретный сценарий.

Эти механизмы снижают риск ошибок; абсолютную гарантию безошибочных ответов генеративного ИИ дать нельзя.

Подробнее: Подключение функций Swarmica к LLM через MCP · Возможности ИИ-провайдеров