LLM-профили

Профиль LLM хранит параметры языковой модели. Автор сценария выбирает сохранённый профиль в настройках, а затем использует его в узле LLM и смысловых условиях.

Настройки профиля LLM

Что настраивается

ПолеНазначение
НазваниеПонятное имя, которое будет видно в настройках сценария.
Адрес и модельКуда отправлять запросы и какую модель выбрать.
ПровайдерФормат обращения к модели из доступного списка.
ТокенСекретный ключ доступа. После сохранения его нельзя просмотреть.
ТемператураСтепень вариативности ответа.
РолиПорядок ролей сообщений, если это предусмотрено формой.

Создать профиль и назначить его

  • Откройте раздел AI → LLM и нажмите Добавить.
  • Заполните название, адрес, модель, провайдера и токен.
  • Проверьте температуру и роли, затем нажмите Сохранить.
  • Откройте сценарий → Настройки → AI.
  • Выберите профиль в поле LLM узлов.
  • При необходимости отдельно назначьте профиль для поиска, маршрутизации и смысловых условий.
  • Сохраните настройки, сценарий и опубликуйте его.

Узел LLM

В промпте задайте роль, задачу и правила ответа. Можно передавать значения через плейсхолдеры. Ограничьте число реплик контекста, длину ответа, количество вызовов инструментов и таймаут.

Ответь кратко и только по данным доступных инструментов.
Если данных недостаточно, так и скажи.
Номер клиента: {~Номер клиента~}.

Смысловое условие

Выберите смысловое условие на связи, укажите реплику слева и ожидаемый смысл справа. Более узкую проверку поставьте раньше запасной. Она работает медленнее точного сравнения и требует профиля для условий.

Если LLM не отвечает

  • Проверьте, что профиль сохранён и выбран в нужном поле.
  • Проверьте адрес, модель, токен, таймаут и публикацию.
  • Уменьшите лимиты ответа и контекста при слишком длинном результате.
  • После изменения профиля снова откройте настройки сценария.
Желаем удачи!
Команда Robovoice.
Остались вопросы?
Посмотрите Наши видео-инструкции или отправьте Ваш вопрос менеджеру Robovoice

Общие частые вопросы