Отправить пользовательский запрос Версия 1 (Python)
Группа действий: Robin AI Core
Описание
Действие отправляет запрос с заданными параметрами на сервер с языковой моделью.
Иконка действия
Параметры и их настройки
Свойство | Описание | Тип | Пример заполнения | Обязательность заполнения поля |
---|---|---|---|---|
Параметры | ||||
Контекст | Контекст для подключения к серверу с языковой моделью | Контекст Robin AI Core | СоздатьКонтекст1.Контекст | Да |
Сообщение | Запрос, который должна выполнить языковая модель. Если количество токенов для составления запроса превышает 8196, то необходимо использовать параметр "Дополнительное сообщение" | Строка | Извлеки только предложение, которое содержит фразу.\n\n ##Фраза\n Договор вступает в силу с | Да |
Дополнительное сообщение | Дополнительный запрос к языковой модели. Работает с результатом, полученным от исполнения запроса из поля "Сообщение" | Строка | "Извлеки дату в формате:\n Дата окончания исполнения : день.месяц.год \n ##Пример\n Дата окончания исполнения : 05.12.2025", | Нет |
Инструкция | Инструкция для языковой модели, задающая критерии обработки сообщения и правила ответа на него (роль, стиль, форма ответа, пр.) | Строка | Ответ должен быть сформулирован по пунктам. | Нет |
Источник данных | Информация, на основе которой модель будет генерировать ответы | Строка | Нет | |
Температура | Случайность выбора токенов для формирования ответа. Чем выше значение, тем более случайным будет ответ. При значениях больше 2 ответ может отличаться избыточной случайностью. Допустимые значения: от 0 и выше. Значение по умолчанию: 0,5 | Число | 0,5 | Нет |
Максимальное количество токенов | Максимальное количество токенов для генерации ответа. При малом значении параметра модель может вернуть неполный ответ. Допустимые значения: целые числа больше 0. Значение по умолчанию: 500 токенов | Число | 10 | Нет |
Повторение слов | Ограничение повторения слов в ответе. При значениях от 0 до 1 модель будет повторять уже использованные слова. При значении больше 1 модель будет стараться не повторять слова. Допустимые значения: больше 0 . Значение по умолчанию: 0,9 | Число | 1 | Нет |
Результаты | ||||
Результат | Ответ, полученный от языковой модели | Строка |
Особые условия использования
- Запрос направляется на сервер с языковой моделью, настроенной в действии "Создать контекст";
- Запрос составляется из сообщения, сообщения для доп.обработки, инструкции и источника данных. Длина запроса определяется количеством токенов:
- Если длина запроса меньше 8196 токенов, то запрос считается коротким. Используется запрос из поля "Сообщение", если заполено поле "Дополнительное сообщение", то оно игнорируется для коротких запросов;
- Если длина запроса больше 8196 токенов, то запрос считается длинным. Запрос делится на части по 8196 токенов, такие части называются окна. К каждому окну исполняется запрос из поля "Сообщение". Затем ко всем полученным результатам, объединенным вместе, направляется запрос из поля "Дополнительное сообщение";
- Если в поле "Сообщение" превышена допустимая длина запроса в 8196 токенов, то робот завершится с ошибкой "Превышено количество токенов, отправленных в запросе к языковой модели в поле "Сообщение". Необходимо уменьшить длину запроса и повторить его.";
- Если в полях "Сообщение"+ "Инструкция"+ "Источник данных" превышена допустимая длина запроса 8196 токенов, при этом поле "Дополнительное сообщение" не заполнено, то робот завершится с ошибкой "Превышено количество токенов, отправленных в запросе к языковой модели. Необходимо уменьшить длину запроса и повторить его или использовать параметр "Дополнительное сообщение"."
Примеры заполнения параметров "Сообщение" и "Дополнительное сообщение". Использовать в случае, когда "Сообщение"+ "Инструкция"+ "Источник данных"превышают 8196 токенов.
"Сообщение": "Извлеки даты договора",
"Дополнительное сообщение": "Извлеки только первую дату договора в формате. Формат: Дата договора: дата договора",
"Сообщение": "Извлеки только предложение, которое содержит фразу.\n\n ##Фраза\n Договор вступает в силу с",
"Дополнительное сообщение": "Извлеки дату в формате:\n Дата окончания исполнения : день.месяц.год \n ##Пример\n Дата окончания исполнения : 05.12.2025",
"Сообщение": "Извлеки номера договоров ",
"Дополнительное сообщение": "Извлеки только первый номер договора без даты в формате. Формат: Номер договора: номер договора",
"Сообщение": "Извлеки строго по тексту только часть из пункта 1 Предмет договора",
"Дополнительное сообщение": "Процитируй предмет договора. Ответ дай без дополнительных символов строго в формате Предмет договора : найденный предмет договора",
"Сообщение": "Извлеки только текст, который содержит сумму договора",
"Дополнительное сообщение": "Извлеки сумму договора. Ответ дай без дополнительных символов строго в формате Сумма договора : найденная сумма договора валюта",
Пример использования 1
Задача
Получить сгенерированный ответ на запрос в сервис Robin AI Core.
Решение
Воспользоваться действиями "Создать контекст", "Отправить пользовательский запрос" и "Сообщение".
Реализация
Предусловие
- Перетащить на рабочую область действия "Создать контекст", "Отправить пользовательский запрос" и "Сообщение".
- Заполнить параметры действия "Создать контекст".
Заполнить параметры действия "Отправить пользовательский запрос".
Перетащить на рабочую область действие "Сообщение". Заполнить параметры.
- Нажать на кнопку "Старт" в верхней панели.
Результат
Результат выведен в диалоговое окно:
Программный робот отработал успешно.
Получен сгенерированный ответ модели по заданным параметрам, а также история чата для последующих запросов.