Отправить пользовательский запрос

Отправить пользовательский запрос Версия 1 (Python)

Группа действий: Robin AI Core

Описание

Действие отправляет запрос с заданными параметрами на сервер с языковой моделью.

Иконка действия

Параметры и их настройки

Особые условия использования 

• Запрос направляется на сервер с языковой моделью, настроенной в действии "Создать контекст";
• Запрос составляется из сообщения, сообщения для доп.обработки, инструкции и источника данных. Длина запроса определяется количеством токенов: 
  • Если длина запроса меньше 8196 токенов, то запрос считается коротким. Используется запрос из поля "Сообщение", если заполено поле "Дополнительное сообщение", то оно игнорируется для коротких запросов;
  • Если длина запроса больше 8196 токенов, то запрос считается длинным. Запрос делится на части по 8196 токенов, такие части называются окна. К каждому окну исполняется запрос из поля "Сообщение". Затем ко всем полученным результатам, объединенным вместе, направляется запрос из поля "Дополнительное сообщение";
• Если в поле "Сообщение" превышена допустимая длина запроса в 8196 токенов, то робот завершится с ошибкой "Превышено количество токенов, отправленных в запросе к языковой модели в поле "Сообщение". Необходимо уменьшить длину запроса и повторить его.";
• Если в полях "Сообщение"+ "Инструкция"+ "Источник данных" превышена допустимая длина запроса 8196 токенов, при этом поле "Дополнительное сообщение" не заполнено, то робот завершится с ошибкой "Превышено количество токенов, отправленных в запросе к языковой модели. Необходимо уменьшить длину запроса и повторить его или использовать параметр "Дополнительное сообщение"."

Примеры заполнения параметров "Сообщение" и "Дополнительное сообщение". Использовать в случае, когда "Сообщение"+ "Инструкция"+ "Источник данных"превышают 8196 токенов.

"Сообщение": "Извлеки даты договора",
"Дополнительное сообщение": "Извлеки только первую дату договора в формате. Формат: Дата договора: дата договора",

"Сообщение": "Извлеки только предложение, которое содержит фразу.\n\n ##Фраза\n Договор вступает в силу с",
"Дополнительное сообщение": "Извлеки дату в формате:\n Дата окончания исполнения : день.месяц.год \n ##Пример\n Дата окончания исполнения : 05.12.2025",

"Сообщение": "Извлеки номера договоров ",
"Дополнительное сообщение": "Извлеки только первый номер договора без даты в формате. Формат: Номер договора: номер договора",

"Сообщение": "Извлеки строго по тексту только часть из пункта 1 Предмет договора",
"Дополнительное сообщение": "Процитируй предмет договора. Ответ дай без дополнительных символов строго в формате Предмет договора : найденный предмет договора",

"Сообщение": "Извлеки только текст, который содержит сумму договора",
"Дополнительное сообщение": "Извлеки сумму договора. Ответ дай без дополнительных символов строго в формате Сумма договора : найденная сумма договора валюта",

Пример использования 1

Задача

Получить сгенерированный ответ на запрос в сервис Robin AI Core.

Решение

Воспользоваться действиями "Создать контекст", "Отправить пользовательский запрос" и "Сообщение". 

Реализация

Предусловие

Для работы действия необходим идентификатор каталога. Предварительно необходимо авторизоваться в Яндекс ID, получить OAuth-токен и создать облако в Yandex Cloud.

1. Перейти по ссылке в консоль управления Yandex Cloud.

2. В списке слева выбрать облако и нужный каталог. На открывшейся странице идентификатор каталога указан сверху, рядом с именем каталога.

   Также получить идентификатор можно из URL страницы каталога в консоли управления: https://console.cloud.yandex.ru/folders/<идентификатор_каталога>
   

3. Перетащить на рабочую область действие "Авторизоваться в YandexGPT". 
   

4. Заполнить параметр действия. 
   Ввести токен в поле "OAuth-токен".
   

5. Перетащить на рабочую область действие "Отправить запрос в YandexGPT"

   

6. Заполнить параметры действия. 

   1. В поле "Контекст" добавить контекст, полученный в результате действия "Авторизоваться в YandexGPT"

   2. Заполнить поле "Идентификатор каталога" данными, полученными в шаге №2
   3. В поле "Сообщение" ввести содержимое запроса
      
      
   4. Задать контекст запроса в поле "Инструкция"
      
   5. Установить значение в поле "Температура"

   6. Установить значение в поле "Количество токенов"
      

   7. В поле "История чата" добавляется результат из предыдущего действия "Отправить запрос в YandexGPT", поэтому поле остается пустым
      
   8. Установить значение в поле "Тайм-аут, мс"
      
7. Перетащить на рабочую область действие "Сообщение".
   
   
8. Заполнить параметр действия "Сообщение" результатом ответа действия "Отправить запрос в YandexGPT". 
   
   
9. Нажать на кнопку "Старт" в верхней панели.  

Результат

Результат выведен в диалоговое окно:

Программный робот отработал успешно.

Получен сгенерированный ответ модели по заданным параметрам, а также история чата для последующих запросов.

Задача 2

Получить сгенерированный ответ на запрос в сервис YandexGPT с учетом истории чата.

Решение

Воспользоваться действиями "Авторизоваться в YandexGPT", "Отправить запрос в YandexGPT" и "Сообщение". 

Реализация

1. К схеме из Задачи 1 добавить на рабочую область действие "Отправить запрос в YandexGPT".

   

2. Заполнить параметры действия. 

   В поле "История чата" добавить результат действия "Отправить запрос в YandexGPT". 

   
3. Перетащить на рабочую область действие "Сообщение".
   
   
4. Заполнить параметр действия "Сообщение" результатом ответа действия "Отправить запрос в YandexGPT". 
   
5. Нажать на кнопку "Старт" в верхней панели.  

Результат

Результат выведен в диалоговое окно:

Программный робот отработал успешно.

Получен сгенерированный ответ модели по заданным параметрам с учетом истории чата из предыдущего запроса.