Отправить запрос в YandexGPT Версия 2 (Python)
Группа "Сервисы Яндекса", подгруппа "YandexGPT"
Описание
Действие отправляет запрос в сервис YandexGPT и возвращает ответ сервиса в виде сгенерированного текста в строковом формате и историю чата.
Иконка действия
Параметры и их настройка
Свойство | Описание | Тип | Пример заполнения | Обязательность заполнения поля |
---|---|---|---|---|
Параметры | ||||
Контекст | Контекст для подключения к YandexGPT | Контекст YandexGPT | Авторизоваться в YandexGPT.Контекст | Да |
Идентификатор каталога | Каталог содержит модель искусственного интеллекта. Идентификатор каталога можно получить в консоли управления Yandex Cloud, перейдя в нужный каталог. Для получения каталога необходимо перейти в консоль управления и в списке слева выберите нужный каталог. На открывшейся странице идентификатор каталога указан сверху, рядом с именем каталога. Также получить идентификатор можно из URL страницы каталога в консоли управления: https://console.cloud.yandex.ru/folders/<идентификатор_каталога>. | Строка | b1g6glvo8uhl12qh4ak4 | Да |
Сообщение | Сообщение, на которое требуется получить ответ | Строка | Расскажи про виды кофе | Да |
Инструкция | Инструкция для модели, задающая критерии обработки сообщения и правила ответа на него (роль, стиль, форма ответа, пр.) | Строка | Ты - эксперт по видам кофе, отвечаешь максимально развернуто на вопросы | Нет |
Температура | Случайность выбора токенов для формирования ответа. Чем выше значение, тем более случайным будет ответ. Принимает значения от 0 до 1. По умолчанию: 0.6 | Число | 0.2 | Нет |
Количество токенов | Максимальное количество токенов для генерации ответа. При малом значении параметра модель может вернуть неполный ответ. | Число | 1000 | Нет |
История чата | Передача истории чата позволяет YandexGPT работать с результатами прошлых запросов и учитывать их при генерации ответов | JSON | Отправить запрос в YandexGPT.История чата | Нет |
Тайм-аут, мс | Время в миллисекундах, в течение которого повторяются попытки получения ответа от сервиса. По умолчанию: 15000 мс | Число | 30000 | Нет |
Результаты | ||||
Ответ | Ответ на запрос в YandexGPT | Строка | ||
История чата | История чата для использования в других запросах к YandexGPT | JSON |
Особые условия использования
- Имеется суммарное ограничение по количеству токенов для ответа, запроса и инструкции (Информация по лимитам).
- При запросах с инструкцией и при использовании параметра "История чата", все инструкции в запросе добавляются к предыдущей и направляются одной инструкцией.
Пример использования
Задача 1
Получить сгенерированный ответ на запрос в сервис YandexGPT.
Решение
Воспользоваться действиями "Авторизоваться в YandexGPT", "Отправить запрос в YandexGPT" и "Сообщение".
Реализация
Предусловие
Для работы действия необходим идентификатор каталога. Предварительно необходимо авторизоваться в Яндекс ID, получить OAuth-токен и создать облако в Yandex Cloud.
- Перейти по ссылке в консоль управления Yandex Cloud.
В списке слева выбрать облако и нужный каталог. На открывшейся странице идентификатор каталога указан сверху, рядом с именем каталога.
Также получить идентификатор можно из URL страницы каталога в консоли управления: https://console.cloud.yandex.ru/folders/<идентификатор_каталога>
- Перетащить на рабочую область действие "Авторизоваться в YandexGPT".
Заполнить параметр действия.
Ввести токен в поле "OAuth-токен".Перетащить на рабочую область действие "Отправить запрос в YandexGPT"
- Заполнить параметры действия.
В поле "Контекст" добавить контекст, полученный в результате действия "Авторизоваться в YandexGPT"
- Заполнить поле "Идентификатор каталога" данными, полученными в шаге №2
- В поле "Сообщение" ввести содержимое запроса
- Задать контекст запроса в поле "Инструкция"
- Установить значение в поле "Температура"
Установить значение в поле "Количество токенов"
- В поле "История чата" добавляется результат из предыдущего действия "Отправить запрос в YandexGPT", поэтому поле остается пустым
- Установить значение в поле "Тайм-аут, мс"
- Перетащить на рабочую область действие "Сообщение".
- Заполнить параметр действия "Сообщение" результатом ответа действия "Отправить запрос в YandexGPT".
- Нажать на кнопку "Старт" в верхней панели.
Результат
Результат выведен в диалоговое окно:
Программный робот отработал успешно.
Получен сгенерированный ответ модели по заданным параметрам, а также история чата для последующих запросов.
Задача 2
Получить сгенерированный ответ на запрос в сервис YandexGPT с учетом истории чата.
Решение
Воспользоваться действиями "Авторизоваться в YandexGPT", "Отправить запрос в YandexGPT" и "Сообщение".
Реализация
К схеме из Задачи 1 добавить на рабочую область действие "Отправить запрос в YandexGPT".
Заполнить параметры действия.
В поле "История чата" добавить результат действия "Отправить запрос в YandexGPT".
- Перетащить на рабочую область действие "Сообщение".
- Заполнить параметр действия "Сообщение" результатом ответа действия "Отправить запрос в YandexGPT".
- Нажать на кнопку "Старт" в верхней панели.
Результат
Результат выведен в диалоговое окно:
Программный робот отработал успешно.
Получен сгенерированный ответ модели по заданным параметрам с учетом истории чата из предыдущего запроса.