Группа: ROBIN AI
Подгруппа: ROBIN AI Core
Последняя версия: 3 (Python)
Описание
Действие отправляет запрос с заданными параметрами на сервер с языковой моделью.
Применение
- Настроить подключение к серверу действием «Создать контекст AI Core».
- Отправить запрос модели действием «Отправить запрос AI Core».
- Обработать ответ модели и/или использовать результат в других действиях.
Параметры и их настройки
Свойство | Описание | Тип | Пример | Обязательность |
|---|---|---|---|---|
| Параметры | ||||
Контекст | Контекст для подключения к серверу с языковой моделью. | Контекст | Да | |
| Сообщение | Запрос, который должна выполнить языковая модель. | Строка | Да | |
| Инструкция | Инструкция для языковой модели, задающая критерии обработки сообщения и правила ответа на него (роль, стиль, форма ответа, пр.). | Строка | Нет | |
Источник данных | Путь к файлу, на основе которого модель будет генерировать ответы. Поддерживаемые форматы: doc, docx, txt, csv, xls, xlsx, pdf. Дополнительная информация, которая поможет языковой модели сгенерировать ответ. Используется для поддержки RAG (Retrieval Augmented Generation) – добавление в контекст запроса к языковой модели дополнительной информации, на основе которой языковая модель может дать пользователю более полный и точный ответ. | Путь к файлу | Нет | |
| Температура | Случайность выбора токенов для формирования ответа. Чем выше значение, тем более случайным будет ответ. При значениях больше 2 ответ может отличаться избыточной случайностью. Допустимые значения: числа от 0 и выше. Значение по умолчанию: 0,5. | Число | Нет | |
| Максимальное количество токенов | Максимальное количество токенов для генерации ответа. При малом значении параметра модель может вернуть неполный ответ. Допустимые значения: целые числа больше 0. Значение по умолчанию: 500 токенов. | Число | Нет | |
| Повторение слов | Ограничение повторения слов в ответе. При значениях от 0 до 1 модель будет повторять уже использованные слова. При значении больше 1 модель будет стараться не повторять слова. Допустимые значения: числа больше 0. Значение по умолчанию: 0,9. | Число | Нет | |
| Результаты | ||||
Результат | Ответ, полученный от языковой модели. | Строка | - | |
Версии
Обзор
Инструменты контента