Группа: ROBIN AI
Подгруппа: ROBIN AI Core
Последняя версия: 3 (Python)
Описание
Действие отправляет запрос с заданными параметрами на сервер с языковой моделью.
Применение
<как использовать>
Параметры и их настройки
Свойство | Описание | Тип | Пример | Обязательность |
---|---|---|---|---|
Параметры | ||||
Контекст | Контекст для подключения к серверу с языковой моделью. | Контекст | Да | |
Сообщение | Запрос, который должна выполнить языковая модель. | Строка | Да | |
Инструкция | Инструкция для языковой модели, задающая критерии обработки сообщения и правила ответа на него (роль, стиль, форма ответа, пр.). | Строка | Нет | |
Источник данных | Путь к файлу, на основе которого модель будет генерировать ответы. Поддерживаемые форматы: doc, docx, txt, csv, xls, xlsx, pdf. Дополнительная информация, которая поможет языковой модели сгенерировать ответ. Используется для поддержки RAG (Retrieval Augmented Generation) – добавление в контекст запроса к языковой модели дополнительной информации, на основе которой языковая модель может дать пользователю более полный и точный ответ. | Путь к файлу | Нет | |
Температура | Случайность выбора токенов для формирования ответа. Чем выше значение, тем более случайным будет ответ. При значениях больше 2 ответ может отличаться избыточной случайностью. Допустимые значения: числа от 0 и выше. Значение по умолчанию: 0,5. | Число | Нет | |
Максимальное количество токенов | Максимальное количество токенов для генерации ответа. При малом значении параметра модель может вернуть неполный ответ. Допустимые значения: целые числа больше 0. Значение по умолчанию: 500 токенов. | Число | Нет | |
Повторение слов | Ограничение повторения слов в ответе. При значениях от 0 до 1 модель будет повторять уже использованные слова. При значении больше 1 модель будет стараться не повторять слова. Допустимые значения: числа больше 0. Значение по умолчанию: 0,9. | Число | Нет | |
Результаты | ||||
Результат | Ответ, полученный от языковой модели. | Строка | - |
Версии