Инструмент RAG Документ позволяет получать информацию из документа большого объема. В инструменте используется метод RAG (Retrieval Augmented Generation).
Суть метода заключается в нарезке большого документа на куски, которые называют чанками. Для каждого чанка строится смысловой вектор. При обращении к инструменту с запросом строится смысловой вектор поступившего запроса и в качестве ответа выдаются наиболее подходящие по смыслу (релевантные) чанки.
Название
Введите в это поле название инструмента или документа.
Инструкция для агента
Опишите назначение и возможности добавляемого инструмента, укажите: какие задачи решает этот инструмент, какие действия может выполнять, формат данных и ожидаемый результат. Ваше чёткое описание поможет агенту правильно использовать инструмент и эффективнее решать поставленные задачи.
Настройте Количество чанков в ответе - количество наиболее релевантных запросу чанков в ответе инструмента.
Порог релевантности - установление порога релевантности позволяет исключить выдачу чанков с низкой релевантностью. Если модель не найдет релевантных запросу чанков, то инструмент ничего не выдаст в ответ. Если найдет один релевантный чанк, то выдаст один, даже если вы задали большее количество в поле Количество чанков в ответе.
Вкладка Обновить базу
Выберете Метод разделения из двух возможных:
По спец символу - укажите выбранный вами Символ для разделения
По количеству символов - укажите выбранное вами Количество символов
Выберете Источник информации из возможных:
- Ссылка на Google документ - укажите ссылку
- Текст - скопируйте текст в поле
- Файл - загрузите файл.
Вкладка Распределение токенов
Здесь можно увидеть распределение длин чанков в токенах.
Это может помочь при разделении текста на чанки с помощью спецсимволов.