Инструмент RAG Документ позволяет получать информацию из документа большого объема. В инструменте используется метод RAG (Retrieval Augmented Generation).

Суть метода заключается в нарезке большого документа на куски, которые называют чанками. Для каждого чанка строится смысловой вектор. При обращении к инструменту с запросом строится смысловой вектор поступившего запроса и в качестве ответа выдаются наиболее подходящие по смыслу (релевантные) чанки.

 

Название

Введите в это поле название инструмента или документа.

Инструкция для агента

Опишите назначение и возможности добавляемого инструмента, укажите: какие задачи решает этот инструмент, какие действия может выполнять, формат данных и ожидаемый результат. Ваше чёткое описание поможет агенту правильно использовать инструмент и эффективнее решать поставленные задачи.

Настройте Количество чанков в ответе - количество наиболее релевантных запросу чанков в ответе инструмента.

Порог релевантности - установление порога релевантности позволяет исключить выдачу чанков с низкой релевантностью. Если модель не найдет релевантных запросу чанков, то инструмент ничего не выдаст в ответ. Если найдет один релевантный чанк, то выдаст один, даже если вы задали большее количество в поле Количество чанков в ответе.

Вкладка Обновить базу

Выберете Метод разделения из двух возможных:

По спец символу - укажите выбранный вами Символ для разделения

По количеству символов - укажите выбранное вами Количество символов

Выберете Источник информации из возможных:

- Ссылка на Google документ - укажите ссылку

- Текст - скопируйте текст в поле

- Файл - загрузите файл.

 Вкладка Распределение токенов

 Здесь можно увидеть распределение длин чанков в токенах.

Это может помочь при разделении текста на чанки с помощью спецсимволов.