Как работает Rerank 3?
Rerank 3 — модель переранжирования для второго этапа поиска: вы отдаёте запрос и найденных кандидатов, а получаете порядок, где релевантное выше. По данным вендора это drop-in замена rerank-2.5 с приростом 0.80% NDCG@10 в среднем по доменным оценкам и 3.35% на длинных документах, так что переписывать интеграцию не нужно. В BotHub модель подключена к единому OpenAI-совместимому API вместе с более чем 250 другими моделями, доступна без VPN и зарубежной карты, оплата в рублях по факту. Сценарии: RAG-ассистенты по внутренней базе знаний, поиск в поддержке и на сайте, подбор ответов по длинным договорам, выдача в интернет-магазине. Для команд есть договор, счёт, ЭДО и лимиты в админ-панели.Частые вопросы о Rerank 3
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
rerank-3 — модель ранжирования от MongoDB: она сопоставляет запрос с документами и переупорядочивает выдачу по релевантности. Её ставят вторым этапом поверх обычного поиска, в RAG-системах и при подборе фрагментов, чтобы наверх попадало действительно нужное. Контекст — до 32 000 токенов.
Готовый текст она не пишет: на выходе вы получаете оценки релевантности и упорядоченный список фрагментов. Входной контекст — до 32 000 токенов, а лимит вывода в наших данных указан до 28 800 токенов, но расходуется он на результат ранжирования, а не на связный текст.
Отметки о рассуждениях перед ответом в наших данных нет, и по своей задаче модель в них не нуждается: она не размышляет вслух, а сразу сравнивает запрос с документами и выставляет порядок релевантности. Если вам нужны пошаговые объяснения, их лучше получать от генеративной модели.
Подтверждённой отметки о вызове функций и структурированном выводе в наших данных нет, поэтому утверждать не будем. Практически модель возвращает не произвольный текст, а результат ранжирования — порядок фрагментов и оценки релевантности, которые вы принимаете через API. Точный формат ответа сверяйте в документации.
Отметки о приёме на вход чего-либо помимо текста в наших данных нет. Модель работает с текстом: запрос и документы передаются как текст, и она оценивает, насколько они соответствуют друг другу. Для изображений, аудио и видео понадобится отдельная модель другого класса.
Оценки качества работы с русским языком в наших данных нет, поэтому конкретных обещаний не дадим. Отсутствие отметки не означает, что язык не поддерживается: прогоните модель на своих реальных парах «запрос — фрагмент» и сравните порядок выдачи с ожидаемым, прежде чем ставить её в продакшен.