Один и тот же вопрос — тремя путями: пять фрагментов поиска как есть, десять кандидатов с отбором моделью, и то же с переписанным запросом. Видно обе выдачи — до отбора и после.
каждый вопрос — от одного до трёх платных вызовов модели с отбором ищется 10 кандидатов, в модель уходит 5 суточный предел вопросов — общий на всех посетителей
Вопроса ещё не было. Ответ появится здесь целиком, без пересказа и без подсветки.
Во всех трёх режимах сначала идёт поиск по этому репозиторию, и модель отвечает только по найденному. Режима «по памяти модели» здесь нет: его показал день 22.
Режимы различаются тем, что происходит между поиском и ответом. Без отбора в модель уходят пять фрагментов поиска. С отбором ищутся десять кандидатов, и вторая модель оценивает каждый — дальше идут только те, кого она сочла относящимся к вопросу, но не больше пяти. С переписыванием перед этим вопрос переписывается в поисковый запрос, и ищутся оба — исходный и переписанный.
Отбор может не оставить ничего — и тогда так и будет написано. Дорисовывать выдачу до пяти фрагментов страница не станет.
Релевантность ставит модель-реранкер: 0 — не относится, 1 — относится, 2 — отвечает на вопрос. Остаются оценки не ниже 1, и не больше пяти штук.
Индекс собран из корпуса той выкатки, чей коммит назван. Если в репозитории с тех пор что-то поменялось, поиск этого ещё не видит.
Близость — мера похожести на вопрос, больше значит ближе; шкала у стратегий своя, и сравнивать её между стратегиями нельзя.
Здесь — то, что дошло до модели после отбора. Что поиск нашёл до него, перечислено выше.
Порядок шагов задан кодом, а не моделью: поиск идёт всегда и до вызова, инструмента модель не видит и выбрать его не может.
Шаг «сборка промпта» своего события не имеет: эту запись рисует страница между «фрагменты получены» и «вызов модели», и время у неё — время вызова.