basforge

Ищем по названиям, тексту и разборам «Если не работает».

    EN
    СоветИИПромпты

    Длинный документ — в начало, вопрос — в конец, ответ — с цитатами

    Документ на десятки страниц кладём в начало промпта, вопрос — после него, и просим сначала выписать цитаты, на которые опирается ответ. Так модель отвечает по тексту, а не по памяти, и каждое утверждение можно проверить по документу.

    Как это выглядит

    <document source="traefik-3.7-routers.md">
    …документация, 40 страниц…
    </document>
    
    <document source="/opt/traefik/data/traefik.yml">
    …наш конфиг…
    </document>
    
    Почему роутер memos не получает сертификат?
    Сначала выпиши из документов цитаты, которые относятся к вопросу, в тегах <quotes>,
    с указанием источника. Потом ответь, опираясь только на них. Если в цитатах ответа нет — так и скажи.

    Почему так

    • Вопрос в конце — документ модель читает целиком, а вопрос оказывается последним, вплотную к месту, где начинается ответ. По документации Anthropic, на длинных запросах такой порядок поднимает качество ответа до 30%, сильнее всего — когда документов несколько.
    • Цитаты сначала — ответ вынужден опираться на найденный текст. Если подходящей цитаты нет, это видно до ответа, а не после того, как модель уверенно ответила по памяти.
    • Источник у каждого документа — когда документов несколько, ответ ссылается на конкретный файл, и путаница «это из конфига или из документации» исчезает.

    Как проверить ответ

    Берём две-три цитаты и ищем их в документе: grep -F "entryPoints" traefik.yml. Цитаты нет в документе — модель её собрала, и ответу на её основе не верим. В API есть встроенный режим цитирования (citations у документа): ссылки на точные места в тексте ставит сам сервис.