basforge

Ищем по названиям, тексту и разборам «Если не работает».

    EN
    МануалИИПромпты

    Длинный разговор: как не упереться в контекст и не потерять договорённости

    Каждая реплика чата остаётся в контексте до конца: старые версии файла, отвергнутые идеи, ошибочные ответы. К сотому сообщению модель хуже держит ранние договорённости, а каждый ход стоит дороже. Постоянное выносим из чата, одну задачу ведём в одном чате, а при переходе переносим конспект, а не историю.

    Что происходит с контекстом по ходу разговора

    ход 1    [system][вопрос]                                   →   3 000 токенов
    ход 10   [system][10 пар вопрос–ответ][файл v1]             →  40 000
    ход 40   [system][40 пар][файл v1][файл v2][лог][файл v3]   → 180 000
                        ↑ отвергнутые идеи, ошибки, старые версии — всё здесь
    • Качество. Внимание модели распределяется по всему контексту. Чем больше в нём лишнего, тем слабее вес каждой ранней договорённости. На длинном контексте модели хуже вспоминают середину, чем начало и конец.
    • Ошибки заразны. Неверный ответ, оставшийся в истории, — образец для следующих: модель стремится быть последовательной с собой («Правим вопрос, а не спорим»).
    • Цена и скорость. Вход каждого хода — вся история. Сороковой ход в примере выше в 60 раз дороже первого.
    • Предел окна. У Claude 5.5 окно 1M токенов. Чат-приложения и агенты начинают сжимать раньше: старую часть истории заменяют пересказом. В API сжатие включается отдельно, по умолчанию срабатывает около 150 000 токенов. Что не попало в пересказ, для модели больше не существует.

    Делаем

    1. Постоянное — вне чата

      Правила, факты о проекте и стиль, нужные в каждом разговоре, не пишем в первое сообщение, а кладём туда, где их читают каждый раз и где их не сожмут:

      Где работаем Куда кладём
      claude.ai, ChatGPT инструкции проекта и файлы проекта
      Claude Code и другие агенты в редакторе CLAUDE.md в корне репозитория (у других агентов — AGENTS.md и аналоги)
      свой код на API system, под кэш («Кэш промпта»)

      Сюда — то, что не меняется от задачи к задаче: версии, пути, соглашения, запреты. Ход конкретной задачи — нет: он устареет к следующей.

    2. Одна задача — один чат

      Новая тема — новый чат («Новая задача — новый чат»). Задача разрослась — делим: «разобраться, почему 502», потом отдельно «переписать конфиг Traefik». У каждой — короткий контекст без чужих хвостов.

    3. Следим за размером

      В Claude Code /context показывает, сколько окна занято и чем: системный промпт, инструменты, файлы, переписка. В чате счётчика нет — ориентир по длине: десятки длинных ответов и несколько вставленных файлов — пора переходить.

      Признаки, что контекст перегружен: модель повторяет отвергнутое, путает версии файла, отвечает длиннее и общее, переспрашивает то, что уже говорили.

    4. Перед переходом — конспект

      Просим модель собрать перенос сама — она видит всю историю:

      Собери конспект для продолжения работы в новом чате. Разделы:
      1. Цель — одной фразой.
      2. Что решили — и почему, по пункту на решение.
      3. Что отвергли — и почему, чтобы не предлагать снова.
      4. Текущее состояние: какие файлы изменены, что работает, что нет.
      5. Открытые вопросы.
      6. Следующий шаг.
      Без пересказа переписки, только то, что нужно для продолжения.

      Читаем конспект сами: модель пропускает то, что считала очевидным, а это бывает главное.

      В Claude Code то же делает /compact — и ему можно сказать, что сохранить: /compact сохрани решения по Traefik и список изменённых файлов. /clear очищает контекст полностью.

    5. Новый чат: конспект и свежие файлы

      В первое сообщение — конспект и актуальные версии нужных файлов целиком. Куски из старого чата не переносим: в них старые версии. Агенту в редакторе файлы не вставляем, он прочитает их с диска.

    6. Большой документ — не в историю

      Книгу на 300 страниц или 50 файлов логов не держим в переписке, где они едут в каждом ходе. Варианты: вопрос по одному разделу за раз в отдельном чате; файлы проекта с кэшем; поиск по документам — RAG («Свои данные в модели»).

    Как проверить

    В новом чате с конспектом задаём контрольный вопрос по решению из раздела «отвергли»: «может, сделать через X?». Модель должна ответить, что X отвергли, и назвать причину. Не помнит — конспект неполный, дописываем раздел.

    Если не работает

    Модель вернула решение, от которого отказались час назад

    Причина
    Отвергнутый вариант всё ещё в контексте, вместе с причинами «за». Причина отказа — одна реплика среди сотни.
    Делаем
    Новый чат с конспектом, где в разделе «отвергли» записано, что и почему (шаг 4).

    Правит старую версию файла, а не ту, что сейчас на диске

    Причина
    В истории три версии файла, и модель взяла одну из ранних.
    Делаем
    Даём файл заново целиком и пишем «актуальная версия — эта»; в агенте просим перечитать файл с диска.

    Посреди работы агент «забыл» правило из начала сессии

    Причина
    Сработало автоматическое сжатие: ранняя история заменена пересказом, и правило в него не попало.
    Делаем
    Постоянные правила — в CLAUDE.md или системном промпте, они переживают сжатие (шаг 1). Своё сжатие — /compact с указанием, что сохранить.

    Ответы стали медленнее, лимит подписки кончается за час

    Причина
    Каждый ход отправляет всю историю: на сотом ходу — сотни тысяч токенов входа.
    Делаем
    Делим работу на задачи, каждая — в своём чате («Новая задача — новый чат»).