basforge

Ищем по названиям, тексту и разборам «Если не работает».

    EN
    СоветИИПромпты

    Размышление — под задачу: уровень effort вместо «подумай получше»

    Глубину размышления задаём уровнем effort, а не словами в промпте: low — для перевода, извлечения и болтовни, high и выше — для поиска ошибки, архитектуры и задач, где ответ можно проверить. Размышления оплачиваются как выход и делают ответ медленнее, поэтому max на всё подряд — лишние деньги и минуты.

    Как это устроено

    Рассуждающая модель перед ответом пишет черновик: разбирает задачу, пробует варианты, проверяет себя. Черновик — обычные выходные токены, только их не показывают целиком. Модели учили так, что на задачах с проверяемым ответом (код, математика, логика) черновик заметно поднимает точность.

    Уровень Когда Что происходит
    low перевод, пересказ, извлечение полей, классификация, чат почти без черновика: быстро, дёшево, короче ответы и меньше вызовов инструментов
    medium типовой код, объяснение конфига, разбор лога по умолчанию у Opus 5.5 и Haiku 5.5
    high поиск неочевидной ошибки, изменение в нескольких файлах по умолчанию у Sonnet 5.5
    xhigh долгая работа агента над кодом промежуточный между high и max
    max когда правильность важнее цены: архитектура, миграция, сложная математика думает дольше всех; есть смысл, только если на xhigh видна нехватка

    Что изменилось в моделях 5.5

    • У Opus 5.5 размышление не выключается: thinking: {type: "disabled"} даёт 400. Минимум — effort: "low".
    • У Sonnet 5.5 выключить можно только так: thinking: {type: "between_tools"}, и только при effort не выше high.
    • Старый способ — фиксированный бюджет budget_tokens — на моделях 5.x убран, запрос с ним получает 400.
    • Текст размышлений по умолчанию не приходит (display: "omitted"): блок thinking есть, но пустой. Нужен пересказ размышлений — display: "summarized". Платим одинаково в обоих случаях.

    Сколько стоит

    Ответ на 500 токенов текста, а размышление заняло 6 000. На Opus 5.5 ($20 за MTok выхода):

    без размышления:   500 × $20 / 1M = $0,010
    с размышлением:  6 500 × $20 / 1M = $0,130   ← в 13 раз дороже и на десятки секунд дольше

    На задаче «найти, почему падает сборка» это окупается одним верным ответом вместо трёх неверных. На «переведи абзац» — нет.

    Почему не словами

    «Подумай хорошенько», «это очень важно», «думай шаг за шагом» на рассуждающих моделях почти ничего не меняют: глубину задаёт effort. Словами задаём другое — что проверить перед ответом: «прежде чем ответить, проверь, что каждый ключ есть в документации Traefik 3.7 из блока <docs>».

    Где переключать

    Где Как
    API output_config: {effort: "low"}
    claude.ai кнопка с именем модели и уровнем под полем ввода (Sonnet 5.5 Medium): в меню — модель и пункт Effort
    Claude Code команда /effort, ползунок Effort в /model; в расширении для VS Code — кнопка модели в поле ввода (Opus 5.5 High), ползунок внизу списка моделей

    Сравниваем на своих задачах: пять типичных запросов на low и на high. Если ответы на low не хуже — оставляем low для этого типа задач («Цена решённой задачи»).