basforge

Ищем по названиям, тексту и разборам «Если не работает».

    EN

    Не срочные запросы к API — пакетом за полцены

    Разметить три тысячи заметок, перевести архив, прогнать проверку по всем материалам — это не нужно за секунду. Пакетный API у Anthropic, OpenAI и Google стоит вдвое дешевле обычного и отвечает в пределах 24 часов, обычно — за час.

    Как устроено

    1. отправляем пачку запросов, у каждого свой custom_id
    2. ждём: статус processing_status — in_progress … ended
    3. забираем результаты; порядок — любой, сопоставляем по custom_id

    Запрос внутри пачки — тот же, что обычный: модель, system, сообщения, инструменты, кэш. Отличается только способ доставки.

    Сколько экономит

    Разметка 3000 заметок по 600 токенов входа и 20 токенов выхода на Haiku 5.5:

    обычный API:  3000 × (600 × $0,10 + 20 × $0,50) / 1M ≈ $0,21
    пакетом:      ≈ $0,105

    На Haiku это копейки в любом случае. На Opus 5.5 с длинным входом та же работа — десятки долларов, и половина из них остаётся у нас.

    Когда не подходит

    • Нужен ответ сейчас: чат, агент, ответ пользователю.
    • Следующий запрос зависит от предыдущего ответа — пакет не умеет цепочки.
    • Пачка из пяти запросов: экономия меньше, чем время на код.

    Пакет и кэш складываются: одинаковое начало у всех запросов пачки (инструкция и примеры) читается из кэша.