Как устроено
1. отправляем пачку запросов, у каждого свой custom_id
2. ждём: статус processing_status — in_progress … ended
3. забираем результаты; порядок — любой, сопоставляем по custom_id
Запрос внутри пачки — тот же, что обычный: модель, system, сообщения, инструменты, кэш. Отличается
только способ доставки.
Сколько экономит
Разметка 3000 заметок по 600 токенов входа и 20 токенов выхода на Haiku 5.5:
обычный API: 3000 × (600 × $0,10 + 20 × $0,50) / 1M ≈ $0,21
пакетом: ≈ $0,105
На Haiku это копейки в любом случае. На Opus 5.5 с длинным входом та же работа — десятки долларов, и половина из них остаётся у нас.
Когда не подходит
- Нужен ответ сейчас: чат, агент, ответ пользователю.
- Следующий запрос зависит от предыдущего ответа — пакет не умеет цепочки.
- Пачка из пяти запросов: экономия меньше, чем время на код.
Пакет и кэш складываются: одинаковое начало у всех запросов пачки (инструкция и примеры) читается из кэша.