---
title: "Il routing dei modelli AI: costo, qualità e decisioni di governo"
url: https://zerofive.ai/blog/strategia/routing-modelli-ai-costo-qualita
canonical: https://zerofive.ai/blog/strategia/routing-modelli-ai-costo-qualita
language: it
published: 2026-11-18
updated: 2026-11-11
author: "ZeroFive.AI"
tags: routing dei modelli, costi AI, qualità degli output, AI gateway, value case, AI Rating
abstract: "Instradare ogni richiesta al modello meno costoso che supera la soglia di qualità: principio economico, limiti indicati dalla ricerca e decisioni di governo."
---

# Il routing dei modelli AI: costo, qualità e decisioni di governo

**In sintesi.** Il routing dei modelli mette tra chi fa la richiesta e i modelli un componente che decide a quale inviarla. Il risparmio possibile è elevato e dipende dal tipo di richieste, per cui non si può promettere in anticipo. Un instradamento utile lavora su una soglia di qualità dichiarata e sceglie, tra i modelli che la superano, il meno costoso, il che presuppone una misura della qualità sui propri casi. La ricerca più recente invita alla prudenza sugli algoritmi e dà più peso alla scelta dei modelli disponibili.

Se guardate l'elenco delle richieste che i vostri colleghi hanno fatto a un assistente AI nell'ultima settimana, troverete in gran parte riformulazioni di email, riassunti di documenti brevi, traduzioni, domande su una procedura interna. Accanto a queste ci sono poche richieste difficili, l'analisi di un contratto lungo o il confronto tra tre offerte tecniche, e tutte, le prime come le seconde, vengono servite dallo stesso modello, di solito il più capace e il più costoso tra quelli disponibili.

È successo anche a noi, nei primi mesi in cui abbiamo messo gli agenti dentro il lavoro quotidiano di ZeroFive, e ce ne siamo accorti soltanto quando abbiamo letto i consumi per tipo di attività. Il routing dei modelli nasce da questa osservazione e consiste nel mettere, tra chi fa la richiesta e i modelli, un componente che decide a quale modello inviarla. Dal punto di vista tecnico è un pezzo di infrastruttura, per chi governa il budget è la differenza tra una spesa che cresce con l'uso e una spesa che cresce con il valore.

## Il principio economico

Il prezzo per token tra un modello di frontiera e uno piccolo, aperto o proprietario, può variare di un ordine di grandezza e spesso di più. Finché l'uso è limitato a poche persone il divario non si nota. Quando gli assistenti diventano agenti, che per completare un compito fanno decine di chiamate in sequenza e rileggono ogni volta il contesto, lo stesso divario si moltiplica per il numero di passi e arriva nel conto economico.

La ricerca ha misurato quanto si può recuperare. I ricercatori dell'Università di Berkeley che nel luglio 2024 hanno presentato [RouteLLM](https://lmsys.org/blog/2024-07-01-routellm/) sul blog di LMSYS hanno addestrato alcuni instradatori sulle preferenze espresse dagli utenti, facendoli scegliere tra un modello di frontiera e uno aperto molto più economico, e hanno riportato su uno dei banchi di prova una riduzione dei costi superiore all'85% mantenendo il 95% della qualità del modello più forte, mentre su altri due la riduzione si fermava al 45% e al 35%. La distanza tra i tre numeri è l'informazione più utile, perché dice che il risparmio dipende dal tipo di richieste e non si può promettere in anticipo.

Una telco che vende servizi AI ai propri clienti appoggiandosi a modelli di terzi ha un margine che dipende quasi per intero da questa scelta. Un'azienda che usa l'AI soltanto al proprio interno ha lo stesso problema in scala ridotta, con la differenza che spesso nessuno ne risponde.

## Gli ingressi di un instradatore

Un instradatore può decidere in base a elementi diversi, e conviene sapere quali usa quello che vi viene proposto. Il più semplice è una regola fissa per tipo di attività, per cui la trascrizione va al modello vocale e la generazione di immagini al modello dedicato. Poco sopra ci sono le etichette che descrivono ogni modello, confrontate con il contenuto della richiesta. Più in alto ancora c'è un classificatore, a sua volta un piccolo modello, che stima la difficoltà della domanda e sceglie di conseguenza.

Queste tecniche guardano tutte alla richiesta e nessuna guarda al risultato. Scelgono il modello che sembra adatto, senza sapere se la risposta prodotta sarà poi buona, e funzionano bene finché le richieste somigliano a quelle previste da chi ha scritto regole ed etichette.

C'è poi un ingresso che viene prima di ogni altro e che non riguarda il costo, cioè la classe del dato contenuto nella richiesta. Un instradatore deve anzitutto escludere le destinazioni non ammesse per quel dato, e soltanto tra quelle rimaste cercare la più conveniente. Ne abbiamo scritto in [tutelare il dato nell'uso dell'AI](/blog/compliance/tutela-dato-ai-scelte-prima-architettura), dove lo schema di instradamento per classe di dato è trattato per esteso.

![Routing dei modelli in tre filtri: classe del dato, soglia di qualità e costo](/routing-modelli-tre-filtri-it.png)

## Costo e qualità nella stessa decisione

Dire che una richiesta va al modello più adatto non significa niente finché non si precisa rispetto a che cosa. Un modello può essere preferibile perché costa meno, perché risponde prima, perché sbaglia meno su quel compito, e i tre criteri di rado indicano lo stesso candidato.

Un instradamento che merita il nome di intelligente lavora su una soglia di qualità dichiarata e, tra i modelli che la superano, sceglie il meno costoso. Perché questo sia possibile serve sapere quale qualità produce ciascun modello su ciascun tipo di compito, ed è un'informazione che nessun fornitore può consegnare già pronta, perché dipende dai vostri documenti e dai vostri criteri di accettazione. Per questo il routing viene dopo la misura, e chi non ha ancora definito [come si valuta un output](/blog/approfondimenti/scegliere-modello-ai-per-il-compito) sui propri casi reali può ottenere dal routing soltanto un risparmio di cui ignora il prezzo.

Anche con la misura disponibile, un instradatore al primo giorno non sa nulla. Impara osservando: invia una piccola quota di richieste a un modello più economico, confronta l'esito con quello del modello abituale, sposta il traffico quando la differenza è trascurabile. È lo stesso schema dei sistemi che imparano per tentativi, con una quota di esplorazione che ha un costo e che qualcuno deve aver autorizzato.

## I limiti indicati dalla ricerca

Sarebbe scorretto presentare il routing come una soluzione consolidata. Un lavoro pubblicato a gennaio 2026, [LLMRouterBench](https://arxiv.org/abs/2601.07206), ha rimesso a confronto dieci metodi di instradamento su oltre quattrocentomila casi e ha trovato risultati molto vicini tra loro, con diversi metodi recenti, alcuni commerciali, che non battono in modo affidabile una soluzione di base semplice. Lo stesso studio osserva che aggiungere modelli rende sempre meno, mentre una selezione accurata di quelli messi a disposizione dell'instradatore pesa di più.

Per chi decide la lettura è abbastanza lineare. Il vantaggio viene soprattutto dall'avere due o tre modelli ben scelti, uno dei quali piccolo e magari eseguito in casa, e dall'inviare a quello piccolo le attività che sa svolgere. La raffinatezza dell'algoritmo conta meno della disciplina con cui si tiene aggiornato l'elenco dei modelli e si verifica che la qualità non stia scendendo.

## Le decisioni che spettano all'azienda

Il fornitore dell'infrastruttura mette a disposizione il meccanismo. Le scelte che lo rendono governabile restano in capo all'organizzazione, e sono poche.

- La soglia di qualità per ciascun tipo di compito, scritta e approvata dal responsabile di processo.
- L'elenco delle destinazioni ammesse per ogni classe di dato, modelli esterni compresi.
- La quota di traffico che può essere usata per provare modelli alternativi, e su quali attività.
- Chi viene avvisato quando la qualità misurata scende sotto soglia, e che cosa succede in quel caso.
- Il registro delle decisioni di instradamento, con il modello effettivamente usato per ogni richiesta.

L'ultima voce pesa anche fuori dal conto economico. Quando un sistema cambia modello da una richiesta all'altra, la domanda su quale modello abbia prodotto una certa risposta diventa una domanda di audit, e per i sistemi che rientrano negli obblighi di registrazione dell'AI Act la risposta deve essere ricostruibile.

## Il routing nel piano dei costi

Nel bilancio di un progetto AI il consumo di modelli è una delle poche voci variabili, e per questo viene spesso sottostimata in fase di pilota, quando i volumi sono bassi e le tariffe promozionali. Dei motivi per cui la previsione salta abbiamo parlato in [perché il budget AI salta](/blog/strategia/costo-ai-budget-non-previsto) e nel pezzo sul [costo totale di un progetto AI](/blog/strategia/quanto-costa-davvero-progetto-ai).

Il routing è lo strumento che trasforma quella voce da subita a governata, a condizione che entri nel progetto dall'inizio. Aggiungerlo a un sistema già in esercizio, costruito intorno al comportamento di un solo modello, vuol dire rifare buona parte delle prove. Per lo stesso motivo conviene tenerlo presente quando si ragiona sul [rischio di dipendenza da un fornitore](/blog/strategia/lock-in-tecnologico-ai): un'architettura capace di instradare è anche un'architettura capace di sostituire.

Nel Value Case che chiediamo prima di autorizzare un caso d'uso, il costo per transazione è calcolato con un'ipotesi esplicita su quale modello serve quale quota di richieste, e la sensibilità del risultato a quell'ipotesi è uno dei numeri che portiamo al comitato. Per ragionare sulla vostra ripartizione potete [fissare un incontro di valutazione](https://calendly.com/fabiolalli/zerofive) oppure partire da un [AI Rating](/avvia-ai-rating), che nella dimensione Delivery verifica se questi elementi sono già presenti.
