AI governance per il retail
Nel retail pochi casi d'uso ricadono in Allegato III, e questo porta molte aziende a concludere che l'AI Act le riguardi poco. La conclusione è sbagliata per due motivi: la gestione del personale rientra tra i casi ad alto rischio, e la personalizzazione dei prezzi ha obblighi informativi che arrivano dal diritto dei consumatori.
Il quadro normativo
- AI Act, Allegato III: i sistemi per la gestione del personale, inclusa la pianificazione dei turni e la valutazione delle prestazioni
- AI Act, articolo 50, per assistenti conversazionali e contenuti generati
- GDPR, articolo 22, sulle decisioni automatizzate che producono effetti significativi
- Normativa consumeristica sulla personalizzazione dei prezzi basata su decisioni automatizzate
- Vincoli stringenti sui sistemi biometrici negli spazi accessibili al pubblico
- GDPR per la profilazione della clientela e i programmi fedeltà, con l'articolo 22 che entra in gioco quando la decisione automatizzata produce effetti significativi sul cliente
I casi d'uso e il loro livello di rischio
| Caso d'uso | Classificazione | Nota |
|---|---|---|
| Pianificazione turni e valutazione del personale | Alto rischio, Allegato III | Gestione dei lavoratori, spesso sottovalutata |
| Profilazione della clientela e programmi fedeltà | Rischio minimo | Obblighi GDPR su base giuridica e profilazione |
| Prezzi personalizzati sul singolo cliente | Rischio limitato con obblighi informativi | Il consumatore va informato della personalizzazione |
| Sistemi di raccomandazione prodotti | Rischio minimo | Restano gli obblighi GDPR sulla profilazione |
| Analisi video in negozio con riconoscimento | Vincoli stringenti | Area biometrica, da valutare prima di installare |
| Previsione della domanda e riassortimento | Rischio minimo | Rientra comunque nell'inventario |
Da dove partire
- 1Partire dai sistemi che gestiscono i dipendenti, perché sono quelli che portano il rischio più alto e quasi mai vengono classificati come tali
- 2Verificare se e come la personalizzazione dei prezzi viene comunicata al cliente, perché l'obbligo informativo esiste indipendentemente dall'AI Act
- 3Trattare qualunque analisi video in negozio come area a vincoli forti, prima di estenderla
- 4Misurare la quota di scontrini collegati a un cliente identificato, perché ogni caso d'uso di personalizzazione lavora solo su quella parte e nel retail fisico è quasi sempre una minoranza
Cosa facciamo per il settore
Il percorso è sempre lo stesso e cambia il contenuto: si parte dalla mappa degli use case, si valuta l'impatto prima di investire, si valida con un prototipo e solo dopo si porta in produzione. La prototipazione rapida è gestita con protot.ai, la nostra unit di validazione.
Definizione degli use case
Il portfolio parte dai sistemi che toccano i dipendenti, perché sono quelli con il rischio più alto e quasi mai vengono classificati come tali, e prosegue su pricing, raccomandazione e previsione della domanda. Ogni voce riporta la classe di rischio e gli obblighi informativi verso il cliente. La mappa copre anche la rete in franchising, dove il personale non è dell'insegna e usa strumenti che l'insegna ha scelto e distribuito.
Valutazione di impatto
Misuriamo l'impatto su margine, rotazione e servizio, e valutiamo separatamente l'impatto sulle persone per i sistemi che gestiscono turni e prestazioni. Sulla personalizzazione dei prezzi la valutazione include come e quando il cliente viene informato.
Prototipo e validazione
Con protot.ai validiamo su un sottoinsieme di punti vendita o di categorie merceologiche prima di estendere, perché nel retail la differenza tra un risultato di test e un risultato di rete è quasi sempre più ampia del previsto.
Produzione e presidio
In produzione accompagniamo integrazione con i sistemi di cassa, gestionali e di pianificazione del personale, la tracciabilità delle decisioni automatiche e il presidio. Sui sistemi che toccano i dipendenti il presidio include il confronto con le rappresentanze.