L'intelligenza artificiale generativa ha smesso da tempo di essere una promessa futura: è già dentro i processi aziendali, nei servizi al cliente, nelle piattaforme di assistenza, nei prodotti digitali quotidiani.
Eppure, mentre molte imprese si chiedono ancora quando arriverà “la legge sull’AI”, qualcosa di molto concreto sta già accadendo. Le autorità di tutela dei consumatori, in Italia e in Europam, non hanno aspettato nuove norme per intervenire. Hanno applicato quelle esistenti. E lo hanno fatto con esiti che ogni azienda che utilizza sistemi di AI generativa dovrebbe conoscere.
In questo articolo analizziamo la prassi recente dell’AGCM, l’Autorità Garante della Concorrenza e del Mercato, per capire come il diritto dei consumatori stia diventando il primo strumento effettivo di regolazione dell’AI, e cosa implica questo per le imprese che oggi usano questi strumenti.
Le autorità di tutela dei consumatori, in Italia e in Europam, non hanno aspettato nuove norme per intervenire. Hanno applicato quelle esistenti.
Il quadro normativo di riferimento: norme esistenti, applicazione nuova
Prima di esaminare i casi concreti, è utile capire su quale base giuridica l’AGCM si è mossa. Il punto di partenza non è l’AI Act, ma il Codice del Consumo — il decreto legislativo 206/2005 — con particolare riferimento agli articoli 20, 21 e 22 sulle pratiche commerciali scorrette. Queste norme vietano ai professionisti di presentare i propri servizi in modo tale da indurre il consumatore medio a decisioni che altrimenti non avrebbe preso, oppure di omettere informazioni essenziali per una scelta consapevole.
Sullo sfondo, si colloca anche il Regolamento UE 2024/1689 (AI Act), entrato in vigore il 1° agosto 2024 con applicazione progressiva: i primi divieti sulle pratiche a rischio inaccettabile sono scattati a febbraio 2025, le norme sui modelli GPAI ad agosto 2025, mentre la piena applicazione per i sistemi ad alto rischio è attesa per agosto 2026. A questo si aggiunge la Legge italiana 132/2025, in vigore dal 10 ottobre 2025, che impone obblighi di trasparenza sull’utilizzo dell’AI nelle prestazioni professionali e commerciali. Il dato rilevante è che l’AGCM non ha atteso questa cornice per intervenire.
Il caso delle allucinazioni: tre istruttorie, un principio comune
Tra aprile e giugno 2025, l’AGCM ha avviato tre distinte istruttorie per pratiche commerciali scorrette nei confronti di DeepSeek, Mistral AI e Scaleup: quest’ultima offerente del servizio chatbot NOVA AI.
Al centro di tutti e tre i procedimenti: le cosiddette “allucinazioni”, ovvero la produzione da parte dei modelli di AI di contenuti inesatti, fuorvianti o inventati. La tesi dell’Autorità era che l’assenza di informazioni chiare su questo rischio, spesso relegata a disclaimer in inglese, note a piè di pagina o condizioni generali difficilmente rintracciabili, costituisse un’omissione ingannevole ai sensi degli articoli 20, 21 e 22 del Codice del Consumo.
Un’omissione tanto più grave perché questi sistemi vengono impiegati in ambiti sensibili: salute, finanza, diritto. Le tre istruttorie si sono concluse ad aprile 2026 con l’accoglimento degli impegni, senza accertamento formale di infrazione ai sensi dell’art. 27, comma 7, del Codice del Consumo.
Risultato: nessuna sanzione, ma obblighi vincolanti e immediati per le società.
I dettagli tecnici: cosa hanno dovuto fare DeepSeek, Mistral e NOVA AI
Gli impegni assunti dalle tre società offrono una lettura molto concreta di cosa significhi, in pratica, garantire trasparenza sulle allucinazioni. Nel caso DeepSeek, il procedimento più articolato, la società ha introdotto banner permanenti in lingua italiana posizionati sotto la finestra di dialogo della chat, con la dicitura: “Contenuto generato da IA.
Verifica sempre l’accuratezza delle risposte, che possono contenere inesattezze”. Analoga avvertenza è stata inserita nella pagina di registrazione, visibile prima ancora del pulsante di iscrizione, e nelle chat che riguardano temi particolarmente sensibili (sanitario, finanziario, legale). DeepSeek si è anche impegnata in un investimento tecnologico per ridurre il fenomeno, riconoscendo esplicitamente che nell’attuale stato della tecnologia non sia possibile eliminarlo del tutto.
Per NOVA AI, è emerso un profilo ulteriore: la società non forniva informazioni sufficienti sulle versioni dei modelli sottostanti accessibili tramite la piattaforma, rendendo opaco il valore dell’abbonamento a pagamento rispetto alla versione gratuita degli stessi modelli. Anche questo è stato qualificato come profilo di possibile scorrettezza commerciale.
Due casi concreti per capire il problema
Per rendere più tangibile il ragionamento, è utile partire da due situazioni che molte imprese potrebbero già riconoscere nella propria operatività.
Caso 1: chatbot di customer service. Un’azienda utilizza un chatbot AI per gestire le richieste dei clienti. Il sistema promette rimborsi non previsti dalle policy aziendali, comunica tempi di risposta errati, interpreta in modo scorretto le condizioni contrattuali. Il cliente si fida di quanto letto e agisce di conseguenz, magari rinunciando ad altri canali di tutela, o prendendo decisioni economiche basate su informazioni false. Chi risponde di queste comunicazioni? L’azienda, non il fornitore del modello.
Caso 2: Il recruiting automatizzato. Un’azienda usa l’AI per selezionare i curriculum e decidere chi invitare a colloquio. Il sistema penalizza automaticamente alcuni profili (ad esempio candidati con gap lavorativi o percorsi non lineari) senza che il candidato sappia come è stata presa la decisione e senza alcuna trasparenza sui criteri adottati. Il problema non è solo etico: è giuridico. L’assenza di spiegabilità e trasparenza espone l’azienda a contestazioni sotto il Codice del Consumo, il GDPR e, progressivamente, l’AI Act.
In entrambi i casi il punto è lo stesso: l’output dell’AI viene percepito come un messaggio dell’azienda. E questo porta con sé conseguenze concrete.
Il principio sottostante: l'output dell'AI è un messaggio dell'impresa
C’è un filo comune che attraversa tutti questi provvedimenti, e vale la pena enunciarlo con chiarezza perché è il cuore della questione per qualunque azienda che utilizzi sistemi di AI generativa. L’output di un chatbot, di un assistente virtuale, di un sistema di risposta automatica viene percepito dall’utente come un messaggio dell’azienda, non come il risultato neutro di uno strumento. Questo significa che se il sistema produce un contenuto inesatto, fuorviante o incompleto, la responsabilità non si trasferisce sul fornitore del modello sottostante: rimane in capo all’impresa che ha scelto di utilizzare quel sistema e di presentarlo come proprio, almeno sul piano della relazione con il consumatore.
La qualità dell’informazione, la chiarezza sui limiti dello strumento, la governance interna sui contenuti generati diventano così elementi con dirette conseguenze giuridiche. Non basta più “usare l’AI”. Occorre governarne l’uso e controllarne gli effetti verso utenti e clienti.
Cosa devono fare le imprese: dalla compliance alla governance
Il messaggio che emerge dalla prassi AGCM è netto. Attendere la piena entrata in vigore di nuove norme prima di interrogarsi sull’uso dell’AI è una strategia rischiosa, perché le regole esistenti sono già applicabili e vengono applicate. Sul piano pratico, le imprese dovrebbero avviare una mappatura dei sistemi di AI generativa utilizzati nei processi rivolti ai consumatori, identificando quali output possono influenzare le decisioni degli utenti. È necessario valutare l’adeguatezza delle informative precontrattuali, verificando che i limiti del sistema siano descritti in modo chiaro, in lingua italiana, in posizioni facilmente visibili.
Occorre poi definire chi, internamente, è responsabile del monitoraggio degli output generati, e con quale frequenza. La governance dell’AI non è solo un tema di reparto IT: coinvolge il legale, il compliance, il marketing e la direzione generale.
L’approccio corretto non è difensivo, ma proattivo: strutturare oggi i presidi necessari consente di operare con maggiore sicurezza, ridurre l’esposizione a contestazioni e dimostrare alle autorità un atteggiamento responsabile.
La regolazione dell’AI generativa in Italia non è ancora completa, ma è già operativa attraverso strumenti che le imprese conoscono bene, come il Codice del Consumo. La prassi AGCM degli ultimi mesi lo dimostra con chiarezza: non è necessario attendere nuove leggi per essere oggetto di un’istruttoria, di una misura cautelare, o di impegni vincolanti che ridisegnano il modo in cui un servizio digitale deve essere presentato agli utenti.
Le imprese che utilizzano sistemi di AI generativa nei propri processi commerciali si trovano oggi di fronte a una domanda concreta: come governiamo questi strumenti e come ne controlliamo gli effetti verso i nostri clienti?
Rispondere a questa domanda richiede competenze giuridiche specifiche, capacità di analisi dei rischi e una visione integrata tra tecnologia e compliance.
Lo Studio Legale Capello supporta imprese e organizzazioni nella valutazione dell’uso di sistemi di AI generativa, nell’analisi dell’esposizione al diritto dei consumatori e nella costruzione di un framework di governance adeguato al contesto normativo attuale.
Per un primo confronto, contattaci: saremo lieti di analizzare con te la situazione specifica della tua organizzazione.