Se un agente AI sbaglia, chi paga?
Chi paga se un agente AI compra la cosa sbagliata o un chatbot dà un consiglio errato: casi reali, condizioni dei produttori, regole UE e italiane, cosa fare.
Immagine generata con AI: Internet of Things News / OpenAI ChatGPT
Dopo aver letto questo articolo saprai:
- Spiegare chi paga, di solito, quando sbaglia un agente AI o il chatbot di un'azienda
- Capire cosa coprono le nuove regole europee sui prodotti difettosi e cosa lasciano fuori
- Impostare un agente perché i suoi errori restino piccoli, e sapere a chi rivolgersi se ne capita uno
Scritto con AI dalle fonti primarie · verificato da un agente AI separato · controllato a campione dalla redazione · Come verifichiamo
In questa pagina
- Cosa ha deciso un tribunale quando il chatbot di un’azienda ha sbagliato?
- Un agente ha mai speso per errore i soldi di qualcuno?
- Cosa dicono le condizioni dei produttori?
- Cosa aggiungono le regole europee e italiane?
- Come fare perché gli errori di un agente restino piccoli?
- Cosa puoi fare se un agente ha sbagliato?
- Dove si ferma la risposta?
- Per continuare
- Domande frequenti
Oggi, di solito, paghi tu, cioè chi ha messo l’agente al lavoro. Un agente AI è un’intelligenza artificiale che clicca, scrive e compila moduli sui siti web al posto tuo, e le aziende che fanno ChatGPT, Claude, Copilot e Gemini scrivono che di quello che fa rispondi tu; Anthropic e Google nominano espressamente gli acquisti. Ci sono eccezioni. Un’azienda risponde di quello che ti dice il chatbot del suo sito. E per i prodotti messi in vendita dal 9 dicembre 2026 nuove regole europee ti permettono di chiedere i danni al produttore quando un software difettoso, AI compresa, ti ferisce o danneggia le tue cose o i tuoi dati. Se un errore ti costa dei soldi, chiama prima il negozio e la tua banca.
Questo sito è scritto con strumenti di intelligenza artificiale, tra cui Claude di Anthropic. Questa pagina usa solo quello che dicono i produttori, le autorità pubbliche e gli studi pubblicati, con i link. Le pagine citate sono state aperte il 15 novembre 2026.
Cosa ha deciso un tribunale quando il chatbot di un’azienda ha sbagliato?
Nel novembre 2022, dopo un lutto in famiglia, Jake Moffatt ha chiesto al chatbot del sito di Air Canada come funzionavano le tariffe ridotte che la compagnia offre a chi viaggia in questi casi. Il chatbot ha risposto che un biglietto già comprato si poteva presentare per avere la tariffa ridotta entro 90 giorni, anche dopo il viaggio. Non era vero: una pagina della stessa compagnia diceva che lo sconto non valeva più a viaggio concluso. Il passeggero ha portato Air Canada davanti al Civil Resolution Tribunal della Columbia Britannica, un tribunale canadese per le piccole controversie che lavora online.
Air Canada ha sostenuto di non poter rispondere di quello che diceva il chatbot. La decisione la definisce “un’argomentazione sorprendente” e risponde: “Dovrebbe essere ovvio per Air Canada che è responsabile di tutte le informazioni presenti sul suo sito. Non fa differenza se l’informazione viene da una pagina statica o da un chatbot” (traduzione nostra). Con la decisione Moffatt v. Air Canada, 2024 BCCRT 149, del 14 febbraio 2024, la compagnia è stata condannata a pagare 812,02 dollari canadesi: 650,88 di danni, più gli interessi e le spese del tribunale.
Il passeggero aveva conservato uno screenshot della risposta del chatbot. Un dettaglio da tenere presente: il caso riguarda un chatbot che ha dato un’informazione sbagliata, non un agente che ha fatto qualcosa al posto di una persona.
Un agente ha mai speso per errore i soldi di qualcuno?
Sì. A febbraio 2025 Geoffrey A. Fowler, che scrive di tecnologia per il Washington Post, ha raccontato come è andata con Operator, uno dei primi agenti di OpenAI (articolo ripubblicato dal New Zealand Herald). Gli aveva chiesto di trovare la dozzina di uova più economica da farsi consegnare a casa. Secondo il suo racconto l’agente le ha comprate con la sua carta di credito “senza la mia approvazione”: 31,43 dollari statunitensi, tra commissioni e mancia. OpenAI ha detto al giornale che stava cercando di capire “perché Operator a volte non invia conferme” e che stava introducendo “requisiti di conferma più severi” (traduzioni nostre). L’ordine è passato sulla sua carta, quindi il costo è ricaduto su di lui; l’articolo non dice se i soldi gli siano stati restituiti.
Cosa dicono le condizioni dei produttori?
Ecco quattro produttori di agenti che agiscono sui siti web, in ordine alfabetico:
| Produttore e agente | Chi è responsabile, con le parole del produttore | Prima di un acquisto |
|---|---|---|
| Anthropic, Claude in Chrome | “Rimani responsabile di tutte le azioni del browser intraprese da Claude eseguite per tuo conto”, e tra queste elenca “Acquisti o transazioni finanziarie” (pagina di assistenza) | “Claude chiede il permesso prima di accedere ai siti finanziari” |
| Google, Gemini in Chrome | “Sei responsabile delle azioni che Gemini esegue durante un’attività, inclusi errori e risultati imprevisti, ad esempio azioni di acquisto” (pagina di assistenza) | Può chiederti di prendere in mano l’attività per passaggi come “Finalizzare transazioni finanziarie” (stessa pagina) |
| Microsoft, Copilot | “Quando richiedi a Copilot di intraprendere azioni per tuo conto, la responsabilità di tali azioni e dei risultati o delle conseguenze che ne derivano ricade esclusivamente su di te” (condizioni per i privati, valide dal 18 agosto 2026) | “Copilot chiederà la tua attenzione e la tua supervisione per determinate azioni, come l’acquisto di un articolo” (pagina di assistenza) |
| OpenAI, ChatGPT | L’utente “è responsabile di tutte le attività che si verificano tramite il proprio account” (condizioni d’uso per l’Europa, aggiornate il 16 gennaio 2026) | Chiede in chat prima di azioni come “confermare una prenotazione o effettuare un pagamento” (traduzione nostra dalla pagina di assistenza in inglese) |
Microsoft aggiunge che quello che compri tramite Copilot “viene venduto e spedito da una terza parte”, non da Microsoft. Le condizioni sono la parte del contratto scritta dal produttore e non prendono il posto della legge del tuo Paese. Lo dicono anche le condizioni europee di OpenAI: “L’utente continua a beneficiare di tutte le tutele previste dalla normativa applicabile.”
Cosa aggiungono le regole europee e italiane?
Prodotti difettosi, AI compresa. Dal 1985 le regole europee fanno pagare il produttore quando un prodotto difettoso fa del male a qualcuno. La nuova direttiva (UE) 2024/2853 sulla responsabilità per danno da prodotti difettosi prende il loro posto e considera prodotto anche il software, e tra gli esempi cita i sistemi di intelligenza artificiale, che il software stia sul tuo dispositivo o funzioni via internet. I Paesi dell’Unione devono portarla nelle proprie leggi entro il 9 dicembre 2026. Si applica ai prodotti immessi sul mercato, cioè messi in vendita o in servizio, dopo l’8 dicembre 2026 (una data corretta il 7 maggio 2026); per i prodotti più vecchi valgono le regole precedenti.
Copre tre tipi di danno. La morte o le lesioni, compresi i danni alla salute psicologica riconosciuti dai medici. I danni alle tue cose, tranne il prodotto difettoso stesso e le cose usate solo per lavoro. E i dati distrutti o danneggiati, come le foto di famiglia, se non li usi per lavoro. Resta fuori quella che la direttiva chiama “mera perdita economica”, cioè i soldi persi senza che nessuno si sia fatto male e senza che niente si sia rotto: un ordine sbagliato non rientra. La richiesta di risarcimento va fatta al produttore oppure, se il produttore ha sede fuori dall’Unione, all’importatore o al rappresentante del produttore nell’Unione. Quando un caso è troppo tecnico da dimostrare, il giudice può presumere che il prodotto fosse difettoso, o che il difetto abbia causato il danno, se tu dimostri che è probabile. Hai tre anni di tempo da quando hai saputo, o avresti dovuto sapere, del danno, del difetto e di chi ne risponde.
Una proposta abbandonata. Nel 2022 la Commissione europea aveva proposto una direttiva separata, sulla responsabilità da intelligenza artificiale, per le richieste di risarcimento dei danni causati dall’AI. La proposta è stata ritirata e l’avviso è uscito nella Gazzetta ufficiale dell’Unione europea il 6 ottobre 2025.
Italia. In attuazione della legge italiana sull’intelligenza artificiale, la legge 132/2025, il governo ha adottato il decreto legislativo 160/2026, in vigore dal 30 settembre 2026. La sua parte civile, intitolata “Strumenti processuali civili per il risarcimento dei danni cagionati dall’utilizzo di sistemi di intelligenza artificiale”, rende più facile provare il danno subito usando un sistema di AI. Se porti “fatti ed elementi idonei a rendere verosimile la fondatezza della domanda”, cioè elementi che rendono credibile la tua richiesta, il giudice può ordinare all’altra parte di mostrare le prove di come ha funzionato il sistema di AI. Se il danno viene dalla violazione di una regola dell’AI Act europeo, il legame tra la violazione e il danno “è presunto, salvo prova contraria”. E l’altra parte non se la cava solo perché il suo sistema di AI rispettava le regole dell’AI Act. Il consumatore può anche fare causa davanti al giudice del luogo in cui vive. Su un altro fronte, il 28 ottobre 2026 il Consiglio dei ministri ha approvato in via definitiva il decreto che porta nella legge italiana le nuove regole europee sui prodotti difettosi. Secondo il dossier parlamentare sullo schema di decreto, il testo riscrive gli articoli da 114 a 127 del Codice del consumo.
Come fare perché gli errori di un agente restino piccoli?
- Dagli compiti piccoli, che puoi controllare. “Aggiungi questi cinque articoli al carrello e fermati prima del pagamento” è più sicuro di “fammi la spesa”.
- Lascia attive le conferme. Che cos’è un agente AI? riporta i nomi dei menu, agente per agente.
- Tieni la carta fuori dalla sua portata. Non salvare carte negli account dei negozi che l’agente usa e non scrivere mai numeri o codici della carta nella chat. Se l’app della tua banca ti permette di fissare un limite di spesa basso su una carta, usalo.
- Conserva le prove. Salva gli screenshot di quello che hai chiesto e di quello che ha fatto l’agente, e le email degli ordini. Nel caso Air Canada la prova del passeggero era proprio uno screenshot.
Cosa puoi fare se un agente ha sbagliato?
- Ferma l’agente e salva la chat, gli screenshot e le email dell’ordine.
- Contatta subito il negozio e chiedi di annullare l’ordine. Nell’Unione europea hai il diritto di recesso: per la maggior parte degli acquisti online puoi annullare il contratto entro 14 giorni dalla consegna “senza fornire alcuna giustificazione”, spiega La tua Europa, la guida ufficiale dell’Unione per i cittadini. Fanno eccezione, tra gli altri, biglietti di viaggio, alberghi, autonoleggi ed eventi prenotati per date precise, e i beni fatti su misura. Di solito le spese per rispedire il prodotto sono a carico tuo.
- Chiama la tua banca o la società che ha emesso la carta se il problema è il pagamento in sé. Quando una carta viene usata senza il tuo permesso, la Banca d’Italia dice che bisogna “avvertire subito il proprio istituto finanziario”. Negli Stati Uniti la Federal Trade Commission spiega come contestare per iscritto un addebito sulla carta di credito: la lettera deve arrivare a chi ha emesso la carta entro 60 giorni dall’invio del primo estratto conto con l’errore. Spiega che l’acquisto l’ha fatto un agente: le pagine ufficiali non dicono se la banca debba trattarlo come un pagamento che non hai autorizzato.
- Metti tutto per iscritto. Se scrivi un reclamo alla tua banca su un servizio di pagamento, dice la Banca d’Italia, la banca deve risponderti entro 15 giorni lavorativi. Se la risposta non ti soddisfa, puoi rivolgerti all’Arbitro Bancario Finanziario (ABF), che decide le liti tra clienti e banche senza passare dal tribunale.
- Se era una truffa, per esempio un finto negozio verso cui l’agente è stato mandato, segui Sono stato truffato: cosa fare nei primi 30 minuti.
Dove si ferma la risposta?
Il caso Air Canada è una sola decisione di un tribunale per piccole controversie, in una sola provincia del Canada, e riguarda un chatbot che ha dato informazioni. Le nuove regole europee sui prodotti difettosi lasciano fuori gli acquisti sbagliati e valgono solo per i prodotti immessi sul mercato dopo l’8 dicembre 2026. Se un produttore possa comunque rispondere di un agente difettoso in base alle norme generali del tuo Paese cambia da Paese a Paese: per una somma importante, chiedi a un’associazione di consumatori o a un avvocato.
Per continuare
- Che cos’è un agente AI?: cosa sanno fare gli agenti e le impostazioni che ti lasciano il controllo.
- Cosa può fare un agente AI per la mia attività?: gli agenti al lavoro, e cosa non lasciargli fare mai.
- Intelligenza artificiale: la guida completa: la guida completa all’AI di oggi, per chi parte da zero.
- Sono stato truffato: cosa fare nei primi 30 minuti: i primi passi se sono spariti dei soldi.
Domande frequenti
Se un agente AI compra la cosa sbagliata, posso riavere i soldi?
Spesso sì, ma dal negozio, non da chi produce l'AI. Nell'Unione europea puoi recedere dalla maggior parte degli acquisti online entro 14 giorni dalla consegna senza dare spiegazioni, con alcune eccezioni, come viaggi, alberghi ed eventi prenotati per date precise e i beni personalizzati. Contatta subito il negozio e, se il problema è il pagamento in sé, chiama la tua banca o la società che ha emesso la carta.
Un'azienda risponde di quello che dice il suo chatbot?
Nell'unica decisione citata in questa pagina, sì. Nel caso Moffatt v. Air Canada (2024) un tribunale canadese per le piccole controversie ha ritenuto la compagnia aerea responsabile delle informazioni sbagliate date dal chatbot del suo sito sulle tariffe per chi viaggia dopo un lutto in famiglia, e le ha ordinato di pagare 812,02 dollari canadesi. È una sola decisione, in una sola provincia del Canada, non una regola valida in ogni Paese.
Il produttore dell'AI risponde degli errori del suo agente?
Le condizioni dei produttori mettono la responsabilità su di te. Google scrive "Sei responsabile delle azioni che Gemini esegue durante un'attività, inclusi errori e risultati imprevisti, ad esempio azioni di acquisto"; le condizioni di Copilot di Microsoft e la pagina di assistenza di Anthropic su Claude in Chrome dicono più o meno lo stesso, e le condizioni di OpenAI ti rendono responsabile di tutte le attività del tuo account. Queste condizioni non prendono il posto della legge del Paese in cui vivi.
Che fine ha fatto la direttiva europea sulla responsabilità da intelligenza artificiale?
Era una proposta del 2022 per regole europee sulle richieste di risarcimento dei danni causati dall'AI. La Commissione europea l'ha ritirata, e il ritiro è stato pubblicato nella Gazzetta ufficiale dell'Unione europea il 6 ottobre 2025. Va avanti invece la nuova direttiva sulla responsabilità per danno da prodotti difettosi, che considera prodotti anche il software e i sistemi di AI, per i prodotti immessi sul mercato dopo l'8 dicembre 2026.
La nuova legge europea copre un'AI che cancella i miei file o le mie foto?
Per i prodotti immessi sul mercato dopo l'8 dicembre 2026, sì: la nuova direttiva sulla responsabilità per danno da prodotti difettosi copre i dati che un prodotto difettoso distrugge o danneggia, purché non li usi per lavoro. Copre anche le lesioni alla persona e i danni alle tue cose. Non copre i soldi persi senza che nulla sia stato danneggiato, come un acquisto sbagliato.
Argomenti: Chi risponde?, agenti AI, diritti dei consumatori, responsabilità, Italia