In due righe
- Il bot risponde solo sulla base di conoscenza che gli hai dato tu, mai sulla sua conoscenza generica.
- Su prezzi, rimborsi, reclami, scadenze e termini legali non improvvisa: passa subito a una persona.
- Dopo due risposte inutili scala all'umano, e i log si rileggono ogni settimana.
- Dal 2 agosto 2026 il cliente deve sapere che sta parlando con una macchina: è legge.
Per evitare che l'AI dia risposte sbagliate ai clienti non si sistema il modello: si limita quello che può dire. Tre mosse. Prima, il bot risponde solo sulla base di conoscenza che gli hai dato tu, mai a memoria. Seconda, si traccia una linea dura sui temi che non può toccare, prezzi, rimborsi, scadenze, reclami, e lì si passa subito a una persona. Terza, si rileggono i log ogni settimana. Dal 2 agosto 2026 c'è anche un obbligo di legge: il cliente deve sapere che parla con una macchina.
Perché il chatbot sbaglia proprio quando risponde ai clienti
Prima di tutto il punto di partenza. Se non hai ancora chiaro come si introduce l'AI in azienda, parti da da dove partire con l'AI in azienda. Qui il problema è più specifico: davanti c'è un cliente, non un documento interno.
Un chatbot è un modello che genera la risposta più probabile, non la verità. Se non è ancorato ai dati della tua azienda, inventa un'allucinazione: una risposta che suona credibile ma non si basa sui fatti, inventata dal modello. Il cliente non può distinguere l'ipotesi dalla risposta verificata, e non deve farlo. Il motivo per cui il modello inventa è lo stesso che spieghiamo in perché l'AI inventa le risposte. La differenza, qui, è che l'errore finisce davanti a un cliente.
Il bot risponde solo su ciò che gli hai dato tu, mai a memoria
Il bot risponde solo sulla base di conoscenza che gli hai dato tu, mai sulla sua conoscenza generica non ancorata ai tuoi dati.
La base di conoscenza contiene le FAQ reali, il listino bloccato e le procedure che il tuo miglior operatore usa davvero. Il bot recupera la risposta da lì con una tecnica chiamata retrieval-augmented generation, abbreviata in RAG: il RAG è la tecnica che fa rispondere il modello solo su documenti aziendali, invece che sulla sua conoscenza generica.
Se la risposta non sta nella base, il bot non risponde e passa la conversazione a una persona. Non esiste una terza via in cui il bot prova a indovinare. Un bot che sa dire di non sapere vale più di un bot che inventa.
La lista di ciò che il bot non deve mai dire
Prima di attivare il bot, si disegna la lista dei temi che non può toccare. Sono i temi dove un errore diventa subito un danno: prezzi e offerte, rimborsi, reclami, scadenze, garanzie, termini legali. Per ognuno si decide se il bot può rispondere e con quale presidio. Queste regole sono i guardrail: i guardrail sono le regole e i confini che limitano ciò che il bot può dire o fare, per esempio i temi su cui deve tacere e passare la mano.
La tabella qui sotto è la griglia da riempire con i temi della tua azienda. Non va copiata e basta: va adattata.
| Ambito |
Il bot può rispondere? |
Presidio |
| Orari, indirizzo, contatti |
Sì, dati fissi |
Aggiornali quando cambiano |
| Stato ordine o riparazione |
Sì, solo se collegato al gestionale |
Se il dato non è disponibile, scala all'umano |
| Prezzi e offerte |
No (solo listino bloccato, mai sconti) |
Ogni richiesta di prezzo scala all'umano |
| Reclami e rimborsi |
No |
Scala subito a una persona |
| Scadenze, garanzie, termini legali |
No |
Scala subito, zero improvvisazione |
| Consigli sul prodotto |
Sì, solo dalla base di conoscenza |
Revisione umana se la risposta non è nella base |
Due risposte senza soluzione, e si passa a una persona
La regola dell'escalation è semplice: dopo due risposte che non risolvono, il bot non insiste e passa a un operatore, senza aspettare che sia il cliente a chiederlo. L'escalation è il passaggio automatico della conversazione a un operatore umano quando il bot non può o non deve rispondere.
Un bot che insiste fa più danni di uno che si arrende in fretta. Il cliente che si sente preso in giro non compra, e racconta. Se la conversazione si impantana dentro un'AI, perdere il filo è peggio che essere passati a una persona. Il confine è lo stesso che si vede in automatizzare l'assistenza clienti senza far scappare i clienti: il fine non è sostituire le persone, ma togliere le domande ripetitive.
Esempio lavorato: un'officina con un bot su WhatsApp
Facciamo un conto su un'azienda tipo: un'officina con sei dipendenti e ottocentomila euro di fatturato. Mettiamo che riceva quaranta richieste a settimana su WhatsApp, tra orari, stato delle riparazioni e richieste di preventivi. Con la base di conoscenza, il bot ne chiude da solo il sessanta per cento, cioè ventiquattro, e le altre sedici scalano a una persona. Il bot non parla mai di prezzi oltre il listino bloccato e non promette tempi di consegna.
Senza presidio, ipotizziamo un errore grave ogni cinquecento conversazioni. Con quaranta richieste a settimana, sono circa centosettanta conversazioni al mese: un caso ogni tre mesi. Ogni caso significa due o tre ore di gestione del reclamo e il rischio concreto di perdere un cliente. La revisione dei log costa trenta minuti a settimana su un campione di venti conversazioni, cioè due ore al mese. In tre mesi la revisione costa sei ore. Il singolo errore evitato vale almeno altrettanto in tempo, ma la parte che pesa davvero è il cliente che se ne va: un cliente perso vale più di sei ore.
Lo strumento
Delera Agent AI costruisce agenti su misura sui processi che oggi ti portano via ore ogni settimana.
Scopri Delera Agent AI
Il cliente deve sapere che parla con una macchina: dal 2 agosto 2026 è legge
Dal 2 agosto 2026 l'articolo 50 dell'AI Act impone a chi progetta un chatbot o un assistente vocale di far sì che la persona sappia, fin dal primo contatto, che non sta parlando con un operatore umano. L'obbligo, al comma 1, grava sul fornitore del sistema, non su chi lo utilizza. Il deployer è chi utilizza un sistema di intelligenza artificiale nei propri processi aziendali, la condizione in cui si trova la maggior parte delle PMI.
Chi mette il bot davanti ai clienti ha in pratica un controllo da fare: il sistema che ha scelto deve dichiarare subito di essere una macchina. Non è cortesia: è trasparenza obbligata a monte. Per capire quali obblighi restano in capo a te come azienda, il punto di partenza è cosa prevede l'AI Act per la tua impresa.
Il caso Air Canada: quanto costa una risposta sbagliata
Nel 2024 un chatbot di Air Canada promise a un cliente uno sconto che non esisteva. Jake Moffatt comprò a prezzo pieno, poi fece causa. Il tribunale civile della British Columbia stabilì che l'azienda è responsabile di tutte le informazioni sul suo sito, chatbot compreso, e che il cliente non era tenuto a fidarsi più delle pagine statiche che del bot.
Il risarcimento fu di 650,88 dollari canadesi, più 36,14 di interessi pre-sentenza e 125 di spese. Poco più di ottocento dollari, numeri piccoli per una compagnia aerea. Il costo vero non è quel risarcimento: è la regola che il tribunale ha messo nero su bianco. Tutto ciò che il bot dice, lo dici tu. Non si può sostenere che il chatbot ha sbagliato da solo.
Rileggi i log ogni settimana, e sappi quando non mettere l'AI davanti ai clienti
Il presidio è un'abitudine, non un progetto da una volta. Ogni settimana prendi un campione di conversazioni, cerca le risposte che il bot non doveva dare e correggi la base di conoscenza. Non serve leggere tutto: venti conversazioni a campione bastano per vedere se il bot sta uscendo dai confini. Senza questo controllo, l'errore lo scopri quando te lo segnala un cliente arrabbiato.
C'è anche un caso in cui l'AI davanti ai clienti non va proprio messa: quando l'offerta cambia spesso, oppure quando nessuno in azienda ha il tempo di scrivere e aggiornare la base di conoscenza. Un bot non aggiornato è più pericoloso di nessun bot. Se non puoi garantire base di conoscenza e revisione settimanale, meglio non partire.
Il primo passo, domani mattina
Prendi la griglia della tabella e riempila con i temi della tua azienda. Poi scrivi la base di conoscenza partendo dalle dieci domande che ricevi più spesso. Se il bot non può dare una risposta da lì, deve passare la mano. Questo non richiede di comprare niente: richiede un'ora di disciplina.
Domande frequenti
L’AI può sostituire del tutto chi risponde ai clienti?
No. Gestisce bene le domande ripetitive, ma sui temi delicati deve passare la mano a una persona. Il presidio giusto è un bot che risolve le FAQ e scala tutto il resto, non un bot lasciato solo a promettere. Il caso Air Canada è la prova di cosa succede quando non c’è una persona nel mezzo.
Cosa rischio se il chatbot dice una cosa sbagliata a un cliente?
Rispondi tu, non il bot. Il tribunale del caso Air Canada ha stabilito che l’azienda è responsabile di tutte le informazioni sul suo sito, chatbot compreso. Un errore può costare un risarcimento, ma più spesso costa il cliente: chi riceve una risposta sbagliata cambia fornitore o parla male di te.
Devo dire al cliente che sta parlando con una macchina?
Sì. Dal 2 agosto 2026 l’articolo 50 dell’AI Act lo impone: chi progetta chatbot deve far sì che la persona sappia, fin dal primo contatto, che non sta parlando con un operatore umano. Non è un dettaglio di cortesia, è un obbligo.
Come faccio ad accorgermi che il bot sta sbagliando?
Rileggi i log. Ogni settimana prendi un campione di conversazioni, cerca le risposte che il bot non doveva dare e correggi la base di conoscenza. Senza questo controllo settimanale, scopri l’errore solo quando te lo segnala un cliente arrabbiato.
Meglio un chatbot gratuito generico o uno configurato sulla mia azienda?
Sempre uno configurato sui tuoi dati. Un bot generico risponde a memoria e inventa con sicurezza. Il valore non è nel software, è nella base di conoscenza: le risposte vere che il tuo miglior operatore dà ai clienti. Senza quella, nessun modello è sicuro.
Delera CRM
Delera Agent AI
UmanValue
PMI Speed Test