Da qualche parte, questa settimana, un avvocato incollerà una risposta generata dall’AI in un’email a un cliente senza rileggerla due volte.
Un database pubblico curato dal ricercatore giuridico Damien Charlotin conta, nel momento in cui scriviamo, 1.751 decisioni giudiziarie in tutto il mondo che coinvolgono materiale generato dall’AI inventato o distorto. Ognuna di quelle decisioni ha dovuto rispondere alla stessa domanda: quando la macchina sbaglia, chi ne risponde?
Diversi candidati, una sola firma
In uno studio legale, quando un errore dell’AI arriva a un cliente, i soggetti coinvolti sono tre: l’avvocato che ha usato lo strumento, lo studio per cui quell’avvocato lavora e il fornitore che lo ha sviluppato.
In un’azienda, entrano in gioco più soggetti e i confini tra i loro ruoli sono meno chiari. L’errore può nascere ovunque ci sia una licenza di AI: nell’ufficio legale, ma altrettanto facilmente nelle vendite, in finanza o nel customer care, dove si citano condizioni e si forniscono rassicurazioni che nessuno ha verificato. Verso l’esterno non cambia nulla, perché l’azienda risponde di tutto ciò che esce a suo nome. All’interno, invece, la domanda si sdoppia: la funzione che ha prodotto l’errore ne è responsabile e il general counsel eredita un nuovo tipo di esposizione: la responsabilità per il rischio legale generato da persone che non hanno mai pensato di stare svolgendo lavoro legale.
L’errore può verificarsi anche in entrata. Dati dei clienti incollati in uno strumento pubblico, un documento riservato usato come prompt, un nome che un’anonimizzazione superficiale non nasconde davvero: la protezione dei dati e il segreto professionale possono essere violati prima ancora che la macchina scriva una sola parola. Stessa domanda, un passo prima: chi ha fatto entrare i dati?
Il fornitore, in entrambi i mondi, è il più lontano dalle conseguenze, per costruzione. Contratti e termini di servizio lo spiegano chiaramente: il modello può sbagliare, la verifica spetta all’utente. La ripartizione sembra ordinata finché non viene messa alla prova: l’errore emerge mesi dopo, all’interno di un lavoro passato per molte mani. A quel punto la domanda si è già spostata da “cosa diceva la licenza” a “chi ha firmato”.
La questione assicurativa
Ordini professionali, istituzioni, convegni, obblighi di formazione continua e regolamentazione stanno convergendo tutti verso lo stesso punto: il responsabile resta un essere umano. La domanda successiva arriva da sola: serve un’assicurazione?
La domanda stessa rivela la difficoltà: è un rischio che gli assicuratori faticano a valutare e a prezzare.
Una polizza cyber o informatica non può semplicemente essere estesa fino a coprire questo rischio. Dall’esterno, un assicuratore non può sapere se un’organizzazione utilizza agenti autonomi o uno strumento di redazione supervisionato, come è strutturato il lavoro o dove si colloca davvero la revisione umana. Sarebbe come chiedergli di mettere un premio su una scatola nera che lavora dentro un’altra scatola nera.
Alla primavera del 2026, nessuna grande compagnia americana attiva nella responsabilità professionale forense ha depositato pubblicamente un’esclusione per l’AI nelle polizze destinate agli avvocati. Più di una dozzina ha invece pubblicato linee guida su come usare gli strumenti e solo sporadiche esclusioni ad hoc risultano in programmi minori. Gli avvocati esperti di coperture assicurative segnalano un rischio più insidioso di qualsiasi esclusione: quando un output non verificato arriva a un cliente, l’assicuratore può riqualificare il danno come un guasto tecnologico anziché come un errore di giudizio dell’avvocato, e spingere la richiesta di risarcimento fuori dalla polizza.
Riflessioni
Clienti e consumatori stanno imparando a porre le stesse domande a loro volta: “Come viene usata l’AI sulla mia pratica?”, “Da chi?”, “Sotto la supervisione di chi?”. Sono domande che richiedono risposte chiare e complete. E un’altra ancora, posta ancora troppo di rado: “I rischi legati all’uso dell’AI sono coperti da assicurazione?”.
Per questo motivo, ogni organizzazione che lascia che l’AI entri in contatto con il proprio lavoro legale, studio legale o azienda che sia, dovrebbe saper rispondere a cinque domande senza aprire un cassetto:
- Implementazione. Quali strumenti di AI sono in uso, per quali flussi di lavoro, entro quali limiti e quali log ne documentano l’utilizzo? Se nessuno è in grado di fornire un elenco aggiornato, l’adozione sta avvenendo per iniziativa dei singoli, un abbonamento personale alla volta.
- Alfabetizzazione. Chi è stato formato, su cosa, quanto di recente? Gli strumenti cambiano ogni trimestre; la sessione di formazione dell’anno scorso è archeologia.
- Policy. Cosa esiste per iscritto, e quando è stato aggiornato l’ultima volta? Una policy che vive in un cassetto regola il cassetto.
- Riservatezza. Cosa entra negli strumenti e cosa non dovrebbe entrarci mai? Dati personali, documenti coperti da segreto professionale, clienti riconoscibili dai soli fatti.
- Output. Chi legge e verifica i contenuti che escono, indipendentemente da come è stata prodotta la prima bozza? In uno studio legale, quella persona ha una firma. In un’azienda, quella persona spesso non esiste.
D’altra parte, non esiste alcuna standardizzazione. Ogni cliente pone le stesse domande in un formato diverso e ogni studio ricostruisce le risposte cliente per cliente, pratica per pratica. Finché non emergerà uno standard comune, un unico fascicolo di governance, scritto una volta e aggiornato spesso permetterà di rispondere con chiarezza senza dover ricostruire tutto da zero ogni volta.
La nostra opinione
I servizi professionali hanno sempre dato una risposta onesta all’interrogativo sulla responsabilità, attribuendo quest’ultima alla persona il cui nome compare sul lavoro. L’AI, però, moltiplica gli strumenti, gli intermediari e le carte. Quella risposta sopravviverà?
Chi risponde per la macchina nella vostra organizzazione? In Better Ipsum aiutiamo studi legali e team legali a gestire governance e strategia dell’AI. Contattateci se volete saperne di più.