Avvocati vs. IA: L’ICAM blocca i chatbot legali per tutelare la professione?

L’Illustre Collegio degli Avvocati di Madrid (ICAM) ha presentato al Congresso una proposta di riforma del Codice Penale volta a regolamentare l’uso dell’intelligenza artificiale (IA) nell’ambito della consulenza legale. L’iniziativa mira a contrastare il fenomeno dell'”intrusione digitale” nel settore giuridico, sollevando interrogativi cruciali sull’automazione, la scalabilità e la trasformazione digitale delle professioni legali.

## La Proposta dell’ICAM: Un Argine all’Intrusione Digitale

L’ICAM propone di aggiornare l’articolo 403 del Codice Penale, relativo al reato di esercizio abusivo della professione, per includere espressamente le nuove forme di “esercizio abusivo” derivanti dall’utilizzo di piattaforme, chatbot e sistemi automatizzati che offrono consulenza legale senza la supervisione diretta ed efficace di un professionista abilitato. Il cuore della questione risiede nella crescente capacità di questi sistemi di simulare l’orientamento legale, potenzialmente sostituendo il ruolo del professionista umano e sfumando i confini tra informazione generale e consulenza giuridica qualificata.

Il decano dell’ICAM, Eugenio Ribón, ha sottolineato come la trasformazione digitale abbia reso possibile l’erogazione di servizi automatizzati che simulano processi di consulenza in ambiti professionalmente riservati, generando una “desintermediazione” del rapporto tra professionista e cliente. In altre parole, non si tratta più semplicemente di accedere a informazioni legali, ma di una vera e propria sostituzione del criterio professionale umano.

## I Rischi Evidenziati dall’ICAM

L’ICAM mette in guardia sui rischi derivanti dall’utilizzo di sistemi automatizzati per la consulenza legale, evidenziando la possibilità che i cittadini prendano decisioni importanti (come la firma di contratti, la presentazione di ricorsi amministrativi o l’accettazione di accordi) basandosi su risposte automatizzate prive di deontologia e responsabilità professionale. Inoltre, i modelli generativi di IA possono incorrere in imprecisioni ed errori difficili da individuare per l’utente medio. La proposta di riforma legislativa dell’ICAM si articola su tre assi principali:

1. Focalizzazione sul commercializzatore/operatore, non sull’utente: Si propone di punire, con le stesse pene previste per l’esercizio abusivo della professione, chi progetta, commercializza, offre o pubblicizza un sistema automatizzato che genera raccomandazioni, pareri, strategie o documenti propri di una professione regolamentata senza l’intervento diretto ed efficace di un professionista abilitato.
2. Necessità di un professionista coinvolto nel sistema: La proposta prevede che “ci sia sempre un professionista coinvolto nel sistema” per garantire la validazione umana dei servizi e prevenire l’impunità.
3. Salvaguardia degli usi leciti della tecnologia: Sono esclusi dalla proposta la diffusione di informazioni generali non personalizzate, gli strumenti di supporto interno utilizzati dai professionisti sotto la loro direzione e i sistemi con supervisione umana professionale diretta ed efficace, con identificazione del professionista responsabile.
## L’Urgente Necessità di un Intervento Legislativo

L’ICAM sollecita il Congresso a considerare la proposta di riforma senza attendere che il problema diventi un’emergenza sociale, sottolineando come la velocità di diffusione di questi servizi possa moltiplicare i danni prima che siano visibili. L’ICAM riconosce il potenziale dell’IA come strumento per migliorare l’efficienza e la qualità del lavoro legale, ma ribadisce la necessità di accompagnare il progresso tecnologico con adeguate garanzie.

L’ICAM ha ricordato che i modelli di linguaggio presentano una “vocazione obbligata di risposta” che può derivare in inesattezze e false aspettative di legalità; e che, a differenza del software tradizionale, l’IA generativa manca di un meccanismo equivalente di revisione e correzione, potendo presentare “allucinazioni” o incongruenze che possono avere ripercussioni significative sull’interpretazione normativa e l’applicazione legale.

## Verso un Equilibrio tra Innovazione e Tutela del Cittadino

La proposta dell’ICAM rappresenta un tentativo di bilanciare l’innovazione tecnologica con la tutela dei diritti e degli interessi dei cittadini. È essenziale affrontare una questione: come strutturare una legislazione capace non solo di favorire un uso *sostenibile dell’intelligenza artificiale nel campo giuridico ma anche di mantenere sempre salda la supervisione da parte degli esseri umani, senza mai trascurare il necessario principio della responsabilità professionale.
All’interno del panorama attuale caratterizzato da continui sviluppi tecnologici, urge che le autorità legislative intraprendano misure concrete per sanare le discrepanze normative esistenti ed evitare i potenziali pericoli connessi all’impiego indiscriminato dei sistemi automatizzati nei settori sensibili quali quello della consulenza legale. In questa ottica si inserisce perfettamente l’iniziativa proposta dall’ICAM, che segna un momento decisivo nella riflessione circa il destino delle figure professionali in ambito giuridico nonché sull’impatto strutturante delle innovazioni AI sulla nostra comunità.
Riguardo al fenomeno dell’automazione nei servizi giuridici, ciò implica chiaramente impiegare avanzate soluzioni tecnologiche destinate ad assumere funzioni normalmente assegnate ai professionisti del diritto. Nell’ambito specifico della consulenza giuridica tale automazione assume forme ben definite tramite strumenti come chatbot o sistemi informatici intelligenti dedicati alla formulazione d’informazioni o suggerimenti nell’area legale. Un punto chiave riguardo a questo aspetto è riconoscere come tali processi possano sensibilmente migliorare sia l’efficienza sia la diffusibilità dei servizi offerti agli utenti finali, facilitando così l’accesso a una clientela più ampia rispetto al passato. Un aspetto complesso inerente all’automazione, alla crescita della produttività e alla digitalizzazione nel contesto giuridico evidenzia come l’integrazione dell’intelligenza artificiale (IA) imponga una valutazione scrupolosa delle sue connotazioni etiche e normative. Inoltre, si manifesta la cruciale necessità di elaborare criteri rigorosi ed elenchi di regole utili a preservare la qualità dei servizi forniti attraverso processi automatizzati. Ciò conduce a una constatazione inevitabile: sebbene le potenzialità offerte dall’IA possano radicalmente ristrutturare il panorama legale contemporaneo, non si può prescindere dall’adottare approcci improntati a principi fondamentali quali responsabilità, diligenza verso i diritti civili e accessibilità per tutti*.