Page 17 - Marzia Gaia Marzano - Intelligenza artificiale e decisione penale: quali gli scenari possibili? - IANUS: Diritto e Finanza - Quaderni 2023

IANUS - Quaderni 2023 ISSN 1974-9805

dati processati, i quali sono alla base dell’output restituito.
Infine, la Carta etica sottolinea la necessità di creare le condizioni per
armonizzare i dati allo scopo di gettare le basi affinché siano sviluppati sistemi di
IA da impiegare in fase decisoria che non risentano di pregiudizi propri di chi li
programma.
In definitiva, l’approccio “etico” che l’Unione europea ha assunto rispetto allo
sviluppo e alla diffusione dei sistemi di IA consente di scongiurare gran parte dei
rischi esposti nel paragrafo precedente e ciò anche perché è accompagnato da un
atteggiamento estremamente cauto rispetto all’impiego di tali strumenti in ambito
giudiziario.
Invero, dalla lettura dell’Introduzione e dell’appendice I alla Carta etica
emerge il ripudio di un approccio basato sull’utilizzo dell’IA a tutti i costi, in
special modo allorquando entra in gioco la sanzione penale. Ciò, pertanto,
consente di affermare che le regole appena enunciate non saranno relegate a mera
dichiarazione di intenti, ma orienteranno in maniera effettiva lo sviluppo di
sistemi di giustizia predittiva all’interno del processo (anche penale),
eventualmente impedendone l’utilizzo laddove ciò dovesse comportare il rischio
di discriminazioni basate su dati sensibili, dovesse mettere in discussione le
garanzie previste in materia di equo processo ovvero si dovesse porre in contrasto
53
con le funzioni della pena .
Quanto appena affermato sull’atteggiamento assunto dall’Unione europea
rispetto all’impiego dell’IA trova conferma nella proposta di regolamento volta
ad individuare delle regole armonizzate sull’Intelligenza Artificiale ed il cui testo
sarà destinato ad integrare la normativa già esistente . Non si tratta di una
54
proposta specificamente dedicata al tema dell’impiego dei sistemi di IA in ambito
giudiziario; tuttavia essa permette di ricavare talune informazioni utili anche in
tale settore.
In particolare, la proposta in esame adotta un approccio basato sul rischio,
differenziando tra gli utilizzi dell’IA che creano un rischio inaccettabile, quelli
che creano un rischio alto e quelli che creano un rischio basso o minimo.
All’interno di questa classificazione i sistemi di giustizia predittiva dovrebbero
essere collocati nell’ambito dei sistemi ad alto rischio , sicché il loro utilizzo –
55
pur non essendo astrattamente illecito - dovrà essere subordinato al rispetto di
requisiti obbligatori nonché ad una valutazione di conformità.
È interessante notare che rispetto all’impiego dell’IA in fase decisoria, la
proposta di regolamento – pur collocandosi nel solco del sentiero già tracciato
dalla Carta etica del 2018 - sembra fare alcuni passi avanti in quanto, oltre a

53 In tal senso si veda l’appendice I, pp. 34 e ss.
54 Cfr. Proposta di Regolamento del Parlamento Europeo e del Consiglio che stabilisce regole
armonizzate sull’intelligenza artificiale (legge sull’intelligenza artificiale) e modifica di alcuni atti
legislativi dell’Unione, 21 aprile 2021, COM(2021) 206 final reperibile al seguente link: https://eur-
lex.europa.eu/legal-content/IT/TXT/?uri=CELEX%3A52021PC0206.
55 Cfr. Considerando 40) della proposta di Regolamento.

139