La Cina avrebbe progettato un magistrato robot capace di prendere decisioni di natura giuridica sui singoli cittadini, accusandoli di reati e proponendone l’incarcerazione. In alcuni casi, persino predicendoli.
Il tema dell’intelligenza artificiale è uno dei più scottanti della società contemporanea, e tanti si interrogano costantemente su quali possano essere i limiti e le applicazioni di questa tecnologia dirompente ma anche, sotto molti aspetti, sconvolgente.
I risvolti etici e sociali implicati nelle potenzialità dell’intelligenza artificiale infatti fanno pensare alla pericolosità di un’eventuale uso delle macchine in settori ad alta delicatezza come, ad esempio, quello della giustizia, attraverso cui si veicola la libertà o la negazione della stessa per ogni cittadino.
In Cina, tutto questo non riguarda il dibattito su un ipotetico futuro a tratti irrealistico, ma al contrario è già parte della realtà quotidiana. Secondo quanto riportato dal South China Morning Post, a Shanghai è stata progettato un robot che è capace di accusare le persone di avere violato la legge, e di conseguenza di proporne la relativa incarcerazione.
Dopo il controverso sistema del credito sociale, dove attraverso una tessera digitale il governo controlla in maniera estremamente capillare ogni cittadino al punto da negargli alcune delle proprie scelte quotidiane in base a delle classifiche sociali, determinate dal rispetto o meno della legge o di alcuni standard di etica sociale, arriva quindi la macchina che funge da magistrato.
LEGGI ANCHE: Cina, vietati i tatuaggi ai calciatori della nazionale: l’ordine è di “rimuoverli”
Uno strumento che fa pensare senza dubbio a un elemento di un qualche film di fantascienza. Al momento, pare che il software sia stato programmato per riconoscere solamente otto crimini. Tra queste, le frodi effettuate attraverso carte di credito, la promozione di gioco d’azzardo, la guida pericolosa, furti, lesioni intenzionali, persino litigi.
Il robot presenterebbe inoltre tre abilità, che sono quelle di valutare le prove, i presupposti per l’arresto e persino la pericolosità di un sospettato. Insomma, sarebbe in grado di agire non solamente in flagranza di reato ma persino tentando di anticiparlo.
Un domani, però, se la macchina fosse effettivamente in funzione come il quotidiano cinese afferma, le applicazioni potrebbero aumentare a dismisura, come anche le implicazioni morali problematiche che ne farebbero seguito. Su cui l’Occidente, a differenza della Cina, si interroga.
La capacità di predizione dei reati potrebbe ad esempio immaginare, senza grandi sforzi intellettivi, l’utilizzo dei big data connessi alla profilazione degli utenti, o in questo caso dei cittadini. Uno scenario da Grande Fratello degno dei peggiori incubi, che sarebbe auspicabile scongiurare.
Lo strumento sarebbe stato progettato nientemeno che dalla Procura del popolo di Shanghai Pudong, testata su più di diciassettemila casi tra il 2015 e il 2020. I media cinesi riportano che i dati mostrerebbero un margine di errore bassissimo, per una precisione superiore al 97 per cento.
LEGGI ANCHE: Green Pass, nasce il microchip per averlo sempre sottopelle
L’unico limite che in questo caso verrebbe applicato alla macchina, ha spiegato Post Shi Yong, direttore del laboratorio di gestione dei big data dell’Accademia cinese delle scienze e capo del progetto, è quello di non partecipare al processo decisionale sulla condanna, lasciando la decisione finale al giudice umano. In questo caso, del governo cinese.