di Carlo Parenti · L’intelligenza artificiale è oggi una minaccia alla sopravvivenza dell’umanità paragonabile a quella che è stata la bomba atomica nel secolo scorso. È l’allarme lanciato sul Guardian da Stuart Russell, fondatore del Center for Human Compatible Artificial Intelligence dell’Università della California, Berkeley. Secondo Russell –come spiega Elena Tebano su Prima Ora Il Punto | La newsletter del Corriere della Sera-la maggior parte degli esperti crede che già in questo secolo verranno sviluppate «macchine più intelligenti degli esseri umani» e che proprio per questo servano «trattati internazionali» per regolarle. Per Russell, se chiedessimo a un’intelligenza artificiale super intelligente di trovare il prima possibile una cura per il cancro, «probabilmente troverebbe il modo di indurre tumori in tutta la popolazione umana, in modo da poter eseguire milioni di esperimenti in parallelo, usando tutti noi come cavie». «E questo perché questa è la soluzione all’obiettivo che gli abbiamo dato; abbiamo solo dimenticato di specificare che non puoi usare gli umani come cavie e non puoi usare l’intero Pil del mondo per eseguire i tuoi esperimenti e non puoi fare questo e non puoi fare quello». In altre parole, l’intelligenza artificiale ragiona in termini di efficacia dei mezzi per raggiungere un fine, senza valutare la «bontà»
Ci sono esempio più attuali di come l’intelligenza artificiale si stia già rivelando pericolosa. È il caso dei social media: «Gli algoritmi che scelgono ciò che la gente legge e guarda, hanno una quantità enorme di controllo sulla nostra percezione cognitiva» dice Russell. Questi algoritmi, osserva La Tebano, hanno favorito a lungo contenuti divisivi perché essi trattengono di più gli utenti sulle loro piattaforme, e così facendo hanno aumentato la conflittualità delle relazioni sociali, non solo online. Infine c’è l’uso militare dell’intelligenza artificiale, che oggi non è regolato: permetterà di costruire armi anti-uomo così letali da portare allo sterminio di massa. (vedi)
Sulle potenzialità e i rischi delle nuove tecnologie si è espresso Papa Francesco in un discorso del 28 febbraio 2020 indirizzato ai partecipanti alla plenaria della Pontificia Accademia della Vita. Ne traggo i passaggi fondamentali.
Per il Papa siamo di fronte a «uno dei cambiamenti più importanti che caratterizzano il mondo di oggi. Anzi, potremmo dire che la “galassia digitale”, e in particolare la cosiddetta “intelligenza artificiale”, si trova proprio al cuore del cambiamento d’epoca che stiamo attraversando. L’innovazione digitale, infatti, tocca tutti gli aspetti della vita, sia personali sia sociali. Essa incide sul nostro modo di comprendere il mondo e anche noi stessi. È sempre più presente nell’attività e perfino nelle decisioni umane, e così sta cambiando il modo in cui pensiamo e agiamo. Le decisioni, anche le più importanti come quelle in ambito medico, economico o sociale, sono oggi frutto di volere umano e di una serie di contributi algoritmici. L’atto personale viene a trovarsi al punto di convergenza tra l’apporto propriamente umano e il calcolo automatico, cosicché risulta sempre più complesso comprenderne l’oggetto, prevederne gli effetti, definirne le responsabilità.»
«Sul piano personale, l’epoca digitale cambia la percezione dello spazio, del tempo e del corpo. Infonde un senso di espansione di sé che sembra non incontrare più limiti e l’omologazione si afferma come criterio prevalente di aggregazione: riconoscere e apprezzare la differenza diventa sempre più difficile. Sul piano socio-economico, gli utenti sono spesso ridotti a “consumatori”, asserviti a interessi privati concentrati nelle mani di pochi. Dalle tracce digitali disseminate in internet, gli algoritmi estraggono dati che consentono di controllare abitudini mentali e relazionali, per fini commerciali o politici, spesso a nostra insaputa. Questa asimmetria, per cui alcuni pochi sanno tutto di noi, mentre noi non sappiamo nulla di loro, intorpidisce il pensiero critico e l’esercizio consapevole della libertà. Le disuguaglianze si amplificano a dismisura, la conoscenza e la ricchezza si accumulano in poche mani, con gravi rischi per le società democratiche. Questi pericoli non devono però nasconderci le grandi potenzialità che le nuove tecnologie ci offrono. Siamo davanti a un dono di Dio, cioè a una risorsa che può portare frutti di bene.»
«Le scienze biologiche si avvalgono sempre più largamente dei dispositivi resi disponibili dalla “intelligenza artificiale”. Questo sviluppo induce mutazioni profonde nel modo di interpretare e gestire gli esseri viventi e le caratteristiche proprie della vita umana, che è nostro impegno tutelare e promuovere, non solo nella sua costitutiva dimensione biologica, ma anche nella sua irriducibile qualità biografica. La correlazione e l’integrazione fra la vita vivente e la vita vissuta non possono essere rimosse a vantaggio di un semplice calcolo ideologico delle prestazioni funzionali e dei costi sostenibili. Gli interrogativi etici che emergono dal modo in cui i nuovi dispositivi possono – appunto – “disporre” della nascita e del destino delle persone richiedono un rinnovato impegno per la qualità umana dell’intera storia comunitaria della vita.»
«Alla luce di quanto detto, non basta la semplice educazione all’uso corretto delle nuove tecnologie: non sono infatti strumenti “neutrali”, perché, come abbiamo visto, plasmano il mondo e impegnano le coscienze sul piano dei valori. C’è bisogno di un’azione educativa più ampia. […] Occorre creare corpi sociali intermedi che assicurino rappresentanza alla sensibilità etica degli utilizzatori e degli educatori.»
«Sono molte le competenze che intervengono nel processo di elaborazione degli apparati tecnologici (ricerca, progettazione, produzione, distribuzione, utilizzo individuale e collettivo), e ognuna comporta una specifica responsabilità. Si intravede una nuova frontiera che potremmo chiamare “algor-etica” (cfr Discorso ai partecipanti al Congresso “Child Dignity in the Digital World”, 14 novembre 2019. Essa intende assicurare una verifica competente e condivisa dei processi secondo cui si integrano i rapporti tra gli esseri umani e le macchine nella nostra era. Nella comune ricerca di questi obiettivi, i principi della Dottrina Sociale della Chiesa offrono un contributo decisivo: dignità della persona, giustizia, sussidiarietà e solidarietà. Essi esprimono l’impegno di mettersi al servizio di ogni persona nella sua integralità e di tutte le persone, senza discriminazioni né esclusioni. Ma la complessità del mondo tecnologico ci chiede una elaborazione etica più articolata, per rendere questo impegno realmente incisivo.»
«L’ “algor-etica” potrà essere un ponte per far sì che i principi si inscrivano concretamente nelle tecnologie digitali, attraverso un effettivo dialogo transdisciplinare. Inoltre, nell’incontro tra diverse visioni del mondo, i diritti umani costituiscono un importante punto di convergenza per la ricerca di un terreno comune. Nel momento presente, peraltro, sembra necessaria una riflessione aggiornata sui diritti e i doveri in questo ambito. Infatti, la profondità e l’accelerazione delle trasformazioni dell’era digitale sollevano inattese problematiche, che impongono nuove condizioni all’ethos individuale e collettivo. Certamente la Call che oggi avete firmato è un passo importante in questa direzione, con le tre fondamentali coordinate su cui camminare: l’etica, l’educazione e il diritto.»
Sulla base delle riflessioni papali in tema di IA (Intelligenza Artificiale), il Vaticano ha istituito una Fondazione che si occuperà di intelligenza artificiale e delle implicazioni etiche ad essa connesse. Accogliendo la richiesta del presidente della Pontificia Accademia per la Vita monsignor Vincenzo Paglia, papa Francesco – con un rescritto ‘ex audientia’ firmato il 16 aprile 2021 dal cardinale segretario di Stato Pietro Parolin – ha istituito infatti la Fondazione ‘renAIssance’, con personalità canonica giuridica pubblica, avente sede nello Stato della Città del Vaticano, presso la stessa Accademia per la Vita. (vedi)
