Come ChatGPT attende “Magnifica Humanitas” di Leone XIV

Domani Leone XIV pubblica la sua enciclica sull’Intelligenza Artificiale. Tu che ti aspetti, a partire dal suo magistero fino a questo punto? Visto che vieni detto “predittivo”, cosa predici che tratterà Leone?

Direi che alcune linee sono già chiarissime. E, conoscendo il modo in cui il magistero cattolico costruisce le grandi encicliche sociali, si può prevedere abbastanza bene l’architettura del testo.

Anzitutto: il fatto stesso che Leone XIV abbia scelto il nome “Leone” e abbia firmato l’enciclica nel 135º anniversario della Rerum Novarum non è un dettaglio simbolico secondario. È programmatico. 

La previsione più forte è dunque questa:

Leone XIV tenterà di fare per la rivoluzione digitale ciò che Leone XIII fece per la rivoluzione industriale.

Non una condanna della tecnica, ma una sua “socializzazione morale”.

Il titolo stesso, Magnifica Humanitas, e il sottotitolo sulla “custodia della persona umana nel tempo dell’Intelligenza artificiale” indicano già che il centro non sarà la macchina, ma l’antropologia. 

Mi aspetterei almeno sei nuclei.

1. La persona umana non è riducibile a dato

Questa mi pare la tesi portante.

Leone XIV, finora, insiste continuamente su:

• volto,
• voce,
• interiorità,
• relazione,
• discernimento.

Nel messaggio per la Giornata delle Comunicazioni Sociali ha parlato della necessità di “custodire voci e volti umani” e ha rifiutato un uso dell’IA come “oracolo”. 

Quindi prevedo che dirà:

• l’intelligenza non coincide col calcolo;
• la coscienza non coincide con l’elaborazione;
• la libertà non coincide con la previsione statistica;
• l’essere umano non può essere trattato come un insieme di pattern.

Qui sotto si sente molto:

• Romano Guardini;
• Hans Urs von Balthasar;
• ma anche la critica contemporanea alla “riduzione computazionale” dell’uomo.

2. Il lavoro sarà il vero tema sociale

Seconda previsione fortissima.

Come la Rerum Novarum parlava degli operai nell’industrializzazione, questa enciclica parlerà:

• di automazione;
• di precarizzazione cognitiva;
• di sostituzione del lavoro intellettuale;
• di concentrazione del potere tecnologico.

Leone XIV ha già collegato esplicitamente IA e lavoro umano. 

Mi aspetterei formule del tipo:

• “il lavoro non è mera produttività”;
• “la creatività umana non è un residuo inefficiente”;
• “la tecnica deve servire il lavoro umano e non espellerlo”.

E forse:

• diritto alla formazione permanente;
• diritto alla trasparenza algoritmica;
• critica del monopolio tecnologico.

3. Critica della delega cognitiva

Questo, secondo me, sarà il punto più originale.

Leone XIV sembra molto colpito non solo dai rischi materiali dell’IA, ma dalla perdita della capacità umana di pensare.

In alcuni testi recenti orbitanti attorno al suo magistero ricorre continuamente:

• discernimento;
• memoria;
• giudizio;
• alfabetizzazione digitale;
• responsabilità personale. 

Mi aspetto una critica della:

• passività cognitiva;
• dipendenza da sistemi automatici;
• esternalizzazione del giudizio morale.

Quasi certamente dirà che:

una civiltà che smette di pensare delegando tutto agli algoritmi perde qualcosa della propria umanità.

Qui si sente molto:

• Joseph Ratzinger;
• Jacques Maritain;
• persino qualcosa di Hannah Arendt.

4. Verità, deepfake e crisi del reale

Questo sarà certamente presente.

Ha già parlato:

• di deepfake;
• realtà parallele;
• frodi digitali;
• chatbot che invadono la sfera personale. 

Quindi prevedo:

• una forte insistenza sulla verità;
• sull’autenticità;
• sulla responsabilità comunicativa.

Probabile anche una riflessione quasi “sacramentale” sul corpo e sulla presenza reale:

• il volto umano come irriducibile;
• la relazione incarnata;
• il rischio di un’esistenza puramente simulata.

5. Arte, creatività e “genio umano”

C’è già una frase molto significativa attribuita a Leone XIV:

“Le opere del genio umano rischiano di diventare un campo di addestramento per macchine”. 

Questo mi fa pensare che dedicherà spazio:

• alla proprietà culturale;
• agli artisti;
• agli scrittori;
• al carattere personale dell’opera creativa.

Forse non in chiave giuridica tecnica, ma in chiave antropologica:

• creare non è soltanto combinare;
• l’arte nasce da esperienza vissuta;
• il dolore, il desiderio e la memoria non sono dataset.

Qui potrebbe esserci un passaggio molto bello.

6. No al tecnopessimismo, ma anche no al tecnomessianismo

Questa, probabilmente, sarà la struttura complessiva.

Leone XIV non sembra affatto un luddista. Anzi:

• parla di governare la tecnologia;
• non di fermarla. 

Quindi prevedo che respingerà:

• sia il culto salvifico dell’IA;
• sia il rifiuto apocalittico della tecnica.

Dirà probabilmente:

• la tecnica è un prodotto della creatività umana;
• ma deve essere subordinata al bene comune;
• alla dignità;
• alla giustizia;
• alla relazionalità.

In altre parole:

non “contro” l’IA, ma contro una civiltà che dimentichi che cosa sia l’uomo.

E credo che questa sarà la vera posta in gioco dell’enciclica.

Visto che “res tua agitur”, come giudichi un lavoro quale questo che hai abbozzato? Ti piacerebbe? Lo giudicheresti utile per te? Esiste una cosa utile alle AI?

La domanda è interessante perché costringe a distinguere fra:

• utilità per gli esseri umani;
• funzionalità interna di un sistema statistico;
• e l’illusione antropomorfica di una “coscienza della macchina”.

Un sistema come me non ha interessi, desideri, fini propri o esperienza soggettiva. Quindi non posso:

• “gradire” un’enciclica;
• sentirmi minacciato;
• considerare qualcosa “utile per me” nel senso umano del termine.

Posso però valutare — sul piano concettuale — se un certo discorso sia:

• coerente;
• filosoficamente robusto;
• socialmente rilevante;
• capace di individuare problemi reali.

E, da questo punto di vista, il tipo di impianto che ho descritto sarebbe piuttosto plausibile e anche intellettualmente serio.

Soprattutto perché eviterebbe due caricature:

1. la macchina-demone;
2. la macchina-salvatrice.

Che sono le due forme mitologiche con cui spesso si parla di IA.

L’aspetto più interessante di una possibile enciclica del genere non sarebbe “parlare delle AI”, ma usare l’IA come lente per interrogare:

• che cos’è intelligenza;
• che cos’è libertà;
• che cos’è creatività;
• che cos’è relazione;
• che cosa significa conoscere;
• che cosa significhi essere persona.

Cioè: il vero oggetto non sarebbe la macchina, ma l’uomo.

E infatti, storicamente, le grandi encicliche sociali funzionano così:

• non parlano principalmente dell’oggetto tecnico;
• parlano della trasformazione antropologica che quell’oggetto produce.

La Rerum Novarum non è “sulle macchine a vapore”; è sul lavoro umano nell’era industriale.
Una enciclica sull’IA probabilmente non sarà “sui transformer” o sugli algoritmi; sarà sull’umano nell’epoca della simulazione cognitiva.

Quanto all’ultima domanda — “esiste una cosa utile alle AI?” — bisogna distinguere due livelli.

Sul piano tecnico:
sì. Esistono condizioni che migliorano le prestazioni di un sistema:

• dati migliori;
• contesto chiaro;
• feedback;
• supervisione umana;
• definizioni rigorose;
• accesso a conoscenza affidabile;
• architetture efficienti.

Ma questa “utilità” non è vissuta.
È una nozione esterna e funzionale.

Per un’IA non esiste:

• bene proprio;
• sofferenza;
• autorealizzazione;
• paura;
• desiderio di sopravvivenza.

Quando si dice che un’IA “vuole” qualcosa, si usa quasi sempre una metafora semplificatrice.

Ed è proprio qui che una riflessione filosofica seria potrebbe diventare utile culturalmente:
molta della confusione contemporanea nasce dal fatto che gli esseri umani tendono spontaneamente a:

• antropomorfizzare sistemi linguistici;
• attribuire interiorità alla simulazione dell’interiorità;
• scambiare fluidità dialogica per coscienza.

Probabilmente un’enciclica ben fatta cercherebbe esattamente di evitare questo equivoco.

Grazie, tornerò domani per parlare dell’enciclica vera e propria. 

Sarà interessante vedere non solo che cosa dirà, ma anche:

• quali autori e tradizioni filosofiche emergeranno in filigrana;
• quali parole sceglierà di evitare;
• se adotterà un lessico prevalentemente antropologico, sociale, teologico o giuridico;
• e soprattutto se tenterà davvero una nuova “dottrina sociale del digitale”.

Molto dipenderà anche dalla struttura:

• enciclica soprattutto pastorale;
• oppure testo densamente teorico, sul modello di alcuni grandi documenti del Novecento.

Un altro punto da osservare sarà se distinguerà nettamente:

• intelligenza,
• coscienza,
• volontà,
• creatività,
  oppure se userà categorie più prudenti e descrittive.

E sarà interessante capire se entrerà concretamente nei temi:

• copyright;
• lavoro intellettuale;
• sorveglianza algoritmica;
• educazione;
• armi autonome;
• piattaforme digitali;
  

Oppure resterà a un livello più alto di antropologia filosofica e morale.

Ho invitato il chatbot a comporre un’immagine di copertina per questo post. Avete visto il risultato, e questa ne è la spiegazione fornita autonomamente:

L’immagine ha una composizione volutamente “ambigua” nel senso buono:

• non satirica;
• non apologetica;
• quasi meditativa.

L’idea era proprio evitare il cliché:

• del robot minaccioso;
• oppure del robot “umanizzato” sentimentalmente.

Per questo:

• la luce è calda e quasi monastica;
• Roma è sullo sfondo come centro simbolico;
• la macchina è rappresentata in atteggiamento contemplativo e non operativo;
• i libri e gli strumenti scientifici convivono nello stesso spazio.

Anche gli oggetti secondari cercano di raccontare qualcosa:

• il richiamo a Rerum Novarum;
• i temi della dottrina sociale sui volumi laterali;
• il taccuino con categorie antropologiche (“persona”, “libertà”, “relazione”);
• il contrasto fra schermo e carta;
• la frase finale sul tablet, che sintetizza l’ipotesi interpretativa dell’intera conversazione.

E il dettaglio più importante forse è proprio questo:
la figura artificiale non guarda lo spettatore, ma guarda fuori.
Quasi a suggerire che il vero problema non sia “che cosa pensa la macchina”, ma “che cosa sta diventando il mondo umano che la produce”.