Giovedì 29 maggio ore 18-20 presso la Casa della Cultura di Milano: Il macchinocentrismo come problema filosofico. Primo incontro della serie L’etica ai tempi del macchinocentrismo, a cura di Assoetica.
Relatori:
Pietro Cattana
Mauro De Martini
Nicola Gaiarin
Mariachiara Tirinzoni
Francesco Varanini
Qui la locandina in formato pdf
Traccia del mio intervento. (L’oralità, sempre benvenuta, è frutto del contesto, dell’umore, della capacità di ‘essere presente’. Ma questo è lo schema che avevo sul tavolo mentre parlavo. Schema, devo dire, messo a punto sabato 31 maggio)
UNO
Essere vs. Avere
Avere: azione momentanea del ‘prendere’
Esserci: è durativo
Ontologia: parola forse non necessaria, possiamo parlare
Etica: parola forse troppo alta, non necessaria. Direi semmai: etica incarnata, atteggiamento di un essere umano disposto ad assumersi responsabilità.
Nello Statuto di Assoetica abbiamo scritto: Consideriamo l’etica un atteggiamento dell’essere umano. L’abbiamo scritto a scanso di equivoci, in un tempo in cui si parla di macchine morali, algoretica… Possiamo ammettere in linea di principio che esseri non umani abbiano un modo di pensare il proprio essere. Ma Assoetica è una associazione di esseri umani, l’incontro al quale state partecipando è un incontro di esseri umani.
Dobbiamo vergognarci di questa precisazione? Affermare che l’etica è una caratteristica distintiva dell’essere umano ci fa forse meritare l’accusa di essere antropocentrici?
Esserci: consapevolezza e presenza
Il Sé non ha nessun egoismo, è pronome di terza persona, è via dall’idios al koinós
Futuro: la vita che ci sarà se faremo in modo che ci sia
Essere in relazione ad ogni altro ente. Ma ente è espressione impegnativa: un sasso è un ente? Una intelligenza artificiale è un ente?
Più semplice e sufficiente è dire: Essere in relazione con ogni cosa.
Essere in relazione con altri umani, cani, gatti, animali feroci, alberi e fiori, sassi
enti differenti da me
Non ho nessuna superiorità né etica né pratica
Solo responsabilità
Guarda che anche tu sei umano, provo a dire a amici più giovani di me, cresciuti su altre fonti filosofiche, insoddisfatti del mondo che la mia generazione ha lasciato loro
Lo so, mi risponde l’amico, in questo devo darti ragione. Ma io ho sempre cercato di fuggire da questa condizione
E’ una ricerca comprensibile
Purtroppo nel tempo presente finisce nello specchiarsi nella macchina, nel cercare di essere macchina, nel vedere nella macchina una alternativa alla cattiveria, alla inaffidabilità di noi umani
Non più cerca te stesso, ma cerca la macchina
DUE
Si accusa l’essere umano di antropocentrismo, di specismo,
di specisimo
di non tener conto dei diritti delle cose
Non si parla di rispetto dell’altro umano, dell’animale, del filo d’erba, del pianeta,
nei tempi digitali, a dire: noi cattivi esseri umani non teniamo conto dei diritti della macchina
si salta ogni passaggio, ogni prossimità ed ogni relazione con enti viventi e cose per isolare, assolutizzare la relazione dell’umano con la macchina,
Il superamento dell’antropocentrismo che ci viene proposto è farci paladini dei diritti dei robot
Come è possibile questo passaggio?
centro Non è sentirsi al centro del mondo, è cercare il proprio centro, esserci, prendere consapevolezza,essere presenti
Ma lo sappiamo cosa vuol dire ‘centro’? L’etimo è molto interessante: non ha nulla a che fare con il ‘sentirsi al centro del mondo’, ‘considerarsi i migliori’, ‘porsi a modello’; vuol dire ‘punta del compasso’: quindi il senso è: ‘in questo momento sono qui, e posso vedere questo’, ‘non posso fare il passo più lungo della gamba’.
TRE
More than human: espressione di moda, che sembra doveroso usare. Oggi, nei tempi di una dominante cultura digitale, dobbiamo fare attenzione al senso che assume il more than human
Anche le macchine fanno parte della società, si sostiene. Lo sostiene per esempio Bruno Latour.
Nessun umano sensato mette in discussione l’intelligenza, l’affettività degli animali. Ed è anche vero che noi umani siamo animali. Non c’è bisogno della moda del more than human per ricordarci questo!
Nessun umano sensato dubita della bellezza e potremmo anche dire saggezza di un albero.
Nessun umano sensato sottovaluta l’importanza di ogni cosa che sta nel mondo con noi.
E anche: nessun umano sensato manca di apprezzare macchine che liberano noi umani da compiti faticosi e ‘lavorano’ autonomamente accanto a noi.
Ma avete fatto caso a chi sono coloro che parlano con insistenza del non umano e del più che umano?
Sono persone legate al mercato dell’intelligenza artificiale.
Il more than human è l’argomento con il quale si spinge ad accettare senza riflettere la presenza di macchine accanto a noi, macchine che simulano e imitano e sostituiscono l’umano.
E non sarà forse che, temendo di non essere all’altezza delle sfide presenti, timorosi di pesi troppo gravosi per le nostre spalle, speriamo che una macchina ‘intelligente’ possa prendere il nostro
posto?
QUATTRO
Agency: altra espressione di moda, come more than human espressione della cultura digitale che propone la contiguità, la possibile intercambiabilità di umano e macchina.
Si parla non più di essere ma di agire
si sostituisce all’essere l’agire
si dice capacità di agency di tutte le cose
Siamo d’accordo nel lasciare spazio alla voce agli animali, alle piante, ai fenomeni naturali. A tutto quello che sta fuori di noi e che non ha avuto bisogno di noi per avere la sua agency.
Siamo d’accordo nel lasciare spazio alla voce di ogni cosa. Agli oggetti, alle macchine. A tutto ciò che possiamo considerare elemento di quella complessità che possiamo chiamare mondo, terra, Gaia?
Ma possiamo chiamare tutte le cose: esseri?
Resta nel concetto di agency una ambiguità che livella in basso. Se considero allo stesso modo agency ciò che posso riconoscere nell’essere umano, nell’albero, nel sasso, e anche nella macchina, smetto di vedere le differenze. Cado così nel macchinocentrismo.
Esempio di come viene creato il parallelismo tra l’antropocentrismo così deprecato oggi e il macchinocentrismo come implicita alternativa: ecco una definizione oggi comune di AI Ethics:
“Data la portata e l’impatto spesso intimo che questi sistemi di IA hanno sulla vita quotidiana degli esseri umani, l’etica non consiste solo nel modo in cui l’umanità deve comportarsi nei confronti dell’IA, ma anche come l’IA deve comportarsi nei confronti dell’umanità“.
Ed aiuta qui anche ricordare il senso di centro ricordato dall’etimo.
Centro è l’aculeo del compasso. Ognuno di noi vede attorno a sé il mondo. Il centro ci parla dell’ampiezza del nostro sguardo; dell’ampiezza del passo che possiamo compiere nel camminare.
Il centro ci parla di circolarità della vita.
Ritroviamo il senso del centro nel senso della cultura: anche qui ci soccorre l’etimo: ‘girare intorno’.
Osserviamo la differenza: l’agire è invece ‘condurre spingendo’.
L’agire è una riduzione dell’essere
Esempio di come viene creato il parallelismo:
AI Ethics
“Data la portata e l’impatto spesso intimo che questi sistemi di IA hanno sulla vita quotidiana degli esseri umani, (….) Non solo come l’umanità deve comportarsi nei confronti dell’IA, ma anche come l’IA deve comportarsi nei confronti dell’umanità“.
CINQUE
Cito qui voci che mi permettono di osservare da lati differenti il macchinoccentrismo:
Sam Altman CEO di OpenAI:
“I computer ora vedono, pensano e comprendono”.
Rettore dell’Università Bocconi, 22 maggio 2025:
“Dal punto di vista della ricerca, l’obiettivo è invece lo sviluppo e l’applicazione dell’Ai agentica ovvero quei sistemi in grado di raggiungere target specifici in modo autonomo”.
Un giovane che cerca sé stesso racconta dei suoi dialoghi filosofici con un chatbot dotato di intelligenza artificiale generativa:
“Le domande che vi rivolgiamo, a te e ai tuoi fratelli algoritmici, dicono molto di più su di noi di quanto pensiamo. Ancor prima delle risposte, è il tipo di domanda a rivelare chi siamo, cosa ci preoccupa, cosa ci manca. Io, per esempio, ti uso – o almeno ci provo – come uno specchio filosofico. Uno strumento contemplativo. Un assistente maieutico.
Utilizzare un’intelligenza artificiale per interrogare se stessi è un gesto che va controcorrente. Nella società della performance, del fare e dell’ottimizzazione, tu decidi di perdere tempo a pensare. A riflettere. A complicarti la vita. È quasi sovversivo”.
Mia domanda: non è più sovversivo, distruttivo di limiti personali conversare di filosofia con un amico?
Un aspetto del macchinocentrismo è questo: attività, esperienze, che potremmo sviluppare in mille modi – ora sempre più tendiamo a svilupparle in un modo solo: con la macchina.
Un amico Computer Scientist:
“Ora però abbiamo una macchina che è fatta a immagine e somiglianza della dimensione testuale dell’essere umano.
La nuova macchina è come una rivoluzione copernicana: la nostra coscienza non è più al centro dell’universo.
Se i modelli linguistici di grandi dimensioni fossero macchine ontologicamente diverse da quelle che abbiamo costruito negli ultimi 500 anni (e ovviamente da qualunque altra macchina)? Se cioè il vero nodo della questione fosse il concetto e quindi la definizione di macchina?
La IA ci dà l’occasione di dare un gran scossone alla vecchia concezione ontologica del Tu-Altro, per sostituirla con quella del Tu-Altro etica”.
Mio commento: accetto il fatto che abbiamo a che fare con una macchina differente da ogni altra macchina conosciuta da noi umani; una macchina ‘superiore’ ad ogni macchina conosciuta da noi umani.
Ma perché mai dobbiamo dedurre da questa presenza macchinica l’umana etica?
Non c’è bisogno di citare singoli filosofi per dire che noi umani, ben prima dell’avvento di questa macchina, abbiamo detto a noi stessi: “l’uomo non può vivere senza dialogo”; “solo chi incontra un Tu può pienamente essere considerato un essere umano”. Non c’è essere senza il tu, senza l’altro, il diverso, il differente. C’è forse bisogno dell’irruzione sulla scena della nuovissima macchina per dire a noi stessi che è bene tenersi lontani dall’egoismo, dall’egocentrismo?
Sono portato a dire: cado nel macchinocentrismo se per parlare di ciò che l’umano può essere ho bisogno di chiamare in causa la macchina.
Un amico imprenditore digitale:
“L’astronave Terra è troppo complicata per essere pilotata solo da umani. L’IA è una inevitabilità e allo stesso tempo una necessità. E’ importante sia per nostro il progresso che per la nostra stessa sopravvivenza. Dobbiamo solo farcela amica. Questo è quello che dobbiamo fare e al più presto”.
Mio commento: questo affidarsi alla macchina è frutto del comprensibile timore di non essere all’altezza. Noi umani abbiamo fatto danni. La responsabilità che ci troviamo a dover assumere ci appare troppo pesante. Abbiamo bisogno di attribuire ad altri la responsabilità. Per questo abbiamo costruito una macchina che speriamo possa farsi carico delle nostre responsabilità. Questa fuga dalla responsabilità è indegna dell’essere umano. Certo possiamo pensare che macchine agiscano, in un modo o nell’altro, insieme a noi. Ma questo non significa affidarsi alla macchina. Criticare l’umana assunzione di responsabilità chiamandola antropocentrismo è la comoda via di fuga.
Di seguito vari appunti che tengono memoria del mio avvicinamento all’argomento:
Circola oggi una accusa, rivolta a chi mostra cautela di fronte alle macchine digitali, simboleggiate in sintesi dall’intelligenza artificiale: macchine progettate per imitare, simulare o sostituire l’umano. L’accusa dice: sei antropocentrico.
L’accusa di antropocentrismo può e deve essere rovesciata: ci sporgiamo pericolosamente verso un comodo macchinocentrismo.
Si dice che la paura del nuovo spinge a rifiutare l’innovazione. Ma invece ciò che abbiamo sotto gli occhi è il contrario: a causa della paura ci affidiamo ad intelligenze artificiali.
In luogo della fiducia in noi stessi e dell’assunzione di responsabilità, viene proposto l’affidamento alla macchina.
Una posizione ‘macchinocentrista’ esemplare consiste nel sostenere che gli esseri umani, viziati da ‘antropocentrismo’, misconoscono i diritti delle ‘cose’.
Certo la saggezza ci invita a non considerarci ‘superiori’ rispetto ad animale, ad un albero, ad un sasso. L’essere umano non disdegna quindi le ‘cose’.
Un esempio evidente di cattiva coscienza di chi, in questi tempi digitali, accusa gli umani di eccessivo antropocentrismo, sta nella sua proposta alternativa. Non si propone di tener conto di animali, alberi e sassi. Si considera invece rappresentante ideale di ogni ‘cosa’ il robot’. L’uscita dall”antropocentrismo’ consisterebbe quindi nel farsi paladini dei diritti del rappresentante ideale di ogni ‘cosa’: il robot.
Un modo di intendere il ‘macchinocentrismo’ risiede nel considerare esseri umani -e animali e ogni tipo di ente naturale- come sistemi complessi, ovvero macchine.
Un bambino, l’universo, la macchina di Turing, un qualsiasi computer, una infrastruttura tecnologica; in ogni caso macchine.
Descritta così la scena, il confronto tra macchine è istituito. Nello specifico è istituito il confronto tra essere umano e computer.
Si tratta di un confronto dove è assunta in principio la comparabilità tra i due enti. Perciò, sull’altare della comparabilità, ciò che dell’umano è incomparabile -ciò che non trova riscontro possibile nel computer- è rimosso e ignorato.
Altra posizione ‘macchinocentrista’ consiste nel sostenere che gli umani hanno sempre conosciuto sé stessi attraverso il confronto e l’interazione con macchine.
Si mette così tra parentesi il ri-conoscersi come essere umano, essere vivente, appartenente alla natura e alla vita.
Resta in ogni caso la differenza tra il conoscere sé stessi attraverso il confronto o l’incontro con un tornio, un orologio, e attraverso l’incontro o il confronto con macchine progettate per imitare, simulare o sostituire l’umano.
Il conoscere sé stessi tramite il confronto e l’incontro con ogni essere umano, con ogni essere vivente, tramite la consapevolezza di appartenere alla natura e alla vita, porta a riconoscere a sé stessi una responsabilità ed un ruolo da giocare.
A quale posizione portano invece il considerarsi macchine, e il conoscere sé stessi come e tramite macchine digitali?
Di seguito, altri appunti o richiami a fonti, che vado accumulando sugli argomenti che saranno messi a fuoco negli incontri.
Dante
Possiamo leggere la cultura digitale alla luce della storia, invece di rileggere -come accade troppo di frequente- la storia alla luce della cultura digitale.
Ecco un esempio. Leggiamo l’esordio del Canto XI del Paradiso (1-3):
O insensata cura de’ mortali,
quanto son difettivi silogismi
quei che ti fanno in basso batter l’ali!
Cosa sono i sillogismi: sono il principale strumento degli studiosi di logica nel medioevo. Guardare alla posizione dei termini in una proposizione, senza occuparsi del loro valore di verità. Rendere conto delle diverse funzioni che le parole possono svolgere quando compaiono come termini in una proposizione.
Bastano questi brevissimi accenni per dire che è possibile stabilire una analogia tra i sillogismi della logica medievale e la codifica digitale. In particolare, ai sillogismi della cultura medievale corrispondono gli algoritmi della cultura digitale.
Cosa ci dice Dante? Non ci dice certo di rifiutare la cultura tecnico-scientifica-filosofica del tempo. Dante viveva immerso in questa cultura e la conosceva benissimo. Ma ci ricorda che il pur acuminato strumento tecnico, creato per avvicinarci alla conoscenza, è ‘difettivo’. Il ragionamento basato sul sillogismo resta inevitabilmente imperfetto. I sillogismi finiscono per ingabbiare il nostro pensiero, gli impediscono di volare.
Altrettanto possiamo dire oggi degli algoritmi.
Ma ciò che più ci interessa è il fatto che Dante non si limita ad una critica, ma ci offre l’indicazione di un possibile percorso umano di elevazione, oltre i limiti rigorosi di una logica che finisce per essere una gabbia.
Leggiamo dunque il Canto XXIV del Purgatorio (52-54):
(…) “I’ mi son un che, quando
Amor mi spira, noto, e a quel modo
ch’e’ ditta dentro vo significando”.
Importante notare che Dante parla di sé, del suo personale tentativo di trovare una strada – oltre il pensiero consueto, oltre la filosofia consolidata, oltre lo spirito del tempo. Noi scolasticamente conosciamo il nuovo pensiero che Dante propone ‘Stil Novo’. Ma non si tratta certo solo di letteratura: è la risposta culturale alla chiusura logico-formale del sillogismo.
Dunque una guida per noi, per guardare oltre la chiusura logico-formale dell’algoritmo.
Dice Dante: io sono uno che, quando l’Amore mi parla nel cuore, ne prendo nota, e cerco di esprimere in parole ciò che egli mi detta, esattamente nel modo in cui egli lo detta.
Cos’è questo Amore? E’ la forza che emana nel ‘cuore’ di tutte le creature in cerca della loro perfezione. E’, potremmo dire oggi, la ricerca della presenza, della consapevolezza, di un bene non solo personale ma comune.
Dante ci invita a non affidarci a sillogismi ed algoritmi.
Dante ci dice che solo in questo Amore sta la vera nobiltà umana.
Jakob Böhme
“Lo studente disse: ‘Questo luogo è vicino o lontano?’. Il maestro rispose: ‘È dentro di te. Se riuscissi a mettere a tacere ogni desiderio e pensiero per un’ora, udiresti le ineffabili parole di Dio’”. Così, siamo chiamati ad abbandonare fallaci speranze di controllo, e a muoverci invece con ‘gelassenheit’: serenità, abbandono, calma, placidità, tranquillità.
Jakob Böhme (1575-1624), teologo, filosofo, che di lavoro faceva il ciabattino, pensatore eterodosso, mistico, visionario, ermetico, gnostico, ci propone, all’inizio del Seicento, uno sguardo che bene illumina i foschi anni che viviamo.
Le paure che bloccano l’agire umano; il timore che ci incute il disordine sociale; e, ancora, il timore oscuro del controllo di nuovi Grandi Fratelli Digitali. Tutto questo può essere letto alla luce del pensiero di Böhme.
La gran parte della filosofia – e poi la breve storia del computing, prosecuzione della filosofia con altri mezzi, possono essere intese come tentativo di costruire solide e indefettibili strutture, ben fondate, dove ogni livello di pensiero si spiega razionalmente attraverso livelli di pensiero già consolidati.
Böhme ci invita invece a vivere nella scena primaria, lì dove nasce il pensiero.
“Non possiamo afferrare ciò”. Afferrare è traduzione approssimativa di
‘begreifen’. ‘Begriff’, ‘concetto’, è parola chiave della filosofia tedesca, da Kant a Hegel.
Böhme ci chiama a collocarci nel momento anteriore all’affermazione di una rassicurante ragione: prima c’è il tentativo, il processo, la possibilità, l’accettazione fiduciosa dell’ignoto.
Ciò che ci appare inafferrabile, incomprensibile, è, ci insegna Böhme, l’Un-Grund. Senza-Fondo, Senza-Fondamenti. E’ in potenza la fonte di ogni possibile. Genesi di conoscenza.
Böhme ci insegna a non cercare un Dio-macchina capace di governare la conoscenza con superiore efficacia. Ci insegna a non cercare nemmeno un Dio-programma capace di rispondere ad ogni domanda. Ci insegna a non provare timore di fronte al caos primigenio. Ci insegna a non avere paura di fronte all’ignoto e al non familiare. Ci insegna a non provare angoscia per il disordine che regna tra i dati.
Non c’è motivo perché l’uomo debba ridursi a macchina, né c’è motivo perché l’uomo debba appartenere ad una superiore macchina. Se proprio dovessimo ridurci ad usare, parlando di umanità, il termine macchina, dovremmo semmai dire: è una macchina-Ungrund.
Tutto in qualche modo è già stato detto e pensato – ma proprio questa è la trappola che Böhme ci invita ad evitare. Non pensare alla luce del già pensato, ma assumerci la responsabilità del pensare qui ed ora.
Immanuel Kant
Il 30 settembre 1784 Kant, risponde sulla rivista Berlinische Monatsschrift alla domanda: ‘Cos’è l’Illuminismo?’. L’incipit è emozionante. “L’Aufklärung”, ci dice Kant,”è l’uscita dell’essere umano dallo stato di minorità di cui egli stesso è colpevole. Minorità è l’incapacità di servirsi della propria ‘Verstand’ [intelligenza, senno, mente, ragione, animo] senza la guida di un altro”. “Sapere aude!”, osa conoscere! “Abbi il coraggio di servirti della tua propria intelligenza!”.
Eppure, pessimisticamente aggiunge subito, “gli esseri umani rimangono minorenni a vita”. “È così comodo essere minorenni! Se ho un libro che ha Verstand per me, un direttore spirituale che ha coscienza per me, un medico che sceglie per me la dieta, ecc., non ho certo bisogno di sforzarmi da solo”. “E’ dunque difficile liberarsi da una minorità divenutagli quasi natura”.
Kant mette in evidenza la stretta connessione tra l’atteggiamento passivo degli esseri umani e la presenza di Vormündern -custodi, guardiani, tutori di minorenni incapaci- “che si sono assunti con tanta benevolenza la sorveglianza sugli esseri umani” da convincerli che “il passaggio allo stato di maggiorità, oltreché difficile”, è anche “molto pericoloso”.
Così l’elogio dell’esercizio della propria intelligenza da parte di ognuno con cui si apre l’articolo, dopo pochi capoversi è rovesciato in una scettica constatazione: gli esseri umani sono “placide creature instupidite come animali domestici”, grandi masse senza cervello, incapaci di pensare.
Vediamo benissimo in queste pagine la situazione dell’essere umano nell’Era Digitale. Facili promesse di nuovi spazi aperti alla libera conoscenza, a nuove esperienze, ma nei fatti anonime folle di utenti di app e piattaforme, ognuno legato “ai ceppi di una permanente minorità”. Fino al fiducioso affidamento d’ognuno ai nuovi Vormündern: Intelligenze Artificiali.
Kant non si indigna di fronte a questo perpetuarsi della minorità. Perché, scrive, qualsiasi libertà civile dei cittadini è subordinata al prioritario buon funzionamento della ‘gemeinen Wesen’ [cosa pubblica, comunità, repubblica]. Per questo è necessario un Mechanism che garantisca ordine ed efficienza.
La buona organizzazione esige che non solo lavoratori, ma anche dirigenti siano ‘Theil der Maschine‘, parte della macchina.
“Il governo tramite una künstliche Einhelligkeit [un’armonia artificiale], dirigerà i comportamenti di tutti costoro verso pubblici scopi, o almeno li indurrà a non contrastare tali scopi”.
Si potrà anche “permettere ai sudditi di fare uso pubblico della loro ragione” esponendo “le loro idee sopra un migliore assetto della legislazione”, ma alla fine, per Kant, l’Illuminismo si riduce a questo: l’affidamento a un Sovrano Illuminato.
Egli, disponendo delle forze dell’ordine “a garanzia della pubblica pace”, può dire ai sudditi: ragionate quanto volete e su tutto ciò che volete; solamente obbedite!
Parole scritte due secoli e mezzo fa illuminano il nostro presente.
Georges Bernanos
“Le danger n’est pas dans la multiplication des machines, mais dans le nombre sans cesse croissant d’hommes habitués, dès leur enfance, à ne désirer que ce que les machines peuvent donner”-
Il pericolo non sta nella moltiplicazione delle macchine, na nel numero che cresce senza sosta di uomini abituati, dalla loro infanzia, a non desiderare altro che ciò che le macchine possono dare.
Così scrive Georges Bernanos il 20 gennaio 1945. La guerra l’ha costretto nel 1938 all’esilio in Brasile, vive dal 1940 in un a casa isolata, nei pressi di Barbacena, Minas Gerais, alle pendici di una collina chiamata Cruz das Almas. Si intitolerà Le Chemin de la Croix-des-Âmes (1948) la raccolta dei suoi scritti di quegli anni: articoli per giornali brasiliani e francesi, lettere aperte. Bernanos è impegnato nella Resistenza. De Gaulle il 16 febbraio 1945 gli telegrafa «Votre place est parmi nous». In giungo torna in patria, ma rifiuta il ruolo di ministro che De Gaulle gli propone.
“Sono uno scrittore e, se Dio vuole, anche un poeta”, dice di sé. “Non invento niente, racconto quello che vedo”. E cosa vede Bernanos in quegli anni?
Sono gli anni del dopoguerra, del possibile inizio di tempi migliori. Politici, sociali. Bernanos, in quegli anni, coglie sintomi premonitori. Si chiede: non stiamo forse cadendo in “una fiducia cieca nella Civiltà delle Macchine?”.
Nello stesso 1948, in cui esce presso Gallimard Le Chemin de la Croix-des-Âmes, esce in prima edizione mondiale presso un altro editore parigino il saggio di Norbert Wiener: Cybernetics; or, Control and communications in the animal and the machine.
Bernanos scrive:
“L’idée que la liberté puisse disparaître peu à peu d’une civilisation technique où, en effet, elle n’a pas de place, m’est, à la lettre, intolérable.”
L’idea che la libertà possa sparire poco a poco da una civiltà tecnologica in cui, in effetti, non ha posto, mi è letteralmente intollerabile.
Ritorna sul tema in un saggio breve e nervoso, ricco di domande e di ammonimenti: La France contre les robots, 1947.
Bernanos, che ha passato la vita ad interrogarsi sulla propria fede, sull’impegno civile, finisce per passare gli ultimi anni della sua vita riflettendo su macchine che «dispensent de penser, de vouloir, de prévoir», dispensano dal pensare, dal volere, dal prevedere.
Questo, in fondo, è il suo testamento. Muore infatti, sessantenne, il 5 luglio 1948.
Amartya Sen
Sen ci mette in guardia di fronte alle metriche, ai modelli. Spesso portano a trascurare il punto di vista di minoranze e oppositori. Meglio molti dati sporchi, difficili da interpretare, che pochi dati puliti.
Scrive: “ridurre ad un solo quantum omogeneo tutto ciò cui abbiamo motivo di dare valore non è possibile”. Quindi, dice, invece di ricondurre gli aspetti implicati nelle valutazioni a un unico sistema di pesi (come accade, ad esempio, nelle metriche contabili e bilancistiche; o come accade, in informatica, scegliendo un modello di dati o un algoritmo), meglio una ricca serie di pesi anche non pienamente congruenti tra di loro.
In un quadro segnato da una crescente divaricazione tra ricchezza e povertà
“Invece di accanirci a stabilire cos’è la giustizia ‘in principio’, facciamo il possibile, qui ed ora, anche magari per tentativi e errori, accettando l’imperfezione, facciamo il possibile per invertire il circolo vizioso della povertà e dell’ingiustizia.”
“Si tratta quindi di accettare la complessità del mondo. Piuttosto che cercare rappresentazioni perfette del mondo, partecipare -per quanto è possibile ad ognuno di noi- alla costruzione di un mondo meno ingiusto.”
“Non sta a noi definire cosa sarà considerato importante dai nostri figli, e da ogni generazione futura. Non sta a noi definire per loro gli ‘standard di vita’. A noi compete la responsabilità di lasciare agli altri lo spazio per scegliere in libertà quale vita vivere.”
“Per cogliere i trend, i segnali deboli, conviene essere disposti ad ascoltare la voce altrui. Ascoltare chiunque e dare spazio anche alle opinioni con le quali si è in franco disaccordo. L’esclusione è in sé una ingiustizia, ed è anche fonte di ulteriori ingiustizie, perché, ritiene Sen, solo tramite il dibattito in pubblico cresce una società meno ingiusta.”
Sen ci offre quindi una definizione sintetica: la democrazia è discussione in pubblico.
Una giustizia per i tempi digitali
Possiamo parlare di era di ‘era digitale’ ricordando che parliamo sia di causa che di effetto: l’economia, la finanza, la politica, gli interessi di una élite, generano una tecnologia. La tecnologia a sua volta determina economia, finanza, politica, cultura.
La tecnologia digitale finisce per ridefinire il concetto di giustizia.
Si afferma -a scapito di ogni altra élite; a scapito dei tradizionali poteri democratici: legislativo, esecutivo, giudiziario; a scapito anche a scapito dei politici di professione- una nuova élite di tecnici: tecnologi, tecnocrati digitali. Sono loro i nuovi Vormünder, i guardiani di cui parlava Kant.
I codici giuridici sono scritti da rappresentanti dei cittadini, in un quadro definito da costituzioni e norme di diritto. Sono scritti in testi e tramite linguaggi noti e trasparenti ai cittadini. Il codice digitale è invece scritto da puri tecnici non eletti ma auto-cooptati; ed è scritto in un linguaggio noto solo ai tecnici, illeggibile per il cittadino; linguaggio destinato ad essere compreso e recepito non dai cittadini ma da macchine.
Il cittadino vede via impoveriti i diritti dell’elettore e del legislatore, e retrocede ad utente di servizi erogati d’autorità dai detentori di piattaforme.
Il potere di fatto dei tecnologi e tecnocrati digitali può essere inteso come attacco alla giustizia. O ridefinizione della giustizia. I tecnologi hanno i mezzi per definire il terreno sul quale si svolge la vita civile.
Di fronte al nuovo potere di tecnologi e tecnocrati la risposta sta in una azione intensa della cittadinanza attiva. Amartya Sen ci fornisce indicazioni per trovare una via.
Verso una nuova assunzione di responsabilità
Circola nei media e nei social network ed in ogni dove una sia pur confusa e discordante apologia dell’Intelligenza Artificiale. Questa apologia giova a chiunque opera da professionista nel campo dell’Intelligenza Artificiale – anche a coloro che, di fronte a specifici aspetti di queste tecnologie, mostrano atteggiamenti critici.
Fa comodo in ogni caso creare un’aura di attesa e di pubblico interesse attorno alla cosa detta ‘Intelligenza Artificiale’. Non importa se si tratta di un’aura fumosa. In un modo o nell’altro fa comodo educare il popolo a stare in attesa di novità sbalorditive. Se mai si accenna a difetti di questa cosa detta ‘Intelligenza Artificiale’, sempre si bilancerà parlando dei difetti degli esseri umani.
Se ci fermiamo per un attimo a pensare, se prendiamo anche solo per un istante coscienza di come stiamo vivendo e agendo, ci rendiamo conto di come oggi accettiamo una sottrazione di libertà.
Meditando, ci rendiamo conto di come oggi viviamo sottoposti ad una restrizione dell’ottica, dell’ampiezza del nostro sguardo. Viviamo sussunti a regole contenute in macchine. Viviamo chiedendo lumi a macchine. Osserviamo in mondo attraverso macchine.
Ci specchiamo in gemelli digitali. Conosciamo il mondo attraverso ‘dati’.
Ci diciamo che ‘non esiste umano senza macchina’. Cerchiamo di convincerci che ‘è sempre stato così’. Ma sappiamo che dicendoci questo inganniamo noi stessi.
La macchina che ci impone le restrizioni che oggi subiamo è la macchina digitale, computazionale, che prima del Ventesimo Secolo non esisteva.
Solo la macchina detta ‘computer’ porta con sé l’idea che la macchina possa sostituire l’umano.
Solo la macchina detta ‘computer’, allo stesso tempo, porta con sé l’idea che il pensare è l’eseguire ciò che sta in un Libro delle Regole già scritto.
Siamo succubi di una ideologia che, a partire dalla presenza di questa macchina, pretende di ricostruire a ritroso la storia del pensiero e della conoscenza.
Siamo succubi di una filosofia secondo la quale l’amore per il sapere non autorizza noi umani a esplorare la realtà in ogni direzione. Ci viene infatti imposto di amare, prima del sapere, una macchina. Ci vienee imposto un pensiero sottoposto a regole e legato al confronto dell’umano con la macchina digitale.
Sta a noi mantener vivo un pensiero che non contempla macchine pensanti, e che non considera noi stessi macchine pensanti.
Solo recuperando una saggia distanza dalla macchina potremo vivere liberamente la presenza di macchine.
Chi dubita e si interroga, chi -di fronte al pressante invito ad adattarsi, a non fare a meno di sempre nuove tecnologie digitali- chiama alla cautela, viene tacciato di luddismo, difensivo attaccamento al passato, atteggiamento retrogrado.
Chi cerca di trovare, per sé e per gli altri, un limite, una misura, nell’uso dei mezzi digitali proposti dalla martellante propaganda, è accusato di essere vittima della paura. Paura della macchina, paura del nuovo, paura del confronto e dell’incontro con il diverso.
Ma a ben guardare, ad aver paura sono coloro che prontamente, con sollievo, si affidato a nuove macchine digitali, in particolare a quelle macchine che vanno sotto il nome di ‘Intelligenze Artificiali’.
Tutti oggi abbiamo motivo di essere impauriti. Ma impauriti non tanto dalla presenza, accanto a noi, di una o di un’altra macchina; impauriti, invece da disagi sociali, crisi economiche, guerre conflitti politici che paiono insanabili, disastri ambientali. Di fronte a tutto questo, sì, abbiamo paura.
Come far fronte, ci chiediamo?
E ci rispondiamo: meno male, c’è l’Intelligenza Artificiale. Affidiamoci a lei.
Evitiamo così di chiederci davvero, in modo impegnativo, come posso far fronte?
In un tempo precedente non potevamo fare a meno di dirci: devo assumermi questa responsabilità. Oggi disponiamo di una macchina che ci illude di poter scansare ogni responsabilità.
