Benanti: un’algor-etica per le macchine, intelligenze artificiali in aiuto allo sviluppo

TRIESTE. Se quella dell’uomo è da sempre una condizione «tecno-umana», oggi per la prima volta - con la sua intelligenza artificiale - «la macchina non fa più semplicemente delle cose, ma sa raccontarci qualcosa su ciò che esiste, parlandoci della realtà in modo inusitato». Ma è sempre l’uomo a doverne indirizzare la strada. Nell’ambito di un nuovo capitolo di etica, di algor-etica, tutto da scrivere. Padre Paolo Benanti, francescano, fra i massimi esperti di etica delle tecnologie, domani a Trieste per una conferenza (vedi box), da anni focalizza i propri studi sulla gestione dell’innovazione e sugli scenari che essa apre. Perché oggi «sembra quasi che esista un altro essere sapiens sulla Terra: la macchina, che parla all’uomo e lo sfida nella sua comprensione».

L’intelligenza artificiale può sostituire quella umana?

C’è profonda differenza. Le macchine che abbiamo realizzato non sono intelligenti nella misura in cui definiamo così una persona, ma sono capaci di svolgere in autonomia compiti ben precisi. Ora, qualcuno sta pensando di far surrogare alle macchine azioni in precedenza fatte da uomini. Il problema è: dobbiamo vivere una nuova stagione di relazione competitiva fra uomo e macchina, oppure questa può essere alleata dell’uomo per sgravarlo dai compiti più pesanti e consentire una nuova e migliore condizione di vita per il maggior numero di persone possibile? Il tema vero è come realizzare questa innovazione tecnologica.

Serve una governance, una cornice. Lei ha fatto parte della commissione ministeriale di esperti che ha lavorato sulle strategie nazionali in tema di blockchain e intelligenza artificiale.

In precedenza c’era un’autorità a dare linee guida e leggi: ora ci si è accorti che i problemi sono così complessi che è difficile vi sia un singolo decisore in grado di dare soluzioni. Serve tornare a quel modello fondamentale che è la polis, la città nelle cui piazze diverse competenze si confrontavano per individuare insieme la soluzione migliore: bisogna passare da un modello direttivo monocratico a un modello partecipativo democratico. Quella ministeriale è un’esperienza di governance, in cui diverse competenze suggeriscono al decisore politico quella che potrebbe essere una road map per arrivare a gestire una trasformazione così radicale come quella che stiamo vivendo.

Nel libro “Le macchine sapienti” lei riflette sul fatto che gli algoritmi che le controllano sono black box, scatole nere - protette da copyright - potenzialmente capaci di generare ingiustizie sociali o discriminazioni. Che fare?

L’algoritmo in sé è semplicemente una via logica che tramite determinati passi porta alla soluzione richiesta. Ora, se l’algoritmo è informatico, realizzato con un codice software, e se per il diritto della proprietà d’autore questo venga reso invisible, allora sfuggono passi e modalità con cui quella soluzione viene proposta. Così,in migliaia di applicazioni al secondo, eventuali scelte sbagliate o ingiustizie potrebbero essere perpetrare milioni di volte. Perciò c’è assoluto bisogno di poter garantire la correttezza di questi algoritmi prima che possano decidere su valori importanti, o addirittura sulla vita di una persona. Dobbiamo pensare soluzioni che rendano trasparenti queste “scatole”: da black box a crystal box.

Macchine sottratte a quello che potrebbe essere un controllo di pochi, dunque. In che modo?

Vanno ripensate alcune strutture del nostro vivere: il diritto d’autore sugli algoritmi, per esempio. Sì a forme di garanzia per la giusta retribuzione di chi ci ha lavorato, ma sì anche a formule corrette per tutelare il bene comune e i singoli, soprattutto i più vulnerabili. In ambiti simili abbiamo già trovato alcuni strumenti: un farmaco prima di essere messo in vendita va testato. Potremmo anche pensare a enti terzi, certificatori.

Il tema delle black box si connette al rapporto tra etica e tecnologia.

La macchina con algoritmi decide sul valore dei dati, che è numerico. Ma le decisioni che toccano la vita reale delle persone vanno prese anche in base a quello che è il valore etico. E allora, giacché c’è una commistione fra vita e algoritmi, serve una commistione tra etica e algoritmi. Da qui la proposta dell’algor-etica: vanno resi “comprensibili”, cioè computabili alla macchina, quelli che sono valori etici. Dobbiamo far sì che ogni volta che la machina sapiens non sappia con certezza se sta tutelando il valore umano, richieda l’azione dell’uomo.

Un’intelligenza artificiale in interazione con quella umana che la guida?

Sì. Il termine che qualifica l’innovazione - la cui connotazione di per sé è ambigua - come positiva, che contribuisce cioè al bene di singolo e collettività, è “sviluppo”. Come fare? La risposta va cercata nello “sviluppo gentile” che sappia farsi carico di tutti e tutte così come della casa comune, la Terra. Si va verso quella contaminazione dei saperi in cui humanities e scienza si trovano insieme - sotto la guida dell’uomo - per prendersi cura di uomo e ambiente.