Rivoluzione “intelligente”: Justice, Equité, Sostenibilité

Il titolo era “Intelligenza Artificiale, quale etica per il futuro”, a organizzarlo l’Osservatorio Intelligenza Artificiale dell’ANSA. Bene, verrebbe da pensare, è giusto che ci sia qualcuno che osserva anche queste faccende prima che prendano una brutta piega. Il tema di questo evento non era tanto un lontano futuro con possibili macchine umanoidi, ma un più tangibile scenario da qua ai prossimi 5 anni. Cosa succederà proprio domani? Come l’IA cambierà il mondo del lavoro e la società? Come impostare l’IA perché non produca danni?

Il direttore dell’Agenzia Giulio Anselmi introduce:

L’intelligenza artificiale deve svilupparsi mettendo al centro l’etica, per garantire che anche la società del futuro – quella post digitale – rispecchi i nostri valori di giustizia, equità e sostenibilità.¹

Tutto bello, figuriamoci, c’è l’etica al centro, i valori, cosa vogliamo di più? Ovviamente non ci accontentiamo, e da malpensanti ci sovviene che anche Prodi parlava di valori, persino Renzi blaterava di etica, e pure Obama lo faceva. Ma mica significa che avessero in mente ciò che pensavamo noi; infatti il primo ci svendeva all’UE, il secondo trafficava con le sue leopolde e le sue fondazioni, il terzo bombardava mezzo mondo e faceva abortire l’altra metà. In aggiunta c’è nell’aria una strana assonanza che richiama una certa triade rivoluzionaria, attualizzabile con: Justice, Equité, Sostenibilité. Perché è proprio ad una rivoluzione che si ammicca. Continua infatti il direttore:

Senza etica è difficile fare una rivoluzione che porti bene e progressi a tutti. Quindi è necessario muoversi con questa consapevolezza. Lo ha già fatto l’Unione Europea, lo hanno fatto grandi paesi come gli Stati Uniti e la Cina.

E noi dovremmo stare tranquilli perché c’è una (altra) rivoluzione che porta “progresso” a tutti, e soprattutto perché in questa ricerca di etica ci fanno da guida l’UE, gli USA e, ancor più incredibile, la democraticissima Cina?

L’UE in particolare ha già definito alcuni requisiti per far sì che la rivoluzione si svolga nel migliore dei modi, esplicitandoli in un documento circolato tra le istituzioni dal titolo Costruire fiducia nell’intelligenza artificiale umanocentrica.² I punti evidenziati da questo testo sono:

• Ci vuole una supervisione umana.
• Deve essere tecnologicamente robusta e sicura.
• Deve tutelare la privacy e i dati.
• Deve essere trasparente.
• Deve impedire discriminazioni.
• Deve garantire benessere sociale e ambientale.
• Responsabilità e affidabilità.

Benissimo, allora potremo stare sicuri vero? Beh, come spesso accade, dipende. Prendiamo qualche veloce appunto. Ad esempio in merito alla supervisione umana, dipende da chi saranno e cosa penseranno gli umani dediti a tale incombenza. Plausibilmente il risultato non sarà lo stesso se a supervisionare verrà messo un team di seguaci del defunto Pannella, o viceversa, persone di buon senso.

Sulla robustezza d’accordo, ma sarà ancora un pregio la robustezza qualora l’IA assuma iniziative dannose per l’uomo, a causa di errori algoritmici o di strane idee migrate dall’uomo al codice?

La tutela dei dati è un lodevole obiettivo, purché non venga gestita come ora, ove per i piccoli si manifesta in un incubo burocratico con risvolti assurdi mentre i giganti hanno in sostanza accesso libero e possono manipolare i nostri big data (e quindi noi) a piacimento.

La trasparenza è una gran cosa, ma ci sarà qualcuno in grado di comprendere ciò che vedrà attraverso questa trasparenza, vista la complessità sempre più indecifrabile che assumeranno i codici?

Sulle discriminazioni il terreno si fa ancora più spinoso, tanto più che il testo originale, pur rimanendo sempre sul generico, parla di garantire la diversity e della necessità di eliminare gli “storici involontari pregiudizi” dalla codifica di queste intelligenze. Avendo quotidianamente esperienza con certe intelligenze biologiche, possiamo solo immaginare quanto poco inclusive e tolleranti potranno essere le intelligenze artificiali programmate ad escludere dal consesso tecno-sociale chi si manifesti portatore di “storici pregiudizi” (per di più volontari) come quello di famiglia naturale, di differenza binaria invalicabile tra i sessi, di indisponibilità della vita umana, del fatto che esistano razze diverse con caratteristiche diverse. O del semplice fatto che due più due faccia quattro: finché i cervelli umani funzionavano e le macchine facevano solo operazioni ciò non poteva essere messo in discussione. Ora che entrambi funzionano per algoritmi tutto è possibile, tutto è manipolabile.

Benessere sociale e ambientale sono cose lodevoli, ma se con ciò si intende una società di tipo huxleyano non lo sono più.

Ottime anche responsabilità e affidabilità. Che tipo di responsabilità potrà avere una macchina? Di chi sarà esattamente questa responsabilità? Chi ne risponderà? Non è ancora ben chiaro.

Altri criteri emersi tra un panel e uno schedule (perdonate, è il linguaggio aziendalese del nuovo ordine) per valutare una buona tecnologia sono il classico “miglioramento della produttività”, refrain che evidentemente da quelle parti non è ancora venuto a noia, e un aiuto per “consumare meglio il mondo”, espressione quest’ultima non proprio felice, che induce a raffigurarsi un uomo in veste di parassita anziché di prudente amministratore ma anche sovrano quale dovrebbe essere.

Tra i documenti di riferimento citati tra uno speech e un keynote (che spasso questo linguaggio) c’è anche Our common future, documento dell’ONU uscito nel ’87 conosciuto anche come Rapporto Brundtland, che ha dato il via a tutte le varie conferenze sul clima e sullo “sviluppo sostenibile”. Una specie di precursore delle ultime encicliche papali, oltre che per il contenuto umanitarista anche per la deplorevole prolissità, trattandosi di 247 pagine fitte.

Tuttavia, per chi si occupa di informazione come gli organizzatori dell’evento, c’è un’altra questione imprescindibile:

In Ansa vogliamo un’informazione corretta, ricca, puntuale, precisa. Dobbiamo immaginare che si vada nella direzione di bloccare le fake news, di impedirle, di restringerle, di escluderle. E questo è per noi un obiettivo.

Ma quali fake bloccheranno, quelle vere o quelle false? Le fake-fake, ovvero le notizie vere spacciate per false dal mainstream che fine faranno? Siamo certi che l’IA farà certamente il suo lavoro, riconoscendo ed eliminando più velocemente di qualsiasi essere umano ciò che altri essere umani politicamente correttissimi le hanno insegnato essere meritevole di censura.

L’IA certamente potrà oscurare l’immagine in video appena compare il ciuffo biondo-arancio di qualche sgradito (ex?) presidente, o magari rielaborarla sostituendo lo sconveniente personaggio con qualcuno di più insignificantemente presentabile, senza che il telespettatore se ne accorga. Ma potrà fare anche di meglio: in caso di elezioni (ammesso che ancora avranno luogo) sarà in grado di convertire miracolosamente i voti necessari a qualsiasi improbabile sfidante per sconfiggere il suddetto, senza alcun intervento fraudolento da parte umana. Ogni riferimento a eventi e persone contemporanee è puramente casuale.

Sentiamo un altro dei relatori:

Per garantire, ai tassi di automazione attuali, un miglioramento della qualità della vita pari a quello sperimentato negli ultimi anni, dovremmo far crescere la popolazione lavorativa di quasi tre milioni di unità. In quest’ottica le capacità della nuova automazione non sono più tanto una minaccia quanto un’opportunità.

E con l’“opportunità”, gli ingredienti ci sono tutti: se uno fosse scaramantico a questo punto si produrrebbe in uno dei classici e non troppo eleganti riti. L’opportunità vincente sulla minaccia potrebbe essere incoronata sovrana incontrastata di tutti i luoghi comuni degli ultimi anni, forse decenni. Paragonabile a lei solo la celeberrima “ce lo chiede l’Europa”, degna progenitrice di cotante bischerate.

Anche la globalizzazione doveva essere un’opportunità, ricordate? Anche la Cina.

Ma quando si parla di etica, cosa s’intende di preciso?

[L’IA] Deve generare fiducia, deve poter essere spiegata, deve essere etica in tutti i livelli e soprattutto corrispondere ai sistemi valoriali della nostra società, deve essere trasparente, certificabile e sicura.³

I sistemi valoriali della nostra società. Di nuovo: con ciò dovremmo stare tranquilli? Un gran parlare di IA costruita dall’uomo per l’uomo, che sarebbe fantastico se solo conservassimo una vaga idea di cos’è l’uomo. Dev’essere “etica by design”, cioè progettata con l’etica dentro, incorporata. Bellissimo slogan, se solo avessimo una vaghissima idea condivisa dell’etica e dei suoi fondamenti.

Per quanto riguarda le ripercussioni sul mondo del lavoro, non convince stavolta nemmeno la generica rassicurazione “abbiamo avuto paura anche le altre volte, poi ci siamo abituati e abbiamo trovato altri lavori”, come si trattasse di introdurre la macchina a vapore o il telaio meccanico.

Quello che stiamo vedendo in questi anni è qualitativamente diverso dalle rivoluzioni industriali già sperimentate. Nel passato abbiamo inventato macchine più potenti, attrezzature più resistenti, fabbriche più produttive, mezzi più veloci, fino ai calcolatori più performanti. Mai tuttavia l’uomo è stato in procinto di creare una macchina che lo potesse superare in “intelligenza” (o presunta tale). Per quanto in realtà non si tratti di vera e propria intelligenza, ma potremmo dire di simulazione, il salto di paradigma avviato è di tipo totalmente inedito, tanto che coloro che vedono molto avanti si aspettano un punto di singolarità.

Per ora sono imminenti il “medico aumentato”, il “consulente finanziario aumentato”, il “commercialista aumentato”. Non vorremmo tornare a casa una sera e trovare nostra moglie che si aspetta un marito aumentato, quando dovrebbe sapere benissimo che è già molto se non se lo trova diminuito.

Non sappiamo quando, ma prima o poi è probabile che accadrà: qualcuno ci chiamerà al dispositivo di comunicazione che avremo impiantato da qualche parte, e non sapremo distinguere se si tratta di homo sapiens o di machina super sapiens.

L’idea di un’IA antropocentrica suona bene, vorrebbe essere persino rassicurante, ma sarebbe fondamentale sapere quale antropologia si sottende a tutto il discorso. Ammesso che ve ne sia una. L’intelligenza artificiale, come riconoscono giustamente al convegno, non è in grado di darsi un’etica da sola; a mettergliela dentro dev’essere l’uomo. La domanda allora è un’altra: l’uomo invece è in grado di darsela da solo questa inafferrabile etica? Chi stabilisce che quella che intendo io sia meglio di quella che hai in mente tu?

Per ora, nel “sistema valoriale” della nostra società, l’unica idea condivisa che in genere si ha sull’etica è che ognuno ha la sua, il che equivale a dire che non esiste.

Ed è proprio a quest’etica inesistente, a questa deficienza naturale che, c’è da scommettere, verrà affidata la supervisione dell’intelligenza artificiale.

1 https://www.ansa.it/osservatorio_intelligenza_artificiale/notizie/approfondimenti/2020/10/20/ai-convegno-quale-etica-per-il-futuro-dellintelligenza-artificiale_3e160799-812b-4d09-8c40-b2f2b61ad925.html

2 COMMUNICATION FROM THE COMMISSION TO THE EUROPEAN PARLIAMENT, THE COUNCIL, THE EUROPEAN ECONOMIC AND SOCIAL COMMITTEE AND THE COMMITTEE OF THE REGIONS – Building Trust in Human-Centric Artificial Intelligence, Brussels, 8/4/2019.

3 Rita Cucchiara, direttrice del laboratorio sull’AI del consorzio interuniversitario nazionale per l’informatica (CINI).