Singularity, di cosa parliamo? (prima parte) – di Marco Manfredini

Incursione (fanta)scientifica tra le nuove ideologie che ci aspettano.

Il 4 ottobre 2016, sei mesi dopo la dipartita di Gianroberto Casaleggio, è comparso su Youtube un nuovo video, il terzo, della Casaleggio & Associati. Come i due noti precedenti, anche questo cerca di delineare un possibile scenario futuristico.

di Marco Manfredini

..

Cosa resterà dell’umanità? Ci preoccupiamo dei danni ambientali, ed è più che giusto, ma forse ci attende una minaccia più seria: la nascita di un superorganismo che trascenderà l’intelligenza umana, composto da internet, miliardi di oggetti intelligenti (IOT), e un immenso database in continua crescita, Big Data. Ci sarà un momento, conosciuto come Singolarità, in cui questa entità sfuggirà al nostro controllo e non potremo più capirne le decisioni. Potrebbe considerarci noiosi insetti da schiacciare. Questo video racconta alcuni momenti nell’evoluzione delle macchine nel corso dei secoli, fino ad arrivare ad un’inquietante profezia di Hawking sulla… SINGOLARITÀ, il punto di non ritorno dell’evoluzione umana.  (vedi su https://www.youtube.com/watch?v=iSeeEfQpaEg )

.

Il 4 ottobre 2016, sei mesi dopo la dipartita di Gianroberto Casaleggio, è comparso su Youtube un nuovo video, il terzo, della Casaleggio & Associati. Come i due noti precedenti, anche questo cerca di delineare un possibile scenario futuristico.

Dopo l’ormai preistorico Prometeus – La Rivoluzione dei media, video del 2007 in cui l’uomo diveniva dio grazie alla rete, e al più ambizioso Gaia – The future of politics,  del 2008, dove si assiste in anteprima alla nascita del Nuovo Ordine Mondiale che avrà luogo nel 2054, in cui scompariranno partiti, ideologie e religioni, in favore di un partito-ideologia-religione unico (sai che progresso) sempre grazie alla rete, finalmente nel 2016 è arrivato anche in Italia il culto della Singolarità Tecnologica, importato appunto dalla Casaleggio & C.

Partiamo dalle cose positive: nel futuro pare che l’ambientalismo verrà messo in soffitta, causa “una minaccia più seria”. Secondariamente si nota che il video è in italiano: l’argomento stavolta è talmente ed esotericamente tecnico che non necessita nemmeno dell’alone di futuristico mistero evocato dall’idioma anglosassone. Basta un inquietante suono di sottofondo a bassissima frequenza, il lancio che abbiamo appena letto della profezia di Hawking, e il titolo: Singularity: il punto di non ritorno dell’evoluzione umana.

Ovviamente c’è sempre di mezzo la rete, ma ora si parla di reti neuronali:

The “brain initiative” è un progetto avviato da Obama nell’aprile del 2013 per mappare l’attività di ognuno dei cento miliardi di neuroni del nostro cervello. Lo scopo, è quello di trovare rimedi a malattie come l’Alzehimer, studiare l’origine della coscienza, e creare un’intelligenza artificiale simile a quella umana.

Da notare en passant come gli scopi di partenza, o quelli dichiarati, siano sempre nobilissimi e umanissimi: curare malattie, vivere meglio, allungare la vita. Dopo una carrellata introduttiva per spiegare alcuni passaggi evolutivi umani, alcune più o meno fantasiose premonizioni letterarie e un minimo di nuovi concetti tecnologici, si arriva al cuore del discorso:

Negli anni 2030 si impongono a livello mondiale Samsung per l’estrazione dei Big Data, Thingbook, spin-off di facebook, per lo sviluppo degli IOT, the Brain Initiative, del governo statunitense, ed Everywhere, consorzio di società internazionali no-profit, per la gestione di internet sotto il controllo dell’ONU.

Lo scenario, nella sua mostruosità, appare abbastanza plausibile: il potere globale nelle mani di quattro “enti”, di cui due mega aziende private, un governo, ed un organismo sovranazionale. Tenendo conto che al governo degli Stati Uniti non c’è più Obama, la cosa più preoccupante della premonizione mi pare l’ONU che controlla l’internet mondiale. Ma questi sono solo strumenti, il punto è un altro, perché quando arriverà l’ora:

Web, IOT, Big Data, e IA, rappresentano sistema nervoso, sensi, memoria e cervello di un super essere che in futuro controllerà il pianeta, e sfuggirà alla comprensione umana. Il momento in cui questo succederà, sarà detto “Singularity”.

Come si nota andiamo ben oltre il concetto candidamente utopico espresso nei video precedenti, dove le singole intelligenze umane si univano nella rete per creare un supercervello collettivo in grado di governare felicemente il mondo risolvendo in poco tempo qualsiasi problema (concetto alla base delle farneticazioni teoretiche del movimentismo pentastellato). In questo video si sale di un livello presentando, con un misto di inquietudine e fascino, l’ipotesi che fra qualche decennio si arrivi sì ad un governo mondiale, ma che a guidarlo non sia un’intelligenza umana opportunamente convogliata dalla rete, bensì una sorta di organismo algoritmico in cui l’apporto umano tenderà a divenire viepiù irrilevante.

Il concetto di partenza è scientifico, ed è stato mutuato dall’analisi matematica, dove per Singolarità si intende un punto di discontinuità in una funzione, un momento oltre il quale i valori delle y prendono una piega inaspettata, o iniziano a tendere decisamente verso la verticalità, l’infinito. La parola è utilizzata anche in fisica, informatica, ed è andata sconfinando in tecnologia e ambiti meno scientifici come sociologia e futurologia.

Nel nostro caso, cercando di spiegarne l’applicazione nel modo più semplice possibile, possiamo dire che l’uomo ha creato macchine che stanno diventando sempre più “intelligenti”. Arriverà un momento, non troppo lontano, in cui queste supereranno in capacità l’uomo che non riuscirà più a controllarle, perciò esse ne prenderanno il posto al vertice della catena evolutiva. L’evoluzione biologica, sostengono i singolaritaristi (che sono anche evoluzionisti estremi), continuerà e si trasferirà a livello tecnologico.

Oltre a quella di Casaleggio, molto divulgativa, vi  sono diverse spiegazioni e interpretazioni del concetto; da segnalare quella dell’inventore, scrittore, programmatore, imprenditore e futurista visionario Raymond “Ray” Kurzweil, il massimo guru diffusore e teorico mondiale di questa specie di nuovo culto parascientifico. In uno dei suoi saggi sostiene che:

Siccome la tecnologia è la continuazione dell’evoluzione con altri mezzi, condivide con essa il fenomeno di un passo esponenzialmente accelerato.

Proprio quando quell’accelerazione in crescita esponenziale della tecnologia diverrà troppo spinta perché il suo stesso inventore, l’uomo, le possa stare dietro, essa, dopo averlo affiancato, lo potrebbe ibridare e fors’anche sostituire. Ci troviamo quindi di fronte ad un evoluzionismo radicale, per cui l’uomo è solo una delle tante tappe di questa progressione senza fine, come risulta dalla suddivisione in epoche che egli fa ripercorrendo la storia dell’universo, di cui segue una rapidissima sintesi.

Nella prima, subito dopo il Big Bang (momento “singolare” per eccellenza), esistono solo materia ed energia, considerati “essenzialmente frammenti di informazione”. Nel giro di qualche centinaio di migliaio di anni si formano gli atomi (da soli?), che si consolidano e arrivano in alcuni milioni di anni a creare legami tra di loro in strutture complesse e relativamente stabili dette molecole. Questa prima epoca è detta “della Fisica e della Chimica”.

Nella seconda, le molecole si evolvono, e dopo aver formato composti a base di carbonio sempre più intricati, si dotano (da sole?) di meccanismi di auto-replicazione. E voilà, compare la vita. Questa è l’epoca di “Biologia e DNA”.

La terza epoca inizia quando la vita si evolve a tal punto che gli animali si ritrovano in grado di riconoscere dei pattern, ovvero degli schemi/modelli di informazione, essendogli spuntato nel frattempo (da solo?) il cervello. Per questo è chiamata l’epoca “dei cervelli”, quella in cui abbiamo maturato anche “la capacità di creare modelli mentali astratti del mondo in cui viviamo e di prevedere le implicazioni razionali di questi modelli”.

Nella successiva, leggiamo direttamente dal testo:

Combinando la dotazione di pensiero razionale ed astratto con il nostro pollice opponibile, la nostra specie ha inaugurato la quarta epoca e il successivo livello di sviluppo: l’evoluzione della tecnologia creata dall’uomo.

E’ l’epoca “della tecnologia” la quarta, e occorre fare attenzione perché ci siamo immersi fino al collo. Il problema, come si intuisce, è che sono previste dal nostro teorico altre due epoche dopo la nostra, e ciò non promette nulla di buono.

La quinta è quella che ci attende, e che avrà inizio con l’evento della Singolarità di cui parla anche Casaleggio nel video lasciatoci in eredità, descritta da Kurzweil come l’epoca “della fusione tra tecnologia ed intelligenza umana”. Vale la pena di riportare dal testo:

La quinta epoca permetterà la nostra civiltà uomo-macchina di trascendere i limiti del cervello umano [che è dotato] di sole cento trilioni di connessioni estremamente lente.

Caspita, che modello di cervello scarso che abbiamo, è proprio ora di fare un upgrade…

La singolarità ci consentirà di superare gli antichi problemi umani e amplificare notevolmente la nostra creatività. Conserveremo e valorizzeremo l’intelligenza di cui l’evoluzione ci ha dotati superando i profondi limiti della biologia. Ma la Singolarità amplificherà anche la capacità di agire sulle nostre inclinazioni distruttive, quindi la sua piena storia non è ancora stata scritta.

E qua le visioni sono le più disparate: chi pensa che le nostre capacità verranno così potenziate dalla tecnologia che saremo capaci di fare, provare, e pensare cose prima impossibili, del tipo che il meno dotato tra noi sarà intellettualmente più sveglio di Einstein e fisicamente più prestante di Bolt; c’è chi sostiene che le macchine acquisteranno oltre all’intelligenza anche una coscienza e noi ne diverremo qualcosa di simile agli animaletti domestici; altri dicono che verrà fatto un reverse engineering del nostro cervello in modo da riprodurre un calcolatore che funziona allo stesso modo ma molto più potente, oppure che il contenuto di tale organo verrà uploadato in una macchina, e grazie a questo continueremo a vivere in eterno, o finché non si esauriranno le batterie (speriamo almeno di non finire dentro lo smartphone di un automa antropomorfo che gioca a Hay Day con noi come protagonisti, anche se ce lo meriteremmo: da schiavi del telefonino, a schiavi nel telefonino); chi prevede una simbiosi totale tanto che non si distinguerà più una macchina da un essere umano, o forse tutti gli esseri saranno macchine umane; per altri il corpo biologico è destinato a scomparire, e rimarrà solo hardware, software, o wetware. La letteratura e la filmografia su questo si sono abbondantemente sbizzarrite, talvolta con risultati interessanti.

Nell’ultima epoca, avremo nientemeno che “Il risveglio dell’universo”, dove:

L’intelligenza, derivata biologicamente dal cervello umano e tecnologicamente dal suo ingegno, inizieranno a saturare la materia e l’energia al suo interno. Ciò verrà ottenuto riorganizzando materia ed energia per fornire un livello ottimale di calcolo ed espandersi dalle sue origini sulla Terra. […]

In ogni caso la materia “stupida” e i meccanismi dell’universo verranno trasformati in forme squisitamente sublimi di intelligenza, e ciò costituirà la sesta epoca nell’evoluzione dei modelli di informazione.
Questo è il destino ultimo della Singolarità e dell’universo.

Una visione quindi che si spinge fino a definire escatologicamente il punto di arrivo dell’universo; ma visto che con ogni probabilità non vivremo abbastanza da vederla questa sesta epoca, torniamo indietro e cerchiamo di capire come poter sopravvivere all’ingresso nella quinta, tenendo presente che il passaggio da ogni epoca alla successiva comporta un “salto di paradigma”, cioè si passa da un grado di complessità ad uno più elevato, in base al principio che:

L’evoluzione usa i risultati di un’epoca per creare la successiva.

Cosicché, i risultati dell’epoca dominata dall’uomo e le sue invenzioni, serviranno per dare inizio al periodo successivo, e ciò potrebbe accadere più o meno così:

Quando la prima intelligenza transumana sarà creata e lancerà sé stessa in un auto-miglioramento ricorsivo, facilmente si verificherà una discontinuità fondamentale, le cui conseguenze non sono nemmeno in grado di iniziare a prevedere.

La nostra epoca sta dunque finendo, e a quanto pare siamo in bilico tra la tanto agognata immortalità terrena e il rischio di essere soppiantati definitivamente da una nuova specie post-biologica. In ogni caso un incubo.

.

(fine della prima parte. La seconda parte sarà pubblicata domani, venerdì 20 gennaio)