Definizioni

Per singolarità tecnologica si intende il punto nello sviluppo di una civiltà in cui il progresso tecnologico accelera oltre la capacità di comprensione e previsione degli esseri umani.

Nella accezione più comune questo sviluppo si riferisce alla tecnologia dell’Intelligenza Artificiale, ma esistono anche singolarità non IA, accennerò a questo tema in un paragrafo finale.

La singolarità è un ipotetico momento futuro in cui la crescita tecnologica diventa incontrollabile e irreversibile, determinando cambiamenti imprevedibili nella civiltà umana.

La singolarità può, più specificamente, riferirsi all'avvento di un'intelligenza superiore a quella umana, fosse anche artificiale, e ai progressi tecnologici che, a cascata, si presume seguirebbero da un tale evento, salvo che non intervenga un importante aumento delle facoltà intellettive di ciascun individuo.

Naturalmente nessuno è in grado di azzardare previsioni, ma mi sembra corretto indagare su una serie di scenari, sia che pensiamo che la singolarità sia vicina o lontana, probabile o impossibile, apocalisse o utopia, l'idea stessa solleva importanti questioni filosofiche e pragmatiche costringendoci a fare serie considerazioni.

Quando se ne iniziò a parlare

Sebbene si creda che il concetto di singolarità sia nato negli ultimi venti anni del ventesimo secolo, esso nasce realmente negli anni cinquanta del novecento:

“Una conversazione centrata sul sempre accelerante progresso della tecnologia e del cambiamento nei modi di vita degli esseri umani, che dà l'apparenza dell'avvicinarsi di qualche fondamentale singolarità della storia della razza oltre la quale, gli affanni degli esseri umani, come li conosciamo, non possono continuare.”

Questa citazione è stata spesso estrapolata fuori dal suo contesto e attribuita allo stesso Von Neumann, forse a causa della sua grande fama ed influenza.

Nel 1965 I.J. Goodde scrisse un concetto ancora più vicino al significato contemporaneo di singolarità che includeva l'avvento di un'intelligenza superumana:

“Diciamo che una macchina ultra intelligente sia definita come una macchina che può sorpassare di molto tutte le attività intellettuali di qualsiasi uomo per quanto sia abile. Dato che il progetto di queste macchine è una di queste attività intellettuali, una macchina ultra intelligente potrebbe progettare macchine sempre migliori; quindi, ci sarebbe una "esplosione di intelligenza", e l'intelligenza dell'uomo sarebbe lasciata molto indietro. Quindi, la prima macchina ultra intelligente sarà l'ultima invenzione che l'uomo avrà la necessità, o la possibilità, di fare.”

IA ed intelligenza umana a confronto. Punto di singolarita'

La singolarità vingeana

Il concetto di singolarità tecnologica viene accreditato al matematico e romanziere Vernor Vinge che cominciò a parlarne intorno al 1980, e raccolse i suoi pensieri nel primo articolo sull'argomento nel 1993, con il saggio Technological Singularity.

Questo articolo contiene l'affermazione, spesso citata, secondo cui

"entro trenta anni, avremo i mezzi tecnologici per creare un'intelligenza sovrumana. Poco dopo, l'era degli esseri umani finirà."

Affermazione, secondo me, palesemente errata non nelle conclusioni ma nei tempi di attuazione.

La singolarità come presentata da Vinge è comunemente interpretata come l'affermazione che il progresso tecnologico possa crescere all'infinito come avviene in una singolarità matematica, ma ciò è errato perché il termine è stato scelto, come una metafora, prendendolo dalla fisica dato che, mentre ci si avvicina alla singolarità tecnologica, i modelli di previsione del futuro diventano meno affidabili, esattamente come i modelli della fisica diventano inefficaci in prossimità, ad esempio, di una singolarità gravitazionale.

La singolarità tecnologica viene spesso vista come la fine della civilizzazione umana e la nascita di una nuova civiltà, ma Vinge si chiede perché l'era umana dovrebbe finire, e postula che gli umani potrebbero trasformarsi, nel tempo della singolarità, in una forma di intelligenza superiore, se così non fosse, dopo la creazione di un'intelligenza sovrumana, la gente sarebbe, al suo confronto, una forma di vita inferiore, però ma non è molto chiaro cosa debba intendersi per nuova forma di civiltà, né forma di vita inferiore.

Nel suo racconto sulle macchine più intelligenti dell'uomo Vince descrisse come queste concepissero il mondo, ma io penso che questa tesi sia una contraddizione perché ritengo che non si possa capire come un osservatore più intelligente dell'uomo veda il mondo ed il genere umano.

Il mio gatto non penso possa descrivere come io vedo la civiltà umana.

Nel momento in cui gli esseri umani costruiranno una macchina che sia in grado di diventare più intelligente dell’uomo, inizierà una nuova era che non sarà possibile qualificare a priori come buona o cattiva ma sarà semplicemente diversa.

Implicazioni della singolarità tecnologica

E’ evidente che lo sviluppo tecnologico che conduce alla singolarità ha importanti ricadute su molti aspetti della vita sia a livello individuale che sociale.

Non entro nelle prospettive analizzate dai transumanisti ma è certo che a livello politico l'avanzamento della tecnologia permetterà la creazione di forme di aggregazione alternative allo Stato.

L'avvicinamento alla singolarità ed il suo superamento cambierà anche il sistema economico e la forma del sistema giudiziario.

La disponibilità di Intelligenze Artificiali rivoluzionerà inizialmente il mercato del lavoro, introducendo, oltre alle spesso citate problematiche etiche, nuove sfide produttive; l'allungamento radicale della vita richiederà cambiamenti in tutti i settori coinvolti, dalla sanità alle assicurazioni. Infine realizzando un sogno che ebbe già Norbert Wiener, padre della cibernetica.

Si stima anche che la crescita esponenziale della conoscenza della realtà, dei sistemi di controllo sia individuale che sociale, il miglioramento dei sistemi esperti e l’integrazione delle banche dati permetterà una graduale sostituzione della giustizia umana con una più efficiente e oggettiva giustizia automatica.

Critiche

Ci sono due tipi principali di critiche alla previsione della singolarità: quelle che mettono in dubbio che la singolarità sia probabile o anche possibile e quelli che si domandano se sia desiderabile o non piuttosto da ritenere pericolosa e da avversare per quanto possibile.

La possibilità e la probabilità della singolarità.

Alcuni dubitano che una singolarità tecnologica abbia molte possibilità di realizzarsi e si riferiscono ironicamente ad essa come "l'assunzione in cielo per nerds".

La maggior parte delle speculazioni sulla singolarità presumono la possibilità di creare un'intelligenza artificiale superiore a quella umana, ma è controverso se creare una simile intelligenza artificiale sia possibile ed i progressi pratici nell'Intelligenza Artificiale non hanno ancora dimostrato questo in modo empirico.

Esistono discussioni sul fatto che la velocità del progresso tecnologico sia esponenziale, è nota l'affermazione di Kurzweil sui progressi "esponenziali" di "ogni aspetto dell'informazione", si controbatte che nessun progresso segue una legge esponenziale e allora la crescita potrebbe diventare lineare o flettersi o potrebbe cominciare ad appiattirsi in una curva che la renderebbe limitata.

La desiderabilità e la sicurezza della singolarità

Ci sono state spesso delle speculazioni sul fatto che una IA avanzata potrebbe avere degli obiettivi che non coincidono con quelli dell'umanità e che potrebbero minacciarne l'esistenza.

È concepibile, se non probabile, che una IA super intelligente, semplicemente eliminerebbe la razza umana, a quel punto inferiore, e gli umani sarebbero incapaci di fermarla.

Questo è uno dei maggiori problemi che preoccupano sia i sostenitori della singolarità che i suoi critici, ed è stato oggetto di alcuni articoli che hanno trattato questo tema portandolo a conseguenze estreme tanto che arrivano ad affermare che le tecnologie avanzate di IA sono semplicemente troppo pericolose per l’umanità per permettere che si causi una singolarità, e propongono che si lavori per impedirla.

Questo punto di vista fu sostenuto con forza da Theodore Kaczynski, più famoso come Unabomber, che scrisse nel suo "manifesto" che l'IA potrebbe dare il potere alle classi elevate della società di "decidere semplicemente di sterminare la massa dell'umanità". In alternativa, se l'IA non venisse creata, Kaczynski sostenne che gli umani "saranno ridotti al livello di animali domestici " dopo che ci sarà stato un sufficiente progresso tecnologico.

Deve essere notato che Kaczynski non solo si oppose alla IA, ma fu un luddista e come tale si opponeva alla tecnologia ed al suo sviluppo.

Naturalmente, gli scenari come quelli descritti da Kaczynski sono considerati come indesiderabili anche dai sostenitori della singolarità, io non ritengo che questi scenari siano così probabili e sono più ottimista sul futuro della tecnologia.

Altri credono che, senza riguardo ai pericoli che la singolarità pone, sia semplicemente inevitabile, noi dobbiamo progredire tecnologicamente perché non abbiamo un'altra strada da seguire.

I sostenitori dell'Intelligenza artificiale amichevole, e in particolar modo il SIAI, riconoscono che la singolarità è, potenzialmente, molto pericolosa e lavorano per renderla più sicura creando seed AI che agiranno benevolmente verso gli umani ed elimineranno i rischi esistenziali.

Questa idea è così connaturata alle Tre Leggi della Robotica di Asimov, che impediscono alla logica di un robot con intelligenza artificiale di agire in modo malevolo verso gli umani. Comunque, in uno dei racconti di Asimov, a dispetto di queste leggi, i robot finiscono per causare danno ad un singolo essere umano come risultato della formulazione della legge Zero.

Un altro punto di vista, sebbene meno comune, è che l'Intelligenza Artificiale alla fine dominerà o distruggerà la razza umana, e che questo scenario è desiderabile.

L'opinione dei tecno-individualisti è che ogni individuo debba poter aumentare artificialmente ogni facoltà possibile (intellettiva e non), per poter affrontare sia le singolarità sia le élite del Potere.

Secondo loro gli investimenti e le ricerche e sviluppo in tecnologia dovrebbero potenziare gli individui, non le Autorità, e la casta dirigente non è consapevole delle prospettive.

Fondamentale, per loro, è la forza della completa libertà di comunicazione tra gli individui (inter-individualismo, transumanesimo).

La singolarità nella fantasia e nella cultura.

Cosa succederebbe se la tecnologia continuasse ad evolversi così tanto più rapidamente dei regni animale e vegetale? Ci sostituirebbe nella supremazia del pianeta.

Samuel Butler, 1871, Erewhon

Così come il regno vegetale si è lentamente sviluppato dal minerale, e a sua volta il regno animale è succeduto a quello vegetale, allo stesso modo in questi ultimi tempi un regno completamente nuovo è sorto, del quale abbiamo visto, fino ad ora, solo ciò che un giorno sarà considerato il prototipo antidiluviano di una nuova razza.

Stiamo affidando alle macchine, giorno dopo giorno, sempre più potere, e fornendo loro, attraverso i più disparati ed ingegnosi meccanismi, quelle capacità di auto-regolazione e di autonomia d'azione che costituirà per loro ciò che l'intelletto è stato per il genere umano.

Le macchine servono l'uomo soltanto a patto di essere servite, e pongono loro stesse le condizioni di questo mutuo accordo. Quanti uomini vivono oggi in stato di schiavitù rispetto alle macchine? Quanti trascorrono l'intera vita, dalla culla alla morte, a curare notte e giorno le macchine?

Pensiamo al numero sempre crescente di uomini che esse hanno reso schiavi, o che si dedicano anima e corpo al progresso del regno meccanico: non è evidente che le macchine stanno prendendo il sopravvento su di noi? Non ci sono forse più uomini impegnati a curare le macchine che a curare i propri simili.

Si possono trovare concetti simili a quelli relativi allo sviluppo post-singolarità nella descrizione del Punto Omega come formulato da Pierre Teilhard de Chardin.

In aggiunta alle storie originali di Vernor Vinge che è stato il pioniere delle prime idee sulla singolarità, parecchi altri autori di fantascienza hanno scritto storie che hanno la singolarità come tema centrale. Autori degni di nota sono Charles Stross, Greg Egan eRudy Rucker.

Il concetto di singolarità viene citato nel videogioco “cellule alla singolarità” come obiettivo del gioco

Il concetto di singolarità viene anche usato da Isaac Asimov nel suo racconto L'ultima domanda.

Singolarità non IA.

Alcuni scrittori usano "la singolarità" in un modo più ampio per riferirsi a eventuali cambiamenti radicali nella nostra società causati da nuove tecnologie come la nanotecnologia molecolare,il grafene ed il germanene, sebbene Vinge e altri scrittori affermino specificamente che senza superintelligenza, tali cambiamenti non si qualificherebbero come una vera singolarità.

La storia è piena di casi in cui una tecnologia nuova e rivoluzionaria, o un insieme di tali tecnologie, cambia completamente la vita delle persone. Il cambiamento è spesso così drammatico che le persone che hanno vissuto prima del salto tecnologico hanno difficoltà a capire come pensano le generazioni successive.

Per le persone prima del cambiamento, la nuova generazione potrebbe anche essere aliena nel suo modo di pensare e vedere il mondo.

Questi cambiamenti spesso drammatici, penso ai luddisti, anche se non sono in senso stretto delle singolarità, hanno comportato dei profondi cambiamenti nella società, ma sono stati perfettamente assorbiti e si sono realizzati solo benefici.

Ciclo di vita di una tecnologia

Sembra assodato che il ciclo di vita di una qualsiasi tecnologia si comporti con una curva ad S, lascio la sua descrizione ad un esame di economia, in questo contesto è importante notare che il punto Tf è normalmente il momento in cui interviene o un’altra tecnologia più performante o la tecnologia cessa di poter migliorare le sue performance e rimane tale nel tempo non interessando più investimenti e ricerca.

Ray Kurzweil e la legge di Moore.

L'analisi storica del progresso tecnologico dimostra che l'evoluzione della tecnologia segue un processo esponenziale e non lineare come invece si sarebbe portati a pensare.

Nel suo saggio, The Law of Accelerating Returns, Ray Kurzweil propone una generalizzazione della legge di Moore che è la base delle convinzioni di molta gente al riguardo della singolarità.

Nella legge di Moore si descrive un andamento esponenziale della crescita della complessità dei circuiti integrati, Kurzweil estende questo andamento includendo tecnologie molto precedenti ai circuiti integrati ed estendendolo al futuro e stima che la crescita esponenziale, secondo la legge di Moore, continuerà oltre l'utilizzo dei circuiti integrati, con l'implementazione di tecnologie che porteranno alla singolarità.

È un credo comune, ma errato, che la legge di Moore faccia previsioni che riguardino tutte le forme di tecnologia, in realtà essa si riferiva solo i circuiti a semiconduttore, e quanto elaborato da RayKurzweil ha in molti modi alterato la percezione di questa legge da parte del pubblico.

Molti futurologi usano ancora l'espressione "legge di Moore" per descrivere idee come quelle presentate da Kurzweil, ma io penso che realizzare previsioni a lungo termine, almeno in parte corrette, su dove riuscirà ad arrivare la tecnologia, è praticamente impossibile.

Si può solo ipotizzare che una tecnologia legata ad un prodotto con un andamento evolutivo abbia un ciclo di vita utile: nasce, cresce, muore.

Ogni tecnologia ha una sua curva di diffusione e di costi-benefici per uncerto tempo (vita utile della tecnologia), dopo diché viene abbandonata e sostituita da una nuova.

Un piccolo esperimento sociologico

Per fare una verifica pratica, in realtà molto semplice, ho fatto alcuni viaggi in metropolitana a Milano, lunedì il 5 dicembre 2022 dalle nove alle dieci (circa), ed ho osservato a caso duecentonovantotto (298) persone.
Senza farmi notare ho realizzato una statistica sull’uso dello smartphone. Per bambini ho notato solo quelli in apparente età non scolastica, alcuni nella carrozzina.

Persone nella statistica.................298
Bambini............21
Adulti........277
Usavano lo smartphone, senza telefonare...........215
Con il cellulare in mano senza usarlo.............16
Persone che telefonavano.....................3
Adulti senza cellulare tra le mani................44 (16%)
Bambini che usavano il cellulare.................19

Questi numeri mi fanno pensare che non sarà necessaria una nuova tecnologia ed arrivare alla singolarità per dominare la razza umana, basterà implementare l’uso “quasi” obbligatorio di smartphone e smartwatch

Conclusioni (personali)

Non ho pensieri ottimistici sul fatto che l’umanità sappia resistere all’avvento di una tecnologia di IA più avanzata quando viene affascinata da semplici strumenti di comunicazione e gioco.

Non servirà molta altra tecnologia per esercitare un controllo globale, forse non sarà neppure necessario raggiungere la singolarità.