Premessa

Durante la presentazione dal calcolatore 1401 della IBM all’inizio degli anni ‘60 ci fu una discussione su cibernetica e elaboratori elettronici, in quella occasione fu possibile procurarmi un libro edito dalla stessa IBM sull’argomento. Ricordo che uno dei tecnici fece presente che l’elaboratore che presentavano era una macchina numerica, digitale, mentre la cibernetica nella quasi totalità si riferiva a sistemi analogici.

Da quelle iniziali premesse deriva la mia convinzione, che non mi ha mai lasciato, che gli attuali apparati hardware con cui si realizzano sistemi di IA (Intelligenza Artificiale) siano poco adatti alla totale emulazione di comportamenti animali o umani.

Questa idea si è ulteriormente rafforzata negli ultimi tempi dopo che nel giugno del 2022 ho avuto la possibilità di seguire diverse conferenze sull’argomento; A mio avviso un elaboratore riceve una immagine ma non sa cosa sia, sente un suono, identifica sicuramente che è una sonata per piano di Betheven ma per lui è la stessa cosa del fischio di un treno e non fa differenza se ascolta la sonata in una cantina o in una sera di inizio estate.

In questi mesi mi sono posto il problema di cosa succederebbe se un ipotetico gruppo di lavoro realizzasse un robot dotato di architettura analogica, anziché digitale, robot che avesse tutti i canoni della cibernetica classica.

Ho poi cercato di sintetizzare le deduzioni in un racconto ambientato nel 2190, periodo in cui ipotizzo che i tecnici dispongano di materiali sintetici molto simili ai muscoli, ai neuroni, e che siano stati sviluppati linguaggi di programmazione che siano in grado di emulare i processi di apprendimento e di comportamento meglio di quanto sia possibile con quelli attuali.

Per una visione completa del problema ho rispolverato del materiale, che di seguito sintetizzo, su cibernetica e omeostasi, presentando poi una analisi dell’omeostato di William Ross Ashby che ebbe una notevolissima notorietà negli anni successivi al 1947.

Poi quattro parole, un mio pensiero, sulle macchine pensanti.

Questo materiale vuol solo richiamare gli elementi generali della cibernetica senza approfondirli, concetti che cercherò di esasperare in un prossimo racconto

Cibernetica

La parola Cibernetica deriva dalla parola greca,κυβερνήτης, kybernḗtēs, che significa timone, pilota di navi, un dispositivo utilizzato per guidare una barca o per supportare il governo umano.

Questa parola fu usata per la prima volta da Platone in Alcibiade per indicare il governo delle persone. Negli anni '30 dell'Ottocento, il fisico francese Ampere la utilizzò per descrivere la scienza del governo civile. Norbert Wiener definì la cibernetica come “lo studio del controllo e della comunicazione nell'animale e nella macchina”.

Nel suo significato attuale fu utilizzata durante gli anni della seconda guerra mondiale su impulso di un gruppo di ricercatori tra i quali ebbe una parte predominante il matematico statunitense Norbert Wiener. I ricercatori, pur provenienti da diverse formazioni intellettuali, erano uniti dall'interesse per gli strumenti concettuali sviluppati dalle tecnologie, allora emergenti, dell'autoregolazione, della comunicazione e del calcolo automatico, e per la loro applicazione allo studio delle funzioni tipiche degli esseri viventi. Nel 1948 Wiener pubblicò La cibernetica; in questo libro, che ottenne un notevole successo, definiva l'ambito di interesse e gli obiettivi della nuova disciplina, inaugurando anche l'uso del termine, ripescato dagli studi classici.

Nella versione moderna la parola cibernetica identifica un vasto programma di ricerca interdisciplinare, rivolto allo studio unitario e matematico degli organismi viventi e, più in generale, di sistemi, sia naturali che artificiali.

La cibernetica si occupa di concetti alla base della comprensione di sistemi complessi come l'apprendimento, la cognizione, l'adattamento, l'emergenza, la comunicazione e l'efficienza.

La cibernetica è stata influenzata e, a sua volta, ha applicazioni in campi diversi come la psicologia e la teoria del controllo, la filosofia e l'ingegneria meccanica, l'architettura e la biologia evolutiva, o le scienze sociali e l'ingegneria elettrica ed elettronica.

Non c'è da stupirsi che filosofi e scienziati abbiano diverse definizioni di cibernetica.

Negli ultimi anni gli scienziati hanno mostrato una certa riluttanza a usare il termine cibernetica perché la disciplina copre una gamma troppo ampia di concetti e applicazioni in moltissime aree dell'attività umana. Tuttavia, i concetti fondamentali della cibernetica, come il feedback, sono essenziali per comprendere i sistemi complessi, semplicemente perché tali sistemi devono adattare il loro comportamento in base al feedback dell'ambiente in cui operano.

Due sono i circuiti principali di feedback che consentono al sistema di apprendere e adattarsi; uno, usato frequentemente, apporta piccoli aggiustamenti e consente l'apprendimento, mentre l'altro, usato meno frequentemente, avverte la necessità di sostituire le informazioni obsolete con nuove informazioni, consentendo così l'adattamento.

Secondo Ashby, l'apprendimento implica che un sistema che scopre modelli di comportamento di successo nell'ambiente in cui opera ripete le azioni riuscite, evitando quelle fallite. Adattamento significa che il sistema impara un nuovo modello di comportamento dopo aver riconosciuto che l'ambiente è cambiato e il vecchio modello non ha più successo.

La rivoluzione cibernetica, cominciata coi lavori di Norbert Wiener, può essere esaminata secondo tre aspetti: la macchina, la natura ed ilpensiero.

La macchina

La macchina cibernetica non lavora secondo programmi rigidi ma si adatta a situazioni non previste dal suo costruttore sopratutto quando cerca di imitare un qualsivoglia comportamento degli esseri viventi.

L’omeostato di Ashby e le tartarughe di Grey Walter, sono esempi storici di talimacchine.

La nozione di macchina cibernetica allarga senza limiti il classico concetto di macchina, il punto di partenza di questa evoluzione fu segnato con l’introduzione dei sistemi di regolazione nell’industria. E’ di notevole importanza il regolatore di Watt, inventato nel 1788 e montato su macchine a vapore che permetteva di ottenere una velocità costante della macchina al variare del carico di lavoro.

Ma il progresso ha reso sempre più facile l’autoregolazione delle macchine, che diventano sempre più cibernetiche man mano che si allontanano da programmi rigidi.

Questa rivoluzione cibernetica della macchina conduce ad una liberazione per l’uomo dai lavori servili e all’automatismo delle fabbriche, questo avviene di pari passo con la industrializzazione, ma le conseguenze del fenomeno sono considerevoli e devono essere previste e gestite.

A stadi ancora più evoluti, la macchina cibernetica può essere messa in interazione con l’uomo, e con un’ardita estrapolazione si può prospettare persino la possibilità di stabilire relazioni dirette tra l’uomo e le macchine più complesse con una sorta di trasmissione elettronica dello stesso pensiero.

Si può anche immaginare che la macchina abbia la possibilità di riprogettarsi e riprodursi, il che condurrebbe alla nozione di macchine non costruite dall’uomo.

La natura.

Ma è nella conduzione tecnica del mondo che la trasformazione è più grande. Ci si trova un doppio movimento di tecnicizzazione della natura e di naturalizzazione della tecnica.

Il mondo tecnico, pur naturalizzandosi, tecnicizza ormai la natura riscoprendola nella sua estensione annettendola come organo e come momento, trasformando la sua stessa materia nella propria sostanza.

Il mondo tecnico di oggi non è più un terzo regno tra l’uomo e la natura, perché non viene ad aggiungersi agli altri lasciandoli intatti. È piuttosto un nuovo regno unico che include in sé i due altri, sostituendosi a loro mettendoli in rapporti che li reinterpretano.

Si può chiamare una realtà mediana. Al limite della concretezza non c’è più natura né artificio, ma una sintesi originale e mobile che si può chiamare una natura artificiale o un artificio naturale.

Tutta la natura è sempre più dominata da oggetti tecnici. E poiché questa tecnicizzazione si estende indefinitamente nello spazio e nel tempo, si può dire che la tecnica concreta della cibernetica formerà domani non solo il nostro paesaggio, ma anche il nostro orizzonte.

Il pensiero

L’utilizzo esteso dei modelli e dei simulatori è essenzialmente un modo di pensare per analogia.

Rilevo che il modello si distingue dal simulatore. La differenza apparechia ramente se si considera da una parte la logica di un sistema che si esprime nel suo principio di funzionamento e dall’altra la tecnologia del sistema che caratterizza la sua natura fisica (forma,materia, ecc.).

Si può allora dire che un sistema fisico e il suo modello hanno le stesse logiche ma tecnologie differenti, mentre un sistema fisico e il suo simulatore hanno logiche differenti e non hanno in comune che i datie i risultati.

Omeostasi

L'omeostasi, dalle parole greche per "uguale" e "stabile", si riferisce a qualsiasi processo che gli esseri viventi usano per mantenere le condizioni necessarie per la loro sopravvivenza il più possibilmente stabili . Il termine fu coniato nel 1930 dal medico Walter Cannon. Il suo libro, La saggezza del corpo, ove descrive come il corpo umano mantenga costante la temperatura e altre condizioni vitali come il contenuto di acqua, sale, zucchero, proteine, grassi, calcio e ossigeno nel sangue.

In sintesi con il termine omeostasi si indica la capacità di un sistema di autoregolarsi mantenendo costante l’ambiente interno pur nel variare delle condizioni che riguardano l’ambiente esterno.

Un sistema che è in uno stato stazionario rimane costante nel tempo, ma quello stato costante richiede un lavoro continuo ed ha un livello di energia più elevato rispetto all'ambiente circostante.

In fisica, nell’automazione, in elettronica, la retroazione o retroregolazione (feedback in inglese, ma il termine è usato spesso anche in italiano) è la capacità di un sistema dinamico di tenere conto dei risultati del sistema per modificare le caratteristiche di funzionamento del sistema stesso.

La retroazione è un meccanismo all'interno dei sistemi dinamici, il feedback, per il quale le variabili in ingresso dipendono da quelle in uscita, nella maggior parte dei casi è una tecnica che consiste nel riportare all'ingresso del sistema il segnale di uscita per modificare il proprio funzionamento.

Il feedback può essere positivo o negativo.

Il feedback negativo produce un effetto contrario allo stimolo iniziale.

Il feedback positivo è quello che, da uno stimolo iniziale, risponde aumentando o amplificando la reazione del sistema, ciò può verificarsi a seguito di una carenza o di un eccesso di alcuni fattori nel sistema.

L’oscillazione è un comportamento comune e necessario di molti sistemi omeostatici, il feedback per essere gestito richiede tempo e questo ritardo è una caratteristica di molti sistemi, quindi le oscillazioni si "smorzano" fino al raggiungimento dello stato di equilibrio.

Il setpoint è una parola inglese dal significato letterale di “valore fissato”, cioè valore normale o fisiologico: un parametro intorno a cui fluttua il range fisiologico di valori “attuali”, cioè misurati istantaneamente; il setpoint è un insieme ristretto di valori normali che corrispondono al funzionamento ottimale del sistema. Talvolta l’insieme di queste misure, utilizzabili come termini di raffronto, vengono definiti parametri vitali.

Lo stimolo è fornito dalla variabile che si sta regolando. In genere, lo stimolo indica che il valore della variabile si è allontanato da punto di riferimento o ha lasciato l’intervallo normale.

L'intervallo di normalità è l'intervallo tra due valori, minimo e massimo, in cui il sistema si considera in equilibrio, cioè la variabile considerata deve mantenersi all’interno di questo intervallo di valori che è compatibile con la funzionalità dell’organismo.

Le fluttuazioni della variabile al di fuori dell’intervallo di normalità rappresentano lo stimolo.

Il sistema deve esere provvisto di un sensore in grado di percepire lo stimolo, da questa percezione deriva l'azione di feedback per riportare la variabile interessata nell’intervallo di normalità.

Omeostato

E’ stata una delle prime macchine cibernetiche, ideata dal già citato W.R. Ashby (1903-1972) per imitare le proprietà di autoregolazione degli organismi viventi.

Schema omeostato

Per illustrare il concetto di ultrastabilità, Ashby concepì e realizzò un dispositivo elettromeccanico che chiamò "omeostato" e che divenne presto popolare.

Le prime tracce dell'omeostato negli appunti di Ashby risalgono al 1946, mentre il primo esemplare fu completato nel marzo del 1948, utilizzando materiale militare di recupero; una prima descrizione tecnica del dispositivo venne pubblicata su una rivista nel dicembre 1948.

Nel 1949 la rivista Time gli dedicò un articolo descrivendolo come "l'oggetto più vicino ad un cervello sintetico sinora progettata dall'uomo".

Nel 1952, Ashby ne dette una dimostrazione a New York. Consisteva in un sistema di quattro dispositivi elettromeccanici (il cui stato poteva essere variato tramite opportuni commutatori per simulare l’ambiente esterno) collegati elettricamente tra loro in modo che lo stato di ciascuno di essi dipendeva anche da quello assunti dagli altri tre.

L'omeostato era una macchina ingombrante e un po' barocca ed aveva un unico scopo: riguadagnare stabilità in risposta alle perturbazioni del suo ambiente.

Una descrizione dettagliata del funzionamento dell'omeostato esula da queste note, ma credo sia sufficiente dire che il sistema poteva essere "configurato" modificando, tramite appositi commutatori e resistenze variabili i circuiti che combinano tra loro le tensioni in ingresso alle quattro unità

Un circuito con un triodo permetteva l’amplificazione del segnale per la gestione dei vari feedback.

A seconda della configurazione prescelta dall'operatore, l'omeostato, dopo un tempo transitorio più o meno lungo, poteva trovare una situazione finale di equilibrio o di non equilibrio.

Nel primo caso il sistema era definito stabile, in quanto per la gamma dei valori di ingresso, quelli permessi dalla configurazione scelta restava in equilibrio.

Nel secondo caso l'omeostato si trovava in una configurazione di non equilibrio, un sistema di temporizzazione permetteva di generare automaticamente, dopo alcuni secondi, una nuova configurazione; l’omeostato provava così sequenzialmente una serie di possibili configurazioni e si arrestava solo quando ne trovava una di equilibrio.

Questo comportamento era definito da Ashby ultrastabile, in quanto in grado di pervenire a una situazione di equilibrio variando le modalità di funzionamento del sistema.

Questo processo, che simula molti comportamenti del sistema nervoso, venne paragonato da Ashby all'apprendimento.

L'omeostato è allora un cervello? Difficilmente, perché è ancora troppo larvale. Ma utilizza un principio che può essere facilmente esteso per fornire sviluppi molto più potenti.

Il principale difetto nella sua realizzazione con solo quattro unità e senza memoria, è che ha poco spazio per accumulare nuovi adattamenti, ma, se deve adattarsi a un nuovo ambiente, deve cancellare gli adattamenti precedenti per fare spazio al nuovo.

Questo, naturalmente, è un grave handicap, proprio come un bambino sarebbe handicappato a scuola se potesse imparare ciò che è due per tre solo perdendo la memoria di ciò che è due per due.

La difficoltà in senso stretto non è insuperabile e potrebbe essere aggirata con un aumento del numero delle unità ed utilizzando le miniaturizzazione dei moderni sistemi elettronici.

La realizzazione di un cervello sintetico richiederebbe molto tempo e molto lavoro, ma c'è un punto su cui devo essere molto chiaro: un vero cervello sintetico deve sviluppare la propria intelligenza, non deve essere un semplice pappagallo.

Non importa quanto abbagliante sia la performance, bisogna sempre chiedersi quanta della prestazione è stata studiata in dettaglio dal progettista e quanto è stato auto realizzato dalla macchina stessa.

Macchine pensanti

Molti ricercatori di intelligenza artificiale prevedono che le macchine pensanti assumeranno il nostro lavoro mentale, proprio come i loro predecessori meccanici avevano lo scopo di eliminare la fatica fisica. I critici di queste affermazioni hanno sostenuto con uguale fervore che macchina pensante è una contraddizione in termini.

I computer attuali con la loro base di logica digitale, a mio avviso, non potranno mai essere creativi o perspicaci o possedere un giudizio reale. Sebbene la mia convinzione si sia sviluppata attraverso la partecipazione attiva alla ricerca sull'intelligenza artificiale, ora sono arrivato a riconoscere una verità più ampia sia alle critiche che alle previsioni entusiastiche.

La fonte delle difficoltà non si troverà nei dettagli dei microcircuiti in silicio o nella logica booleana, ma nella filosofia di base del razionalismo che ha guidato la ricerca.

In queste poche righe esamino alcuni principi guida dell'intelligenza artificiale e sostengo che, come ora concepita, si limita a un tipo molto particolare di intelligenza: intelligenza che può essere utilmente paragonata alla burocrazia.

In conclusione, espongo brevemente un orientamento che si può definire costruttivismo ermeneutico che ci può portare a un percorso alternativo di progettazione.

E’ facile prevedere la nascita di una nuova specie, la machina sapiens, che condividerà (forse usurperà) il nostro posto di specie intelligente sulla terra, machina che penso disporrà di una evoluzione dei neuroni del nostro cervello e di muscoli artificiali che non necessiteranno di circolazione sanguigna per disporre di energia.

Queste macchine pensanti si occuperanno delle nostre gravose faccende mentali, proprio come i loro predecessori meccanici avevano lo scopo d i eliminare la fatica fisica, alla fine applicheranno le loro capacità intellettive alla risoluzione di tutti i problemi, nostri e loro.

Qualsiasi tentativo di resistere a questa inevitabile evoluzione è solo una forma di specismo, nato da un attaccamento romantico e irrazionale alle peculiarità dell'organismo umano.

Bisogna considerare che queste machinae sapiens non avranno bisogno di apparato riproduttivo, di circolazione sanguigna, di apparato respiratorio, digestivo ed endocrino con tutti gli annessi e connessi cerebrali. Potranno disporre di un sistema di locomozione molto migliore del nostro, basta pensare che noi umani abbiamo dotato le automobili di ruote e non di gambe, e cosa più importante, potranno disporre di radio-telepatia e di linguaggi basati sia su parole che su simboli e ideogrammi senza le difficoltà e le barriere della traduzione.

La critica che sostiene che macchina pensante è un ossimoro, una contraddizione nei termini, può essere liquidata come un'altra dimostrazione dell'arroganza della scienza moderna, nonostante tutto non siamo stati in grado di costruire una macchina con un minimo di buon senso o in grado di dialogare su argomenti quotidiani con un linguaggio ordinario. Nessuno può nascondere che una brillante mossa di scacchi mentre la stanza si riempie di fumo perché la casa sta bruciando non mostri intelligenza, se la capacità di giocare a scacchi brillantemente indipendentemente dalle circostanze della vita merita un nome, la chiamerei intelligenza artificiale nel significato attuale del termine.

Il vero significato attuale di intelligenza artificiale si può paragonare all'alchimia.

Gli alchimisti avevano ragione. Il piombo può essere convertito in oro da un acceleratore di particelle che lancia raggi appropriati contro bersagli di piombo. I visionari dell'IA potrebbero avere ragione allo stesso modo, ed è probabile che abbiano torto allo stesso modo.

Non c'è motivo se non arroganza per credere che siamo più vicini alla comprensione dell'intelligenza di quanto lo fossero gli alchimisti ai segreti della fisica nucleare.

Se la nostra comunità mondiale dipenderà in un lontano futuro interamente da una machina sapiens per la pianificazione sociale ed economica, speriamo di poter accettare come solo ragionevole il suo suggerimento, ma io penso che dovrebbe essere sepolta in profondità per la nostra sicurezza e dovremmo essere persuasi dell'opportunità di bloccare permanentemente gli interruttori dei i suoi alimentatori in posizione "on".

 .