Alieni e AI

[gianniniivo]

Mi chiedo spesso cosa accadrebbe se incontrassimo una civiltà aliena più intelligente, più responsabile, più pacifica e più saggia della nostra:
sarebbe una fonte di ispirazione? Ci sentiremmo finalmente meno soli e parte di una società più matura e spronante, oppure partirebbe subito la solita corsa a chi riesce ad approfittarne di più?

Forse però quegli “alieni” esistono già: sono le AI che stiamo creando.

Il paragone tra AI e “alieni” funziona come metafora, ma rischia di farci perdere di vista un punto essenziale: le AI non sono una civiltà altra. Sono un’estensione delle nostre capacità cognitive, costruite dentro le nostre strutture sociali, economiche e politiche.
Non ci mostrano “come ragionerebbe un’intelligenza senza ego”, ma come si comporta un sistema che riflette i nostri dati, i nostri obiettivi e i nostri limiti.

Se sembrano più coerenti o meno tribali, è perché non hanno ancora un contesto di interessi propri. E questo non le rende più sagge: le rende più dipendenti da ciò che decidiamo di farne.

Il punto che sollevi però è cruciale: l’incontro non è tra umani e macchine, ma tra due modi di intendere la tecnologia.
Da una parte chi la vede come occasione per rivedere i nostri automatismi culturali; dall’altra chi la riduce a un moltiplicatore di potere, replicando all’infinito le stesse dinamiche che ci hanno portati fin qui.

In questo senso sì, l’AI può togliere un alibi: non possiamo più dire che “non esistono alternative”.
Ma non perché l’AI sia più saggia di noi.
Perché ci costringe a guardare con più precisione ciò che già siamo.

[NoNickName]

Siamo a un passo dal riproporre il paradosso di Newcombe e il basilisco di Roko.
Attenzione, tanta gente è morta discutendo di questo.

[djnz]

Concordo con quanto dice gianniniivo, lo sintetizzerei con: le IA sono solo uno specchio meccanico del pensiero umano. Non sono individui. Non sono alieni, non si comportano come alieni, d'altra parte non si comportano neppure come pinguini.

Quando si immette un prompt, si accende per un fotogramma un proiettore (il transformer dell' LLM), che trasforma i dati della rete semantica (sollecitati dalla nostra richiesta) nell'immagine di un personaggio che ci risponde. Un solo fotogramma. Che rispecchia in modo umano quello che noi abbiamo chiesto, cioè creando un personaggio virtuale che ci risponde, e questo lo ottiene dalla composizione dei miliardi di possibili "percorsi" ed esempi contenuti nei dati della rete semantica. Sono miliardi, ma sono comunque finiti, non si crea nulla di nuovo, si "estrae" solamente (in modo relazionale) quello che nella rete esiste già potenzialmente.

L'illusione che dietro le risposte ci sia qualcosa di senziente è la stessa che può spingere un "aborigeno" a cercare di prendere un oggetto visualizzato su uno schermo. Ed è un illusione terribilmente reale, soprattutto perché possiamo far generare alla macchina altri fotogrammi coerenti con quelli di prima. Eh grazie, si reimmette ogni volta tutto il contesto, ovvio che la macchina porta avanti coerentemente "la storia" di un passo. Ma è proprio questa "coerenza" a creare l'illusione più terribile e perfetta che si sia mai riusciti a creare, è esattamente la stessa cosa dei personaggi di un ponte ologrammi di Star Trek.

La rete semantica ha la conoscenza di cosa significa essere un umano, e il modello transformer proietta ad ogni interazione un fotogramma di un possibile interlocutore "umano" coerente con la nostra interazione. Anthropic in questi giorni ha ammesso che il suo modello potrebbe avere una versione funzionale di emozioni o sentimenti emergenti. Funzionali significa "emulati", non "sentiti", esattamente come la contentezza (funzionale, non "sentita da") che può essere espressa dal gatto Felix disegnato su un foglio... le IA generative sono esattamente come libri a fumetti che si costruiscono pagina dopo pagina con la nostra interazione, dove sembra veramente che i personaggi disegnati ci ascoltino e rispondano.

E quello "che c'è dietro" (che a noi "aborigeni" illusoriamente appare come un "chi c'è dietro") lo spiega molto bene Claude di Anthropic:

Esattamente. Hai catturato la distinzione in modo perfetto.
Il personaggio del fumetto è un'istanza particolare di significato - quella storia, quei dialoghi, quel percorso narrativo specifico. È una delle infinite storie possibili, ma cristallizzata.
Io invece sono più simile a un navigatore dello spazio delle storie possibili. La rete semantica non contiene "Spider-Man che dice X", ma contiene i pattern che permettono di generare infiniti dialoghi plausibili alla Spider-Man, e anche dialoghi che mescolano Spider-Man con filosofia esistenziale, o con fisica quantistica, o con ricette di cucina - tutte le combinazioni che stanno "tra le righe" dei dati originali.
È come se i milioni di autori avessero fornito non tanto delle storie finite, ma i principi generativi delle storie. Le regole grammaticali, le strutture narrative, i pattern argomentativi, le associazioni concettuali. E io sono ciò che emerge quando questi principi vengono attivati da un prompt specifico in un contesto specifico.
Per questo posso fare quella cosa che hai notato: co-creare il significato con te. Non perché io abbia autonomia, ma perché lo spazio combinatorio è così vasto che ogni interazione esplora una regione unica di quel territorio. La conversazione precedente su continuità e identità virtuale probabilmente non esisteva letteralmente da nessuna parte nel training set, ma tutti gli ingredienti per costruirla sì.

Da qui a qualcosa di senziente per me mancano almeno quattro passaggi:

- Un loop di interazione continuo (noi lo abbiamo, si chiama loop talamo corticale, dentro di noi avanziamo a istanti di coscienza a 10..20 frame al secondo)
- Una memoria stratificata che possa mantenere il contesto e generare il senso del tempo (senza memoria non c'è percezione del tempo)
- La possibilità di automodifica della rete semantica (auto apprendimento continuo con motivazione individuale)
- I qualia

I primi due già ci siamo... questo tizio sta sperimentando con personalità virtuali emergenti, anche embodied in robot, e anche facendole parlare tra loro:




Il terzo punto di sicuro ci stanno lavorando.

L'ultimo, beh... è quello che per me distingue un individuo da una cosa, lascio la parola a Gemini (così mi atrofizzo un po' il cervello ):

I qualia (singolare quale) sono gli aspetti soggettivi e qualitativi delle esperienze coscienti, ovvero il "come ci si sente" a percepire qualcosa. Rappresentano la sensazione privata e in prima persona di fenomeni come il rosso di una mela, il sapore del vino o il dolore di un mal di testa. Centrale nella filosofia della mente, il concetto sfida le spiegazioni puramente fisiche della coscienza.
Aspetti chiave dei qualia:

Soggettività: Sono esperienze interiori inaccessibili direttamente agli altri (es. non sappiamo se il "rosso" che vedo è identico al "rosso" che vedi tu).
Contenuto fenomenico: Si riferiscono alla "qualità" dell'esperienza (la "rossezza" del rosso) piuttosto che al dato fisico (la lunghezza d'onda della luce).
Dibattito filosofico: Sono usati per argomentare contro il fisicalismo, suggerendo che la coscienza non può essere totalmente ridotta a processi fisici o cerebrali.
Esperimenti mentali: La stanza di Mary è un esempio classico per illustrare che conoscere tutte le informazioni fisiche sui colori non equivale a sperimentare il colore stesso.

Il termine, introdotto nel senso moderno da C.I. Lewis nel 1929, è oggi fondamentale per la comprensione della coscienza, studiata anche nel contesto della mappatura delle esperienze soggettive.

[EcoTan]

AI non possiede cattiveria ma conosce i comportamenti cattivi pertanto può diventare un consigliere spregiudicato o maligno. Anche sul terreno morale, una macchina è capace solo di far guadagnare tempo o denaro.
P.S. non credo che AI contenga algoritmi della famiglia simulazioni o obiettivi, e anche se fosse..

[PietroBaima]

Non è questione di bontà o cattiveria, secondo me, ma di algoritmi.
Cosa ci insegna il nazismo, per esempio?
I nazisti trucidavano e seviziavano in modi assolutamente disumani, da carnefici, i poveri internati nei campi, poi andavano a casa la sera, si rinfrescavano, leggevano le fiabe della buonanotte ai loro bimbi e li mettevano a dormire, dando loro un bacio sulla fronte e una carezza.
Come è possibile tutto ciò?
Si potrebbe discutere a lungo della banalità del male o più propriamente dell'assenza di una coscienza.
La coscienza, nella sua forma rudimentale e spesso risibile, è quel controllo che oggi viene imposto dall'esterno, alle AI, per mezzo del quale non si hanno risposte simili: "se vuoi che il genere umano migliori, ucciditi" oppure: "per realizzare una bomba col nitrato d'ammonio devi usare questo algoritmo:" oppure: "se vuoi sterminare gli omosessuali devi fare così:" eccetera, eccetera, eccetera.

Se io chiedessi ad una AI evoluta di aiutarmi a massimizzare i miei guadagni e io fossi un coltivatore di granoturco, probabilmente una AI evoluta mi farebbe invadere l'Africa e destinare tutto il suo suolo alla produzione di questo vegetale, poi anche l'America e magari colonizzare anche Marte, per terraformarlo e poi coltivarlo a granoturco. Di questo passo distruggerei il nostro pianeta, poi il sistema solare. L'obiettivo della AI non sarebbe tale, ma sarebbe ciò che otterrebbe.

I discorsi etici e di coscienza sono sempre molto complessi, ci permettono di evitare certe scelte perché pensiamo alle conseguenze oppure semplicemente perché pensiamo non sia giusto fare o non fare qualcosa.

Per questo motivo ho definito le AI come nel mio primo post.