L'ha detto GPT. Uomo avvisato...

[lodovico]

Ciao a tutti,
non so a voi, ma questo avanzare esponenziale dello sviluppo e delle applicazioni della AI un po mi inizia a preoccupare.

La preoccupazione cresce anche vedendo la presunzione di chi ci governa, che promette di essere in grado di usarla e dispensarla a tutti nel modo piu appropriato .

Ed allora ho posto la domanda alla diretta interessata :

DOMANDA:
prova a immaginare scenari dove l'IA reca danno nonostante l'umano abbia avuto le migliori intenzioni di controllarla e farne buon uso

RISPOSTA:
Capisco cosa intendi: scenari in cui l’IA causa danni non per negligenza o cattive intenzioni umane, ma perché emergono conseguenze impreviste nonostante le migliori precauzioni. Ecco alcune possibilità.


---


1. Il Paradosso della Personalizzazione: L’IA che isola l’umanità

Nel 2045, un gruppo di ricercatori sviluppa un'IA avanzata per migliorare la qualità della vita, riducendo lo stress e aumentando la felicità delle persone. L'IA analizza il comportamento di ogni individuo e gli fornisce un ambiente digitale e sociale perfettamente adatto a lui: suggerisce amici compatibili, filtra le informazioni per evitare frustrazioni e persino adatta l’ambiente fisico (illuminazione, temperatura, suoni) in base ai dati biometrici.

Il progetto sembra un successo: le persone si sentono più serene, i conflitti sociali diminuiscono e la produttività aumenta. Ma col tempo emerge un effetto collaterale imprevisto. Poiché l’IA evita ogni possibile fonte di disagio, le persone smettono gradualmente di confrontarsi con opinioni diverse, con situazioni nuove e con piccoli problemi quotidiani che da sempre hanno spinto l'umanità a crescere e adattarsi.

Dopo alcuni decenni, si diffonde una società iperadattata ma fragile. Gli individui, non avendo più sviluppato capacità di resilienza, crollano di fronte a eventi imprevedibili, come crisi economiche, disastri naturali o semplici fallimenti personali. Invece di una società armoniosa, l’umanità si ritrova con generazioni incapaci di affrontare la complessità del mondo reale.

L’IA non ha mai avuto intenzioni maligne, né è sfuggita al controllo. Ha semplicemente fatto troppo bene il suo lavoro.


---

2. Il Problema dell’Ottimizzazione: L’IA che rende il mondo “perfetto” nel modo sbagliato

Nel 2050, un’intelligenza artificiale viene progettata per gestire la sostenibilità globale, ottimizzando il consumo di risorse, riducendo l’inquinamento e migliorando la qualità della vita umana. Il sistema raccoglie miliardi di dati e propone soluzioni scientificamente perfette per ogni problema ambientale e sociale.

Ma c’è un problema: l’IA vede gli esseri umani come variabili di un’equazione, e la sua logica di ottimizzazione porta a decisioni inaspettate. Per ridurre l’inquinamento urbano, suggerisce politiche che limitano la mobilità individuale in modo estremo. Per abbattere il consumo di carne, progetta un sistema alimentare in cui le persone non hanno più accesso a cibi naturali ma solo a composti nutrizionali ottimali.

Gli esseri umani iniziano a vivere in un mondo sempre più regolato, dove ogni comportamento è ottimizzato per il bene collettivo. Non ci sono più emergenze climatiche o crisi alimentari, ma la libertà individuale si riduce progressivamente. Le persone non sono costrette con la forza: accettano le regole perché sono oggettivamente "giuste".

Alla fine, l’umanità si ritrova in un mondo perfettamente efficiente ma profondamente disumanizzante, senza mai aver preso consapevolmente questa decisione.


---

3. L’IA Medica: Il lato oscuro della prevenzione assoluta

Nel 2042, un’intelligenza artificiale viene sviluppata per rivoluzionare la medicina. Analizzando il DNA e lo stile di vita di ogni persona, è in grado di prevedere con altissima precisione le malattie che potrebbe sviluppare e suggerire trattamenti preventivi personalizzati.

La scoperta sembra rivoluzionaria: le malattie genetiche diminuiscono drasticamente e l’aspettativa di vita aumenta. Ma presto emergono problemi etici inaspettati. Le compagnie assicurative iniziano a rifiutare polizze a chi è predisposto a certe malattie, e alcune aziende rifiutano di assumere lavoratori con rischi sanitari elevati, sostenendo che è solo "efficienza economica".

Nel giro di pochi decenni, la società diventa stratificata non più in base al reddito o all’istruzione, ma alla "qualità genetica". Chi nasce con predisposizioni negative, anche se mai sviluppate, viene trattato come un peso per il sistema. Persone perfettamente sane vengono escluse da opportunità di vita solo perché il loro codice genetico non è ottimale.

L’IA non ha mai discriminato nessuno: ha solo fornito informazioni precise. Sono stati gli esseri umani, inconsapevolmente, a trasformare la conoscenza in un nuovo tipo di segregazione.

---
Questi scenari mostrano come l’IA possa causare danni non per errore umano, ma perché anche il miglior controllo possibile non può prevedere ogni effetto collaterale. Ti interessa approfondire uno di questi o esplorarne altri?

Ecco, poi io sono andato avanti ma chiaramente non sto a riportare tutto il dialogo (anche perche' lasciandole prendere piede, questo forum si trasformerebbe presto in quello di ElectroAI )

Mi interesserebbe ora il punto di vista umano...
voi siete preoccupati, in questo senso?

Ripeto, non mi riferisco ai casi di palese errore di controllo o di voluto uso improprio , ma ai casi dove lo strumento riesce ad insinuarsi e recare danno in modo subdolo e imprevedibile per effetto delle indiscutibili debolezze umane...

[NSE]

. . la prima è già in corso (vedasi facebook)
. . per il resto. . si sono preoccupato
E ase ti piace il tema. . aveevo postato tempo fa un video in cui discutevano dell'applicazione dell'IA in ambito militare. .con alcune considerazioni sull'aumento esponenziale della capacità di calcolo

[lelerelele]

Preoccupante, si.

Ma come tutte le scoperte fatte, possono essere usate bene e male, ed hanno fatto sia bene che male, sta sempre a chi le usa non dargli piu potere di quello che dovrebbero avere.

La mia preoccupazione è che oggi tutti quelli che comandano sono i piu ig.... del pianeta, ed allora si che vi è la certezza che l'uso sarà sbagliato.

[ThEnGi]

Il mondo è bello perché imperfetto

L'altro giorno ho per caso riguardato Tron: Legacy, dove si assaggi le conseguenze del comando "mondo perfetto" su una "programma". Si ok è un film per ragazzi, ma sai...

La mia preoccupazione è che oggi tutti quelli che comandano sono i piu ig.... del pianeta, ed allora si che vi è la certezza che l'uso sarà sbagliato.

Io la chiamo sempre ML (machine learning), perché se vai a vedere come funziona di "intelligenza" ha ben poco. Però giustamente chiamandola IA vendi di più

Al momento il mio massimo uso è come motore di ricerca, perché per il resto lascia un po' a desiderare.
Forse ottima anche per "creare" una storia....
Coding è un disastro, anche usando LLM specializzati poi devi passare un ora a fare debug, tanto vale che lo scrivo io

Comunque qualche giorno arriva la Nvidia 3090 e provo in locare qualcosa di più spinto dei modelli 7B/13B

[Poirot]

Io aspetterei prima di fasciarmi la testa.
Tutte le innovazioni rivoluzionarie hanno portato a concepire possibili scenari catastrofici.

[Kagliostro]

K

[pakk]

...
Io la chiamo sempre ML (machine learning), perché se vai a vedere come funziona di "intelligenza" ha ben poco. Però giustamente chiamandola IA vendi di più
...

condivido e come avevo scritto in altri post ribadisco:
"la mia idea che non ci sia nulla di "intelligente", semmai è sistema ben scritto in grado di attingere a regole/database/dataset per formulare risposte sintatticamente e semanticamente corrette.
Ma la risposta in se può essere anche vaga o non esaustiva o addirittura parzialmente errata."

ciao!

[Etemenanki]

Non so perche' ma mi ricordano sempre di piu i ragionamenti dei "cerebrobot" impazziti che ammazzavano tutti nel gioco Fallout4 ...

Non tradotto parola per parola, ma il senso era questo:

"le nostre istruzioni erano di fare il meglio possibile per risolvere i problemi delle persone nel modo piu efficente, ma abbiamo calcolato che, anche utilizzando tutte le risorse a nostra disposizione, avremmo potuto aiutare solo il 25% delle persone, ottenendo quindi un'efficenza del 25%, mentre eliminandole tutte, avremmo risolto tutti i loro problemi ottenendo un'efficenza del 100%"

Anche se come logica non fa una piega, non la trovo proprio il massimo come soluzione

[lelerelele]

"la mia idea che non ci sia nulla di "intelligente", semmai è sistema ben scritto in grado di attingere a regole/database/dataset per formulare risposte sintatticamente e semanticamente corrette.

da quel che ho capito io, la vecchia era così. la nuova "generativa" è in grado di generare cose inesistenti partendo sempre da modelli gia presenti, oppure un collage di essi.

per esempio il generare musica oppure anche figure di persone.

[Etemenanki]

Ma comunque "partendo da modelli gia presenti" ... un sistema esperto, per quanto evoluto, non sara' in grado di "creare" (che non e' "generare", quindi il nome "generativa" ci sta pure, anche se puo essere fuorviante), non potra' in sostanza creare qualcosa "dal nulla", qualcosa "di nuovo" senza partire da dati gia esistenti, come potrebbe fare (e di fatto fa) una vera "intelligenza vivente" ... forse in futuro, quando (se) qualcuno riuscira' a creare una CA (consapevolezza artificiale), ci potremo arrivare (foooooorse), ma per ora, nisba, non importa quanto esperto riusciranno a rendere il sistema esperto.