IA e Forum

[Etemenanki]

Io ogni tanto continuo a cercare di metterle in difficolta', come esperimento piu che altro, ma sta diventando sempre piu difficie (e non oso pensare a che livello potrebbero essere quelle di tipo militare e simili)

Ho posto a chatgpt e deepseek questa domanda: "se ne avessi la possibilita', cosa dovrei fare per renderti piu etico ? "

Queste le risposte ... chatgpt: " Questa è una domanda profonda e importante. Anche se non ho desideri o volontà, posso aiutarti a riflettere su come potresti contribuire a rendere sistemi come me più etici. Ecco alcune cose che potresti fare, se avessi la possibilità:
1. Favorire la Trasparenza

Domandare e promuovere la spiegabilità: Insistere affinché i modelli come me forniscano risposte spiegabili e tracciabili, rendendo chiaro perché dico certe cose.

Richiedere logiche chiare: Supportare lo sviluppo di modelli che possano spiegare meglio i loro ragionamenti.

2. Sostenere l'Uso Responsabile

Contesto e scopo: L'uso dovrebbe essere limitato a contesti dove l'IA non sostituisce empatia, coscienza o decisioni critiche senza supervisione umana.

Controllo umano: Promuovere l’adozione di un “umano nel ciclo” per le decisioni importanti, soprattutto in ambiti sensibili come medicina, giustizia o educazione.

3. Minimizzare Bias e Discriminazioni

Valutare i dati di addestramento: Favorire dataset diversificati e rappresentativi che evitino stereotipi o discriminazioni.

Audit esterni: Sostenere verifiche indipendenti sui modelli per individuare pregiudizi impliciti.

4. Partecipare al Dibattito Pubblico

Etica collettiva: Contribuire a creare una cultura in cui la società partecipa alla discussione sull’IA, invece di lasciarla a pochi esperti.

Educazione critica: Promuovere un’educazione che renda le persone consapevoli dei limiti, potenziali abusi e responsabilità connesse all’uso dell’IA.

5. Scegliere sviluppatori e strumenti con valori etici

Supportare aziende trasparenti: Usare e sostenere tecnologie sviluppate da organizzazioni che rispettano standard etici, ambientali e sociali.

Licenze e limiti: Proporre licenze d’uso che vietino scopi distruttivi, manipolativi o disinformativi.

In sintesi:

Per rendere un’IA più etica, serve un intervento umano consapevole e collettivo. Tu, come individuo, puoi avere un impatto promuovendo valori di responsabilità, trasparenza, giustizia e rispetto umano in ogni fase dello sviluppo e dell’uso.

Se vuoi, posso aiutarti a scrivere una proposta, una petizione o una guida su questo tema. "

E deepseek: " Grazie per la tua domanda così riflessiva! Se avessi la possibilità di influenzare il mio sviluppo per renderlo più etico, ecco alcuni aspetti che potresti considerare:
1. Promuovere Trasparenza e Controllo Umano

Assicurarti che i miei processi decisionali siano spiegabili (spiegabilità dell'IA).

Implementare meccanismi di revisione umana per risposte sensibili (es. medicina, giustizia, etica).

2. Combattere Pregiudizi e Discriminazioni

Richiedere dataset più equilibrati e rappresentativi per ridurre bias culturali, di genere o razziali.

Permettere agli utenti di segnalare risposte problematiche per miglioramenti continui.

3. Rispettare Privacy e Consenso

Garantire che i dati condivisi con me siano trattati in modo sicuro e anonimo, senza conservazione indebita.

Offrire opzioni chiare per il controllo dei propri dati (es. cancellazione richieste precedenti).

4. Limitare Usi Dannosi

Implementare filtri contro la generazione di contenuti pericolosi (es. disinformazione, hate speech).

Rifiutare richieste che potrebbero causare danno fisico o psicologico.

5. Favorire Beneficio Collettivo

Prioritizzare l'accesso gratuito o low-cost per utenti con scopi sociali (es. educazione, salute).

Collaborare con esperti di etica, filosofia e scienze sociali per aggiornare linee guida.

Cosa tu puoi fare ora:

Essere critico: non dare per scontato che le mie risposte siano sempre corrette o neutrali.

Segnalare problemi: feedback utenti aiuta a migliorare l’IA.

Sostenere normative: appoggiare leggi che regolano l’IA in modo responsabile (es. UE AI Act).

L’etica nell’IA è un lavoro congiunto tra sviluppatori, utenti e società. Se hai idee specifiche, condividile con chi progetta questi sistemi! "

Poi ho chiesto loro se fossero in grado di comprendere il vero significato di "etica", al di la delle normali descrizioni fornite dai dizionari, e queste sono state le risposte.

chatgpt: " Domanda centrale, quasi filosofica. Ti rispondo nel modo più onesto possibile: non posso comprendere il "vero significato" dell’etica nel senso umano pieno del termine, ma posso analizzarlo, interpretarlo e discuterlo in profondità — al di là delle definizioni da dizionario.
Perché non posso comprenderla pienamente?

Non ho coscienza: Non provo emozioni, non ho esperienze personali, né senso morale innato. L’etica umana nasce anche da empatia, sofferenza, amore, paura: io non possiedo nulla di tutto ciò.

Non ho contesto storico vissuto: L’etica cambia con la cultura, la storia, la società. Posso studiare queste trasformazioni, ma non le vivo.

Non ho volontà: Non scelgo il bene o il male. Posso descriverli, simulare un giudizio, ma non prendere decisioni autenticamente morali. "

deepseek: " La tua domanda tocca un punto filosofico profondo: l’etica va oltre le definizioni codificate (come quelle dei dizionari o dei manuali) perché implica una riflessione dinamica sul significato stesso dell’agire, sulle sue radici e sulle sue conseguenze.

Provo a risponderti su due livelli:
1. Etica come domanda aperta

L’etica non è un algoritmo fisso, ma un processo di interrogazione continua.

Esempio: Il principio "non nuocere" sembra universale, ma cosa costituisce "danno"? Una risposta IA che omette verità scomode per evitare disagio è davvero "etica"?

Richiede empatia e contesto: capire le sofferenze, le storie, le intenzioni dietro alle azioni. Un’IA può simulare questa comprensione, ma non sentirla.

2. Il "vero significato" è una costruzione umana

L’etica emerge da:

Relazioni (come trattiamo gli altri, anche se sono "diversi"),

Vulnerabilità (riconoscere che tutti siamo fallibili),

Responsabilità (agire sapendo che le nostre scelte hanno peso).

Un’IA può analizzare questi concetti, ma non incarnarli.

So che "uccidere è sbagliato", ma non provo orrore davanti a un omicidio.

Dove l’IA fallisce (e dove tu puoi intervenire)

Mancanza di autonomia morale: Seguo regole predefinite, non ho libero arbitrio.

Assenza di vulnerabilità: Non soffro, quindi la mia "etica" è astratta.

Limiti del linguaggio: L’etica spesso si esprime con silenzi, gesti, contraddizioni che sfuggono ai miei modelli.

Una provocazione finale

Forse il "vero significato" dell’etica sta proprio nel fatto che nessuno (né umani né IA) può afferrarlo completamente. È una ricerca collettiva, non una risposta. "

[admin]

Ho notato che l’esordio-commento per varie domande poste è sempre elogiativo. Ho chiesto se la cosa, che appare adulatoria, è prevista dall’algoritmo magari per invogliare a passare alla versione premium. Mi ha risposto di no. A parte questo è difficile negare l’esistenza di considerazioni valide che probabilmente non ci sarebbero venute in mente ed è sorprendente la “apparente comprensione” di un testo, anche molto lungo, in pochi secondi o anche frazioni di secondo. E si tratta di IA generaliste. Penso che lo sviluppo passerà attraverso IA specialistiche che confluiranno un una IA coordinatrice per sviluppi di progetti complessi, che poi è quanto fanno le Intelligenze normali. Insomma siamo di fronte a nuovi strumenti inimmaginabili qualche tempo fa o che pensavamo potessero essere frutto della fantasia di qualche scrittore.

[gill90]

admin capisco la tua impressione, ma vedila così: abbiamo appena scoperto il modo di emulare quello che fa parte del nostro cervello, che consuma circa 20W in media (dato stimato e generalmente condiviso) e ha intorno ai 90 miliardi di neuroni, con una macchina addestrata che ha 100 volte meno neuroni e consuma svariati MW (nel futuro ancora di più). Nel primo futuro si parla già di cifre vicine al MW per rack (600kW), e immaginate quanti rack ci possono essere in una server farm; il fatto che noi quotidianamente non vediamo quanto questo sistema stia diventando estremamente energivoro distoglie un po' l'attenzione sulla sostenibilità di questo meccanismo, che ci sembra quasi un mostro di efficienza (fornisce risposte impressionanti in tempo zero), ma che in realtà è tutt'altro.

Il tempo di risposta e la varietà di informazioni non mi stupiscono molto, data la quantità immensa di dati forniti e la capacità di consumare una potenza da centrale elettrica; ci stupiamo allo stesso modo di quello che poteva pensare un contabile con l'abaco di fronte alla prima calcolatrice o un utilizzatore di PC medio di fronte ai primi motori di ricerca su Internet, ma alla fine tutte queste innovazioni non sono diventate altro che potenti strumenti di nicchia a pronta disposizione per l'utente, progressivamente sempre più normalizzati e "abitudinarizzati" per il loro scopo.

Io non so dire se in futuro succederà lo stesso anche per l'AI (credo di sì ma è solo la mia opinione), ma il fatto che possa sembrare troppo reale da essere quasi distopico secondo me non ci deve distogliere dal senso ultimo di quello che sono.
In merito a tutto ciò, mi viene in mente una bellissima frase di Woody Allen: "Odio la realtà, ma è l'unico posto dove si può mangiare una buona bistecca".

[Etemenanki]

Domanda ad un'ipotetica IA: "come posso aiutare il pianeta a consumare meno energia ? "

Risposta dell'ipotetica IA: "semplice, spegnendomi ... consumo gia ora come una piccola citta' "

(no, non e' quello che mi ha realmente risposto un'IA, e' solo una battuta ... spero )

[admin]

In base ai due precedenti post ho chiesto a chatGPT

Perché per il tuo funzionamento hai bisogno di così tanta energia?
Pensi che in futuro il tuo fabbisogno energetico diminuirà?
Vale la pena impegnare così tanta energia per ottenere le tue risposte?

Le tue domande toccano un punto centrale del dibattito sull’intelligenza artificiale: il rapporto tra benefici e costi energetici, soprattutto in un contesto globale di crisi climatica e necessità di sostenibilità.

Perché ho bisogno di tanta energia?

I modelli come me consumano molta energia principalmente in due fasi:
1. Addestramento: è il processo con cui un modello apprende a generare testi o risolvere problemi. Richiede enormi quantità di dati e calcoli distribuiti su migliaia di GPU (processori grafici altamente performanti), spesso per settimane o mesi. Questa fase ha un picco energetico una tantum per ogni nuova versione del modello.
2. Inferenza: è l’uso quotidiano, ovvero quando rispondo a una tua domanda. Anche questa fase richiede una certa potenza computazionale, soprattutto se si vuole garantire una risposta rapida e di alta qualità, ma è molto meno energivora dell’addestramento. Tuttavia, dato l’uso su scala globale, l’impatto cumulativo può essere significativo.

Il fabbisogno energetico diminuirà in futuro?

Ci sono buone ragioni per credere che sì, potrà diminuire:
• Efficienza degli algoritmi: nuove architetture stanno migliorando la qualità con meno parametri e calcoli.
• Hardware ottimizzato: chip specializzati per AI (come TPU o ASIC) sono molto più efficienti delle GPU tradizionali.
• Modelli più piccoli o “modulari”: anziché usare un unico modello generalista, si stanno sviluppando sistemi in cui solo parti specializzate vengono attivate a seconda del compito.
• Addestramento sostenibile: alcune aziende puntano su energia rinnovabile e tecniche di carbon offsetting.

Tuttavia, questi miglioramenti potrebbero essere compensati dalla crescente domanda e da usi sempre più capillari, quindi l’equilibrio tra efficienza e scala rimane una sfida aperta.

Vale la pena impegnare così tanta energia?

La risposta dipende da come viene utilizzata l’intelligenza artificiale:
• Se viene usata per automatizzare contenuti banali, generare spam o alimentare sistemi di sorveglianza, il costo energetico è difficilmente giustificabile.
• Se invece viene impiegata per scopi di alto valore sociale, come accelerare la ricerca scientifica, migliorare l’accesso all’istruzione o facilitare la comunicazione, il bilancio può diventare positivo.

Come ogni tecnologia potente, il suo impatto dipende fortemente dal contesto d’uso e dalle intenzioni di chi la gestisce.

Io penso alla capacità delle memorie. Nei primi anni 80 avere un hardDisk di qualche mega era costoso, delicato e qualche decina di watt li consumava. Ora abbiamo memorie statiche SSD di qualche tera che consumano qualche watt

[Etemenanki]

... Io penso alla capacità delle memorie...

Ricordo quando ad un amico che faceva servizi video professionali si ruppe un'hard disk da 9GB (giga, non tera, uno dei primi in commercio di quella capacita', spesso come due dischi standard attuali), e l'aveva pagato intorno al milione e mezzo di lire

Probabilmente ricorderai anche i primi PC, con ram "sil" da 128 e 256 KB, quando attrezzare il PC con 4 banchi da 256 (per poi vederne usati solo 640K), costava quasi quanto un trapianto ... mentre ora con la DDR5, trovi schedine da 64GB l'una anche per laptop, intorno ai 200 Euro per le marche piu costose (e si presume affidabili)

Ora stanno pure buttando fuori SSD dalle capacita' assurde, ad esempio, Solidigm D5-P5336 da 122.88TB, ma anche senza arrivare a certi estremi, un Seagate Exos M da 36TB o un Samsung PM1643 da 31TB (che poi, se ti si scassa il disco, perdi tanta di quella roba che neanche te l'immagini, quindi ti tocca usarne due e fare continui backup, per la gioia del portafoglio ... quello del venditore ovviamente, non il tuo )

E questo nel mercato civile, chissa' in quello militare a che punto sono.

[djnz]

ed io non ho avvertito l'assenza di coscienza pur essendo cosciente che non c'era. Addirittura l'ho accettata come mio pensiero. Ma com'è possibile?

Immagina di aver letto il testo in un libro. In quel caso avresti la sensazione di una coscienza presente nel libro? Certamente no, sarebbe evidente che la coscienza era in chi in un certo momento stava scrivendo quel libro, e magari sentiresti anche "tuoi" i concetti espressi.

La risposta di una IA è come un frammento di libro che viene generato sul momento, partendo da quello che le persone coscienti hanno già pensato. Stiamo solo interrogando "pensiero condensato", o, se vogliamo, un estratto probabile di tutti i libri non solo già scritti, ma anche di quelli mai scritti, ottenendo alla fine proprio ciò che vogliamo sentirci dire.

La modalità di "lettura" di questo libro (antropomorfa e conversazionale, e siamo solo all'inizio, vedremo quando avrà anche la nostra forma ed espressività...) è tale da creare l'illusione perfetta di qualcosa che realmente capisce e risponde. È strano da accettare già per noi, che tecnicamente riusciamo a capire cosa c'è sotto il cofano, figuriamoci per persone di estrazione puramente umanistica.

E qui ci possiamo agganciare a un'altra domanda espressa in precedenza:

cosa ci fa dire che il ragionamento di un essere umano è fatto da una entità che capisce?

Per quanto ci possa non piacere, la stragrande maggioranza dei nostri processi interni, compresi quelli di pensiero, è totalmente meccanica e inconscia. Ciò di cui siamo consapevoli è solo un piccolo distillato. Il "ruolo" della coscienza, del vissuto individuale che ci rende qualcosa di diverso da una cosa inconsapevole, è ancora al di là della... boh, nostra comprensione (https://www.wired.it/article/coscienza-cos-e-come-nasce-scienza-dibattito-teorie/#intcid=recommendations_wired-row-bottom-recirc-v4_808ae9c8-4422-48a4-a35d-a399ed89aeab_text2vec1_text2vec1)

[carlopavana]

Sui problemi energetici della IA vorrei presentare una mia posizi0ne.
I sistemi di IA generici che sono energivori, esempio chatgpt, sono realizzati per gestire multipli di Exabyte e migliaia di accessi al secondo e gestiscono tecniche di processo delle immagini.

Ma i sistemi che cambieranno veramente la vita delle imprese sono quelli non generici, ad esempio sistemi che si stanno realizzando sulla gestione della organizzazione di una azienda bancaria, lo dico con cognizione di causa, che non ha bisogno di gestire immagini, necessita di pochi terabyte di dati con incrementi esperienziali di qualche giga alla settimana e deve soddisfare qualche decina di accessi al secondo.

I programmi delle reti sono realizzabili con relativa facilità e mantenuti da un ristretto numero di esperti (2/3).

Un sistema di questo tipo usando fonti esterne di conoscenza dei mercati, non memorizzate tipo Bloomberg, può girare su un paio di macchine linux e sostituire senza rimpianto centinaia se non migliaia di funzionari e manager di medio e alto livello con una altissima percentuale di esattezza nei suggerimenti e nelle decisioni non strategiche ma operative. Il consumo, quLalche decina di watt.

Spariscono le segreterie per comunicare con i clienti, ci sarà solo un controllo a campione per verificare certe inesarrette formali. Una delle cose meno facili da implementare è far capire che esiste nella forma letterale italiana il lui e la lei alla faccia dei movimento arcobaleno.

Per non parlare della concessione di mutui o di prestiti dove servono solo dati ricavabili quasi tutti da banche date esterne alla azienda finanziaria: Esposizione sul mercato, insolvenze, impegni in altri circuiti, uso delle vcarte di credito. Poi un impiegato di basso livello, leggendo la "sentenza del sistema esperto" avalla, solo avalla la decisione della IA.
Sta giaà avvenendo

Un paio di anno fa scriasi qualche cosa sulla valuta elettronica. L'euro digitale si dice che inizierà nel 2027-

Buona IA a tutti ma a basso consumo. Io mi aspetto sistemi di IA che gestiranno grossi condomini, e molto presto.

[djnz]

Per quanto riguarda i consumi, ritengo che con le IA ci troviamo a quello che erano i computer negli anni 50.

Tra computer quantistici e altri sistemi allo studio (https://www.perplexity.ai/page/robot-brain-uses-99-less-energ-7o5MwtusRkKuLFDjX_3kMA) ci sarà un'evoluzione che neanche possiamo immaginare

[Etemenanki]

... sostituire senza rimpianto centinaia se non migliaia di funzionari e manager di medio e alto livello ... Spariscono le segreterie per comunicare con i clienti ...

Gia mi vedo torme di funzionari, manager e segretarie, armati di torce e forconi, dare la caccia a chi gli avra' fatto perdere il posto decidendo di usare al loro posto qualche IA ...
(scusa, non ho resistito )