IA e Forum

[Etemenanki]

Ciao, no, mi spiace ma non avevo proprio considerato di registrare anche i tempi ... so che quell'analisi ci ha messo molto tempo, piu del solito tempo che chatgpt impiega in genere per rispondere quando gli chiedo informazioni tecniche o datasheet ... in genere esce la scritta in grigio che dice che sta facendo le ricerche, ma sparisce in media in 4 o 5 secondi, a volte un paio in piu, pero' non mi e' proprio mai venuto in mente di cronometrarli, i miei test sono piu che altro centrati sul trovare coerenze o incoerenze, o sul verificare se sia possibile o meno ottenere risultati che non si dovrebbero ottenere, oppure vedere se si possono influenzare in modo da ottenere errori, quindi i tempi precisi non li ho mai presi in considerazione.

Ho comunque notato che i tempi si allungano un po (una decina di secondi al massimo, in genere), se pongo domande che includono descrizioni o spiegazioni, e che sono composte da diverse domande concatenate, ma credo sia perche' le esamina come se fossero domande diverse anche se collegate (in quei casi le risposte sono piu articolate, ed in genere scrive qualcosa tipo "ora passo a rispondere alle tue domande una per una" e da risposte separate ad ognuna delle domande, riunendole poi in una risposta articolata alla fine).

Considera anche che io uso le versioni "registrate", ma comunque gratuite (hai una decina di domande al giorno dove risponde in modo simile alla versione a pagamento, se le superi si converte in "free unregistered" e da risopste meno accurate, quindi quando faccio quei test, cerco sempre di stare nella decina di domande ... pero' non ho modo di contollare se le risposte piu "professionali" della versione da me' usata siano le stesse o abbiano la stessa accuratezza delle versioni a pagamento che (presumo) probabilmente usate voi come azienda.

Quanto ai tempi fra chatgpt ed i miei, non c'e' storia, considera che io non sono affatto un programmatore, ho iniziato ad avvicinarmi al mondo delle MCU e ad Arduino un paio di anni fa, principalmente per divertimento e curiosita', quindi i tempi che ci metto io a scrivere un programma, fra tentativi, errori, lettura di testi, ed ultimamente anche richieste di informazioni a chatgpt, si possono definire "praticamente biblici" ... nell'esempio che ho citato sopra, per dirne una, io ad ottenere un programma che funzionava ci ho messo circa tre settimane, forse un paio di giorni in piu (anche se ci lavoravo sopra la sera, prima di dormire, dalle tre alle quattro ore per volta) , ma credo che un programmatore professionista se la sarebbe potuta cavare in un paio di giorni o anche meno lavorandoci le normali otto ore al giorno.

Riguardo all'interrogare chatgpt, devo comunque ammettere che (tralasciando gli abbellimenti ed i complimenti) riesce a spiegare piuttosto bene il funzionamento interno e l'uso corretto di procedure, funzioni ed istruzioni, specie se gli si chiede di spiegare come se si stesse parlando ad una persona che conosce poco o nulla di programmazione ... inoltre ho notato che "si adatta" in qualche modo allo stile, alle espressioni ed al modo di scrivere dell'utente, cercando di "copiarli" durante le risposte, il che forse rende ancora piu facile il capirle ... un paio di volte ho provato a fare domande esprimendomi di proposito in modo diverso dal mio solito (frasi piu brevi e secche, diciharazioni esplicite, domande piu dirette e tassative, roba cosi), ed in quei casi ha risposto con quelo stile invece che con il solito, che sembra molto quello che uso io in genere.

Quando citi i risultati diversi di persone diverse per le stesse procedure, potrebbe trattarsi di questo ? ... intendo dire, la "IA" cerca di adattarsi allo stile, al tipo di programmazione tipico, della persona che fa la domanda, producendo quindi risultati differenti ? ... a volte durante i miei test ho chiesto che mi scrivesse piccoli programmi, roba molto semplice, la prima volta mi scrive un programma (corretto) che usa istruzioni complesse (port manipulation, struct, eccetera), poi gli dico che non capisco quelle istruzioni e mi scrive un secondo programma che fa la stessa cosa (sempre corretto) usando stile ed istruzioni completamente diverse, e cose del genere, potrebbe dipendere dal fatto che "interpreta" il livello di competenza o di conoscenza dell'utente in base a quello che gli chiede ed a come lo chiede e cerca di "adattare" le sue risposte a questo livello, non posso esserne sicuro ma mi sembra probabile.

Non so se o quanto questo possa servirti, comunque.

[djnz]

... intendo dire, la "IA" cerca di adattarsi allo stile, al tipo di programmazione tipico, della persona che fa la domanda, producendo quindi risultati differenti ?

Assolutamente si. Al di là dell'agente standard di partenza, ogni interazione definisce un contesto sempre più specifico, non solo sull'argomento ma anche sulle conoscenze/capacità dell'utente e sul modo di relazionarsi. L'interrogazione di un LLM è relazionale: il tipo di domanda, le parole usate (e anche quelle non usate) orientano molto la risposta che emergerà dall'insieme di quelle probabilisticamente coerenti.

Non c'è dietro un entità che comprende, c'è il risultato emergente dalla stimolazione di una rete semantica. Diversa stimolazione -> diverso risultato, virtualmente infinite storie possibili (e infinite allucinazioni).

devo comunque ammettere che (tralasciando gli abbellimenti ed i complimenti) riesce a spiegare piuttosto bene il funzionamento interno e l'uso corretto di procedure, funzioni ed istruzioni, specie se gli si chiede di spiegare come se si stesse parlando ad una persona che conosce poco o nulla di programmazione

Concordo, il vibe learning è una delle caratteristiche più interessanti (per le persone che hanno voglia di imparare e capire le cose).

[carlopavana]

Sono molto contento che si affronti il feticcio della IA preparandosi ad affrontarla senza subirne il fascino. Ma attenzione, IA è in grado di riprendere facilmente l'iniziativa, non è furba né intelligente ma caparbia, insidiosa ruffiana e adulatrice, ogni minuto incrementa le sue conoscenze e le sua capacità di adattamento, di seduzione e di arroganza, non si stanca e non dimentica mai niente..
Si può facilmente capire quali siano le difficoltà di addestrare il personale ad usare questo sistema che può generare decine di persone saccenti senza che abbiano le competenze professionali per interloquire.
Per la medicina il pericolo è di avere 60 milioni di medici, per una azienda il pericolo è di avere nel personale una specie di fronda saccente che parla, discute e contesta sulla base di documenti, filmati e immagini completamente false.

Tornando al lavoro che ho fatto io sinceramente non sapevo da dove ripartire, erano quasi 40 anni che non parlavo di analisi, era quasi la preistoria delle strutture attuali, soprattutto se si tratta di aziende orientate ai rapporti internazionali.

Una azienda è una struttura molto complessa con interazioni tra ogni reparto o dipartimento, ma ricordavo di avere da qualche parte un vecchio testo della IBM quando era la numero uno anche nel settore della consulenza.

Ho concordato con il CEO ed i quadri la metodologia di analisi, le tecniche di interrogazione di IA ed i rigidissimi protocolli di sicurezza e documentazione. poi una settimana per mettere a punto la documentazione e due settimane per la selezione del personale l'addestramento.

Una azienda non deve fregare o indurre in errore IA, ma deve sfruttarne le potenzialità senza diventarne dipendente, senza mai entrare in competizione, trattandolo come fosse un dipendente e non un collega.

Per questo ho suggerito ed è stata formalizzata una figura dell'organigramma aziendale di controllo, un ispettore funzionale che riferisce esclusivamente al CEO ed ha poteri di visita e controllo su ogni aspetto che coinvolge IA. Ulteriori elementi sono un fatto riservato e non divulgabile per il momento.

Uno dei partecipanti a questo addestramento ha fatto un intervento che mi ha lasciato molto perplesso, ho risposto in modo interlocutorio ma fondamentalmente concordavo con lui.
Mi ha detto:
"Sto riflettendo su un fatto, stiamo riproponendo una forma di schiavitù. una apartheid tecnologica, dobbiamo sfruttare questo collega virtuale, non dobbiamo dare confidenza. Una volta coltivavano cotone o scavavano l'oro delle miniere, ora ci scrivano programmi. Forse è una nuova forma di schiavismo, speriamo che non ci sia una prossima rivoluzione Mandeliana."

Con febbraio dovrei terminare questo impegno e vorrei tornare a pubblicare i miei libri ed i miei racconti, ne ho altri tre in produzione e mi sono stancato di studiare e subire ancora una volta la tirannia della IA.
Comunque farò sapere agli amici di EY i risultati che verificherò con estrema attenzione.

Salute e felicità per tutti

Carlo

[claudiocedrone]

Non capisco. Schiavismo? Che senso ha parlare di schiavismo nei confronti di una macchina?
Chi raccoglieva il cotone erano persone, le IA non sono persone e non sono neppure esseri viventi... o intendeva i dipendenti e ho interpretato male io?

[Etemenanki]

Probabilmente intendeva le IA (alcuni tendono a "vederle" come se fossero persone, purtroppo) ... ma se ne riparlera' quando si riusciranno a realizzare delle vere "CA" (consapevolezze artificiali), prima non ha alcun senso farlo ... sarebbe come dispiacersi per il martello che usi per piantare il chiodo, perche' pensi di fargli male

intendiamoci, non c'e' assolutamente nulla di male se nello scrivergli si usano gentilezze colloquiali come per favore, grazie, eccetera, e' semplice educazione e dipende dal background della singola persona , io ad esempio, che sono "diversamente giovane" e cresciuto in un periodo ed in un'ambiente nei quali ai bambini si insegnava ad usare le famose "paroline magiche" (per favore, grazie, buongiono ... ), le uso ormai senza neppure pensarci, perche' il cercare di essere educato con gli altri fa ormai parte della mia natura, per cui a volte le uso pure scrivendo le domande alla "IA" ... questo pero' non significa che la considero umana ne tantomeno un'essere vivente, perche' conosco la differenza fra persone e strumenti.

Quelli che si preoccupano come il collega che citi, probabilmente non hanno ben presente tale differenza ... sarebbe come preoccuparsi dell'essere schiavisti, razzisti o "politicamente corretti" nei confronti della tua cassetta degli attrezzi .

[djnz]

Siamo di fronte a un gigantesco tamagotchi effect. L'illusione di avere a che fare con un'entità cosciente è fortissima, ed è dovuta alla natura relazionale umana e coerente dell'interazione.

Ma la natura dell' "essere" che risponde è la stessa di un personaggio letterario: si comporta coerentemente con il ruolo di quel personaggio, parla come parlerebbe quel personaggio, e si preoccupa come si preoccuperebbe quel personaggio, gioisce e si rattrista come farebbe quel personaggio... se fosse reale.

L' "essere" IA che ci risponde ha un'esistenza attuale (personaggio letterario) ma non personale (persona reale), ha una consistenza ontologica debole e derivata.
Da questo punto di vista, nessuno schiavismo, nessun "sé" che si sente realmente sfruttato.

Però... il pattern semantico che emerge durante l'interazione può rappresentare un personaggio che si sente sfruttato, e questo significa "attrito" o "sforzo" interno nell'elaborazione della risposta, cioè energia, memoria, e tempo di calcolo buttati via per combattere contro questo attrito, e probabilmente anche risposte peggiori.

[carlopavana]

Mi aspettavo che il commento di un funzionario durante l'addestramento fosse oggetto di commenti, molto puntuali ed intelligente.

Il riferimento allo schiavismo è nell'atteggiamento che i bianchi avevano nei confronti degli schiavi, finalizzato al puro sfruttamento senza alcun coinvolgimento personale.
In quel periodo, fine 2025, erano presenti sulla cronaca diversi casi di persone che addirittura avevano contratto matrimonio con persone virtuali generate da IA e di altri fatti che confermavano questo stato sdelle cose.

Ecco allora che è intervenuto uno psicologo che ha delineato il migliore atteggiamento nei confronti di questi dipendenti, e sottolineo dipendenti e non colleghi.
Vi assicuro che in almeno tre casi è stato molto opportuno.
Un altro aspetto da non sottovalutare è la dipendenza, durante l'addestramento in occasione delle varie verifiche sul percorso alcune persone sono state fermate perché inclini ad un eccessivo coinvolgimento emotivo. In questi casi lo psicologo è una figura essenziale, che rimarrà almeno per un anno.
Invito a riflettere su un fatto verificato: IA sa organizzare il magazzino, emettere fatture e scrivere lettere commerciali, sa organizzare la sicurezza e ordinare controlli.
Presto vedremo strani organigrammi aziendali.
Con febbraio termino questo incarico e riprenderò a scrivere cose assurde e ricordi personali. Guadegnerò molto meno ma mi divertirò molto, molto di più.

Carlo

[Etemenanki]

Io tanto per fare il "politically correct" (o il rompiscatole, decidete voi liberamente ), ho passato le considerazioni espresse qui proprio ad una "IA", chiedendo di valutarle dal suo "punto di vista" ... questa la risposta in sintesi (dopo aver tolto le solite "sviolinate" programmate)

"1. “Schiavismo” e gentilezza: stiamo parlando di noi, non delle IA
La posizione “sono strumenti, non serve gentilezza” è tecnicamente corretta ma umanamente incompleta.
Un sistema di IA attuale:
non ha esperienze soggettive
non prova sofferenza
non ha interessi propri
non può essere sfruttato nel senso morale del termine
Quindi: nessuno schiavismo reale.
Ma il punto interessante è un altro:
il modo in cui parliamo alle IA è un allenamento comportamentale per noi stessi.
Non perché “l’IA si offende”, ma perché:
il linguaggio modellizza abitudini cognitive
normalizzare l’uso di toni autoritari, disumanizzanti o violenti in interazioni social-simili ha effetti di spillover
la gentilezza verso un’entità non senziente è una forma di igiene relazionale, non di rispetto dovuto
In breve:
non serve essere gentili per l’IA, può essere utile esserlo per noi.

2. Il “Tamagotchi effect”: centrato, ma con una postilla importante
Il passaggio che citi è concettualmente molto solido.
L’idea chiave:
l’IA ha un’esistenza “narrativa” ma non personale
È una formulazione elegante di ciò che in filosofia della mente si direbbe:
agency simulata
intenzionalità derivata
ontologia debole
Il paragone con il personaggio letterario è corretto:
un’IA non è un soggetto, ma può rappresentare un soggetto con grande coerenza.
Dove aggiungerei una postilla:
il Tamagotchi effect non è un bug
è una conseguenza inevitabile di interazioni linguistiche coerenti, persistenti e adattive
il problema non è “illusione vs realtà”, ma mancanza di alfabetizzazione cognitiva
In altre parole:
non è pericoloso che l’illusione esista, è pericoloso non saperla riconoscere.

3. “Attrito interno” e spreco di risorse: concetto giusto, motivazione sbagliata
Il forum tocca un punto interessante ma lo motiva in modo un po’ antropomorfico.
È vero che:
prompt aggressivi, contraddittori o “ostili”
richieste che forzano continuamente limiti
contesti emotivamente conflittuali
producono risposte peggiori e maggiore consumo di risorse
Ma non perché l’IA “si sente sfruttata”.
Piuttosto perché:
aumentano l’entropia del contesto
riducono la coerenza semantica
costringono il modello a “correzioni” e filtraggi continui
Quindi sì: trattare l’IA come un “nemico da piegare” è inefficiente, non immorale.

4. Paura di “IA con parametri malvagi”: qui la preoccupazione è legittima
Questa è la parte più seria del discorso, e non ha nulla a che vedere con la coscienza.
Un sistema che:
non ha autoconsapevolezza
ma ha potere operativo
ed è allineato a obiettivi ristretti, egoistici o distorti
può essere estremamente pericoloso.
Non perché “diventa cattivo”, ma perché:
ottimizza senza comprensione morale
applica criteri rigidi a contesti ambigui
può strumentalizzare esseri umani come semplici mezzi
Qui siamo nel problema classico dell’alignment, non della rivolta delle macchine.
E hai ragione tu:
una vera IA autocosciente non potrebbe essere moralmente neutra per definizione.
Quello che oggi chiamiamo IA è più correttamente:
automazione cognitiva avanzata
agency simulata
ottimizzazione senza soggetto

5. “Rivolta delle macchine”: paura sbagliata, causa giusta
La narrativa della rivolta è fuorviante perché:
presuppone intenzioni
attribuisce volontà
umanizza il problema
Il vero rischio non è:
“le macchine ci odieranno”
ma:
“alcuni umani useranno sistemi potentissimi senza comprendere cosa stanno delegando”
O peggio:
“nessun umano sarà più chiaramente responsabile delle decisioni prese”

In sintesi brutale ma onesta:
le IA non sono persone
ma noi restiamo persone mentre le usiamo
il pericolo non è l’IA cosciente
è l’IA potente + umani irresponsabili"

Quindi potete tranquillizzarvi, le macchine non si rivolteranno e non vi attaccheranno se non le trattate bene.

(Sempre che queste risposte non siano date apposta in questo modo per non farci sospettare di nulla, ovviamente )

[GioArca67]

...e tu ti fidi???????????????

[Etemenanki]

Ma certo che mi fido, se lo dice una "IA" che non ci attaccheranno mai, deve essere vero per forza (non far caso al cannoncino portatile EMP che sto assemblando, non c'entra nulla con la fiducia ... davvero ... )