L'ha detto GPT. Uomo avvisato...

[GioArca67]

Io penso che più ci si avvale di queste (pseudo) forme di "intelligenza" artificiale più ti si atrofizza il cervello.

[Etemenanki]

... comincerà a darci ordini?

Bastera' tenere pronte delle robuste tronchesi isolate vicino alle linee di alimentazione del server

[pakk]

magari questa tecnologia svilupperà una fonte di energia infinita per l umanità (e se stessa…)

[Kagliostro]

magari questa tecnologia svilupperà una fonte di energia infinita per l umanità (e se stessa…)

Citando più o meno Matrix

magari questa tecnologia svilupperà una fonte di energia infinita

dall' umanità(per se stessa ...)

K

[ThEnGi]

Mi hanno detto, non mi ricordo quale delle allegre GPT's, che la cosa che accomuna Voldemort e un frigorifero è la conservazione del male

Anche se il frigorifero penso sia peggiore, tutte le volte che lo apro mangio qualcosa "di male" (cit. dietologo)

Ieri sera invece DeepSeek-R1correggendo un mio codice C

solitamente sono io che correggo il codice della IA
Tutte le volte, devi fare debug del debug. mai che ci azzecchi al primo colpo. Spesso lascio stare e lo riscirvo io

[djnz]

mai che ci azzecchi al primo colpo. Spesso lascio stare e lo riscirvo io

Con i modelli solo GPT (chatGPT, Gemini, Copilot, Perplexity ecc) è così.
Con i Reasoning models invece la storia cambia completamente.

Se a una qualsiasi GPT dici: "adesso il codice è corretto", risponde che è contenta di essere stata di aiuto. Invece R1 ha pensato: "The user mentioned that the code is now correct, but I need to make sure that the code aligns with this terminology and the original requirements.", e durante l'ulteriore autoverifica del codice che aveva prodotto ha pensato: "The user's confirmation seems accurate, so the final answer should confirm that the code is correct based on the terminology and requirements.".

Per la prima volta trovo che le macchine riescono a mettermi in difficoltà e sono loro a valutare le mie affermazioni.

Ho chiesto di bitmappare in un'unica variabile un gruppo di variabili flag booleane. Questo è il capolavoro di efficienza che R1 ha prodotto:

Codice: Seleziona tutto

uint8_t  flags = 0; // Tutti i flag e gli stati in 1 byte

// Definizione dei flag (bit 0-6)
static constexpr uint8_t FLAG_FIRST_UPDATE = 0b00000001;
static constexpr uint8_t FLAG_STABILIZED   = 0b00000010;
static constexpr uint8_t FLAG_ON_FELL      = 0b00000100;
static constexpr uint8_t FLAG_ON_ROSE      = 0b00001000;
static constexpr uint8_t FLAG_ON_CHANGE    = 0b00010000;
static constexpr uint8_t FLAG_STABLE       = 0b00100000;
static constexpr uint8_t FLAG_PREV_READ    = 0b01000000;

// Metodi inline per gestire i flag
inline bool isFirstUpdate()  { return flags & FLAG_FIRST_UPDATE; }
inline void setFirstUpdate(bool val) {
    val ? flags |= FLAG_FIRST_UPDATE : flags &= ~FLAG_FIRST_UPDATE;
}
inline bool isStabilized()   { return flags & FLAG_STABILIZED; }
inline void setStabilized(bool val) {
    val ? flags |= FLAG_STABILIZED : flags &= ~FLAG_STABILIZED;
}
inline bool getStable()      { return flags & FLAG_STABLE; }
inline void setStable(bool val) {
    val ? flags |= FLAG_STABLE : flags &= ~FLAG_STABLE;
}
inline bool getPrevRead()    { return flags & FLAG_PREV_READ; }
inline void setPrevRead(bool val) {
    val ? flags |= FLAG_PREV_READ : flags &= ~FLAG_PREV_READ;
}
inline void resetEventFlags() {
    flags &= ~(FLAG_ON_FELL | FLAG_ON_ROSE | FLAG_ON_CHANGE);
}

[stefanopc]

Il parere di Federico Faggin.
https://www.repubblica.it/cultura/2024/ ... 422121697/
Ciao

[Kagliostro]

Un disfattista ? Mah, vedremo

https://www.redhotcyber.com/post/il-ricercatore-di-sicurezza-steven-adler-lascia-openai-sinceramente-sono-piuttosto-terrorizzato/

K

[lodovico]

io temo che in ogni caso l'impatto sara' notevole, di quelle cose che trasformano il mondo intero...

per chi ancora non lo sa, vi svelo che io moooolto tempo fa ho studiato informatica, ( si parla dei tempi di quando apparivano le prime console programmabili, sopratutto per creare giochi , tipo Commodore 64 e ZX Spectrum ),quando ancora veniva denominata scherzosamente da alcuni inforNatica, tanto era diffusa la conoscenza ed il rispetto a chi si interessava a questo tema

ricordo che il mio professore del corso di EINN (che stava per Elaborazione Informazione Non Numerica) un giorno ci parlo' di uno dei problemi incontrati da uno dei primi sistemi esperti per diagnosi di guasti di un macchinario cui aveva partecipato nel progetto di sviluppo

Il problema era che un utente aveva immesso questa frase: 'carta di cioccolatino nel tubo di entrata' e il sistema esperto non era riuscito a trovare una soluzione, per colpa di quell'attributo 'di cioccolatino' che l'utente aveva specificato, senza che fosse necessario

preistoria, insomma..

il prof stimava che sarebbero stati necessari ancora almeno 50 anni per poter disporre di un sistema AI realmente capace di comprendere , quasi al pari di un essere umano

non ha sbagliato di molto, ne sono passati 'solo 40', e mi pare che ci siamo vicini... da quel che ho capito, le grandi industrie del settore (vedi NVIDIA) stanno facendo enormi investimenti per lo sviluppo di hardware dedicato...microchip per inferenza...

e probabilmente si potra' beneficiare di un enorme salto in avanti, in termine di potenza computazionale, quando verrano utilizzati i computer quantistici che sono attualmente in sviluppo

e magari a quel punto il nostro assistente dotato di intelligenza artificiale, non solo riuscira' a comprendere alla perfezione quanto scriveremo o quanto diremo...
dopo un certo periodo di training in affiancamento, sara' pure in grado di prevedere quello che staremo pensando nei successivi x minuti quindi potremo anche evitare di scrivere o di parlare, e forse, a quel punto, anche di pensare

bastera' stare a guardare , e l'assistente fara' quello che vogliamo, anticipando le nostre intenzioni...
il tutto fluira' in maniera autonoma, rispettando i nostri desideri...

ma quali saranno, a quel punto, i nostri desideri? mah, non so, per la verita' a un futuro cosi , un futuro distopico piuttosto che utopico, non voglio nemmeno pensare...
sara' che ormai sono un po vecchio e come tale ho difficolta' ad adattarmi e quindi temo i prevedibili grandi cambiamenti...

[Etemenanki]

Credo stiamo peggiorando, in un certo senso ... ho chiesto a DeepSeek R3 e ad altri sistemi esperti di realizzarmi un piccolo programma, piuttosto complesso e che comprendeva l'uso di display e pulsanti ed un cicalino (in realta' il programma non mi serviva a nulla, e conteneva anche della roba inutile e delle descrizioni incomplete, era solo per vedere quale differenza nelle risposte ci sarebbe stata fra i vari sistemi esperti interrogati)

ChatGPT mi ha fornito una bozza di programma che non avrebbe mai potuto funzionare, senza accorgersi di alcun errore ne delle descrizioni parziali.

Copilot mi ha fornito un programma quasi completo, sintatticamente corretto, dove pero' mancavano le due sezioni che avevo volutamente descritto in modo molto sommario e generico per vedere cosa rispondevano, e senza accorgersi della funzione inutile.

DeepSeek invece mi ha fornito un programma praticamente completo (tranne due dettagli minori), suddiviso in sezioni, ogni sezione spiegata in modo abbastanza corretto, includendo le due sezioni che avevo volutamente descritto male, dicendomi pure che la descrizione non era completa ed aveva pensato lui a completarle in base a quello che a lui sembrava il risultato che volevo ... cosi ho deciso di inventare ancora qualche modifica per vedere come se la cavava.

Ha completato tutte le modifiche senza quasi nessun errore, ma poi ha aggiunto un'ultima sezione che NON gli avevo chiesto, miglioramento della visualizzazione ed aggiunta di feedback ottici ed acustici, suggerendomi di usare un font piu comprensibile di quelli di default, e di aggiungere all'hardware anche un led RGB da far accendere con colori diversi in base allo stato del programma (mentre io non avevo fatto alcun accenno ne a problemi di visualizzazione, ne a feedback ottici di alcun tipo) ... c'e' quasi da spaventarsi, da come l'hanno programmato

Ha comunque fatto un errore importante pure lui, dopo avergli chiesto di rimuovere la funzione intenzionalmente inserita all'inizio ma inutile, di cui neppure lui si era accorto, l'ha rimossa dal passaggio in oggetto dicendomi "e' vero, questa funzione non serve a nulla e puo essere rimossa per risparmiare spazio in memoria", ma l'ha reinserita nel successivo passaggio, come se si fosse "dimenticato" che era inutile ed andava rimossa, quindi c'e' ancora del lavoro da fare anche qui