Reti neurali come approssimatori universali

[Ianero]

Sarei curioso di leggere la dimostrazione di questa affermazione:

A two-layer network with linear outputs can uniformly approximate any continuous function on a compact input domain to arbitrary accuracy, provided the network has a sufficiently large number of hidden units.

fatta dal libro di Bishop, Pattern Recognition and Machine Learning.

Qualcuno ha qualche link, per favore?

[rugweri]

Il risultato che ti interessa è stato discusso in un articolo del 1989 che è liberamente reperibile online

[djnz]

A two-layer network with linear outputs

Forse era NON linear?

[Ianero]

Grazie Walter, leggerò, e sicuramente tornerò con tante cose che non capirò

Comunque era effettivamente “linear”.

[djnz]

Comunque era effettivamente “linear”.

Mah, magari intende cose diverse, una rete di neuroni con uscite(?) lineari produce solo una retta, o un piano o iperpiano piatti. Non vorrei distinguesse tra uscita(?) e funzione di trasferimento (non lineare) del singolo neurone...

[Ianero]

“Linear” vale solo per i neuroni di uscita, non per quelli interni.

[djnz]

Ah, ok, ci devo pensare, grazie