Physics / Math
Memoria di Hopfield
Danneggia con un pennello un ricordo memorizzato, prevedi se torna e guarda la rete ripararlo un neurone alla volta - ogni ribaltamento abbassa l'energia di 2|h| - oppure cadere in un altro ricordo o in una miscela spuria, chiamata col suo nome.
Cosa succede
La rete: 100 spin di Ising con accoppiamenti di Hebb, W_ij = (1/N) Σ ξ_i ξ_j sui pattern memorizzati, energia E = −½ s·W·s e dinamica di Glauber a temperatura T — a T = 0 nessun capovolgimento alza E, il richiamo è una discesa. La conca in basso è l'energia libera di campo medio sul piano delle sovrapposizioni con due pattern: i suoi quattro pozzi sono i ricordi, la palla è la rete stessa, e sopra T = 1 i pozzi si riempiono — la memoria si scioglie in paramagnete. Memorizza più di 0,138 N pattern e i pozzi si affollano: il richiamo da un indizio corrotto comincia a fallire — la capacità è mostrata, non citata. Le otto forme sono correlate, come tutto ciò che è disegnato, e la regola di Hebb non lo gradisce; gli otto pattern casuali che seguono no. Ogni capovolgimento accende i suoi accoppiamenti come fili — rosa eccitatori, blu inibitori.
Equazioni del modulo
Equazioni W_ij = (1/N) Σ_μ ξ_i^μ ξ_j^μ (Hebb) h_i = Σ_j W_ij s_j, s_i ← sign(h_i) E = −½ Σ W_ij s_i s_j diminuisce ad ogni giro
