it.wikipedia.org

Rete neurale ricorrente - Wikipedia

Da Wikipedia, l'enciclopedia libera.

Diagramma di una RNN a una unità. Dal basso verso l'alto, gli stati in input, gli stati nascosti e gli stati di output. U, V e W sono i pesi della rete. Sulla sinistra il diagramma compresso, sulla destra la sua versione estesa

Una rete neurale ricorrente o RNN (recurrent neural network) è una classe di rete neurale artificiale che include neuroni collegati tra loro in un ciclo.[1] Tipicamente i valori di uscita di uno strato di un livello superiore sono utilizzati in ingresso di uno strato di livello inferiore[2]. Quest'interconnessione tra strati permette l'utilizzo di uno degli strati come memoria di stato, e consente, fornendo in ingresso una sequenza temporale di valori, di modellarne un comportamento dinamico temporale dipendente dalle informazioni ricevute agli istanti di tempo precedenti[3]. In altri casi lo strato è costituito da un insieme di neuroni dotato di loop di connessioni molto sparse che innesca una dinamica caotica, impiegata per l'addestramento di una parte successiva della rete, come avviene per le echo state network (adottate nell'ambito del reservoir computing). Ciò le rende applicabili a compiti di analisi predittiva su sequenze di dati, quali possono essere ad esempio il riconoscimento della grafia[4] o il riconoscimento vocale[5].

  1. ^ Enrico Prati, 2, in Mente artificiale, EGEA, 2017, ISBN 978-88-238-7997-3.. URL consultato il 15 ottobre 2018.
  2. ^ (EN) Jeffrey L. Elman, Finding Structure in Time, in Cognitive Science, vol. 14, n. 2, 1990-03, pp. 179–211, DOI:10.1207/s15516709cog1402_1. URL consultato il 15 ottobre 2018.
  3. ^ (EN) Understanding The Recurrent Neural Network, su MindOrks, 14 aprile 2018. URL consultato il 15 ottobre 2018.
  4. ^ (EN) A. Graves, M. Liwicki e S. Fernandez, A Novel Connectionist System for Unconstrained Handwriting Recognition, in IEEE Transactions on Pattern Analysis and Machine Intelligence, vol. 31, n. 5, 2009-05, pp. 855–868, DOI:10.1109/tpami.2008.137. URL consultato il 15 ottobre 2018.
  5. ^ (EN) Alex Graves, Abdel-rahman Mohamed e Geoffrey Hinton, Speech recognition with deep recurrent neural networks, in 2013 IEEE International Conference on Acoustics, Speech and Signal Processing, IEEE, 2013-05, DOI:10.1109/icassp.2013.6638947. URL consultato il 15 ottobre 2018.

V · D · M

Apprendimento automatico
ProblemiTeoria dell'apprendimento statistico · Classificazione · Regressione · Regole di associazione · Apprendimento non supervisionato · Apprendimento supervisionato · Apprendimento per rinforzo · Apprendimento profondo

Apprendimento non supervisionatoClustering · Clustering gerarchico · K-means · Algoritmo EM · DBSCAN · Mean shift · Rete generativa avversaria (cGAN · VAE-GAN · cycleGAN)
Apprendimento supervisionatoAlbero di decisione · Foresta casuale · Conditional random fields CRF · Modello di Markov nascosto · K-nearest neighbors · Classificatore bayesiano · Rete neurale artificiale · Regressione lineare · Regressione logistica · Modelli grafici · Macchine a vettori di supporto
Apprendimento per rinforzoQ-learning · SARSA · TD
Riduzione della dimensionalitàAnalisi fattoriale · Analisi della correlazione canonica (CCA) · Analisi delle componenti indipendenti (ICA) · Analisi discriminante lineare (LDA) · Analisi delle componenti principali (PCA) · Selezione delle caratteristiche · Estrazione di caratteristiche · t-distributed stochastic neighbor embedding (t-SNE)
Reti neurali artificialiPercettrone · Rete neurale a base radiale · Rete bayesiana · Rete neurale feed-forward · Rete di Hopfield · Percettrone multistrato · Rete neurale ricorrente (LSTM) · Macchina di Boltzmann ristretta · Mappa auto-organizzata · Rete neurale convoluzionale · Rete neurale a ritardo · Rete neurale spiking · Rete neurale grafica · Trasformatore
SoftwareKeras · Microsoft Cognitive Toolkit · Scikit-learn · TensorFlow · Theano · Torch · Weka
AltroAlgoritmo genetico · Particle Swarm Optimization · Caratteristica · Compromesso bias-varianza · Minimizzazione del rischio empirico
Controllo di autoritàGND (DE) 4379549-3