Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan...
-
Upload
neva-alcantara -
Category
Documents
-
view
229 -
download
0
Transcript of Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan...
Redes Neuronales Monocapa
Redes Monocapa:
l1 lnl2
Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce comoautoasociación: por ejemplo, para regenerar informaciones de entrada que se presentan a lared incompletas o distorsionadas.
P/ejemplo Hopfield, BSB, Learnig Matrix
Red completamente Recurrente
Red completamente Recurrente
Un conjunto de patrones es presentado simultáneamente en las unidades una a la vez. Con forme cada patrón es presentado los pesos son modificados.
Una versión degradada de uno de los patrones se presenta en la red y esta intentar reconstruir el patrón.
Otra Red Recurrente
La Otra Red Recurrente
Debido a que el procesamiento en redes recurrentes depende del estado de la red en el último paso que tuvo lugar para responder a la entrada actual en diferentes formas, se dependerá de las entradas antes presentadas.
Por ejemplo Simple Recurrent Network (Elman) and the Jordan Network
Red Recurrente Simple
Redes de una sola capa Feedforward
Redes De Una Sola Capa Feedforward
Las unidades de entrada son fijadas y entonces la activación es propagada a través de la red hasta que los valores de las unidades de salida son determinadas.
La red actúa como un vector de una función valuada tomando un vector en la entrada y regresando otro vector en la salida.
Por ejemplo, las entradas pudieran representar las características de un miembro de un grupo y la salida pudiera ser la predicción de el grupo al cual pertenece dicha persona.
Redes Neuronales Multicapa
Introducción.
Los sistemas neurales artificiales imitan la estructura del hardware del sistema nervioso, con la intención de construir sistemas de procesamiento de información paralelos, distributivos i adaptivos, que puedan presentar un cierto comportamiento “Inteligente”.
Red Multicapa.
Cuando las neuronas de una capa reciben señales de entrada de otra capa anterior, mas cercana a la red, y envían señales de salida a una capa posterior, estamos ante una red de conexiones hacia adelante o Feedforward.
Uso
Son especialmente útiles en aplicación de reconocimiento o clasificación e patrones.
La mayoría se las redes multicapa son Bicapa; este tipo de estructura es particularmente adecuada par realizar una asociación de la información o patrón de entrada con otra información patrón de salida en la segunda capa.
Redes con conexiones hacia adelante y hacia atrás (feedforward / feedback):
En este tipo de redes circula información tanto hacia adelante como hacia atrás durante el funcionamiento de la red. Para que esto sea posible, existen conexionesfeedforward y conexiones feedback entre las neuronas.
También existen algunas que tienen conexiones laterales entre neuronas de la misma capa. Estas conexiones se diseñan como excitadores (con peso positivo) o inhibidoras (con peso negativo), estableciendose una competencia entre las neuronas correspondientes.
Redes Con Conexiones Hacia Adelante Y Hacia Atrás(feedforward / Feedback)
La regla de aprendizaje LMS minimiza el error cuadrático medio e2(k) generado por la salida deseada y la obtenida , el cual es definido por
donde en cada iteración tenemos un gradiente estimado de la forma:
los primeros R elementos de ∇e2(k) son derivadas con respecto a los pesos de la red, mientras que el elemento (R + 1) es la derivada con respecto a b.
Algoritmo de Widrow-Hoff.
Aprendizaje mediante algoritmo de Widrow-Hoff
Se aplica en entrenamientos Supervisados y, es utilizada para entrenar un simple elemento de procesado con función de transferencia lineal.
A esta regla
también se la conoce por el nombre de Regla de Widrow-Hoff, ya que, éste la utilizó en su modelo de neurona Adaline (Adaptive Linear Elemento).
x1
xn
1 f
p f
y1
yp
1
1
W10
Wp0
W11
Wp1
W1n
Wpn
f = función lineal
Estructura Madaline: Muchos Adalines
Perceptron
Un pe con una función de transferencia del tipo harddlimiter y en donde las entradas las entradas son binarios o bipolares (mismo que adaline pero con esas restricciones).
La regla que rige el cambio de pesos es
Otra de las modificaciones propuestas fue sugerida por windrow and hoff ellos propusieron una regla basada en la regla delta.(es la mas utilizada).
Los pesos cambian según la formula
Tomando las entradas y salidas como bipolares tenemos que el cambio en los pesos se producen de la manera siguiente: