Investigaciones del proyecto TRACER

Universidad Carlos III de Madrid

Investigadores:

Pedro Isasi Viñuela

Julio César Hernández

Cristóbal Luque del Arco-Calderón

José María Valls

Líneas de Investigación

Distribución de cargas en una esfera mediante estrategias evolutivas.

Predicciones de la marea mediante algoritmos genéticos.

Búsqueda de funciones HASH mediante programación genética.

Distribución de cargas en una esfera

Introducción:

Problema: distribuir N cargas iguales en la superficie de una esfera.

Las cargas tienden a repelerse hasta quedar en una posición de equilibrio.

El problema se conoce en física como “el problema de Thomson”.

Ejemplos

Métodos para el cálculo:

Clásico: descenso del gradiente. Simulated annealing. Algoritmos genéticos.

El descenso de gradiente puede quedar atrapado en mínimos locales.

Aplicaciones

Este problema clásico tiene aplicaciones en física, química y biología.

Cristalización de iones o "bubblons" cerca de la superficie de un aglomerado de helio líquido.

Cristalización de electrones en el contorno de un punto semiconductor esférico.

Cálculo de poliedros regulares. Búsqueda de moleculas estables. Analisis del entrelazado de los granos de polen y las

cadenas de ADN .

Dificultades del problema

Numerosos mínimos locales. El número de mínimos locales aumenta

exponencialmente con el número de electrones.

Para N ~ 200 electrones hay alrededor de 8000 mínimos locales.

Preliminares

Usaremos estrategias evolutivas de tipo (+), es decir, padres producen hijos, y entre la población total de + individuos se seleccionan los mejores, que pasan a ser los padres de la siguiente generación.

Preliminares

La función fitness será el potencial electrostático:» f(N)= i<j 1/d(xi,xj)

Esquema estándar:

inicializar();while condicion

{engendrar();evaluar();generación++;}

Preliminares

inicializar() da los valores iniciales. engendrar() produce los hijos a partir de los

padres mediante mutación. evaluar() selecciona los mejores individuos de la

población de padres e hijos. La condición de parada puede ser, o bien un número

determinado de generaciones, o bien que la función fitness no haya variado en las últimas 5000 generaciones.

Método I

Para la primera implementación los padres portan las coordenadas de los electrones en polares:

typedef struct {real x,y,ex,ey;}Telectron;

typedef struct {real fitness;Telectron electron[n_e];}Tpadre;

Método I

Declaramos un vector de elementos de tipo Tpadre.

El tipo real puede ser tanto double, como long double, dependiendo de la precisión que queramos.

La constante n_e es el número de electrones. Cada electrón lleva su posición en coordenadas

polares (x,y), además de las varianzas de la mutación (ex para la coordenada x, ey para la coordenada y).

Método I

Así pues la mutación (observemos que no sólo mutan las coordenadas polares, también mutan las varianzas) seguirá las siguientes distribuciones normales:

x’ = N(x,ex)y’ = N(y,ey)ex’ = N(ex,1)ey’ = N(ey,1)

Método II Para hacer el algoritmo más eficiente se pensó en

reducir la cantidad de memoria que ocupaba cada padre, y para ello se extrajeron las varianzas de cada electrón para hacer una única común a todos los electrones de cada padre.

typedef struct {real x,y;}Telectron;

typedef struct {real fitness;Telectron electron[n_e];real ex,ey;}Tpadre

Método II

Ahora el tipo Tpadre ocuparía la mitad de lo que ocupaba anteriormente.

El algoritmo saldría perjudicado en cuanto a que, teóricamente, un electrón bien colocado en una generación podría no estarlo en la siguiente por ser la varianza igual para todos; así pues no distingue entre los mejor colocados para la configuración mínima

Sin embargo según los resultados al final de la memoria podemos ver que el segundo método produce mejores resultados, en contra de lo que la intuición nos dice.

Método III Para la posición del electrón, en este método

trabajaremos con las tres coordenadas cartesianas (x,y,z), en vez de las dos polares (,).

x = cos cos y = sen cos z = sen

Método III

La nueva implementación será:

typedef struct {real x,y,z;

}Telectron;

typedef struct {real fitness;

Telectron electron[n_e];real e;

}Tpadre;

Método III

Al igual que en el caso anterior, seguimos manteniendo una sola varianza para todos los electrones del mismo padre.

El proceso de mutación usado es:

x’ = N(x,e)y’ = N(y,e)z’ = N(z,e)e’ = N(e,1)

Método III

Tras llevar a cabo algunas pruebas, se comprobó que, efectivamente, esta nueva implementación era más rápida.

Aunque el algoritmo había ganado cierta rapidez seguía siendo lento para casos de mas de 50 electrones, y ello era debido a que la función fitness dependía al cuadrado del numero de electrones.

Método III

Para cada electrón debe evaluar N2/2 distancias:

d(x1,x2), d(x1,x3), d(x1,x4), ... , d(x1,xN-1), d(x1,xN)d(x2,x3), d(x2,x4), ..., d(x2,xN-1), d(x2,xN)

d(x3,x4), ..., d(x3,xN-1), d(x3,xN)...

d(xN-2,xN-1), d(xN-2,xN)d(xN-1,xN)

f(N)= i<j 1/d(xi,xj)

Método IV Para la nueva implementación los padres mantienen la

información sobre la inversa de las distancias entre los electrones.

Muta un solo electrón de cada padre en el hijo. A la hora de calcular el fitness del hijo sólo tendríemos

que recalcular las inversas de las distancias del electrón mutado con los demás, permaneciendo sin variar las inversas de las distancias entre los electrones no mutados.

Ahora sólo hay que evaluar N-1 distancias en vez de N2/2.

Método IV

La nueva implementación será:

typedef struct {real x,y,z,e;}Telectron;

typedef struct {real fitness;

Telectron electron[n_e];real inv_d[n_e][n_e];

int ind;}Tpadre;

Método IV

En la tabla inv_d[n_e][n_e] guarda las inversas de las distancias de los electrones.

inv_d[i][j]= 1/ d(xi,xi), con i > j

Método IV El indicador ind señala cual es el electrón que

muta. Este indicador pasa sin variar al hijo con una

probabilidad del 90%; el 10% restante muta y pasa a señalar a otro electrón aleatoriamente.

Así, por una parte busca la mejor posición para ese electrón, y aleatoriamente pasa a buscar otro que colocar mejor, en vez de seguir explotando esa solución.

Método IV

La ventaja de este método es su velocidad, siendo mucho más rápido que todos los anteriores.

La desventaja es que tiene más posibilidades de quedar atascado en un mínimo local.

8 electrones, 10000 generaciones, 5 padres y5 hijos

47 electrones, 10000 generaciones, 1 padre y1 hijo

Método Fitness Tiempo(segundos)

Método Fitness Tiempo(segundos)

I 19.6752913245 12.362637 I 973.1973839911 49.560440I 19.6752914575 12.032967 I 974.9797714627 48.186813I 19.6752993070 11.978022 I 976.8652222134 49.285714I 19.6754357565 12.087912 I 981.3533191223 48.296703I 19.6797713543 12.142857 I 981.8208041893 49.120879

II 19.6752878612 8.681319 II 927.5439215096 49.670330II 19.6752878616 8.681319 II 928.0779934667 49.670330II 19.6752878800 8.571429 II 928.1033637721 49.725275II 19.7009298910 8.461538 II 928.2156836853 48.351648II 20.2265769415 8.351648 II 928.7117195279 50.000000

III 19.6752878612 7.637363 III 928.3174916695 28.406593III 19.6752878612 7.527473 III 928.5689913126 28.296703III 19.6752878612 7.527473 III 928.6184355261 27.802198III 19.6752878612 7.747253 III 928.8622914143 28.681319III 19.6752878612 7.692308 III 930.0162202709 27.967033

IV 19.6766100031 2.252747 IV 930.4202394723 3.681319IV 19.6791426375 2.087912 IV 931.7499077515 3.626374IV 19.6800674629 2.197802 IV 932.1747442133 3.791209IV 19.6820203187 2.197802 IV 932.2219753226 3.571429IV 19.6953519329 2.087912 IV 933.5903032834 3.626374

100 electrones, 10000 generaciones, 10padres y 10 hijos

Método Fitness Tiempo(segundos)

I 4643.1833132490 2829.440000I 4647.9426890093 2286.000000I 4661.1728204185 2287.040000I 4681.3037723816 2269.250000I 4685.7338367198 2263.260000

II 4449.3878048353 2306.150000II 4449.6730862707 2306.600000II 4450.1589141128 2308.350000II 4450.2435019393 2307.150000II 4450.2676095084 2311.370000

III 4449.4552316533 1517.750000III 4449.6583187298 1517.200000III 4449.9076568516 1512.430000III 4449.9517013683 1515.940000III 4449.9820378041 1509.900000

IV 4458.2006557801 1466.890000IV 4459.0092023984 1454.870000IV 4459.1935607246 1457.500000IV 4460.2660305058 1446.950000IV 4461.0309103091 1490.350000

8 electrones, 10000 generaciones, 5 padres y5 hijos

47 electrones, 10000 generaciones, 1 padre y1 hijo

Método Fitness Tiempo(segundos)

Método Fitness Tiempo(segundos)

III 19.6752878612 7.637363 III 928.3174916695 28.406593III 19.6752878612 7.527473 III 928.5689913126 28.296703III 19.6752878612 7.527473 III 928.6184355261 27.802198III 19.6752878612 7.747253 III 928.8622914143 28.681319III 19.6752878612 7.692308 III 930.0162202709 27.967033

35000 generaciones en el método IV 70000 generaciones en el método IV

IV 19.6752878645 7.747253 IV 928.1094160564 29.945055IV 19.6755625444 7.747253 IV 928.8007884750 29.285714IV 19.6766635060 7.307692 IV 928.8932222604 28.626374IV 19.6776197328 7.087912 IV 929.0820804155 27.802198IV 19.6802412151 8.021978 IV 929.2220586434 28.461538

Nuevo Enfoque

Posteriormente se trató de afrontar el problema con una estrategia (1+1).

1 padre produce 1 único hijo. Dicho padre se sustituye sólo si el hijo

mejora el fitness del padre.

Método V

Se siguieron las los postulados de Rechenberg: la regla de 1/5:

En una estrategia (1+1) la proporción de descendientes que sustituyen al padre debe ser 1/5. Si es mayor que 1/5 debemos incrementar la varianza, y si es menor decrementarla.

Método V

Sea n el número de variables de la función: La varianza se mantiene fija durante n generaciones observamos la proporción de sustituciones del padre

que se han producido en las últimas 10n generaciones

Si esta proporción es mayor que 1/5, la varianza se multiplica por una constante de incremento ci=1/0.82

si es menor que 1/5 la varianza se multiplica por una

constante de decremento cd = 0.82

Método VI

Este último método es mucho más sencillo.

Simplemente, cada generación decrementa la varianza del padre multiplicándola por 0’95, y la del hijo se aumenta multiplicándola por 1’25.

Resultados

El método VI presenta una convergencia más rápida.

Bibliografía

L. T. Wille, “Searching potential energy surfaces by simulated annealing”, Nature v 324 n 6 (1984), p 46-48.

J. R. Morris, D. M. Deaven and K. M. Ho. “Genetic-algorithm energy minimization for point charges on a sphere”. Physical Review B, 53(4): 1740--1743, 1996.

A. B. J. Kuijlaars and E. B. Saff, “Asymptotics for minimal discrete energy on the sphere”, Trans. Amer. Math. Soc., to appear.

E. B. Saff, A. B. J. Kuijlaars, “Distributing many points on a sphere”, Mathematical Intelligencer, v19 n1 (1997), p 5-11.

T. Erber, G. M. Hockney, “Equilibrium configurations of n equal charges on a sphere”, J Phys A: Math, 1991

U. Depczynski and J. Stockler, “A differential geometric approach to equidistribution on compact manifolds”, Approximation theory IX, Volume 1: Theorical aspects 1998.

Investigadores

Pedro Isasi Cristóbal Luque Julio César Hernández

Resultados

Página web para el proyecto TRACER http://tracer.lcc.uma.es/problems/thomson/thomson.html

Informe técnico. Artículo aceptado para una conferencia

en la CAEPIA 2003.

Predicciones de series temporales (mareas de Venecia) mediante algoritmos genéticos.

Objetivo

Dada una muestra consecutiva de horas predecir la evolución de la marea.

Clásicamente se han usado RRNN para la predicción de series temporales.

Nosotros hemos usado técnicas de algoritmos genéticos.

Objetivo

Datos de entrada: 24 horas consecutivas

x1, …, x24

Salida: predicción para la hora siguiente (X25)

Algoritmo

Nuestros individuos serán vectores de 50 elementos:

( c_sup1, c_inf1,…, c_sup24, c_inf24, predicción, error )

Este patrón nos indica que para una muestra de 24 horas consecutivas ( h1, …, h24 ) si para todo i se cumple que c_infi <hi< c_supi entonces la hora siguiente será predicción con un error aproximado de error.

Algoritmo

Seleccionamos una gran cantidad de valores consecutivos de medidas de la marea (30.000).

El fitness de un individuo dependerá de: El número de veces que 24 horas

consecutivas cumplen sus cotas (aciertos).

La varianza de las medidas de la hora 25.

Algoritmo: Fitness

Función fitness: (aciertos*10) - varianza

Objetivos: Maximizar los aciertos. Minimizar la varianza.

Algoritmo

Reproducción sexual. Intercambio de la información. Selección de los individuos por torneos

de tres rondas.

Algoritmo: Descendencia

Un gen de un individuo es un par de cota superior y cota inferior para una misma hora.

Para cada hora, el hijo hereda el gen correspondiente a esa hora de uno de los padres con una probabilidad del 50%.

Algoritmo: Descendencia

Padre 1:

( c_sup1, c_inf1, c_sup2, c_inf2,…,c_sup24, c_inf24)

Padre 2:

( c_sup1, c_inf1, c_sup2, c_inf2,…,c_sup24, c_inf24)

Hijo:

(c_sup1, c_inf1, c_sup2, c_inf2,…, c_sup24, c_inf24)

Algoritmo: Selección

No queremos un único individuo óptimo, buscamos una población y que cada individuo nos haga una predicción distinta.

Steady-Stay: Un nuevo individuo sustituye al más cercano en distancia fenotípica, es decir, al que haga una predicción parecida.

Sólo sustituye si mejora el fitness del más cercano en distancia fenotípica

Resultados

Tras cada ejecución se guardan los individuos en un fichero.

Resultado final: 3500 individuos que predicen sobre 30.000 datos de test (es decir, la población de individuos no ha sido entrenada con ellos) en el 99% de los casos con un error medio de 5 cm sobre el nivel de la marea (entre -50 y 150 cm)

Investigadores

Pedro Isasi Cristóbal Luque Julio César Hernández José María valls

Resultados

Página web para el proyecto TRACER http://tracer.lcc.uma.es/problems/tide/tide.html

Búsqueda de funciones HASH mediante programación genética

Objetivo

Efecto Avalancha: ¿Cuánto cambia la salida cuando cambiamos un bit de la entrada?

Crearemos funciones HASH mediante Programación Genética y comprobaremos su robustez mediante el efecto Avalancha.

Algoritmo

Nuestros individuos serán árboles. En cada nodo habrá una operación de la

lista. El fitness del individuo se calculará

generando 1024 vectores aleatorios de 64 bits. A continuación se permuta un bit del vector y se calcula su distancia de Hamming entre la salida del vector original y la salida del permutado, y luego se calcula la media.

Operaciones

rotd (rotar a la derecha)

roti (rotar a la izquierda)

xor (suma mod 2) or (bit or)

not (bit not) and (bit and) sum (suma mod 232) mult (multiplicación

mod 232) kte = 0x9e377969

Ejemplo de individuo

Profundidad del árbol: 5 fitness: 11.2148 Entradas: a0, a1

 (mult (kte (rotd a0))       (rotd (sum (roti (xor a0 a1))                  (xor a0 a1))))

Investigadores

Julio César Hernández Pedro Isasi Cristóbal Luque

Resultados

Página web para el proyecto TRACER http://tracer.lcc.uma.es/problems/avalanche/avalanche.html

Artículo aceptado para KES 2003, que tuvo lugar en Oxford.

Aceptado en el CEC 2003, en Camberra, y que será publicado en la revista Computational Intelligence de Junio de 2004.