Extended αβ associative memories
J.H. Sossa Azuela* and R. Barrón Fernández
* Corresponding author.
Centro de Investigación en Computación, Instituto Politécnico Nacional, Av. Juan de Dios Batíz and M. Othón de Mendizábal, Col. Nueva Industrial Vallejo, México, D.F. 07738. MÉXICO, Tel. 5729 6000 ext, 56512. Fax 5729 6000 ext. 56607, e–mail: hsossa@cic.ipn.mx, rbarron@cic.ipn.mx
Recibido el 11 de septiembre de 2006 ]]> Aceptado el 22 de noviembre de 2006
Abstract
The αβ associative memories recently developed in Ref 10 have proven to be powerful tools for memorizing and recalling patterns when they appear distorted by noise. However they are only useful in the binary case. In this paper we show that it is possible to extend these memories now to the gray–level case. To get the desired extension, we take the original operators α and β, foundation of the αβ memories, and propose a more general family of operators. We find that the original operators α and β are a subset of these extended operators. For this we first formulate a set of functional equations in terms of the original properties of operators α and β. Next we solve this system of equations and find a family of solutions. We show that the α and β originally proposed in Ref. 10 are just a particular case of this new family. We present the properties of the new operators. We then use these operators to build a new set of extended memories. We also give the conditions under which the extended memories are able to recall a pattern either from the pattern's fundamental set or from altered versions of them. We give real examples with images where the proposed memories show their efficiency. We compare the proposal with other similar works, and show the ours performs much better.
Keywords: Computer science and technology; neural engineering; image quality; contrast; resolution; noise.
Resumen
Las memorias αβ recientemente desarrolladas en Ref. 10 han mostrado ser herramientas poderosas para memorizar y recobrar patrones cuando éstos aparecen distorsionados por ruido. Sin embargo, son sólo útiles en el caso binario. En este artículo mostramos que es posible extender estas memorias para trabajar en el caso de niveles de gris. Para obtener esta extensión tomamos los operadores originales α y β, fundamento de las memorias αβ y proponemos una familia más general, de la cual forman parte los originales. Para esto formulamos un conjunto de ecuaciones funcionales en términos de las propiedades de los operadores originales. Enseguida, resolvemos este sistema y encontramos una familia de soluciones. Mostramos que los operadores originales α y β son un caso particular de esta nueva familia. Damos algunas de las propiedades de los nuevos operadores. Usamos entonces los nuevos operadores para construir un conjunto de memorias extendidas. Damos las condiciones bajo las cuales estas memorias son capaces de recuperar patrones del conjunto fundamental o a partir de versiones ruidosas de las mismas. Damos también ejemplos reales con imágenes donde las memorias propuestas muestran su eficiencia. Comparamos la propuesta con otras propuestas similares y demostramos que la nuestra tiene un mucho mejor desempeño.
Descriptores: Ciencias de la computación y tecnología; Ingeniería neuronal; calidad de imagen; contraste; resolución; ruido.
]]> PACS: 89.20.Ff; 87.80.Xs; 87.57.Ce
DESCARGAR ARTÍCULO EN FORMATO PDF
Acknowledgements
This work was economically supported by SIP–IPN under grants 20050156, 20060517 and 20071438, and CONACYT by means of grant 46805.
References
1. M.H. Hassoun, Associative Neural Memories: Theory and Implementation (Oxford University Press, 1993). [ Links ]
2. J.A. Anderson, Mathematical Biosciences, 14 (1972) 197. [ Links ]
3. J.A. Anderson and T. Kohonen (Eds.) Neurocomputing: Foundations of Research (Cambridge, MIT Press, 1990). [ Links ]
4. M.H. Hassoun, Fundamentals of Artificial Neural Networks (The MIT Press. 1995). [ Links ]
5. K. Steinbuch, Kybernetik 1 (1961) 26. [ Links ]
6. K. Steinbuch and H. Frank, Kybernetik, 1 (1961) 117. [ Links ]
7. J. J. Hopfield, Proceedings of the National Academy of Sciences 79 (1982) 2554. [ Links ]
8. G.X. Ritter, P. Sussner, and J.L. Díaz de León, IEEE Transactions on Neural Networks 9 (1998) 281. [ Links ]
9. G.X. Ritter, J.L. Díaz de León, and P. Sussner Neural Networks 12 (1999) 851. [ Links ]
10. C. Yáñez, Associative Memories based on Order Relations and Binary Operators (In Spanish), PhD Thesis, Center for Computing Research, February of 2002, (2002). [ Links ]
11. H. Sossa et al., Lecture Notes on Computer Science 3287 (2004) 187. [ Links ]
12. H. Sossa et al., Lecture Notes on Computer Science 3287 (2004) 195. [ Links ]
13. H. Sossa et al., Lecture Notes on Artificial Intelligence 3315 (2004) 656. [ Links ]
14. H. Sossa et al., Lecture Notes on Artificial Intelligence 3315 (2004) 687. [ Links ]
15. H. Sossa et al., Lecture Notes on Artificial Intelligence 3315 (2004) 646. [ Links ]
16. H. Sossa et al., Neural Processing Letters 22 (2005) 85. [ Links ]
17. R. A. Vázquez, H Sossa, and R. Barrón, LNAI 3789 (2005) 317. [ Links ]
18. H. Sossa and R. Barren, Lecture Notes on Computer Science 3773 (2005) 1036. [ Links ]
19. R.A. Vazquez, H. Sossa, and B. Garro, Lecture Notes on Artificial Intelligence 4293 (2006) 367. [ Links ]
20. B. Cruz, H. Sossa, and R. Barrón, to appear in Neural Processing Letters (2006). [ Links ]
21. A. Dhombres, Functional Equations Containing Several Variables (Cambridge University Press, 1991) [ Links ]
22. J. Aczel, Functional Equations: History, applications end theory (Kluwer Academic Pub. Group, 1984). [ Links ] ]]>