Crossmodal learning and prediction of autobiographical episodic experiences using a sparse distributed memory [Elektronische Ressource] / submitted by Sascha Jockel
242 Pages
English
Downloading requires you to have access to the YouScribe library
Learn all about the services we offer

Crossmodal learning and prediction of autobiographical episodic experiences using a sparse distributed memory [Elektronische Ressource] / submitted by Sascha Jockel

-

Downloading requires you to have access to the YouScribe library
Learn all about the services we offer
242 Pages
English

Description

University of HamburgFaculty of Mathematics, Informatics and Natural SciencesDepartment of InformaticsCrossmodal Learning andPrediction of AutobiographicalEpisodic Experiences using aSparse Distributed MemoryDoctoral Thesissubmitted bySascha Jockelof HamburgNovember 2009Dissertationzur Erlangung des akademischen GradesDr. rer. nat.an der Fakult at fur Mathematik, Informatik und Naturwissenschaftender Universit at Hamburgeingereicht beim Department InformatikGenehmigt von der MIN-Fakult at, Department Informatikder Universit at Hamburg auf Antrag vonJianwei Zhang, Prof. Dr. (Erstgutachter, Betreuer)Bernd Neumann, Prof. PhD (Zweitgutachter)Hamburg, 12. Mai 2010 (Tag der Disputation)AbstractThis work develops a connectionist memory model for a service robot that satis es a numberof desiderata: associativity, vagueness, approximation, robustness, distribution and paral-lelism. A biologically inspired and mathematically sound theory of a highly distributed andsparse memory serves as the basis for this work. The so-called sparse distributed memory(SDM), developed by P. Kanerva, corresponds roughly to a random-access memory (RAM)of a conventional computer but permits the processing of considerably larger address spaces.Complex structures are represented as binary feature vectors. The model is able to produceexpectations of world states and complement partial sensory patterns of an environmentbased on memorised experience.

Subjects

Informations

Published by
Published 01 January 2009
Reads 22
Language English
Document size 9 MB

Exrait

University of Hamburg
Faculty of Mathematics, Informatics and Natural Sciences
Department of Informatics
Crossmodal Learning and
Prediction of Autobiographical
Episodic Experiences using a
Sparse Distributed Memory
Doctoral Thesis
submitted by
Sascha Jockel
of Hamburg
November 2009Dissertation
zur Erlangung des akademischen Grades
Dr. rer. nat.
an der Fakult at fur Mathematik, Informatik und Naturwissenschaften
der Universit at Hamburg
eingereicht beim Department Informatik
Genehmigt von der MIN-Fakult at, Department Informatik
der Universit at Hamburg auf Antrag von
Jianwei Zhang, Prof. Dr. (Erstgutachter, Betreuer)
Bernd Neumann, Prof. PhD (Zweitgutachter)
Hamburg, 12. Mai 2010 (Tag der Disputation)Abstract
This work develops a connectionist memory model for a service robot that satis es a number
of desiderata: associativity, vagueness, approximation, robustness, distribution and paral-
lelism. A biologically inspired and mathematically sound theory of a highly distributed and
sparse memory serves as the basis for this work. The so-called sparse distributed memory
(SDM), developed by P. Kanerva, corresponds roughly to a random-access memory (RAM)
of a conventional computer but permits the processing of considerably larger address spaces.
Complex structures are represented as binary feature vectors. The model is able to produce
expectations of world states and complement partial sensory patterns of an environment
based on memorised experience. Caused by objects of the world, previously learnt experi-
ences will activate pattern sequences in the memory and claim the system’s attention. In this
work, the sparse distributed memory concept is mainly considered a biologically inspired and
content-addressable memory structure. It is used to implement an autobiographical long-
term memory for a mobile service-robot to store and retrieve episodic sensor and actuator
patterns.
Within the scope of this work the sparse distributed memory concept is applied to several
domains of mobile service robotics, and its feasibility for the respective areas of robotics
is analysed. The studied areas range from pattern matching, mobile manipulation, navi-
gation, telemanipulation to crossmodal integration. The robot utilises properties of sparse
distributed memory to detect intended actions of human teleoperators and to predict the
residual motion trajectory of initiated arm or robot motions. Several examples show the
model’s fast and online learning capability for precoded and interactively provided motion
sequences of a 6 DoF robot arm. An appropriate encoding of sensor-based information into
a binary feature space is discussed and alternative coding schemes are elucidated.
A transfer of the developed system to robotic sub elds such as vison-based navigation is
discussed. The model’s performance is compared across both of these domains, manipula-
tion and navigation. A hierarchical extension enables the memory model to link low-level
sensory percepts to higher-level semantic task descriptions. This link is used to perform a
classi cation of demonstrated telemanipulation tasks based on the robot’s experience in the
past. Tests are presented where di erent sensory patterns are combined into an integrated
percept of the world. Those crossmodal percepts are used to dissolve ambiguities that may
arise from unimodal perception.Zusammenfassung
In dieser Arbeit wird ein konnektionistisches Gedac htnismodell fur einen Service-Roboter
realisiert, das eine Riege von Desiderata erfullen soll: Assoziativitat, Unscharfe, Approxi-
mitat, Robustheit, Verteiltheit und Parallelismus. Als Grundlage dient die von P. Kanerva
entwickelte und biologisch inspirierte Theorie eines hochgradig verteilten und dunn besetzten
Speichers, engl. Sparse Distributed Memory (SDM). Es entspricht generell einem Speicher
ahnlich dem Random-Access Memory (RAM) eines Computers wobei ein weitaus gro erer
Adressraum abgedeckt werden kann. Komplexe Strukturen werden als sehr lange Vektoren
eines binaren Merkmalsraums auf das Gedachtnismodell abgebildet. Das Modell erzeugt Er-
wartungen und vervollstandigt partielle Wahrnehmungen der Umwelt mittels gespeicherter
Sensordaten. Ausgelost durch Objekte der Umwelt werden zuvor gelernte Erfahrungen durch
Folgen von Aktivierungsmustern im Fokus der Aufmerksamkeit des technischen Systems dar-
gestellt. Primar wird in dieser Arbeit das Sparse Distributed Memory als eine dem mensch-
lichen Vorbild ahnliche Gedachtnisstruktur zur autobiographischen Langzeitspeicherung von
Erfahrungsmustern diskutiert.
Diese Arbeit prasen tiert die Ubertragung des Sparse Distributed Memory Konzepts auf
verschiedenste Domanen der mobilen Service-Robotik und analysiert dessen Eignung fur die
jeweiligen Bereiche. Diese Bereiche umfassen die mobile Manipulation, Navigation, Telema-
nipulation und die kreuzmodale Integration verschiedenartiger Sensormuster. Der Roboter
nutzt die pradiktiven Eigenschaften des Modells um beispielsweise Intentionen von Tele-
operatoren zu erkennen und initiierte Roboterarm-Bewegungsmuster sowie mobile Naviga-
tionsaufgaben autonom zu Ende zu fuhren. Verschiedenste Anwendungsszenarien zeigen die
schnelle Lernfahigk eit von kodierten sowie interaktiven Manipulationssequenzen eines Robo-
terarms mit sechs Freiheitsgraden mittels einer vorwartsgerichteten, neuronalen Architektur,
die das SDM darstellt. Dabei werden u.a. die Probleme der Informationsenkodierung von
Sensordaten in einen binaren Merkmalsraum erortert und weitere Kodierungsmoglichkeiten
untersucht.
Die Ubertragung des Modells auf andere Modalitaten zur Losung von visuellen Navi-
gationsaufgaben wird dargestellt und das Verhalten des Modells bezuglich der Manipula-
tionsdomane verglichen. Durch eine hierarchische Erweiterung des Gedac htnismodells wird
es ermoglicht, Sensorwahrnehmungen mit semantischen Konzepten hoheren Abstraktions- iv German Abstract
grades zu verknupfen um beispielsweise Ziele einer interaktiven Telemanipulationsaufgabe
fruhzeitig zu ermitteln. Es werden Untersuchungen prasentiert, die eine kreuzmodale In-
tegration verschiedenartiger Sensormuster zu einem multimodalen Perzept der Umgebung
darstellen, um Ambiguitaten unimodaler Wahrnehmungen zu kompensieren.Contents
Abstract i
German Abstract iii
1. Introduction 1
1.1. Motivation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
1.1.1. Learning from Experience . . . . . . . . . . . . . . . . . . . . . . . . . 2
1.1.2. Cognitive Robotics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.1.3. Distributed Representations . . . . . . . . . . . . . . . . . . . . . . . . 4
1.1.4. Sequence Learning . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
1.2. About this Work . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
1.2.1. Objectives . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
1.2.2. Requirements . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
1.2.3. Evaluation and Validation . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.2.4. Further Information . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.3. Thesis Structure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
2. Memory|an Unrevealed Mystery 11
2.1. Memory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
2.1.1. Short-term Memory . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
2.1.2. Long-term . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
2.1.3. An Everlasting Debate . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
2.1.4. Three Processing Stages of Memory . . . . . . . . . . . . . . . . . . . 14
2.2. Memory Models and Cognitive Architectures . . . . . . . . . . . . . . . . . . 15
2.2.1. Adaptive Control of Thoughts Theory (ACT) . . . . . . . . . . . . . . 15
2.2.2. Memory Prediction Framework . . . . . . . . . . . . . . . . . . . . . . 16
2.2.3. Connectionist Models . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
2.3. Associative Memories as an Instrument of Prediction . . . . . . . . . . . . . . 17
2.3.1. Hebbian Learning . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
2.3.2. The Hop eld Model . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
2.3.3. The Willshaw-Palm-Model . . . . . . . . . . . . . . . . . . . . . . . . 19vi Contents
2.3.4. Biologically-inspired Associative Memory: Cerebellar Models . . . . . 19
2.4. Concluding Remarks: Towards a Predictive Autobiographical Robot Memory 22
3. A Sparse and Distributed Memory Model 25
3.1. Boolean Geometry and Characteristics of Boolean Space . . . . . . . . . . . . 27
3.2. Memory Storage and Retrieval . . . . . . . . . . . . . . . . . . . . . . . . . . 32
3.2.1. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
3.2.2. Retrieval . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
3.2.3. Convergence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
3.2.4. Capacity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
3.3. Di erent Representions of an SDM . . . . . . . . . . . . . . . . . . . . . . . . 36
3.3.1. SDM as Generalised Random-Access Memory . . . . . . . . . . . . . . 37
3.3.2. SDM as Arti cial Neural Network . . . . . . . . . . . . . . . . . . . . 37
3.3.3. SDM Analogy to the Cerebellum . . . . . . . . . . . . . . . . . . . . . 37
3.4. An Adaptive Autonomous Agent . . . . . . . . . . . . . . . . . . . . . . . . . 40
3.5. Improvements of the SDM Design . . . . . . . . . . . . . . . . . . . . . . . . . 41
3.5.1. Jaeckel/Karlsson’s Selected-Coordinate Design . . . . . . . . . . . . . 41
3.5.2. Spatter and Sparchunk Code . . . . . . . . . . . . . . . . . . . . . . . 42
3.5.3. Value-Based Reinforcement Learning . . . . . . . . . . . . . . . . . . . 43
3.5.4. Signal Propagation Model . . . . . . . . . . . . . . . . . . . . . . . . . 44
3.5.5. Genetic Sparse Distributed Memory . . . . . . . . . . . . . . . . . . . 44
3.6. Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44
3.6.1. Cultural Evolution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
3.6.2. Part of a Cognitive Architecture: LIDA . . . . . . . . . . . . . . . . . 45
3.6.3. Mobile Robot Navigation . . . . . . . . . . . . . . . . . . . . . . . . . 45
3.6.4. Weather Forecasting . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46
3.6.5. Speech Recognition and Pronunciation . . . . . . . . . . . . . . . . . . 47
3.7. Concluding Remarks . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
3.7.1. Advantages of the SDM Model Regarding Cognitive Robotics . . . . . 48
3.7.2. Disadvantages of the SDM Model Regardinge Robotics . . . 49
4. Experimental Platforms 51
4.1. Hardware . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
4.1.1. TAMS Service Robot TASER . . . . . . . . . . . . . . . . . . . . . . . 52
4.1.2. LIZARD Robot . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
4.1.3. Haptic Force-Feedback Device . . . . . . . . . . . . . . . . . . . . . . . 59
4.2. Software . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
4.2.1. TASER Control Architecture . . . . . . . . . . . . . . . . . . . . . . . 60
4.2.2. LIZARD Control Arc . . . . . . . . . . . . . . . . . . . . . . 60
4.2.3. Teleoperation Control Architecture . . . . . . . . . . . . . . . . . . . . 62
4.3. Concluding Remarks . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
5. Implementation of and Proper Encoding for Sparse Distributed Memory 65
5.1. Implementation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
5.1.1. Dynamic Memory Allocation . . . . . . . . . . . . . . . . . . . . . . . 67
5.1.2. Data Acquisition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
5.1.3. Memory Storage and Retrieval . . . . . . . . . . . . . . . . . . . . . . 68