Ένα μοντέλο νευρωνικών δικτύων που εξομοιώνει τη μνήμη

Από την ιστοσελίδα Physical Review Focus Μάρτιος 2004

Ο ανθρώπινος εγκέφαλος έχει αποκληθεί ως το πιο περίπλοκο αντικείμενο του Σύμπαντος, κι έτσι δεν μας εκπλήσσει το γεγονός ότι οι επιστήμονες δεν έχουν ακόμη κατανοήσει τη λειτουργία της μνήμης. Οι φυσικοί ελπίζουν να μάθουν κάτι για την μνήμη, μελετώντας απλοποιημένα μοντέλα υπολογιστικών διαδικασιών, που λέγονται νευρωνικά μοντέλα, και τα οποία έχουν κάποιες κοινές ιδιότητες με τον πραγματικό εγκέφαλο. 

Στο περιοδικό Physical Review Letters της 12ης Μαρτίου, κάποιοι ερευνητές διόρθωσαν ένα σημαντικό σφάλμα σε κάποιο τύπο νευρωνικού δικτύου που στοχεύει σε καλύτερη εξομοίωση της συμπεριφοράς των πραγματικών νευρώνων, και έδειξαν ότι αυτό μπορεί να ανακαλέσει σταθερές "μνήμες". Τέτοια δίκτυα δείχνουν ότι, πολύπλοκες συμπεριφορές σαν του εγκεφάλου, μπορούν να προκύψουν από μια συλλογή απλούστερων συνιστωσών. Τα δίκτυα αυτά παραμένουν τα καλύτερα υπολογιστικά μοντέλα που διαθέτουμε για τη λειτουργία της μνήμης. 


Ένα πρόσωπο: Ένας σχηματισμός μνήμης μπορεί να αποθηκευτεί σ' αυτά τα pixels, ακόμη και αν το καθένα από αυτά συνεχίζει να ταλαντώνεται από μαύρο έως άσπρο και και ξανά και ξανά. Μια βελτίωση σ' ένα τέτοιο νευρωνικό δίκτυο επιτρέπει την ανάκληση μνήμης.

Νωρίς κατά τη δεκαετία του 1980, ο John Hopfield, τώρα στο πανεπιστήμιο του Princeton, πρότεινε ένα τύπο νευρωνικού δικτύου, με δυνατότητα ανάκλησης κάποιων μορφών ή "μνημών". Αυτό αποτελείται από νευρώνες στους οποίους αποδίδονται τιμές 1 και -1, σύμφωνα με ένα σταθμισμένο μέσο όρο των τιμών όλων των υπόλοιπων νευρώνων.

Αν ξεκινήσουμε αποδίδοντας κάποιες τιμές σε κάθε νευρώνα και αφήσουμε το σύστημα να εξελιχθεί ελεύθερα αφ' εαυτού, οι τιμές αλλάζουν με τον χρόνο καθώς οι νευρώνες συνεχώς αποκρίνονται ο ένας με τον άλλο. Αλλά προοδευτικά στο δίκτυο αποκαθίσταται μια διάταξη τιμών που δεν μεταβάλλεται πια με το χρόνο.

Οποιαδήποτε επιλογή αρχικών τιμών, δημιουργεί ένα δίκτυο στο οποίο εμφανίζονται αρκετές σταθερές διατάξεις - προτιμητέες "μνήμες" στις τιμές των νευρώνων. Αν το δίκτυο ξεκινήσει με μια άλλη διάταξη, μετακινείται στην πλησιέστερη διάταξη προτιμητέων μνημών - με άλλα λόγια "ανακαλεί" την πλησιέστερη μνήμη. 

Ένας πραγματικός νευρώνας όμως σε ηρεμία, δεν διατηρεί μια σταθερή τιμή τάσης. εμφανίζονται κορυφές τάσης με σταθερό ρυθμό. Έτσι οι ερευνητές επινόησαν δίκτυα των οποίων τα στοιχεία είναι συζευγμένα μεταξύ τους, και οι τιμές τους ταλαντώνονται με το χρόνο. Για παράδειγμα, μια κατάσταση μνήμης μπορεί ν' αποτελείται από νευρώνες που ταλαντώνονται συμφασικά ή με αντίθετες φάσεις αντί να παραμένουν σε μια μόνιμη διάταξη. 

Αυτά όμως τα πιο ρεαλιστικά δίκτυα υποφέρουν από ένα πρόβλημα ευστάθειας, εξηγεί ο Takashi Nishikawa του Southern Methodist University στο Dallas. Οι επιθυμητές καταστάσεις μνήμης δεν είναι περισσότερο σταθερές από άλλες καταστάσεις στις οποίες μπορεί να μεταπέσει το δίκτυο. Όταν ξεκινήσει με έναν νέο συνδυασμό τιμών, το ταλαντευόμενο δίκτυο, αντίθετα με το αρχικό μοντέλο του Hopfield, δεν μεταβαίνει αυτόματα στη κατάσταση που είναι πλησιέστερη στον αρχικό συνδυασμό. 

Ο Nishikawa και οι συνεργάτες του στο Πολιτειακό πανεπιστήμιο της Arizona στην Tempe βρήκαν ένα απλό τρόπο να διορθώσουν αυτή την ατέλεια. Άλλαξαν τον μαθηματικό τύπο της στάθμισης τιμών - ο οποίος εξαρτάται από τις διαφορές φάσης μεταξύ των νευρώνων - για να αποδώσουν μεγαλύτερο βάρος σε νευρώνες που βρίσκονται σε ορισμένες φάσης κατά τη διάρκεια του κύκλου τους. Αυξάνοντας αυτή την επιπλέον στάθμιση τιμών οι προτιμητέοι συνδυασμοί της μνήμης αποκτούν σταθερότητα, λένε οι ερευνητές.

Όταν συμβαίνει αυτό, το δίκτυο μπορεί να μην παράγει μια συγκεκριμένη κατάσταση μνήμης όταν τροφοδοτηθεί αρχικά με ένα συνδυασμό τιμών. Αλλά όταν η επιπλέον στάθμιση ρυθμιστεί σωστά, το δίκτυο δείχνει μια δυνατότητα ανάκλησης συγκρίσιμη με αυτή που εμφανίζει το κλασσικό δίκτυο Hopfield.

Το πως σχετίζονται όλα αυτά με την πραγματική νευρολογική μνήμη, είναι δύσκολο να πούμε, παραδέχεται ο Nishikawa. Η σύγχρονη διέγερση των βιολογικών νευρώνων είναι μόνο ένας από τους δυνατούς τρόπους κωδικοποίησης της μνήμης, και οι συνδέσεις μεταξύ των νευρώνων που συμμετέχουν σε τέτοια φαινόμενα, δεν κατανοούνται αρκετά καλά.

Η Zhaoping Li του University College του Λονδίνου, πιστεύει ότι οι τεχνικές που επινόησε η ομάδα του Nishikawa μπορεί τελικά να έχει περισσότερη αξία για την επιστήμη των υπολογιστών παρά για τη νευροεπιστήμη.  Παρόλα αυτά, προσθέτει η ίδια, θα χρειαστεί να πάρουμε ιδέες από όλες αυτές τις επιστήμες για να πετύχουμε μια ικανοποιητική κατανόηση της μνήμης και των άλλων λειτουργιών του εγκεφάλου. 

Τα παραπάνω δημοσιεύονται σε εργασία με τίτλο: 
Capacity of Oscillatory Associative-memory Networks With Error-free Retrieval
T. Nishikawa, Y.C. Lai, and F.C. Hoppensteadt
Phys. Rev. Lett. 92, 108101
(τεύχος της 12ης Μαρτίου 2004)

Home