La Lettre 46 - page 17

17
Le réseaudeneurones récurrent correspondaucortex, les
neuronesde lecture (« readoutneurons»)correspondentau
striatum,et lesconnexionscortico-striatalessontmodifiables
sous contrôlede ladopamine. Cemodèleprédit doncune
implicationcortico-striataledans les transformationsgram-
maticales. Sur cepoint, desdéficitsde traitement gramma-
tical ont étéobservés lorsque lesystèmecortico-striatal est
dégradédu faitd’une lésionoude lamaladiedeParkinson.
Les grammaires génératives apparaissent efficaces pour
lagénéralisationde nouvelles formes grammaticalesmais
elles permettent difficilement de fournir un aperçu sur les
mécanismes neuronaux sous-jacents. En revanche, notre
modèleprévoit explicitement que le contextegrammatical
est représenté dans les réseaux corticaux récurrents et
que lesensest extrait
via
desconnexionsplastiquesàdes
neuronesdu striatum.
Récemment, nous avons abordé leproblèmede lagéné-
ralisation de cemodèle dans le cadre de l’hypothèse de
« reservoir computing». Selon ceprincipe, un réseaude
neuronesavecdesconnexions récurrentesfixesestentraîné
pardesélémentsextérieursetcesneuronessont reliésàdes
neuronesde lecture
via
desconnexionsqui sontmodifiées
lorsde l’apprentissage.Nousavons initialementproposéce
cadreen1995
(6)
et enutilisant des techniquesde régres-
sion linéaire pour lamise en place des connexions, nous
avonspuélargirnosexpériencesàdescorpusallant jusqu’à
90000constructionsdifférentes.Celaapermisunedécou-
verte fondamentale: les régularités d’une languepeuvent
êtreencodéesdans la langueelle-mêmeet si notre réseau
récurrent est exposé à un corpus suffisant, celui-ci peut
apprendreàgénéraliser sur cette langue
(8)
.
Dans l’architecturedumodèlede traitementde langage,de
manière schématique (Figure 1), les phrases sont présen-
tées aumodèle comme une séquencedemots de classe
ouverte (sémantique) et de classe fermée (grammatical).
L’hypothèseestquechaqueconstructiongrammaticaleest
l’apprentissagedesparamètresd’unegrammaireuniverselle,
l’enfant apprendrait des conventions sur la façond’utiliser
desmotsetdesconstructionsgrammaticalesen fonctiondu
besoindecommunicationspécifique.Avec l’usage, l’enfant
apprendrait alorsàgénéraliser cetteconnaissance lorsde
nouvellesconstructions.
Dans ce contexte, dans les années 1980, ElizabethBates
et BrianMacWhinney ont observé que, dans les langues
humaines, le sens d’unephrase est codépar unpetit en-
sembled’indicesmis en concurrence. Il s’agit notamment
de l’ordredesmots,desmarquesgrammaticales (ycompris
lesmorphèmes libres et liés) et de laprosodie. La théorie
résultante a été appelée « l’hypothèsede la concurrence
des indices »
(
cue competition hypothesis ;
4)
. En 2003,
nousavonsdéveloppéunmodèlede réseauneuronal basé
surcettehypothèsede laconcurrencedes indices
(5)
.Dans
cemodèle, lesphrases sont présentéesmot parmot et les
morphèmesgrammaticaux, sous la formedemotsdeclasse
fermée, sont fournis comme entrées. En considérant les
phrases 1 à 3 précédemment décrites, on peut observer
que chacuned’elles possède unprofil différent desmots
declasse fermée («à», «par », «a», etc.).Cemodèledoit
dès lors réaliser l’affectation desmots de classe ouverte
(«chat », «chien», «garçon») aux rôles thématiquesdes
deux verbes («chasser », «botter »).
Aucœurdecemodèleestun réseaudeneuronesconnectés
demanière récurrente.Nousavonsprécédemmentmontré
quece typede réseauadescapacités inhérentesàprendre
en comptedes événements antérieurs (dont la représen-
tation est en circulationdans les connexions récurrentes)
et à reconnaître des séquences d’entrées distinctes
(6)
.
Nousavonsdémontréquecemodèlepouvait apprendreà
reconnaîtreneuf constructionsgrammaticalesdistinctes
(5)
.
Nousavonsensuitemontréqu’ilpouvaitapprendre jusqu’à45
constructionsdistinctesenanglaisainsi quedesconstruc-
tions françaiseset japonaises
(7)
.
Object V1
A
B
41: `theN that theNVV theN .`
20: `theN that V theNV theN .`
N that
the
the N that
the
the
the
the
V
V V
N
N
N
N
V
1.5
1.0
0.5
0.0
- 0.5
- 1.0
- 1.5
N1-A1
N1-O1
N1-R1
N1-A2
N1-O2
N1-R2
Agent V1
Agent V2
Agent V2
Activiténeuronalenormalisée
Figure2
-Réponsesdesneuronesqui décodent le sensde laphrase.
A. Phrasedu type« sujet-relatif» (parexemple: «Thedog that chased thecatbit theboy»).Pour leverbe (‘’V’’)qui suit
‘’that’’, il yapeudechangementdans lesneuronesde lecture, cequi indiqueque lesprédictionsdumodèleont été
essentiellement confirmées.
B. Phrasedu type«objet-relatif» (parexemple:«Thedog that theboykickedchased thecat»).Pour le ‘’the’’ qui suit
‘’that’’, ilyaunchangement importantdans l’activité, correspondantàuneréaffectationdusenscodé leplusprobable.
1...,7,8,9,10,11,12,13,14,15,16 18,19,20,21,22,23,24,25,26,27,...28
Powered by FlippingBook