Le perceptron

Résumé du document

L'objectif de ce TP est d'implémenter un réseau simple de type perceptron afin qu'il soit capable de différentier un motif d'une lettre « A » de celui d'une lettre « C ». Chacun des motifs sera une matrice de 4x5 pixels.
Nous représenterons alors les pixels noirs par des « 1 » et les pixels blancs par des « 0 ». Chaque motif sera placé dans un fichier texte et sera ensuite présenté au perceptron.

Le but du perceptron est d'associer des configurations (des formes) en entrée à des réponses. Le perceptron est composé d'une rétine, d'une couche d'association et d'une couche de décision qui donne la réponse correspondante à la stimulation présente en entrée. Les cellules d'association répondent au tout ou rien, 1 si l'unité de la rétine auquel elle est associée est stimulée, 0 sinon. Elles sont reliées à une cellule de décision grâce à des synapses. L'apprentissage du perceptron s'effectue en modifiant l'intensité de ces synapses (wij).

Extraits

[...] Le perceptron Sommaire 1. Introduction 2. Principe de fonctionnement 3. Programmation 4. Test 4.1 Graphe d'évolution de l'erreur du système Variation de la vitesse d'apprentissage μ En utilisant les lettres A et B Lettres bruitées 5. Code C 1. Introduction L'objectif de ce TP est d'implémenter un réseau simple de type perceptron afin qu'il soit capable de différentier un motif d'une lettre A de celui d'une lettre C Chacun des motifs sera une matrice de 4x5 pixels. [...]

[...] Le perceptron est composé d'une rétine, d'une couche d'association et d'une couche de décision qui donne la réponse correspondante à la stimulation présente en entrée. Les cellules d'association répondent au tout ou rien si l'unité de la rétine auquel elle est associée est stimulée sinon. Elles sont reliées à une cellule de décision grâce à des synapses. L'apprentissage du perceptron s'effectue en modifiant l'intensité de ces synapses (wij). La cellule de sortie évalue l'intensité de la stimulation en provenance des cellules d'associations en effectuant la somme des intensités des cellules actives. Pot = ( xj . [...]

[...] xj Erreur = Sd - xi Avec: Sd : sortie désirée de la cellule de sortie ou μ : variable influençant la vitesse d'apprentissage 3. Programmation En programmation on respecte les étapes décrites précédemment. Il faut cependant initialiser les poids Wij à des valeurs aléatoires de sorte que l'entré de la cellule de sortie soit comprise entre 0 et c'est-à-dire que les poids sont compris entre 0 et 1/20. On présente alors de façon aléatoire les motifs des lettres A et et on observe la sortie du perceptron. [...]

[...] Lettre A bruité Lettres présentées au perceptron : Pour la lettre la reconnaissance était plus délicate. Si un seul 1 est remplacé par un la sortie passe sous le seuil et le résultat devient mauvais, c'est pourquoi la lettre bruitée n'a pas donné le résultat attendu. Par contre avec un léger bruit (lettre le système a correctement répondu contrairement à la lettre qui était trop bruitée pour lui. Conclusion Le perceptron réalisé est assez limité si les lettres présentées ne sont pas strictement conformes au modèle original. [...]

[...] Si μ varie, la seconde méthode est préférable En utilisant les lettres A et B Les essais avec les lettres A et B plutôt qu'avec les lettres A et C ont révélé que le temps d'apprentissage (quelles que soient la vitesse d'apprentissage μ et la méthode utilisée) était approximativement le même Lettres bruitées Principe On demande au perceptron d'apprendre ces lettres A et C : Une fois ces lettres apprises, on présente une lettre bruitée au système et on visualise sa réponse. Lettre C bruitée Lettres présentées au perceptron : Le perceptron a pu reconnaître ces 2 lettres et même des lettres encore plus bruitées. [...]