Reseaux de neurones perceptron

Application du réseaux de neurones à l ? apprentissage supervisé Ricco RAKOTOMALALA Equipe de recherche en Ingénierie des Connaissances Laboratoire ERIC CMétaphore biologique Fonctionnement du cerveau Transmission de l ? information et apprentissage Idées ma? tresses à retenir ? Réception d ? une information signal ? Activation Traitement simple par un neurone ? Transmission aux autres neurones si seuil franchi ? A la longue renforcement de certains liens APPRENTISSAGE Equipe de recherche en Ingénierie des Connaissances Laboratoire ERIC CModèle de Mc Colluch et Pitts Le perceptron Simple Problème à deux classes positif et négatif Y ?? ?? Couche d ? entrée Couche de sortie Biais X a X a Fonction de transfert Fonction à seuil -- Fonction de Heaviside Entrées Descripteurs X a a X d X ?? ? ? Poids synaptiques Modèle de prédiction et règle d ? a ?ectation d X a a x a x a x Si d X Alors Y Sinon Y Le perceptron simple est un modèle de prédiction linéaire Equipe de recherche en Ingénierie des Connaissances Laboratoire ERIC CApprentissage du perceptron simple X X X X a a a a Comment calculer les poids synaptiques à partir d ? un ?chier de données Y X X X Faire le parallèle avec la régression et les moindres carrés Un réseau de neurones peut être utilisé pour la régression fonction de transfert avec une sortie linéaire Quel critère optimiser Comment procéder à l ? optimisation Minimiser l ? erreur de prédiction Principe de l ? incrémentalité Equipe de recherche en Ingénierie des Connaissances Laboratoire ERIC CExemple ?? Apprentissage de la fonction AND ET logique Exemple révélateur ?? Les premières applications proviennent de l ? informatique X X Y Données - - - - Représentation dans le plan Principales étapes Mélanger aléatoirement les observations Initialiser aléatoirement les poids synaptiques Faire passer les observations unes à unes ? Calculer l ? erreur de prédiction pour l ? observation ? Mettre à jour les poids synaptiques Jusqu ? à convergence du processus Une observation peut passer plusieurs fois Equipe de recherche en Ingénierie des Connaissances Laboratoire ERIC CExemple AND Initialisation aléatoire des poids a a a Frontière x x ?? x ?? x ?? Règle de mise à jour des poids Pour chaque individu que l ? on fait passer Principe de l ? incrémentalité a j a j ? a j avec Force du signal ? a j y ?? y x j - Erreur - Détermine s ? il faut réagir ou - Constante d ? apprentissage non Détermine l ? amplitude de l ? apprentissage Quelle est la bonne valeur - Trop petit lenteur de convergence Trop grand oscillation En général autour de dans notre exemple Equipe de recherche en Ingénierie des Connaissances Laboratoire ERIC CExemple AND Observation à traiter F F F F F F F F x x F F x F F F F y Appliquer le modèle ? ? ? ?? y Màj des poids F F F F F F

  • 38
  • 0
  • 0
Afficher les détails des licences
Licence et utilisation
Gratuit pour un usage personnel Aucune attribution requise
Partager