Remerciez-le!

Remerciez @Admin pour avoir partagé cet document gratuitement, de la manière la plus simple, en partageant sur les réseaux sociaux.

اﻟﺠ ــــــــــــــــــــــــــــ ـﻤ ﮭ ــــ ـــــ ﻮرﯾـ ـــــــــــــــ ـــﺔ اﻟﺠ

اﻟﺠ ــــــــــــــــــــــــــــ ـﻤ ﮭ ــــ ـــــ ﻮرﯾـ ـــــــــــــــ ـــﺔ اﻟﺠ ـــــــــــــ ــﺰاﺋ ـــ ﺮﯾــ ـــ ﺔ اﻟﺪﯾﻤ ــــــــــــــــ ــﻘ ـــ ﺮاط ﯿــ ــ ـــ ﺔ اﻟ ﺸ ـــ ـــــــــــــــــــ ــــ ـ ـﻌ ﯿ ـــﺒ ـــ ـــــ ﺔ REPUBLIQUE ALGERIENNE DEMOCRATIQUE ET POPULAIRE وزارة اﻟﺘـ ـــــــــ ﻌ ــــــﻠﯿــ ﻢ اﻟﻌــ ــــــــــــــــــــــــــــ ﺎﻟﻲ و اﻟﺒــ ــــــــــــــــــــــــــــــــــــــــــ ﺤﺚ اﻟﻌ ــــــــــــــــــــ ـــﻠ ـــﻤ ــــــــــــ ﻲ Ministère de l’Enseignement Supérieur et de la Recherche Scientifique ﺟـــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــﺎﻣﻌﺔ أﺑﻲ ﺑــﻜــــــــــــﺮ ﺑــــﻠــــﻘـــــــﺎ ﺪ ــﯾ– ﺗ ـــــــ ﻠﻤﺴ ـــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــ ﺎن– Université Aboubakr Belkaïd– Tlemcen – Polycopié de cours Apprentissage Artificiel En : Génie Biomédical Spécialité : Informatique Biomédicale Niveau : 3ème Année Licence Module : Apprentissage Artificiel (GB526) Présenté Par : EL HABIB DAHO Mostafa Etablissement de rattachement : Université de Tlemcen Faculté : de Technologie Département : Génie Biomédical ANNEE UNIVERSITAIRE 2017 / 2018 2 3 Table des matières Avant-propos .................................................................................................................... 5 Objectifs de l’apprentissage ....................................................................................................... 5 Descriptif et structure ................................................................................................................ 6 Prérequis .................................................................................................................................... 6 CHAPITRE I Introduction à l’intelligence artificielle et l’apprentissage artificiel ............ 7 1. Introduction ............................................................................................................... 8 2. Généralités ................................................................................................................. 9 2.1. C’est quoi l’intelligence artificielle ? ............................................................................... 9 2.2. Apprentissage naturel ................................................................................................. 10 2.3. Apprentissage Artificiel ............................................................................................... 10 2.4. Les règles d’association ............................................................................................... 13 2.5. Classification ................................................................................................................ 13 2.6. Régression ................................................................................................................... 14 3. Historique ................................................................................................................ 15 4. Conclusion ............................................................................................................... 20 CHAPITRE II Les types d’apprentissage .......................................................................... 21 1. Apprentissage supervisé .......................................................................................... 22 1.1. Phase d’apprentissage ................................................................................................. 23 1.2. Phase de test ............................................................................................................... 24 1.3. La validation croisée .................................................................................................... 24 1.4. Méthodes d'évaluation des classifieurs ....................................................................... 25 1.4.1. Erreur de généralisation ............................................................................................ 26 1.4.2. Matrice de confusion ................................................................................................. 27 1.4.3. Sensibilité ................................................................................................................... 28 1.4.4. Spécificité ................................................................................................................... 28 1.4.5. Courbe ROC ................................................................................................................ 28 1.5. Les algorithmes de base .............................................................................................. 30 1.5.1. K-plus proches voisins ............................................................................................... 30 1.5.2. Les arbres de décision ............................................................................................... 32 1.5.3. Les réseaux de neurones ........................................................................................... 35 1.5.4. Machine à vecteur de support .................................................................................. 37 2. Apprentissage non supervisé ................................................................................... 40 2.1. Classification hiérarchique ........................................................................................... 40 2.2. K-moyenne .................................................................................................................. 41 3. Apprentissage semi-supervisé ................................................................................. 44 3.1. Classification semi-supervisée ..................................................................................... 44 3.1.1. Self-Training .............................................................................................................. 45 3.1.2. Algorithme d’auto-apprentissage ............................................................................ 45 3.2. Regroupement semi-supervisé .................................................................................... 45 3.2.1. Seeded K-Means ........................................................................................................ 45 3.2.2. Constrained K-Means ................................................................................................ 46 3.2.3. COP K-means ............................................................................................................. 46 4. Apprentissage par renforcement ............................................................................. 47 5. Conclusion ............................................................................................................... 48 4 CHAPITRE III Amélioration de l’apprentissage ............................................................... 49 1. Introduction ............................................................................................................. 50 2. Les Algorithmes Génétiques .................................................................................... 50 2.1. Notion de sélection naturelle ....................................................................................... 51 2.2. Population initiale ........................................................................................................ 51 2.3. Fonction Fitness ........................................................................................................... 52 2.4. Sélection ...................................................................................................................... 52 2.5. Croisement ................................................................................................................... 52 2.6. Mutation ...................................................................................................................... 54 2.7. Terminaison ................................................................................................................. 54 2.8. Le pseudo code de l’algorithme AG ............................................................................. 54 3. Optimisation par Essaims Particulaires (PSO) ......................................................... 55 3.1. Principe de base ........................................................................................................... 55 3.2. Topologie de l'essaim .................................................................................................. 55 3.3. L'algorithme PSO ......................................................................................................... 56 3.4. Le pseudo code de l’algorithme PSO ........................................................................... 57 3.5. Contrôle des paramètres PSO ...................................................................................... 57 3.6. Version globale vs version locale ................................................................................. 58 3.7. Variantes de PSO ......................................................................................................... 58 4. Comparaisons entre l'algorithme génétique et PSO ............................................... 59 5. Conclusion ............................................................................................................... 59 Conclusion générale ........................................................................................................ 60 Bibliographie ................................................................................................................... 61 5 Avant-propos Au cours des 20 dernières années, l'apprentissage automatique statistique a connu une évolution considérable et est aujourd'hui une branche majeure de l'Intelligence Artificielle. Dans ce polycopié de cours, l’idée est de décrire les concepts fondamentaux et les avancées majeures de cette décennie. Il est illustré d'exemples applicatifs pris dans différents domaines et plus particulièrement en Biomédical. Dans ce cours, il sera question d’initier les étudiants de troisième année en Informatique Biomédicale au monde de l’Intelligence Artificielle (IA) et plus particulièrement à l’Apprentissage Artificiel (AA) ou Machine Learning (ML) en anglais. A travers ce cours d’Apprentissage Artificiel GB526, l’étudiant va pouvoir passer en revue : l’historique de l’IA, les types de l’apprentissage Artificiel ainsi que quelques méthodes utilisés pour l’amélioration de l’apprentissage. Plus important encore, ce cours va lui permettre de démarrer rapidement avec des applications pratiques et parfois amusantes d'algorithmes d'apprentissage artificiel. Le cours contient des pseudocodes et des exemples de données à utiliser en apprentissage. J’encourage également les étudiants à explorer leurs propres bases de données en utilisant des algorithmes d'apprentissage supervisé, non supervisé ou semi- supervisé. Pour mettre en pratique les connaissances acquises dans cette matière, l’étudiant doit suivre les modules GB545 (TP Caractérisation des données) et GB546 (TP Techniques de classification) qui sont des travaux pratiques sur la programmation des techniques intelligentes. Ce polycopié de cours est inspiré de plusieurs livres et manuels que vous trouverez dans la liste des références. Objectifs de l’apprentissage A l’issue du module, l’étudiant sera capable de : - Comprendre les différents types d’apprentissage Artificiel (Supervisé, non supervisé, semi-supervisé et par renforcement). - Construire des modèles intelligents pour la classification des données. - Evaluer et améliorer l’apprentissage d’un système basique d’aide au diagnostic médical. 6 Descriptif et structure Ce module se compose des trois chapitres suivants : I. Introduction • Généralités • Historique II. Les différents types d’apprentissage • Apprentissage supervisé • Apprentissage non supervisé • Apprentissage semi supervisé • Apprentissage par enforcement III. Amélioration de l’apprentissage • Les méthodes évolutionnistes (Algorithme Génétique, Particle Swarm Optimization) Prérequis Maitrise de l’algorithmique et des connaissances des bases en : • Langage de programmation Matlab (vous n'avez PAS besoin d'être des experts en Matlab pour comprendre ce cours). • Mathématiques, • Probabilités et statistiques. 7 CHAPITRE I Introduction à l’intelligence artificielle et l’apprentissage artificiel Ce chapitre retrace l’évolution de l’intelligence artificielle au fils des années avec les définitions des concepts de base de l’IA. 1 Introduction 2 Généralités 3 Historique 8 1. Introduction La science en général et l’informatique en particulier ont évolué au point où cela commence à coïncider avec la science-fiction. Une machine peut-elle rêver ? OUI, selon Google, un ordinateur peut rêver, le géant de l’informatique a développé un algorithme de reconnaissance des images qui se base sur l’apprentissage profond (Deep Learning) et qui peut interpréter les images. Ce réseau de neurones artificielles est capable de générer lui-même des images à partir de bruit d’image (ou bruit numérique). Les figures 1 et 2, montrent quelques exemples des images générées par le logiciel de Google [1] : Figure 1 : Image générée par le logiciel DeepDream Figure 2 : Image générée par nous-même en utilisant le logiciel DeepDream1, à gauche l’image originale. 1Vous pouvez tester ce logiciel sur le site : https://deepdreamgenerator.com/ 9 Avant d’arriver à ce niveau avancé, l’intelligence artificielle est passée par plusieurs étapes qu’on citera dans ce chapitre. Pour cela nous allons tout d’abord commencer par des définitions et des généralités sur l’intelligence artificiel et l’apprentissage artificiel. 2. Généralités 2.1. C’est quoi l’intelligence artificielle ? L'intelligence artificielle, souvent abrégée avec le sigle « IA », est définie par l’un de ses créateurs, Marvin Lee Minsky, comme : « la construction de programmes informatiques qui s'adonnent à des tâches qui sont pour l’instant, accomplies de façon plus satisfaisante par des êtres humains car elles demandent des processus mentaux de haut niveau tels que : l'apprentissage perceptuel, l'organisation de la mémoire et le raisonnement critiquée ». [2] Nous y trouvons donc le côté « artificiel » atteint par l'usage des ordinateurs ou de processus électroniques élaborés et le côté « intelligence » associé à son but d'imiter le comportement intelligent. Cette imitation peut se faire dans le raisonnement, par exemple dans les jeux ou la pratique de mathématiques, dans la compréhension des langues naturelles, dans la perception : visuelle (interprétation des images et des scènes), auditive (compréhension du langage parlé) ou par d'autres capteurs. Le but de l’Intelligence Artificielle (IA) est de concevoir des systèmes capables de reproduire le comportement de l’humain dans ses activités de raisonnement. L’IA se fixe comme but la modélisation de l’intelligence prise comme phénomène (de même que la physique, la chimie ou la biologie qui ont pour but de modéliser d’autres phénomènes). Le domaine de l’intelligence artificielle est influencé par plusieurs disciplines à savoir : • Informatique, génie (comment programmer et implanter l’IA ?) • Mathématiques (statistique (limites théoriques de l’IA ?) • Neurosciences (comment le cerveau fonctionne ?) • Psychologie cognitive (comment l’humain réfléchit ?) • Économie, théorie de la décision (comment prendre une décision rationnelle ?) • Linguistique (quelle est la relation entre le langage et la pensée ?) • Philosophie (quel est le lien entre le cerveau et l’esprit ?) Une machine ou un logiciel sont dit « intelligent » quand ils sont capables d’imiter un comportement ou une action intelligente, mais cette tâche ne peut pas être accomplie sans passer par un apprentissage artificiel ou automatique comme le fait d’ailleurs l’être humain. Les questions qui se posent : - Que veut dire l’apprentissage artificiel ou automatique ? - Comment une machine peut-elle apprendre ? Pour répondre à ces questions nous allons tout d’abord reprendre la notion d’apprentissage naturel. 10 2.2. Apprentissage naturel Dès sa naissance, un enfant apprend à reconnaitre l'odeur de sa mère, sa voix et plus largement l'ambiance du lieu où il vit. Ensuite, il apprend à coordonner ses perceptions, comme sa vue ou son toucher, avec ses uploads/Sante/ polycopie-de-cours-apprentissage-artificiel.pdf