Prévision supervisée.
Les techniques de prévision supervisée sont innombrables et nous nous limiterons ici à des méthodes plutôt récentes : neuronales, à base de vecteurs de support.
Les réseaux neuronaux incluent de nombreuses techniques et donc ont des applications et
points forts variés.
- Réseaux neuronaux traditionnels, à rétropropagation:
Les réseaux neuronaux sont en rapide essort depuis la découverte en 1986 d'un algorithme permettant
le calcul de poids pour des réseaux multicouches. Les statistiques uniformes ont favorisé le développement
de termes de régularisation efficaces.
Points forts:
- adaptativité,
- dérivabilité, d'où l'utilisabilité en neurocontrôle,
- capacité à travailler sur des bases de données comportant de nombreux exemples,
- capacité à travailler sur des bases données de grande dimension pour des vecteurs creux,
- la facilité de prise en compte de fonctions de coût non-standard, par exemple des critères robustes ou de risques,
- gestion aisée de données manquantes,
- possibilité d'approximer des fonctions discontinues avec un nombre fini de paramètres (possibilité utile notamment dans le cadre du contrôle, et donc le renforcement),
Les applications sont innombrables, tant la méthode s'est rapidement avérée efficace sur des domaines variés.
Les restrictions se situent au niveau de la dimension (au-delà de quelques dizaines, à moins de disposer de vecteurs creux, la rétropropagation devient
exagérément lente). Un renouveau dans la variété des applications provient notamment de l'apprentissage par Renforcement .
- Support Vector Machines:
Les supports vector machines, nées de la rencontre entre l'école russe de statistique et la recherche américaine, se sont développés rapidement concurrentiellement aux réseaux neuronaux comme outil généraliste d'apprentissage.
Leurs points forts sont notamment:
- l'algorithme d'apprentissage est un problème convexe, qui termine en temps fini,
- comme d'autres méthodes à noyaux (réseaux à base radiale par exemple), les support vector machines peuvent traiter des grandes dimensions. Elles sont par conséquent particulièrement souhaitable en
renforcement ,
- intégration facile de mesure de similarité ou de noyaux définis par experts grâce au systèmes des noyaux.
Par contre, la flexibilité est moindre que celle des réseaux neuronaux (par exemple au niveau de l'adaptativité).
Pour m'écrire