L’objectif de ce stage est de développer et tester des méthodes d’optimisation d’hyperparamètres pour un modèle de Deep Learning. Le projet s’inscrit dans un contexte d’utilisation de modèles de Deep Learning avec apprentissage par renforcement, pour l’allocation de portefeuille. Plus précisément, le modèle étudié utilise des historiques de prix d’actifs pour générer une allocation de portefeuille.

Un modèle de Deep Learning comporte des hyperparamètres, fixés en amont de l’entraînement, qui peuvent avoir une influence significative sur la précision et la vitesse d’entraînement. La difficulté d’optimisation de ces hyperparamètres réside dans le fait qu’il n’est pas possible de les optimiser de la même manière que les autres paramètres du modèle. En effet, il n’y a pas d’information pertinente sur la variation de la fonction de perte par rapport aux valeurs des hyperparamètres.

En pratique, cette optimisation est souvent réalisée avec des méthodes de grid search, donc une recherche exhaustive sur un sous-ensemble de configurations, ou de random search, permettant d’explorer davantage de solutions, de manière stochastique. D’autres méthodes reposent sur l’optimisation Bayésienne, qui est particulièrement adaptée à un problème où l’évaluation de la fonction objectif est coûteuse.

Différentes méthodes d’optimisation d’hyperparamètres pourront être appliquées à des modèles de Deep Learning, dans un contexte d’apprentissage par renforcement. Ce projet pourra être abordé par étapes successives, en commençant par des méthodes type grid-search et random search, avant d’appliquer une optimisation bayésienne.

Pour ce stage, nous recherchons un(e) étudiant(e) en dernière année d’école d’ingénieur ou master M2, avec des connaissances en mathématiques appliquées et un intérêt pour l’apprentissage automatique et la recherche. L’implémentation sera faite en Python.

Après sélection sur CV, un entretien avec 2 personnes de Raise Partner et décision, au besoin un entretien supplémentaire sera demandé, mais pas initialement prévu.