Le Co-Explorer est un agent qui utilise l'apprentissage profond par renforcement pour permettre l'exploration d'espaces sonores par le biais de nos préférences subjectives.
Il permet d'explorer des espaces sonores paramétriques en communiquant uniquement des préférences positives ou négatives à la machine. Un algorithme d'apprentissage par renforcement est utilisé pour explorer l'espace de manière autonome, tout en apprenant de manière interactive les goûts de l'utilisateur·ice, dans un workflow expressif que nous avons nommé co-exploration.
Le Co-Explorer résulte d'un processus de conception centré sur l'humain de l'apprentissage par renforcement profond, mené avec des designers sonores. Nous avons d'abord mené une étude pilote avec un prototype d'apprentissage par renforcement, appelé Sarsa, afin de comprendre quelles caractéristiques de l'apprentissage seraient pertinentes pour les designers sonores. Nous avons ensuite injecté leurs retours dans le design de notre prototype final, basé sur Deep TAMER, que nous avons évalués dans le cadre d'un atelier de création sonore.
La version actuelle du logiciel existe en tant que librairie Python ; le protocole OSC fait le pont entre le modèle d'apprentissage profond par renforcement codé avec la librairie TensorFlow et les espaces paramétriques.
Le Co-Explorer a également été pratiqué lors d'un projet de recherche-création, qui donna lieu à la création d'une performance nommée ægo .
Année
2019
Crédits
Le projet a été développé avec Bavo Van Kerrebroeck, Baptiste Caramiaux et Frédéric Bevilacqua, en collaboration avec ISMM (groupe de Ircam ) et ex)situ (équipe de LRI (INRIA)), dans le cadre d'une thèse de doctorat menée à Sorbonne Université.
Publication
Article à ACM TOCHI (2021)
Évènements
Exposition @ HMC 2022
Atelier @ Ircam, Juillet 2018
Exposition @ ISMIR 2018
Code
GitHub