Interview d'Hugo Koubbi, Lauréat du DIM AI4IDF 2025

INTRODUCTION ET PARCOURS

Peux-tu te présenter en quelques mots ?

Je m’appelle Hugo Koubbi, et je suis en première année de thèse sous la direction d’Antonin Chambolle au CEREMADE, et de Borjan Geshkovski au LJLL et au SCAI. J’ai intégré l’ENS Paris-Saclay après une classe préparatoire, puis je me suis spécialisé en probabilités et statistiques au sein du master de mathématiques de l’aléatoire d’Orsay.

Qu’est-ce qui t’a amené à t’intéresser à l’intelligence artificielle ?

Lors de mon année de master de recherche, j’ai voulu explorer les mathématiques appliquées. Un camarade, déjà tourné vers l’intelligence artificielle, m’a convaincu d’essayer cette voie.

J’ai alors effectué mon stage de M2 avec Florent Krzakala, dont une partie du travail porte sur l’étude des réseaux de neurones à l’aide d’outils issus de la physique statistique. Cette expérience m’a beaucoup plu, mais je souhaitais ensuite acquérir une expérience plus concrète : j’ai donc rejoint une startup pour un stage, et je n’ai plus vraiment quitté ce domaine depuis.

Comment décrirais-tu ton sujet de thèse à quelqu’un en dehors du domaine ?

Ma thèse porte sur un certain type de réseaux de neurones appelés Transformers, qui sont l’architecture derrière ChatGPT, par exemple. Je cherche à modéliser mathématiquement le comportement de ces architectures et à analyser les modèles ainsi obtenus. Une autre facette de ma thèse concerne l’optimisation des réseaux de neurones, en particulier des problèmes dits River-Valley, pour lesquels nous essayons de décrire quantitativement le comportement de différents algorithmes.

LE COEUR DU PROJET

Quel est l’objectif principal de ta recherche ? 

L’objectif principal de ma recherche est de mieux comprendre les modèles jouets de Transformers et les mécanismes d’entraînement des réseaux de neurones. J’essaie d’obtenir des résultats théoriques solides que je puisse ensuite tester empiriquement.

Quelles méthodes ou approches utilises-tu ? 

Mon approche est avant tout mathématique : je consacre la majeure partie de mon temps à formuler rigoureusement les modèles et à identifier les bons outils pour les analyser. Cependant, la validation empirique des résultats théoriques est essentielle. À terme, j’aimerais concevoir de nouvelles architectures, méthodes de fine-tuning et algorithmes fondés sur la théorie développée au cours de ma thèse.

Pourquoi ce sujet te semble-t-il important pour l’IA de demain ?

L’architecture des Transformers est au cœur de l’explosion actuelle des grands modèles de langage (LLM). Une compréhension théorique approfondie permettrait de démystifier certains aspects de ces modèles, même s’il faudra à terme croiser les points de vue — statistique, informatique et ingénierie — pour en avoir une vision complète.

COLLABORATION ET ÉCOSYSTÈME

Avec quelles structures, laboratoires ou partenaires travailles-tu ?

Je travaille dans plusieurs environnements : le CEREMADE (Université Paris-Dauphine), où se trouve Antonin Chambolle, l’un de mes encadrants, ainsi que le LJLL et le SCAI à Sorbonne Université, où travaillent Borjan Geshkovski et l’équipe INRIA MEGAVOLT. Je participe aux séminaires et aux groupes de travail organisés sur ces sites.

En quoi le soutien du DIM AI4IDF a-t-il été un levier pour ton projet ?

Le soutien du DIM AI4IDF me permet de réaliser ma thèse dans de bonnes conditions, avec un financement complémentaire qui m’offre davantage de liberté et supprime certaines contraintes matérielles.

Comment vois-tu les collaborations entre les différents clusters et domaines de recherche (IA, santé, robotique, data science, etc.) ?

Mon travail n’est pas encore à l’intersection de plusieurs domaines appliqués. Mais une de mes grandes motivations pour faire de la recherche en IA est justement de tendre vers des applications concrètes. Je suis conscient de la difficulté à relier théorie et pratique, mais c’est précisément ce qui me pousse à poursuivre dans cette voie.

IMPACT ET SOCIÉTÉ 

Selon toi, quelles sont les implications éthiques ou sociétales de ta recherche ?

Ma recherche est principalement théorique, et soulève donc moins de questions éthiques directes que celles liées au développement d’applications concrètes.

Comment vois-tu le rôle de l’IA dans les grands défis contemporains ?

C’est une question délicate. L’IA aura sans doute un impact considérable sur nos sociétés. Par exemple, le métier de mathématicien pourrait évoluer rapidement, avec des outils comme ChatGPT Pro devenant des sources bibliographiques puissantes, et sont parfois utilisés pour trouver de nouvelles idées (voir le récent [Jang,Ryu, Point Convergence of Nesterov's Accelerated Gradient Method: An AI-Assisted Proof]).
Cependant, malgré les avancées techniques enthousiasmantes, plusieurs points m’inquiètent : l’avenir incertain de l’open source, pourtant moteur du deep learning ; l’impact carbone considérable de ces technologies ; leurs effets sociaux parfois négatifs ; et son utilisation dans la technologie de l’armement. 

VISION ET INSPIRATION

Une découverte ou un concept scientifique qui t’inspire ?

J’aime particulièrement les concepts issus de la physique et des probabilités, et en particulier l’idée d’aléatoire. La modélisation probabiliste me fascine, car elle permet souvent de comprendre des phénomènes complexes à partir de principes simples.

Un conseil pour les futurs doctorants qui voudraient se lancer dans la recherche ?

Je n’ai pas encore beaucoup d’expérience, mais je pense qu’il est essentiel de trouver du plaisir et du sens dans ce qu’on fait. Si on a au moins l’un des deux, c’est déjà beaucoup — et si on a les deux, c’est idéal.

Si tu pouvais résumer ton approche de la recherche en une phrase ?

Ce sera un peu cliché, mais je dirais : le partage.

Propos recueillis par Khaled Benaida