La naissance d’une étoile, DeepSeek, l’IA chinoise

Liang Wenfeng, qui dirigeait autrefois un hedge fund quantitatif en Chine, a opéré un virage spectaculaire dans sa carrière en misant sur la recherche en intelligence artificielle. Il a investi des ressources considérables, accumulant 10 000 puces Nvidia et rassemblant une équipe de jeunes chercheurs brillants. Ce projet audacieux a abouti, deux ans plus tard, au lancement de DeepSeek, une initiative qui a rapidement attiré l’attention du secteur technologique mondial.

Le 20 janvier, le laboratoire DeepSeek a lancé un modèle open source qui a retenu l’attention de la Silicon Valley. Selon un document de l’entreprise, DeepSeek-R1 surpasse des modèles de référence comme celui d’OpenAI en mathématiques et en raisonnement, offrant un défi sérieux aux géants occidentaux de l’IA.

Le succès de DeepSeek illustre un effet inattendu des restrictions technologiques américaines. Avec un accès limité aux puces avancées, de nombreuses entreprises chinoises se sont concentrées sur les applications plutôt que sur les modèles de base. DeepSeek a toutefois adopté une approche différente : améliorer l’architecture des modèles d’IA afin d’utiliser plus efficacement des ressources limitées.

« DeepSeek se distingue par une optimisation des ressources pilotée par le logiciel (software-driven), une approche qui favorise l’innovation collaborative », affirme Marina Zhang, professeure associée à la University of Technology Sydney.

Les origines de DeepSeek

DeepSeek est né sous le nom de Fire-Flyer, une branche de recherche de High-Flyer, un hedge fund quantitatif chinois à succès. Fondé en 2015, High-Flyer a accumulé des GPU pour des analyses financières, jusqu’à ce que, en 2023, Liang décide de réorienter ces ressources vers la création de modèles d’IA avancés.

DeepSeek a adopté une stratégie de recrutement singulière, en ciblant de jeunes diplômés d’universités prestigieuses comme Pékin et Tsinghua, désireux de prouver leur valeur. « Nous avons choisi des chercheurs sans expérience dans le secteur, mais avec un état d’esprit innovant », a déclaré Liang.

L’innovation sous pression

Les restrictions américaines sur les puces avancées ont poussé DeepSeek à développer des méthodes d’entraînement plus efficaces. « Ils ont optimisé la communication entre les puces et mis en œuvre des stratégies de mix-of-models », affirme Wendy Chang, du Mercator Institute for China Studies. Leur dernier modèle est si efficace qu’il n’a nécessité qu’un dixième de la puissance de calcul requise pour entraîner Llama 3.1 de Meta.

Le partage en open source des innovations de DeepSeek a renforcé sa réputation mondiale. « Ils démontrent que des modèles avancés peuvent être construits avec moins de ressources, en optimisant les méthodes d’entraînement », conclut Wendy Chang.

Les restrictions américaines pourraient s’avérer inefficaces pour freiner les progrès de l’IA chinoise, car des stratégies alternatives comme celles de DeepSeek émergent avec succès.

Source : Wired