OpenAI et Anthropic intensifient leurs efforts pour contrer les développeurs tiers utilisant leurs chatbots et API pour entraîner leurs propres modèles via la distillation. Cette méthode permet de reproduire le comportement des modèles existants à moindre coût.
Les entreprises chinoises se démarquent en utilisant la distillation pour créer des modèles open source, souvent comparables aux produits américains mais à un coût réduit. L’industrie soupçonne que même les grands acteurs adoptent ces méthodes pour rester compétitifs.
Elon Musk et l’usage de la distillation chez xAI
Lors d’un procès en Californie, Elon Musk a reconnu que xAI avait partiellement utilisé la distillation pour former le modèle Grok. Selon Musk, cette pratique est courante en intelligence artificielle. Cette déclaration intervient dans une affaire contre OpenAI et ses dirigeants, Sam Altman et Greg Brockman, accusés par Musk de s’éloigner du modèle non lucratif initial.
L’aveu de Musk souligne comment la distillation peut réduire l’avantage concurrentiel des grands laboratoires en permettant à d’autres de créer des modèles similaires sans investissements massifs. Ironiquement, ces grandes entreprises ont elles-mêmes été critiquées pour leur utilisation intensive des données.
Enjeux juridiques et collaborations pour réguler la distillation
Pour xAI, fondée en 2023, utiliser ces approches est une stratégie logique pour rattraper les leaders du marché. Cependant, le statut juridique de la distillation reste flou, relevant plus d’un non-respect potentiel des conditions d’utilisation que d’une violation directe de la loi.
En réponse, OpenAI, Anthropic et Google collaborent pour détecter et limiter les tentatives de collecte massive des réponses des modèles. Ils développent des mécanismes pour identifier les activités suspectes et bloquer les requêtes systématiques.
Musk a également partagé sa vision du marché lors du témoignage, plaçant Anthropic en tête parmi les développeurs d’IA, suivi par OpenAI et Google, tout en mentionnant les modèles open source chinois. Il a noté que xAI est encore beaucoup plus petite avec seulement quelques centaines d’employés, compliquant sa position dans cette course.
