Q* : la dangereuse avancée d’Open AI

Il y a un an – jour pour jour – je passais le week-end entier avec Chat GPT.

J’étais fasciné. 

Je le suis encore aujourd’hui.

D’autant plus que Sam Altman vient d’affirmer que Q* (Q Star) est une réalité. 

Flashback. 

Lors du sommet de la Coopération économique Asie-Pacifique, Sam Altman révèle : « Quatre fois maintenant dans l’histoire d’OpenAI, la dernière fois c’était au cours des deux dernières semaines, j’ai pu être dans la pièce, lorsque nous repoussons en quelque sorte le voile de l’ignorance et la frontière de la découverte en avant, et y parvenir est l’honneur professionnel de sa vie ». 

2 semaines après. 

Le board d’Open AI évince Sam Altman en tant que CEO.

Une rumeur se répand alors : M. Altman aurait fait une découverte majeure. 

La découverte Q Star d’Open AI

Le 23 novembre, Reuters publie “Les chercheurs d’OpenAI ont mis en garde le conseil d’administration contre une percée de l’IA avant l’éviction du PDG, selon des sources” 

Je lis ce papier en entier. 
“Après avoir été contacté par Reuters, OpenAI, qui a refusé de commenter, a reconnu dans un message interne adressé au personnel un projet appelé Q*” 

Q Star d’Open AI et l’AGI

Le journaliste de Reuters ajoute : “Certains chez OpenAI pensent que Q* (prononcer Q-Star) pourrait constituer une avancée décisive dans la recherche par la startup de ce que l’on appelle l’intelligence artificielle générale (AGI). OpenAI définit l’AGI comme des systèmes autonomes qui surpassent les humains dans les tâches les plus rentables.”

En effet, Q Star pourrait résoudre certains problèmes mathématiques de niveau primaire.

Mais les chercheurs d’Open AI sont très optimistes quant au succès futur de Q*. 

Pourquoi Q* est important ?

Actuellement, l’IA générative est efficace dans l’écriture et la traduction en prédisant statistiquement le mot suivant, et les réponses à la même question peuvent varier considérablement. 

Les maths c’est différent.

Il n’y a qu’une seule bonne réponse. 

Créer une IA capable de faire des maths implique de plus grandes capacités de raisonnement, ce qui la rapproche de l’intelligence humaine. 

On ne parle pas d’une simple calculette.

On parle d’une IA qui peut généraliser, apprendre et comprendre. 

Cette avancée pourrait permettre de plus grandes applications pour des nouvelles percées scientifiques. 

Bien que le récit de Reuters soit convaincant, je suis sceptique.

Jusqu’à ce que Sam Altman lui même confirme l’existence du projet Q* dans son interview du 30 novembre sur The Verge.

A la question sur la “percée” Q star, Sam Altman a répondu : “Pas de commentaire particulier sur cette malheureuse fuite..” 

Autrement dit, il valide l’existence de ce modèle. 

Mais qu’est ce que c’est Q Star ?

Pour te répondre, j’ai lu un article de la revue technologique du MIT. 

Le modèle Q* s’inscrirait dans une longue quête visant à améliorer la capacité des IA à résoudre des problèmes mathématiques. 

Les modèles de langage actuels, comme ChatGPT et GPT-4, ont une capacité limitée en mathématiques, souvent peu fiables. 

Selon Wenda Li, professeur en IA à l’Université d’Edimbourg, les architectures et algorithmes actuels ne sont pas encore suffisamment avancés pour résoudre de manière fiable les problèmes mathématiques. 

Le défi réside dans la nécessité pour l’IA de raisonner et de comprendre véritablement les concepts mathématiques, souvent abstraits et complexes. 

En effet, réussir en mathématiques impliquerait pour une IA la capacité de planification et de raisonnement sur plusieurs étapes.

D’autre part, Katie Collins, doctorante à l’Université de Cambridge spécialisée en mathématiques et IA, souligne que cette capacité en mathématiques pourrait ouvrir la voie à des applications diversifiées telles que la recherche scientifique, l’ingénierie, et même l’enseignement personnalisé. Cependant, elle met en garde contre l’excès de spéculation et l’hypothèse selon laquelle la résolution de problèmes mathématiques par une IA équivaudrait à l’émergence d’une superintelligence.

L’analyse de Yann Lecun

Ce que confirme Yann Lecun, le chef de l’IA chez Meta : “Veuillez ignorer le déluge d’absurdités totales à propos de Q*. L’un des principaux défis pour améliorer la fiabilité du LLM est de remplacer la prédiction de jetons auto-régressive par la planification.Presque tous les grands laboratoires (FAIR, DeepMind, OpenAI, etc.) y travaillent et certains ont déjà publié des idées et des résultats. Il est probable que Q* soit une tentative de planification d’OpenAI. Ils ont pratiquement embauché Noam Brown (de renommée Libratus/poker et Cicéron/Diplomacy) pour travailler là-dessus..”

Il est important de noter que le développement de modèles comme Q* suscite régulièrement des spéculations sur l’approche de l’AGI, similaire à l’hype générée autour de Gato de Google DeepMind. 

Ces cycles de surenchère médiatique peuvent détourner l’attention des problèmes réels et tangibles liés à l’IA, et poser des problèmes réglementaires, comme le souligne le débat en cours dans l’Union européenne autour de la régulation des modèles d’IA avancés.

Conclusion sur Q Star

Pour résumer, Q* représente une étape intéressante dans l’évolution de l’IA, mais il est essentiel de garder à l’esprit les limites actuelles et les implications potentielles de ces avancées technologiques. 

Il n’y aurait donc pas lieu de s’inquiéter.

Pour l’instant…

Merci d’avoir lu cette explication, 

A très vite, 

Jean-Baptiste.

.
Partagez cet article !
Jean-Baptiste
Jean-Baptiste
Publications: 84