À la veille de l’éviction du PDG d’OpenAI, Sam Altman, plusieurs chercheurs de l’entreprise ont écrit une lettre au conseil d’administration pour le mettre en garde contre la découverte d’une intelligence artificielle puissante qui, selon eux, « pourrait menacer l’humanité ». C’est ce que rapporte Reuters, citant ses propres sources.
C’est la lettre qui a été citée comme un facteur dans la longue liste de plaintes du conseil d’administration qui a conduit au licenciement d’Altman. Reuters n’a pas été en mesure de parler personnellement avec les auteurs ou d’obtenir un commentaire de la part d’OpenAI. Toutefois, à la suite d’une telle demande, la société a révélé dans un message interne adressé aux employés qu’il existait une sorte de projet appelé Q* (prononcé Q-Star).
Certains employés d’OpenAI pensent que Q* pourrait constituer une percée dans ce que l’on appelle l’intelligence artificielle générale (AGI). OpenAI la décrit comme un système autonome qui surpasse les humains dans la plupart des tâches à valeur économique.
Selon une source, Q* n’exécute pour l’instant que des tâches mathématiques du niveau d’un élève de l’école primaire, mais sa réussite à ces tests rend les chercheurs très optimistes quant à ses perspectives de développement.
La principale différence de cette IA est qu’elle est capable de se fixer des objectifs, de diviser des tâches complexes en tâches plus petites, de travailler sur un large éventail de tâches et de trouver des solutions en tenant compte du contexte dans différents domaines. En d’autres termes, une telle intelligence pourrait, en théorie, remplacer un professionnel hautement qualifié, doté de connaissances, de compétences et d’une vaste expérience.
Les chercheurs estiment que les mathématiques sont à la pointe du développement de l’IA générative. Actuellement, l’IA est performante en matière d’écriture et de traduction, de prédiction statistique du mot suivant, et les réponses à une même question peuvent varier considérablement. Mais la conquête des mathématiques (où il n’y a qu’une seule bonne réponse) implique que l’IA aura des capacités de raisonnement plus larges rappelant l’intelligence humaine. Selon les experts, cela pourrait s’appliquer, par exemple, à de nouvelles recherches scientifiques.
