IA responsable : OpenAI, Microsoft et Google lancent le Frontier Model Forum

En novembre dernier, OpenAI lançait ChatGPT, qui inaugurait une course effrénée à l’intelligence artificielle, dans laquelle de nombreux acteurs se sont investis. Si les progrès sont indéniables, des risques liés au développement rapide de la technologie et au manque de régulation ont été soulevés et reconnus par les acteurs eux-mêmes. Vendredi dernier, les grandes entreprises du secteur de l’IA (notamment OpenAI, Google, Microsoft et Meta) étaient invitées à la Maison-Blanche. Elles se sont engagées à prendre des mesures pour réguler le secteur. Il n’aura fallu que quelques jours avant le lancement d’une initiative concrète : le Frontier Model Forum.

Qu’est ce que le Frontier Model Forum ?

Le Frontier Model Forum regroupe 4 entreprises majeures du secteur de l’intelligence artificielle : Google, Microsoft, OpenAI et Anthropic. Dans leur communiqué commun, les firmes présentent la démarche comme « un nouvel organisme sectoriel chargé de garantir un développement sûr et responsable des modèles d’IA d’avant-garde ». Les entreprises s’engagent ainsi à partager leur expertise pour la mettre au service de l’ensemble du secteur afin de favoriser les bonnes pratiques.

Si l’organisation compte actuellement 4 membres, elle est ouverte à d’autres structures. Elles doivent toutefois respecter les critères suivants :

• Déployer des modèles d’avant-garde (tels que définis par le forum),
• Être engagé dans la sécurité des modèles,
• Participer au partage d’informations et à des initiatives conjointes.

Quels sont les objectifs du Frontier Model Forum ?

Dans leur blog post, les 4 participants à l’initiative expliquent également les objectifs concrets de la structure et les actions qui seront menées. Le Frontier Model Forum aura vocation à :

• Faire progresser la recherche : les membres soutiendront « l’écosystème de la sécurité de l’IA en identifiant les questions de recherche ouvertes les plus importantes ». Dans un premier temps, une bibliothèque publique sera créée afin de définir les critères de référence d’une IA d’avant-garde.
• Identifier les pratiques responsables : ces pratiques concerneront le déploiement des modèles, mais également l’information vis-à vis du public concernant « la nature, les capacités, les limites et l’impact de la technologie ».
• Collaborer avec différents acteurs : le Frontier Model Forum partagera ses connaissances sur les risques en matière de sécurité auprès des décideurs politiques, des universitaires ou des entreprises.
• Relever les défis majeurs : les membres s’engagent à travailler sur certaines thématiques cruciales de l’humanité comme la lutte contre le changement climatique, la détection du cancer ou la défense contre les cybermenaces.

Les géants veulent garder le contrôle du secteur de l’IA

Si l’encadrement de l’intelligence artificielle est souhaitable, la démarche des 4 acteurs n’est pas qu’altruiste. Ces grandes firmes ont eu l’opportunité de se développer dans un contexte de faible régulation, au prix de pratiques parfois contestables (OpenAI a notamment fait l’objet de plaintes dans plusieurs pays).

En mettant en place cette nouvelle organisation, les géants s’imposent comme un intermédiaire entre l’industrie et les décideurs politiques. Le Frontier Model Forum représentera ainsi un lobby de poids pour influer sur les différents projets de législation actuellement discutés aux États-Unis et dans l’Union Européenne. Interrogé par The Guardian, le Dr. Andrew Rogoyski, Directeur de l’innovation et des partenariats à l’Institut Surrey pour l’IA (Université de Surrey), s’est montré préoccupé par la démarche :

Je crains fort que les gouvernements n’aient cédé le leadership en matière d’IA au secteur privé, probablement de manière irrémédiable. Il s’agit d’une technologie tellement puissante, avec un grand potentiel pour le bien et le mal, qu’elle a besoin d’un contrôle indépendant qui représentera les personnes, les économies et les sociétés qui seront touchées par l’IA à l’avenir.