Intelligence artificielle : Google liste les 7 objectifs et les 4 applications interdites de l’IA

L’intelligence artificielle ouvre autant de perspectives qu’elle suscite de craintes. On appréhende une possible perte de la maîtrise de cette technologie et on se pose des questions quant aux motivations des personnes qui conçoivent des outils basés sur l’intelligence artificielle. Les applications de l’IA sont de plus en plus nombreuses et pourraient à terme modifier fortement notre quotidien. À ce sujet, Google est sous le feu des critiques. Un projet avec le Pentagone a été révélé en mars, relançant les craintes sur l’application de l’IA dans l’armement. Plus de 3000 salariés de l’entreprise sont montés au créneau jusqu’à ce que Google renonce à ce projet. Sundar Pichai, CEO de l’entreprise, publie aujourd’hui une tribune sur les objectifs de l’intelligence artificielle et sur les « applications interdites » de l’IA.

Les 7 objectifs de l’intelligence artificielle selon Google

Google indique qu’il évaluera désormais les applications de l’intelligence artificielle pour estimer si celles-ci répondent à certains objectifs.

1. Être bénéfique pour la société : Google reconnaît que l’impact sociétal de l’intelligence artificielle peut être important et insiste sur l’importance de la plus-value de l’IA pour les personnes.
2. Éviter la création ou le renforcement des discriminations : les ingénieurs doivent s’assurer que l’IA ne renforce pas les partis pris injustes.
3. Insister sur la sécurité : les technologies basées sur l’IA doivent être conçues, testées et monitorées avec une haute exigence sur la sécurité.
4. Faciliter la récolte du feedback utilisateurs : les personnes peuvent avoir des avis sur ces technologies, elles doivent être entendues.
5. Intégrer le privacy by design : le traitement des données personnelles (récolte, usage) doit être clairement explicitée, le consentement doit être obtenu au préalable et les utilisateurs doivent avoir le choix à ce sujet.
6. Maintenir des normes scientifiques d’excellence : Google s’engage à travailler avec des spécialistes multidisciplinaires rigoureux, afin de développer des applications basées sur connaissances scientifiques à la pointe.
7. Être conçu pour une utilisation conforme à ces principes : « beaucoup de technologies ont des usages multiples ; nous tâcherons de limiter les applications potentiellement nuisibles et abusives ». Google veillera notamment à ce que les objectifs principaux et l’usage probable des technologies basées sur l’intelligence artificielle ne soient pas dangereux, en particulier lorsque ces applications peuvent avoir un impact important.

Les 4 applications interdites de l’IA selon Google

Outre ces 7 objectifs des applications de l’intelligence artificielle, Google dresse la liste noires des applications interdites de l’IA.

1. Des technologies susceptibles de causer un préjudice majeur : « Lorsqu’un tel risque sera identifié, nous nous assurerons que les avantages l’emportent largement sur les risques et que les règles de sécurité intégrées sont suffisantes ».
2. Des technologies liées à l’armement : Google s’engage à ne pas développer de technologies qui peuvent entraîner des blessures sur des personnes (objectif principal ou usage possible d’une technologie basée sur l’IA).
3. Des technologies liées à la surveillance : les mécanismes qui recueillent des informations sur des personnes ou utilisent ces informations les surveiller, « en violation des normes acceptées dans le monde » seront bannis. Google ne veut visiblement pas être associé au slogan « Big brother is watching you ».
4. Des technologies contraires aux droits de l’Homme : plus globalement, la firme de Mountain View s’engage à ne pas concevoir de technologies qui contreviendraient aux principes du droit international et des droits de l’Homme.

Don’t be AI-vil, le nouveau slogan de Google

Concernant les affaires récentes avec le Pentagone, Google précise : « nous ne développerons pas l’IA pour l’armement, mais nous continuerons à travailler avec les gouvernement et l’armée sur d’autres sujets […] : cybersécurité, entraînement, recrutement, soin des anciens combattants, recherche et sauvetage ».

Ces objectifs et ces applications interdites de l’IA sont présentés par Sundar Pichai sur cet article : AI at Google: our principles. Nous verrons si cela suffit à éteindre la polémique sur les liens qui unissent Google et le Pentagone et si les populations sont globalement rassurées par ces principes évoqués par la firme de Mountain View.