IA, régulation et protection des données : la vision de Zendesk

Face à une accélération sans précédent de l’usage de l’intelligence artificielle dans les entreprises, la question de la régulation est incontournable. Présente à Relate, la conférence annuelle de Zendesk organisée à Las Vegas à laquelle BDM a participé, Shana Simmons, chief legal officer du groupe, est revenue en détail sur les enjeux réglementaires mondiaux, et notamment européens, liés à l’IA.

L’Europe face à l’IA : entre régulation stricte et innovation nécessaire

En matière de régulation, l’Union européenne a souvent eu une réputation d’avant-garde, voire d’intransigeance, notamment avec le RGPD. Cependant, selon Shana Simmons, l’approche européenne évolue actuellement vers davantage de pragmatisme, avec une réelle volonté de rester compétitive sur la scène mondiale : « Lors du récent sommet de Paris, les régulateurs européens ont explicitement exprimé leur souhait de rattraper leur retard face à la concurrence étrangère en matière d’IA. »

Preuve de ce changement de cap, la Commission européenne a récemment retiré la directive sur la responsabilité en matière d’IA (« AI Liability Directive ») de 2022, « qui aurait permis à des particuliers d’engager des poursuites judiciaires pour des dommages causés par l’IA », précise-t-elle. Cette tendance n’est d’ailleurs pas isolée. Selon elle, « aujourd’hui, nous constatons partout dans le monde que la balance penche en faveur de l’innovation, avec des régulateurs adoptant une approche plus nuancée et basée sur les risques pour élaborer les règles ».

Zendesk en position de force face à ces enjeux réglementaires ?

Dans ce contexte, Zendesk se dit parfaitement positionné pour accompagner les entreprises européennes dans leur adoption de l’IA. Forte de son expérience sur les questions sensibles de données personnelles, notamment via le RGPD et l’arrêt Schrems II, l’entreprise se considère comme particulièrement préparée aux évolutions réglementaires européennes :

Zendesk est une entreprise mondiale, fondée au Danemark, qui accompagne de très nombreux clients à travers le monde. Nous avons toujours respecté les exigences locales et aidé nos clients multinationaux à gérer leur conformité réglementaire, comme avec l’introduction du RGPD, Schrems II et le soutien aux besoins de résidence des données de nos clients.

Pour Shana Simmons, Zendesk dispose en effet d’un avantage clé par rapport à ses concurrents : une réelle agilité. « Nous avons passé ces 18 dernières années à créer des produits qui répondent rapidement aux évolutions réglementaires. Peu importe où aboutiront les régulations, nous sommes prêts à accompagner nos clients européens », estime-t-elle.

Confiance et transparence au cœur de la stratégie IA européenne de Zendesk

Pour rassurer les entreprises européennes face aux risques liés à l’IA, Zendesk met l’accent sur la transparence et le contrôle utilisateur. Lors de la conférence, Shana Simmons a évoqué plusieurs innovations, notamment les Reasoning Controls, permettant aux entreprises une visibilité en temps réel sur les décisions prises par leurs agents virtuels. Elle insiste :

Notre stratégie de conception produit repose sur une base de confiance client et d’agilité. Nos outils sont conçus pour permettre un contrôle maximal du client sur leurs expériences utilisateur, y compris en matière de conformité liée à la vie privée et à la sécurité.

À titre d’exemple concret, Shana Simmons a cité des fonctionnalités avancées de protection des données personnelles proposées par Zendesk : « Sur tous les canaux, y compris la voix, nos outils expurgent automatiquement les données sensibles importantes pour nos clients, qu’il s’agisse de l’adresse, du numéro de sécurité sociale ou des informations de santé d’une personne. »

Une régulation européenne favorable à une adoption plus rapide de l’IA ?

Loin de craindre une régulation stricte de l’IA, Zendesk voit au contraire dans cette évolution une opportunité d’accélérer son adoption à grande échelle. Shana Simmons compare même ce mouvement à ce qu’elle avait observé auparavant avec l’adoption du cloud computing :

Personnellement, cette évolution me rappelle ce que j’ai vu plus tôt dans ma carrière avec le cloud computing : une peur initiale, puis une reconnaissance de son efficacité et, enfin, une réalisation, après examen attentif, que c’était en fait plus sûr lorsqu’il était piloté par des entreprises responsables centrées sur le client comme Zendesk.

Dans ce contexte, Zendesk prévoit une accélération nette de l’usage de l’IA auprès des entreprises européennes : « Cette tendance réglementaire en faveur de l’innovation accélérera l’adoption de l’IA par la majorité tardive », pense-t-elle.

Vers une régulation « équilibrée » et des bénéfices sociétaux ?

Enfin, Shana Simmons souligne l’importance d’une approche équilibrée de la régulation, qui tient compte aussi bien des risques que des bénéfices de l’innovation. Zendesk explique collaborer activement avec des groupes industriels et des législateurs afin de s’assurer que « les lois sur l’IA soient adaptées aux risques tout en préservant les bénéfices sociétaux d’une innovation continue ».

Elle conclut, confiante : « Il est rassurant que les régulateurs reconnaissent aujourd’hui les importants bénéfices humains liés à l’innovation. »