Quand Black Mirror devient une réalité : robots abeilles, score social en Chine…

Spoiler alert : cet article contient des références à la série Black Mirror (saison 3).

Ces derniers jours, plusieurs projets (escomptés ou déjà planifiés) ont retenu notre attention pour au moins deux raisons. Ils étaient relativement inquiétants et n’étaient pas sans nous rappeler quelques épisodes de la série d’anticipation Black Mirror.

Des robots pollinisateurs pour remplacer les abeilles

Les abeilles jouent un rôle crucial pour notre agriculture. Elles permettent à de nombreuses plantes de survivre et se développer en les pollinisant. On estime qu’un tiers de notre alimentation est dépendante de cette espèce. Et pourtant, elles sont aujourd’hui menacées d’extension à cause de l’homme (pesticides, réchauffement climatique…). « Entre 1997 et 2017, le taux de mortalité des abeilles est passé de 5% à 30% ». Si l’homme est de facto menacé, les entreprises spécialisées dans la distribution le sont aussi. Certaines réfléchissent donc à des systèmes permettant de remplacer les abeilles, « au cas où ». C’est notamment le cas de Walmart, qui a déposé ce brevet au début du mois : Systems and methods for pollinating crops via unmanned vehicles. Le brevet décrit un système aérien et sans pilote capable de collecter du pollen sur une fleur et d’aller le déposer sur une autre fleur.

À l’avenir, le bourdonnement des drones pollinisateurs remplacera peut-être celui des abeilles dans nos villes et nos campagnes. Nous ne pourrons que nous féliciter de ces avancées technologiques, mais le revers de la médaille concernera la sécurité. Ceux qui ont visionné l’épisode 6 de la saison 3 de Black Mirror (Hated in the Nation) savent que certains objets connectés sont des mouchards potentiels et qu’ils peuvent être piratés. Nous n’avons pas forcément envie de voir se lever des armées de drones, rassemblés en essaims, avec de mauvaises intentions.

Quand le score social des Chinois les empêche de voyager

Un autre épisode de Black Mirror a inspiré une organisation ; non pas une entreprise, mais un Gouvernement. Dans le premier acte de la troisième saison (Nosedive), les citoyens passent leur temps à noter les autres de 0 à 5. En fonction de la moyenne obtenue, les personnes peuvent (ou ne peuvent pas) accéder à certains services. Lacie, la personnage principale de l’épisode, se voit ainsi refuser l’accès à un avion, car sa note était inférieure à la note minimale permettant d’y accéder.

C’est exactement ce que connaîtront les Chinois, à partir du 1^er mai 2018. Le Président Xi Jinping a annoncé que la Chine commencera à utiliser son Social Credit System (SCS) dans un mois et demi. Les citoyens disposant d’un score trop faible ne pourront pas accéder aux trains et aux avions. Sont particulièrement concernées les personnes qui ont facilité la propagation de fausses informations liées au terrorisme, celles qui ont créé des « troubles » dans un avion par le passé, utilisé des billets expirés ou qui ont déjà fumé dans les trains. Les personnes qui n’ont pas payé leurs factures et les employeurs ayant fraudé l’assurance maladie seront également bannis. Cette règle a comme seul mérite de respecter les principes du Social Credit System chinois, « once untrustworthy, always restricted » (indigne de confiance une fois, à jamais restreint). L’application généralisée du SCS est attendue pour 2020.

Dans un autre registre, des développeurs ont créé une application intitulée Credo. Elle permet de noter les gens, exactement comme dans Nosedive de Black Mirror. Bien que l’objectif initial soit louable (évaluer la fiabilité de personnes dans le cadre de transactions financières), les risques associés sont bien trop nombreux.