Meta dissout l'équipe responsable de la découverte de « dommages potentiels pour la société » dans ses propres produits

Tout en assurant que les efforts se poursuivront

« L'équipe d'innovation responsable » de Meta, un groupe destiné à lutter contre les « dommages potentiels à la société » causés par les produits de Facebook, n'existe plus. Les médias ont rapporté que l'équipe a été récemment « dissoute » bien que « la plupart » des membres seront intégrés à d'autres équipes de l'entreprise. Un porte-parole de Meta a déclaré que la société était « engagée envers les objectifs de l'équipe », mais n'a pas fourni de raison pour le changement de stratégie.

L'équipe d'innovation responsable a été formée pour la première fois « il y a plusieurs années », selon un billet de blog rédigé par Margaret Stewart de Meta, la vice-présidente de Facebook qui a supervisé l'équipe.

C'est en juin 2021 que Margaret Stewart a présenté cette équipe. Ci-dessous ses propos.

En tant que technologues, nous sommes tous les gardiens de certains des outils de communication les plus puissants jamais créés. Ces outils ont généré beaucoup de bien dans le monde, mais leur pouvoir même nécessite un profond sens des responsabilités et un engagement à prendre les décisions les plus éthiquement responsables possible, chaque jour. Les produits existants comme Facebook, Instagram, Messenger et WhatsApp, ainsi que les technologies nouvelles et émergentes comme la réalité augmentée et la réalité virtuelle, ont le potentiel d'améliorer la vie des gens de multiples façons. Ils peuvent également créer des défis importants et soulever des questions difficiles sur la façon de rendre nos produits bénéfiques et sûrs pour tous. À mesure que l'utilisation de ces technologies se développe et que l'influence de nos plates-formes augmente, notre responsabilité de révéler et d'atténuer les dommages potentiels doit également s'imposer.

C'est pourquoi nous avons fait des investissements aussi importants dans la constitution d'équipes dédiées à des sujets clés de responsabilité, tels que la protection de la vie privée et la défense de l'intégrité de nos plates-formes contre les abus et les contenus préjudiciables. Ces équipes spécialisées et bien d'autres disposent de l'expertise et des ressources nécessaires pour approfondir ces domaines spécifiques et complexes.

Mais une pièce essentielle du puzzle consiste à examiner l'image globale de la responsabilité et à le faire le plus tôt possible dans le processus de développement du produit. C'est pourquoi nous avons créé il y a plusieurs années l'équipe centrale de l'Innovation Responsable (RI) pour aider les équipes de Facebook à faire émerger de manière proactive et à traiter les dommages potentiels à la société dans tout ce que nous construisons. J'aide à diriger ces efforts, qui travaillent de concert avec de nombreuses équipes de spécialistes de l'entreprise pour élargir et approfondir l'approche de Facebook en matière d'innovation responsable.

Lorsque j'explique notre processus global d'évaluation de la sécurité des personnes pour les nouveaux produits et technologies, j'utilise souvent une analogie avec les soins de santé. L'équipe RI centrale est comme un médecin généraliste ; nous nous concentrons sur les pratiques préventives précoces pour aider à éviter autant de problèmes de santé en aval que possible. Nous adoptons une approche holistique, traitant « l'ensemble du patient » et tirant parti des connaissances d'une grande variété de spécialistes sur des sujets critiques. Nous pouvons trier les choses pour une équipe et les orienter vers les bons partenaires spécialisés selon les besoins, de la même manière qu'un médecin généraliste oriente un patient vers des spécialistes en dermatologie, en orthopédie, etc.

Dans le contexte de la conception de produits, cela signifie ne pas penser uniquement à court ou moyen terme, mais investir du temps pour prévoir les impacts à plus long terme. Cela signifie non seulement regarder les personnes qui utilisent le produit comme prévu, mais aussi les personnes qui peuvent en abuser pour blesser les autres. Cela signifie considérer si et comment certaines personnes ou communautés peuvent avoir par inadvertance une expérience négative avec les produits que nous fabriquons. Ces exemples ne font qu'effleurer la surface des éléments que nous devons prendre en considération lors de la conception pour un public mondial aussi vaste et diversifié, mais ils montrent comment l'ampleur et la profondeur créent une approche plus globale de l'innovation responsable.


Fonctionnement de l'équipe centrale d'innovation responsable

L'équipe centrale du RI est composée d'experts aux parcours divers et multidisciplinaires, y compris l'anthropologie, les droits civils, l'éthique et les droits de l'homme, pour n'en nommer que quelques-uns. Cette diversité d'horizons nous aide à explorer des problèmes complexes de manière nouvelle et originale. Nous faisons également régulièrement appel à des experts externes en la matière ainsi qu'à un ensemble diversifié de points de vue. Cela signifie que dans une table ronde ou un atelier RI donné, vous pourriez avoir un cinéaste, un philosophe, un artiste et un expert universitaire, aux côtés de membres de communautés qui pourraient potentiellement être affectés par ce que nous prévoyons de construire, tous offrant des perspectives uniques et sagesse pour éclairer notre approche.

Nous aidons les équipes produit à identifier les dommages potentiels dans un large éventail de problèmes et de dilemmes sociétaux. Nous créons des normes, des outils et des conseils pour des pratiques d'innovation responsables dans nos applications et nos services. Par exemple, au début de la pandémie, nous avons élaboré des conseils sur la manière de minimiser les dommages potentiels lors de la conception de produits liés à la COVID-19. Nous voulions que les équipes prennent en compte des éléments tels que la lutte contre la désinformation sur le virus, si un outil pouvait être exploité par des profiteurs ou si une fonctionnalité pouvait être involontairement offensante ou insensible.

Ce travail repose sur nos dimensions d'innovation responsable. Ces dimensions ont été inspirées par l'étude de diverses ressources mondiales telles que la Déclaration universelle des droits de l'homme et les objectifs de développement durable des Nations Unies. Ces documents sont parmi les meilleurs moyens de nous ancrer dans les choses dont les gens, les communautés et la société ont besoin pour prospérer, et aussi ce que nous devons travailler dur pour protéger. Nous avons ensuite procédé à de vastes consultations auprès d'intervenants externes, d'éthiciens, d'experts en droits civils et en droits de la personne. Le résultat est un cadre qui nous aide à définir notre responsabilité de manière pro-humaine et pro-société.

Ce cadre évolue au fil du temps, mais comprend actuellement 10 dimensions d'autonomie, d'engagement civique, de discours constructif, de sécurité économique, de durabilité environnementale, d'équité et d'inclusion, de confidentialité et de protection des données, de sécurité, de voix et de bien-être.

Meta se sépare de l'équipe d'innovation responsable

Meta Platforms Inc. a dissous son équipe d'innovation responsable, qui était autrefois un élément important de ses efforts pour répondre aux préoccupations concernant les inconvénients potentiels de ses produits.

L'équipe comprenait environ deux douzaines d'ingénieurs, d'éthiciens et d'autres personnes qui ont collaboré avec des équipes de produits internes et des spécialistes externes de la confidentialité, des universitaires et des utilisateurs pour identifier et résoudre les problèmes potentiels concernant les nouveaux produits et les modifications de Facebook META et Instagram.

Le porte-parole de Meta, Eric Porterfield, a déclaré que la société restait attachée aux objectifs de l'équipe et que la...