« L'équipe d'innovation responsable » de Meta, un groupe destiné à lutter contre les « dommages potentiels à la société » causés par les produits de Facebook, n'existe plus. Les médias ont rapporté que l'équipe a été récemment « dissoute » bien que « la plupart » des membres seront intégrés à d'autres équipes de l'entreprise. Un porte-parole de Meta a déclaré que la société était « engagée envers les objectifs de l'équipe », mais n'a pas fourni de raison pour le changement de stratégie.
L'équipe d'innovation responsable a été formée pour la première fois « il y a plusieurs années », selon un billet de blog rédigé par Margaret Stewart de Meta, la vice-présidente de Facebook qui a supervisé l'équipe.
C'est en juin 2021 que Margaret Stewart a présenté cette équipe. Ci-dessous ses propos.
En tant que technologues, nous sommes tous les gardiens de certains des outils de communication les plus puissants jamais créés. Ces outils ont généré beaucoup de bien dans le monde, mais leur pouvoir même nécessite un profond sens des responsabilités et un engagement à prendre les décisions les plus éthiquement responsables possible, chaque jour. Les produits existants comme Facebook, Instagram, Messenger et WhatsApp, ainsi que les technologies nouvelles et émergentes comme la réalité augmentée et la réalité virtuelle, ont le potentiel d'améliorer la vie des gens de multiples façons. Ils peuvent également créer des défis importants et soulever des questions difficiles sur la façon de rendre nos produits bénéfiques et sûrs pour tous. À mesure que l'utilisation de ces technologies se développe et que l'influence de nos plates-formes augmente, notre responsabilité de révéler et d'atténuer les dommages potentiels doit également s'imposer.
C'est pourquoi nous avons fait des investissements aussi importants dans la constitution d'équipes dédiées à des sujets clés de responsabilité, tels que la protection de la vie privée et la défense de l'intégrité de nos plates-formes contre les abus et les contenus préjudiciables. Ces équipes spécialisées et bien d'autres disposent de l'expertise et des ressources nécessaires pour approfondir ces domaines spécifiques et complexes.
Mais une pièce essentielle du puzzle consiste à examiner l'image globale de la responsabilité et à le faire le plus tôt possible dans le processus de développement du produit. C'est pourquoi nous avons créé il y a plusieurs années l'équipe centrale de l'Innovation Responsable (RI) pour aider les équipes de Facebook à faire émerger de manière proactive et à traiter les dommages potentiels à la société dans tout ce que nous construisons. J'aide à diriger ces efforts, qui travaillent de concert avec de nombreuses équipes de spécialistes de l'entreprise pour élargir et approfondir l'approche de Facebook en matière d'innovation responsable.
Lorsque j'explique notre processus global d'évaluation de la sécurité des personnes pour les nouveaux produits et technologies, j'utilise souvent une analogie avec les soins de santé. L'équipe RI centrale est comme un médecin généraliste ; nous nous concentrons sur les pratiques préventives précoces pour aider à éviter autant de problèmes de santé en aval que possible. Nous adoptons une approche holistique, traitant « l'ensemble du patient » et tirant parti des connaissances d'une grande variété de spécialistes sur des sujets critiques. Nous pouvons trier les choses pour une équipe et les orienter vers les bons partenaires spécialisés selon les besoins, de la même manière qu'un médecin généraliste oriente un patient vers des spécialistes en dermatologie, en orthopédie, etc.
Dans le contexte de la conception de produits, cela signifie ne pas penser uniquement à court ou moyen terme, mais investir du temps pour prévoir les impacts à plus long terme. Cela signifie non seulement regarder les personnes qui utilisent le produit comme prévu, mais aussi les personnes qui peuvent en abuser pour blesser les autres. Cela signifie considérer si et comment certaines personnes ou communautés peuvent avoir par inadvertance une expérience négative avec les produits que nous fabriquons. Ces exemples ne font qu'effleurer la surface des éléments que nous devons prendre en considération lors de la conception pour un public mondial aussi vaste et diversifié, mais ils montrent comment l'ampleur et la profondeur créent une approche plus globale de l'innovation responsable.
Fonctionnement de l'équipe centrale d'innovation responsable
L'équipe centrale du RI est composée d'experts aux parcours divers et multidisciplinaires, y compris l'anthropologie, les droits civils, l'éthique et les droits de l'homme, pour n'en nommer que quelques-uns. Cette diversité d'horizons nous aide à explorer des problèmes complexes de manière nouvelle et originale. Nous faisons également régulièrement appel à des experts externes en la matière ainsi qu'à un ensemble diversifié de points de vue. Cela signifie que dans une table ronde ou un atelier RI donné, vous pourriez avoir un cinéaste, un philosophe, un artiste et un expert universitaire, aux côtés de membres de communautés qui pourraient potentiellement être affectés par ce que nous prévoyons de construire, tous offrant des perspectives uniques et sagesse pour éclairer notre approche.
Nous aidons les équipes produit à identifier les dommages potentiels dans un large éventail de problèmes et de dilemmes sociétaux. Nous créons des normes, des outils et des conseils pour des pratiques d'innovation responsables dans nos applications et nos services. Par exemple, au début de la pandémie, nous avons élaboré des conseils sur la manière de minimiser les dommages potentiels lors de la conception de produits liés à la COVID-19. Nous voulions que les équipes prennent en compte des éléments tels que la lutte contre la désinformation sur le virus, si un outil pouvait être exploité par des profiteurs ou si une fonctionnalité pouvait être involontairement offensante ou insensible.
Ce travail repose sur nos dimensions d'innovation responsable. Ces dimensions ont été inspirées par l'étude de diverses ressources mondiales telles que la Déclaration universelle des droits de l'homme et les objectifs de développement durable des Nations Unies. Ces documents sont parmi les meilleurs moyens de nous ancrer dans les choses dont les gens, les communautés et la société ont besoin pour prospérer, et aussi ce que nous devons travailler dur pour protéger. Nous avons ensuite procédé à de vastes consultations auprès d'intervenants externes, d'éthiciens, d'experts en droits civils et en droits de la personne. Le résultat est un cadre qui nous aide à définir notre responsabilité de manière pro-humaine et pro-société.
Ce cadre évolue au fil du temps, mais comprend actuellement 10 dimensions d'autonomie, d'engagement civique, de discours constructif, de sécurité économique, de durabilité environnementale, d'équité et d'inclusion, de confidentialité et de protection des données, de sécurité, de voix et de bien-être.
Meta se sépare de l'équipe d'innovation responsable
Meta Platforms Inc. a dissous son équipe d'innovation responsable, qui était autrefois un élément important de ses efforts pour répondre aux préoccupations concernant les inconvénients potentiels de ses produits.
L'équipe comprenait environ deux douzaines d'ingénieurs, d'éthiciens et d'autres personnes qui ont collaboré avec des équipes de produits internes et des spécialistes externes de la confidentialité, des universitaires et des utilisateurs pour identifier et résoudre les problèmes potentiels concernant les nouveaux produits et les modifications de Facebook META et Instagram.
Le porte-parole de Meta, Eric Porterfield, a déclaré que la société restait attachée aux objectifs de l'équipe et que la plupart de ses anciens membres continueraient un travail similaire ailleurs chez Meta, bien qu'ils n'aient pas la garantie d'avoir de nouveaux rôles au sein de Meta. Il a déclaré que la société pensait que ses ressources de conception de produits sûrs et éthiques étaient mieux dépensées dans des équipes plus spécifiques à des problèmes.
La disparition de l'équipe survient à un moment tumultueux pour Meta, car elle fait face à un ralentissement précipité de son activité principale de publicité numérique qui l'a incitée à ralentir l'embauche ces derniers mois. Le directeur général Mark Zuckerberg a tenté de remanier un large éventail d'activités du géant des médias sociaux, en mettant l'accent sur les initiatives qui peuvent contribuer à stimuler la croissance à court terme ou qui correspondent à son accent à plus long terme sur le métavers, une version vaguement définie et plus immersive d'Internet qui, selon lui, est au cœur de l'avenir de l'entreprise.
Comme prévu, selon les déclarations passées de l'entreprise et des chefs d'équipe, l'équipe d'innovation responsable devait avoir un rôle formateur dans les futurs produits de l'entreprise, en commençant par encourager les ingénieurs nouvellement embauchés à réfléchir aux inconvénients potentiels de ce qu'ils construisent, puis en passant en consultation sur la conception de produits spécifiques.
Zvika Krieger, qui dirigeait l'équipe avant de quitter Meta plus tôt cette année, a déclaré dans une interview que ses efforts étaient plus larges que d'autres travaux liés à la sécurité et à l'intégrité dans l'entreprise. Il a déclaré que son travail avait été mis en évidence dans les opérations d'ingénierie par l'ancien directeur de la technologie Michael Schroepfer, qui a annoncé l'année dernière qu'il démissionnait.
Krieger, qui a déclaré que l'équipe avait consulté plus de 100 équipes de produits, a cité comme exemple de son travail son implication dans la décision de l'équipe de rencontres de Facebook d'éviter d'inclure un filtre qui permettrait aux utilisateurs de cibler ou d'exclure les intérêts amoureux potentiels d'une race particulière. D'autres applications de rencontres ont ensuite emboîté le pas, a-t-il déclaré.
L'équipe de l'Innovation Responsable n'est pas la seule à avoir récemment été remaniée. Plus tôt cet été, Meta a réorganisé toute son équipe d'IA, ce qui comprenait l'intégration du groupe d'IA responsable dans son équipe d'impact social. La société a également cherché à réduire ses coûts alors que ses revenus diminuent pour la première fois de son histoire. Meta a également supprimé certains projets de sa division Reality Labs et ralenti ses embauches au milieu de rumeurs de licenciements potentiels.
Sources : porte-parole de Meta Eric Porterfield, Meta
Et vous ?
Que pensez-vous de la décision de Meta de créer cette « équipe d'innovation responsable » ? Manifestation de son désir d'amélioration ou poudre de perlimpinpin ?
Qu'est-ce qui pourrait expliquer qu'une équipe qui a été créée « plusieurs années auparavant » ne soit présentée au public que bien plus tard ?
Êtes-vous surpris de voir cette équipe dissoute un peu plus d'un an après sa présentation ?
Qu'est-ce qui pourrait, selon vous, expliquer cette décision de Meta ?
Meta dissout l'équipe responsable de la découverte de « dommages potentiels pour la société » dans ses propres produits
Tout en assurant que les efforts se poursuivront
Meta dissout l'équipe responsable de la découverte de « dommages potentiels pour la société » dans ses propres produits
Tout en assurant que les efforts se poursuivront
Le , par Stéphane le calme
Une erreur dans cette actualité ? Signalez-nous-la !