La Chine demande aux entreprises technologiques de résoudre les problèmes liés à leurs algorithmes dans un délai de trois mois. Elles doivent éviter les algorithmes de recommandation qui créent des « chambres d'écho », induisent une dépendance, permettent de manipuler les sujets en vogue ou exploitent les droits des travailleurs itinérants. L'administration chinoise du cyberespace affirme que cette mesure vise à renforcer la réglementation et à empêcher les Big Tech d'envoyer les utilisateurs dans des terriers de lapin en ligne ou d'utiliser des algorithmes pour les surfacturer. Les entreprises ont été invitées à promouvoir « l'énergie positive » sur leurs plateformes.La Chine veut construire un cyberespace sain basé sur des algorithmes fiables
L'économie numérique chinoise est dominée par des géants tels que Tencent, Alibaba, Meituan et JD.com, et les plateformes de médias sociaux telles que Douyin de ByteDance. Ces entreprises ont connu une croissance rapide au cours de la dernière décennie et ont adopté des pratiques qui tendent à rendre les utilisateurs dépendants de leurs plateformes ou qui les incitent à dépenser toujours plus d'argent pour acheter des produits ou des services en ligne.
La Chine veut mettre fin à ces pratiques. Elle a annoncé son intention de sévir contre les pratiques et les algorithmes qui rendent Internet « désagréable ». Les Big Tech chinois ont été invités à corriger les problèmes liés aux algorithmes de recommandation dans un délai de trois mois. La Cyberspace Administration of China (CAC) invite les entreprises technologiques à se débarrasser des algorithmes de recommandation qui créent des « chambres d'écho ».
L'avis publié par la CAC indique également que les entreprises doivent éviter « les algorithmes qui induisent une dépendance, qui permettent de manipuler les sujets en vogue ou qui exploitent les droits des travailleurs itinérants ». En outre, la CAC appelle à des algorithmes qui garantissent un « contenu sain » pour les personnes âgées et les enfants, et un « mécanisme d'examen des algorithmes et un système de gestion de la sécurité des données » robustes.
Envoyé par Cyberspace Administration of China
Les utilisateurs ne doivent pas être contraints de sélectionner des balises d'intérêt, les informations illégales ou nuisibles ne doivent pas être utilisées dans les balises d'utilisateur ou pour un contenu ciblé, et les informations personnelles ne doivent pas être collectées au-delà de ce qui est nécessaire pour les recommandations de contenu.
L'utilisation d'algorithmes pour pratiquer des prix discriminatoires est également interdite. L'industrie chinoise du commerce électronique, un secteur d'activité sur lequel Pékin fonde ses espoirs en tant que moteur économique et source de recettes d'exportation, s'appuie de plus en plus sur les algorithmes.
La directive de la CAC stipule que les plateformes ne peuvent pas fixer des prix différenciés pour les produits en fonction de facteurs tels que l'âge, la profession et le niveau de consommation, et qu'elles doivent faire preuve de transparence lorsqu'elles émettent ou rejettent des coupons de réduction.
Les entreprises pourraient faire face à des sanctions en cas de violation
Les entreprises ont été invitées à procéder à un « autoexamen approfondi » et à des rectifications afin d'améliorer « les capacités de sécurité de leurs algorithmes ». Elles ont jusqu'à la fin de l'année 2024 pour effectuer ce travail. En janvier, les autorités commenceront à inspecter la « situation d'auto-examen » des entreprises et « organiseront des forces techniques pour vérifier et superviser la rectification » des entreprises qui ne respectent pas les normes.
À la mi-février, les unités centrales et locales de technologie de l'information examineront l'impact de la campagne et évalueront le cadre général de réglementation des algorithmes du pays afin d'y apporter de nouvelles améliorations. Elles analyseront également les difficultés et les problèmes et élaboreront des mesures pragmatiques pour une certaine période à venir. L'avis de la CAC ne définit pas les sanctions encourues par les entreprises en cas de violation.
Toutefois, il a été promis que les sanctions seraient proportionnelles à l'ampleur de la violation.
Pékin a commencé à s'intéresser à la surveillance des algorithmes en mars 2022. La CAC a publié un cadre réglementaire détaillé pour les algorithmes de recommandation. L'objectif était de limiter l'utilisation et l'abus de ces algorithmes, dans des domaines allant des jeux aux activités susceptibles de mettre en danger la sécurité nationale ou de perturber l'ordre social. À l'époque, il a exigé que les plateformes permettent de se désengager des contenus ciblés.
Elle a également exigé que les services technologiques rendent leurs algorithmes publics. En août 2022, les autorités chinoises de régulation ont publié les détails de 30 algorithmes utilisés par des entreprises comme Alibaba, ByteDance, Tencent, Baidu et bien d'autres. Selon la CAC, ces efforts font partie d'un effort visant à ouvrir les fournisseurs de services Internet à un examen réglementaire et à promouvoir une « énergie positive » sur Internet.
La plupart de ces exigences ont été reprises dans le nouvel avis de la CAC, notamment la protection des travailleurs indépendants employés par les plateformes de services à la demande, tels que les chauffeurs-livreurs qui peuvent être contraints d'enfreindre le Code de la route pour respecter les délais serrés fixés par les algorithmes.
Pékin admet que, bien qu'elle ait parcouru un long chemin en deux ans, elle aimerait poursuivre ses progrès. Selon la CAC, les règlements publiés en 2022 devraient également aider les autorités à lutter contre les recommandations de contenu, qui ont le potentiel de « façonner l'opinion publique » ou de « mobiliser la société ».
« L'écosystème des applications algorithmiques est devenu de plus en plus normalisé, mais il subsiste des problèmes typiques qui doivent être continuellement renforcés », a écrit la CAC dans son avis.
Source : Cyberspace Administration of China (CAC)
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous des exigences de la Chine en matière d'algorithmes ? Sont-elles pertinentes ? Ces exigences permettront-elles de rendre les algorithmes fiables, éthiques et sans effets indésirables majeurs ? Selon vous, ces nouvelles exigences pourraient-elle permettre à Pékin de contrôler davantage le discours en ligne ? Pourquoi ?Voir aussi
La Chine propose un contrôle strict des algorithmes en vue de réglementer davantage les services Internet, le pays veut interdire les algorithmes qui créent la dépendance chez les utilisateurs La Chine mobilisera des ressources à l'échelle nationale pour développer les industries de l'informatique quantique, de l'IA et du big data afin d'atteindre l'autosuffisance technologique L'algorithme de TikTok : un outil de manipulation politique ? Oui, selon le ministère de la justice, qui affirme que la Chine pourrait s'en servir pour influencer les élections américaines 
