Beatrice Gonzalez, détentrice d’un salon de coiffure au États-Unis, accuse Google d’être en partie responsable du meurtre sa fille Nohemi Gonzalez, étudiante en dernière année à l'Université d'État de Californie à Long Beach. Nohemi Gonzalez était l'une des personnes tuées par des terroristes lors de fusillades à Paris le 13 novembre 2015. Elle s'y trouvait dans le cadre d'un programme d'échange, et a été abattue avec 19 autres personnes dans un bistrot très fréquenté, alors qu'elle était sortie avec des amis. L'État islamique avait alors revendiqué la responsabilité de l'attaque.Les organisations terroristes ont trouvé dans les plateformes de médias sociaux un moyen inestimable de diffuser leur idéologie, de recruter des terroristes et de planifier leurs opérations. Les dirigeants du monde ont souligné à plusieurs reprises les dangers que les terroristes représentent pour les gens ordinaires et les institutions publiques.
Aux États-Unis, l'article 230 de la loi fédérale sur la décence des communications (Communications Decency Act) accorde aux sites de réseaux sociaux une immunité contre les poursuites civiles. Les plaignants n'ont donc pas réussi à obtenir réparation contre les BigTech qui hébergent ou diffusent des contenus de terroristes.
Des chercheurs démontrent que l’article 230 n'empêche pas les parties privées d'obtenir réparation si elles peuvent prouver qu'une société de médias sociaux a reçu des plaintes concernant des pages web spécifiques, vidéos, messages, articles, adresses IP ou comptes d'organisations terroristes étrangères ; que la société n'a pas retiré la ressource ; qu'un terroriste a ensuite visionné ou interagi avec la ressource sur le site web ; et que ce terroriste a agi sur la base de la propagande pour nuire au plaignant.
Les chercheurs soutiennent qu'indépendamment de l'immunité civile, le premier amendement ne limite pas le pouvoir du Congrès d'imposer une responsabilité pénale aux BigTeh qui ont été informés que leurs plateformes hébergeaient des incitations, du recrutement ou des instructions de terroristes étrangers tiers. Ni le Premier Amendement ni le Communications Decency Act n'empêchent cette forme de poursuites pénales fédérales.
Une société de médias sociaux peut être poursuivie pour soutien matériel au terrorisme si elle fournit sciemment une plateforme à des organisations ou des individus qui prônent la commission d'actes terroristes. Des mécanismes devront également être créés qui permettront aux administrateurs de prendre des mesures d'urgence, tout en préservant les droits des intermédiaires de l'Internet à un procès équitable pour contester les ordres de blocage immédiat, de suppression temporaire ou de détruire définitivement des données.
Nohemi avait travaillé dur pendant des années pour entrer à l'université, excellant dans tout ce qu'elle entreprenait, a déclaré Gonzalez. Elle était sa fille unique. « Je souffrais, j'étais dans une bulle », aurait-elle déclaré lors d'une interview avec le Washington Post. Lorsque les avocats d'un centre juridique israélien spécialisé dans les poursuites contre les entreprises qui aident les terroristes lui ont demandé si elle était intéressée par l'ouverture d'un procès lié à la mort de sa fille, elle a dit oui, espérant que cela pourrait être un moyen d'honorer la mémoire de Nohemi.
Des poursuites contre des BigTech sont généralement soldées par des échecs
En 2017, la famille Gonzalez et les avocats ont déposé leur dossier, arguant que le site de vidéos YouTube de Google a enfreint la loi antiterroriste américaine en favorisant les vidéos de propagande de l'État islamique avec ses algorithmes de recommandation. Google affirme que l'affaire est sans fondement, car la loi protège les sociétés Internet de toute responsabilité pour les contenus postés par leurs utilisateurs. Les tribunaux inférieurs ont donné raison à Google, mais la famille a fait appel et, en octobre dernier, la Cour suprême a accepté d'entendre l'affaire.
Aujourd'hui, huit ans après le meurtre de Nohemi, Gonzalez se prépare à assister à la présentation de cette affaire devant la Cour suprême. Le centre juridique israélien, un organisme à but non lucratif appelé Shurat HaDin a passé des années à poursuivre des entreprises technologiques pour avoir hébergé des messages de propagande et de recrutement d'organisations terroristes et militantes. Ils ont le plus souvent perdu.
Gonzalez a déclaré qu'elle n'avait jamais imaginé que l'affaire prendrait une telle ampleur. « Je n'arrive même pas à croire que je suis ici à Washington et que je suis sur le point d'aller au tribunal », a-t-elle déclaré.
La décision du tribunal « pourrait modifier radicalement la façon dont les Américains utilisent l'Internet », a déclaré Delaine Prado. « La modification de l’article 230 pourrait rendre difficile pour les entreprises l'utilisation d'algorithmes pour recommander n'importe quel contenu, qu'il s'agisse de chansons sur Spotify ou d'articles de petites entreprises sur des plateformes de commerce électronique comme Etsy », a-t-elle ajouté.
La politique de YouTube interdit les contenus terroristes, mais les algorithmes de modération de l'entreprise passent souvent à côté de nouveaux téléchargements de vidéos. Gonzalez a quitté le Mexique pour les États-Unis en 1989 et s'est installée à Whittier, une banlieue de Los Angeles à majorité hispanique où vivait autrefois Richard M. Nixon. Gonzalez a eu Nohemi trois ans plus tard. Dès l'âge de quatre ans, dit-elle, Nohemi savait qu'elle voulait aller à l'université. Pendant que sa mère économisait de l'argent en travaillant 13 heures par jour comme coiffeuse, Nohemi passait son temps à lire, à aller à l'école et à participer à toute une série de sports, dont la natation, le football et l'athlétisme.
« Tout ce qu'elle pouvait faire, elle le faisait », a déclaré Gonzalez. Nohemi a obtenu son diplôme d'études secondaires et a quitté la maison pour suivre le programme de design industriel de l'université d'État de Californie à Long Beach. « Nous étions très proches, mais en même temps, elle était indépendante et autosuffisante et elle avait sa propre vie à un très jeune âge », a déclaré Gonzalez.
Une vidéo publiée sur YouTube sept mois avant sa mort montre Nohemi en train de faire une présentation lors d'un salon de design, montrant un luminaire inspiré par « les paysages majestueux des plages de Californie du Sud, le Grand Canyon et les Arches de Moab ». Elle parle de sa passion pour le design et dit au public à quel point elle se sent chanceuse de pouvoir faire ce qu'elle aime.
« Il y a beaucoup de gens qui traversent la vie, ils ne trouvent pas leur passion. J'ai de la chance parce que peu de gens ont accès à l'enseignement supérieur. Nous pouvons suivre ce que nous aimons et le faire chaque jour », déclare Nohemi dans la vidéo.
À l'université, Nohemi a travaillé comme assistante de professeur, et sa mère pense que son véritable rêve était de rester dans le milieu universitaire et de devenir professeur de design, afin de partager ce qu'elle aimait avec d'autres étudiants. « Elle l'avait dans l'âme, elle a toujours voulu enseigner », a déclaré Mme Gonzalez.
Si José Castañeda, porte-parole de Google, a refusé de commenter l'affaire, il a fait référence à un billet de blog publié en janvier par Halimah Delaine Prado, avocate générale de Google.
En février, la Cour suprême entendra les arguments dans l'affaire Gonzalez contre Google, et sa décision pourrait modifier radicalement la façon dont les Américains utilisent l'internet. L'affaire porte sur la section 230 de la loi sur la décence des communications, "les vingt-six mots qui ont créé l'internet". La section 230 protège l'hébergement, l'affichage ou le partage de contenu provenant d'autres personnes. Dans le monde réel, cela signifie que Spotify peut recommander de nouvelles chansons, que Monster peut afficher des offres d'emploi pertinentes, qu'Etsy peut promouvoir des antiquités de niche provenant de petits vendeurs et que vous pouvez "aimer" et "partager" le matériel que vous voyez en ligne.
La question qui se pose à la Cour est de savoir si la section 230 doit continuer à protéger l'organisation, l'affichage et la recommandation de contenus provenant d'autres personnes. Les enjeux ne pourraient pas être plus élevés. Une décision sapant la section 230 obligerait les sites web à supprimer les contenus potentiellement controversés ou à fermer les yeux sur les contenus répréhensibles pour éviter d'en avoir connaissance. Vous n'auriez d'autre choix que de choisir entre des sites grand public trop soignés et des sites marginaux inondés de contenus répréhensibles.
Envoyé par Halimah DeLaine Prado, avocat général
La section 230 protège les recommandations de contenu : l'article 230 a toujours protégé la capacité des services en ligne et de leurs utilisateurs à mettre en évidence le contenu pertinent et utile d'autres personnes, en connectant les gens au matériel qu'ils apprécient. Le risque juridique lié à la recommandation ou à l'organisation du contenu réduirait les services utiles tels que l'affichage des meilleures offres d'emploi, la liste des produits les plus pertinents ou l'affichage des vidéos de recettes, de chansons ou de sources d'actualités, de divertissement et d'information les plus utiles ;
La suppression de la section 230 nuirait à la liberté d'expression : la section 230 soutient la liberté d'expression en ligne, permettant aux sites Web d'offrir un large éventail d'informations et de faire découvrir et entendre une diversité de voix. Sans la section 230, certains sites Web seraient contraints de procéder à un surblocage, en filtrant les contenus susceptibles d'engendrer un risque juridique potentiel, et pourraient carrément fermer certains services. Les consommateurs auraient ainsi moins de choix pour s'engager sur l'internet et moins de possibilités de travailler, de jouer, d'apprendre, d'acheter, de créer et de participer à l'échange d'idées en ligne ;
Modifier la section 230 rendrait l'Internet moins sûr : en même temps, la section 230 donne aux sites Web le pouvoir de supprimer ou de rétrograder les spams, les escroqueries et les contenus offensants. Sans la section 230, les sites web disposant de moins de ressources seraient moins enclins à examiner et à modérer des contenus flagrants par crainte de poursuites judiciaires fondées sur leur connaissance de ces contenus. Les services pourraient devenir moins utiles et moins dignes de confiance, car les efforts visant à éliminer les escroqueries, la fraude, les conspirations, les logiciels malveillants, la violence, le harcèlement, etc. seraient étouffés ;
La section 230 est l'épine dorsale économique de l'Internet :[/B] l'affaiblissement de la section 230 empêcherait les entreprises et les sites Web de fonctionner et entraînerait une augmentation des poursuites judiciaires qui nuiraient aux éditeurs, aux créateurs et aux petites entreprises. Cette marée montante de litiges réduirait le flux d'informations de haute qualité sur Internet, qui a créé des millions d'emplois américains, de nouvelles idées innovantes et des billions de dollars de croissance économique.
Si la Cour suprême devait modifier l'application largement acceptée de l’article 230, il en résulterait une expérience numérique - pour tout le monde - qui reflète l'exact opposé de l'intention législative du Congrès. Cela entraverait l'accès à l'information, limiterait la liberté d'expression, nuirait à l'économie et rendrait les consommateurs plus vulnérables aux contenus en ligne préjudiciables.
Ne nous croyez pas sur parole. Un large éventail d'experts, d'universitaires, d'organisations et d'entreprises de toute l'Amérique reconnaissent également l'importance de l’article 230. Nous apprécions leurs points de vue réfléchis et sommes impatients de défendre notre cause au nom de tous ceux qui utilisent l'internet.
La suppression de la section 230 nuirait à la liberté d'expression : la section 230 soutient la liberté d'expression en ligne, permettant aux sites Web d'offrir un large éventail d'informations et de faire découvrir et entendre une diversité de voix. Sans la section 230, certains sites Web seraient contraints de procéder à un surblocage, en filtrant les contenus susceptibles d'engendrer un risque juridique potentiel, et pourraient carrément fermer certains services. Les consommateurs auraient ainsi moins de choix pour s'engager sur l'internet et moins de possibilités de travailler, de jouer, d'apprendre, d'acheter, de créer et de participer à l'échange d'idées en ligne ;
Modifier la section 230 rendrait l'Internet moins sûr : en même temps, la section 230 donne aux sites Web le pouvoir de supprimer ou de rétrograder les spams, les escroqueries et les contenus offensants. Sans la section 230, les sites web disposant de moins de ressources seraient moins enclins à examiner et à modérer des contenus flagrants par crainte de poursuites judiciaires fondées sur leur connaissance de ces contenus. Les services pourraient devenir moins utiles et moins dignes de confiance, car les efforts visant à éliminer les escroqueries, la fraude, les conspirations, les logiciels malveillants, la violence, le harcèlement, etc. seraient étouffés ;
La section 230 est l'épine dorsale économique de l'Internet :[/B] l'affaiblissement de la section 230 empêcherait les entreprises et les sites Web de fonctionner et entraînerait une augmentation des poursuites judiciaires qui nuiraient aux éditeurs, aux créateurs et aux petites entreprises. Cette marée montante de litiges réduirait le flux d'informations de haute qualité sur Internet, qui a créé des millions d'emplois américains, de nouvelles idées innovantes et des billions de dollars de croissance économique.
Si la Cour suprême devait modifier l'application largement acceptée de l’article 230, il en résulterait une expérience numérique - pour tout le monde - qui reflète l'exact opposé de l'intention législative du Congrès. Cela entraverait l'accès à l'information, limiterait la liberté d'expression, nuirait à l'économie et rendrait les consommateurs plus vulnérables aux contenus en ligne préjudiciables.
Ne nous croyez pas sur parole. Un large éventail d'experts, d'universitaires, d'organisations et d'entreprises de toute l'Amérique reconnaissent également l'importance de l’article 230. Nous apprécions leurs points de vue réfléchis et sommes impatients de défendre notre cause au nom de tous ceux qui utilisent l'internet.
Au cours des dix dernières années, les sites de médias sociaux sont devenus des outils essentiels pour la diffusion de la propagande terroriste. Un certain nombre de terroristes, dont Omar Mateen, qui a attaqué la boîte de nuit gay Pulse à Orlando, en Floride, tuant quarante-neuf personnes et en blessant cinquante-trois autres, se sont radicalisés en partie grâce à des documents numériques facilement accessibles sur Internet.
L'État islamique d'Irak et de Syrie (ISIS), le Hamas et diverses autres organisations terroristes utilisent Facebook pour recruter des membres. Al-Qaïda, le Hezbollah et Minbar al-Tawhid wal-Jihad comptent parmi les groupes qui ont trouvé en Twitter une aide précieuse pour diffuser des messages de violence politique et de haine de groupe.
YouTube, un autre intermédiaire majeur des médias sociaux sur lequel des tiers s'appuient pour faire circuler toutes sortes de contenus vidéo instructifs, divertissants et privés, est également une plaque tournante de l'endoctrinement et de l'enseignement terroristes. Ces sociétés mettent à disposition des internautes du monde entier des clips ou vidéos radicaux sur support numérique dans le monde entier, permettant ainsi aux dirigeants terroristes d'influencer le comportement de millions de spectateurs.
Les experts en sécurité nationale ont averti que ces plateformes peuvent même être manipulées pour orchestrer des opérations en temps réel, ce qui permet aux manipulateurs de diriger des attaques à distance ou à proximité. Les canaux d'information sur Internet transmettent tout, des documents historiques aux vidéos musicales et aux blogs politiques, en passant par les déclarations diffamatoires, les instructions pour fabriquer des bombes, les vidéos de torture et les enregistrements d'abus d'enfants.
Les groupes terroristes ont trouvé en Internet une aubaine, offrant une plateforme efficace pour développer des liens sociaux, radicaliser les recrues et augmenter le nombre de membres. Des missions terroristes coordonnées peuvent être planifiées à distance. C'est ce qui s'est passé récemment en Inde, où l'ingénieur Mohammed Ibrahim Yazdani et ses cohortes de terroristes ont reçu des directives pour attaquer des infrastructures techniques et ont conspiré pour les mettre à exécution, mais sans succès.
Les responsables de l'État islamique lui ont envoyé des instructions numériques depuis la Syrie et ont orchestré un complot élaboré pour obtenir des armes et des explosifs chimiques. Avant même de commencer à participer activement au complot terroriste, Yazdani a été conquis par « la propagande en ligne de l'État islamique. »
Utilisation de l'article 230 pour se prévaloir d'une immunité contre les poursuites civiles
La décision de la Cour suprême pourrait avoir des répercussions majeures sur l'Internet tel que nous le connaissons et sur les géants de la technologie qui le dominent. Depuis près de trois décennies, l'article 230, la disposition légale qui est au cœur de l'affaire de la Cour suprême, protège les sociétés Internet contre toute responsabilité pour le contenu publié par leurs utilisateurs, permettant ainsi à des plateformes comme Facebook et YouTube de devenir les mastodontes culturels et commerciaux qu'elles sont aujourd'hui.
Les fournisseurs d'accès à Internet (FAI), les fournisseurs de services en ligne, les moteurs de recherche et les sites de réseaux sociaux invoquent couramment l'article 230 de la loi sur la décence des communications (Communications Decency Act, CDA) pour se prévaloir d'une immunité contre les poursuites civiles.
Les défenseurs de cette loi estiment qu'elle est essentielle à un Internet libre et ouvert, car elle donne aux entreprises l'espace nécessaire pour permettre aux utilisateurs de publier librement ce qu'ils veulent, tout en leur donnant la possibilité de contrôler leurs plateformes comme elles l'entendent, afin d'éviter qu'elles ne soient inondées de spam ou de harcèlement. Les détracteurs de cette loi estiment qu'elle donne aux entreprises technologiques un laissez-passer pour fuir leurs responsabilités ou s'engager dans une censure injuste. Soixante-dix-neuf entreprises extérieures, organisations commerciales, politiciens et organisations à but non lucratif ont présenté des arguments dans cette affaire.
Les cours de district et d'appel ont toujours statué en faveur des défendeurs qui recourent à cette stratégie. Les parties au litige ont cherché sans succès à obtenir réparation auprès des sociétés Internet pour avoir hébergé et diffusé des contenus terroristes et diffamatoires de tiers. Le Congrès a voulu que l'immunité au titre de l'article 230 préserve des communications solides et confère aux intermédiaires de l'information la responsabilité de retirer les communications préjudiciables.
Les objectifs sous-jacents découlaient de préoccupations liées au Premier Amendement et de considérations bureaucratiques ; cependant, cette approche est devenue une flèche stratégique dans les carquois de l'opposition.
Cependant, cette approche est devenue une flèche stratégique dans le carquois des entreprises du web qui cherchent à limiter leur responsabilité en permettant sciemment à des organisations terroristes étrangères d'exploiter les plateformes numériques pour recruter et menacer. Les BigTech ont ainsi saisi sur une loi créée pour promouvoir les communications internet pour protéger leurs entreprises de toute responsabilité pour avoir refusé d'éliminer toutes les vidéos et tous les messages.
Les avocats de la famille Gonzalez ont concentré leur argumentation sur les algorithmes de recommandation de YouTube, qui choisissent les vidéos que certains utilisateurs voient sur le site de vidéos. En recommandant spécifiquement les vidéos de l'État islamique, YouTube dépasserait les limites de ce qui est protégé par l'article 230, affirment-ils.
L'article 230, qui fait partie de la loi de 1996 sur la décence des communications, est considéré comme ayant contribué à l'essor des géants de la technologie grâce à ses protections en matière de responsabilité. Mais elle est également critiquée comme étant dépassée, ayant été rédigée avant qu'une grande partie du monde ne devienne dépendante de l'internet. Et bien qu'il s'agisse de l'un des rares sujets bipartisans au Congrès, les efforts pour le réviser ont échoué.
Le lendemain de l'audition de l'affaire Gonzalez par la Cour suprême, les juges se pencheront sur une affaire connexe, portée par des membres de familles de victimes d'attentats terroristes qui poursuivent des sociétés de médias sociaux pour avoir hébergé des contenus de l'État islamique. Google, d'autres entreprises technologiques et un grand nombre d'organisations de défense de la liberté de l'internet ont tous fait valoir que la réduction des protections offertes par la section 230 aurait un effet quasi apocalyptique sur l'internet.
Qu’en est-il de l'Europe ?
En mai 2016, les principales plateformes de contenus en ligne ont signé un code de conduite sur Internet, par lequel elles se sont engagées volontairement auprès de l'UE à respecter certaines prescriptions dans le but de retirer les contenus illicites d’Internet. Près de deux ans après cet engagement, en mars 2018, la Commission a décidé de renforcer l'action de l'UE contre ce type de contenu, en donnant de nouvelles consignes à Google, YouTube, Facebook et Twitter.
Il s'agissait entre autres, pour ces entreprises, de se doter d'outils plus efficaces et de technologies proactives pour détecter et supprimer tout contenu illicite ; s'engager dans une coopération plus étroite avec les autorités ; mais aussi aider les petites entreprises - qui n'ont pas les ressources ou l'expertise adéquates - en partageant par exemple avec elles des solutions technologiques, notamment des outils de détection automatique.
Parmi les types de contenu illicite, c'est celui à caractère terroriste qui préoccupe le plus l'UE. La Commission avait donc, pour cette question en particulier, demandé que les contenus signalés soient désormais retirés dans l'heure et non dans les 24 heures, comme pour les contenus incitant à la haine. « Le contenu à caractère terroriste en ligne représente un risque particulièrement grave pour la sécurité des Européens, et sa diffusion massive doit être traitée de toute urgence », expliquait la Commission européenne. Les entreprises du Net ont alors reçu un ultimatum de trois mois, pour faire des progrès sur la question, avant que l'UE envisage des mesures législatives.
Cependant, fin août 2018, le Financial Times a indiqué que la Commission européenne n'est pas satisfaite des efforts volontaires faits depuis lors par les plateformes en ligne. Pour cette raison, elle prépare une loi pour forcer ces entreprises à supprimer le contenu terroriste en ligne dans un délai d'une heure après signalement par la police et les autorités compétentes, ou faire face à des amendes lourdes (pouvant aller jusqu’à 4 % de leur chiffre annuel d’affaires).
En France, toujours en 2018, 44 organisations, des associations de défense des libertés, professionnels, hébergeurs et FAI associatifs, ont exhorté Macron à renoncer à un projet de règlement européen, qui pourrait porter préjudice à Internet.
Julian King, le commissaire européen chargé de la sécurité à cette date, avait déclaré au Financial Times que Bruxelles n’avait « pas assez progressé » en matière de retrait de contenu à caractère terroriste par les entreprises technologiques et « prendrait des mesures plus énergiques pour mieux protéger les citoyens » de l'UE. « Nous ne pouvons pas nous permettre d'être laxistes ou faire preuve de complaisance face à un phénomène aussi sombre et destructeur », a déclaré King.
Source : Google
Et vous ?
Quel est votre avis sur le sujet ?Voir aussi :
L'Europe prépare son projet de loi pour obliger les médias sociaux à supprimer les contenus terroristes dans l'heure, sous peine d'une lourde amende Un homme qui évalue les résultats de recherche Google a déclaré qu'il gagnait 3 $ de moins par heure que sa fille qui travaille dans la restauration rapide « Google est inefficace, rongé par la mauvaise gestion et paralysé par le risque », d'après Seshadri qui a rejoint Google en 2020 après le rachat de sa startup et a quitté l'entreprise en janvier Lutte antiterroriste : 44 organisations exhortent Macron à renoncer à un projet de règlement européen, qui pourrait porter préjudice à Internet 
