Facebook et manipulations électorales

Modérateur: Modérateurs et Modératrices

Facebook et manipulations électorales

Messagede pierre » 14 09 2018

Bonjour,

Législatives américaines de novembre et ingérence sur FR pour peser :

Mark Zukerberg déclare que, grâce aux machines (intelligence artificielle), le géant américain bloque désormais des « millions de faux comptes chaque jour », a expliqué Mark Zuckerberg sur sa page Facebook.

Après ses piratages, ses comptes remis à des officines d'informations/désinformations/influences, ses millions de comptes russes durant l'élection de 2016, etc. et ses 25% de pertes de comptes américains, la valeur de l'action Facebook qui a plongé, etc. Zukerberg parle beaucoup.

Nous avons appris, nous apprenons, nous dépensons beaucoup, nous faisons mieux, etc.
Nous sommes les plus gros, mais les attaques et usages dévoyés de FB viennent de gars qui ne vont pas lâcher le morceau...

Se préparer aux élections
Mark Zuckerberg • Mercredi 12 septembre 2018
En 2018, je me suis concentré sur les problèmes les plus importants auxquels fait face Facebook, notamment la défense contre les ingérences électorales, une meilleure protection de notre communauté contre les abus et un contrôle accru des informations par les utilisateurs. À la fin de l'année, j'écris une série de notes expliquant comment je pense à ces problèmes et aux progrès que nous réalisons. Ceci est la première note et concerne la prévention des ingérences électorales sur Facebook.
Ce sont des problèmes incroyablement complexes et importants, et cette année a été intense. J'apporte la même attention et la même rigueur à la résolution de ces problèmes que j'ai apportés aux précédents défis produits, tels que le transfert de nos services vers le mobile. Ces problèmes sont encore plus difficiles parce que les gens ne s'entendent pas sur ce à quoi ressemble un bon résultat ou sur les compromis acceptables. En ce qui concerne la libre expression, les personnes réfléchies parviennent à des conclusions différentes sur le juste équilibre. En ce qui concerne la mise en œuvre d'une solution, certains investisseurs ne sont certainement pas d'accord avec mon approche consistant à investir autant dans la sécurité.
Nous avons beaucoup de travail à faire, mais je suis confiant que nous terminerons cette année avec des approches beaucoup plus sophistiquées que nous avons commencé, et que l’attention et les investissements que nous avons faits seront meilleurs pour notre communauté et le monde à long terme. .
Vue d'ensemble
L'un de nos principes fondamentaux est de donner la parole aux gens. C'est pourquoi tout le monde peut poster ce qu'il veut sans avoir à demander la permission en premier. Nous croyons également profondément au pouvoir de la connexion. Lorsque les gens peuvent se connecter, ils peuvent créer des communautés autour d'intérêts partagés, où qu'ils vivent dans le monde.
Mais nous avons également vu comment les gens peuvent abuser de nos services, y compris pendant les élections. Notre responsabilité est d'amplifier le bien et d'atténuer les dommages.
En 2016, nos efforts en matière de sécurité électorale nous ont préparés à des cyberattaques traditionnelles telles que le phishing, les logiciels malveillants et le piratage. Nous avons identifié celles-ci et en avons informé le gouvernement et les personnes concernées. Nous ne nous attendions pas à ce que des acteurs étrangers lancent des opérations d'information coordonnées avec des réseaux de diffusion de faux comptes et de désinformation.
Aujourd'hui, Facebook est mieux préparé à ces types d'attaques. Nous avons identifié et supprimé les faux comptes avant les élections en France, en Allemagne, en Alabama, au Mexique et au Brésil. Nous avons découvert et détruit des campagnes d'influence étrangère de Russie et d'Iran qui tentaient de s'ingérer aux États-Unis, au Royaume-Uni, au Moyen-Orient et ailleurs, ainsi que des groupes au Mexique et au Brésil actifs dans leur pays. Nous avons attaqué les incitations économiques pour propager la désinformation. Nous avons collaboré plus étroitement avec les gouvernements - notamment en Allemagne, aux États-Unis et au Mexique - pour améliorer la sécurité lors des élections. Et nous avons établi une nouvelle norme en matière de transparence dans le secteur de la publicité - afin que les annonceurs soient responsables des annonces qu'ils diffusent. Les experts en sécurité appellent cela "la défense en profondeur" car aucune tactique ne va empêcher tous les abus.
Bien que nous ayons progressé régulièrement, nous sommes confrontés à des adversaires sophistiqués et bien financés. Ils n'abandonneront pas et ils continueront à évoluer. Nous devons constamment nous améliorer et garder une longueur d'avance. Cela nécessitera des investissements importants et continus en matière de sécurité, ainsi qu'une coopération étroite avec les gouvernements, le secteur de la technologie et les experts en sécurité, car aucune institution ne peut résoudre ce problème par elle-même.
Dans cette note, je décrirai les principaux efforts sur lesquels nous nous sommes concentrés, ce que nous avons découvert et appris au cours des deux dernières années et ce que nous devons faire de plus pour protéger les élections libres et équitables la démocratie.

Faux comptes
L'un de nos efforts les plus importants consiste à trouver et à supprimer les faux comptes. Nous avons constaté que les faux comptes sont à l’origine de la plupart des abus de nos services, y compris pendant les élections.
Avec les progrès de l'apprentissage automatique, nous avons maintenant construit des systèmes qui bloquent des millions de faux comptes chaque jour. Au total, nous avons supprimé plus d’un milliard de faux comptes - la grande majorité en quelques minutes après avoir été créés et avant qu’ils ne puissent causer des dommages - dans les six mois entre octobre et mars. Vous pouvez suivre nos progrès dans la suppression des faux comptes grâce à notre rapport de transparence.
Comme la plupart des problèmes de sécurité, il s’agit d’une course aux armements. Les chiffres sont si grands que nos adversaires utilisent des ordinateurs pour créer de faux comptes en vrac. Et tandis que nous améliorons rapidement notre capacité à les détecter et à les bloquer, il est toujours très difficile d’identifier les acteurs les plus sophistiqués qui construisent leurs réseaux manuellement, un seul faux compte à la fois. C'est pourquoi nous avons également embauché beaucoup plus de gens pour travailler sur la sécurité et la sûreté - passant de 10 000 l'année dernière à plus de 20 000 personnes cette année.
Les opérations d'information que nous avons vues, y compris pendant les élections de 2016, utilisent généralement des réseaux de faux comptes pour diffuser leurs messages tout en cachant leur véritable identité. De plus en plus, nous voyons également nos adversaires cooptant des comptes légitimes dans le but de mieux cacher leur activité. En travaillant ensemble, ces réseaux de comptes se renforcent mutuellement, donnant l’impression qu’ils ont un soutien plus étendu qu’ils ne le font réellement. Par exemple, nous avons récemment identifié et supprimé plusieurs faux comptes impliqués dans la promotion d'un événement de protestation légitime sur Facebook, affirmant qu'ils étaient présents et encourageant les autres à faire de même.
L'un des défis auxquels nous sommes confrontés est que le contenu que ces pages partagent ne viole pas nos normes communautaires - les règles qui régissent ce qui est autorisé sur Facebook. Dans l'exemple ci-dessus, l'événement aurait été autorisé dans le cadre de nos politiques, tout comme encouragerait les autres à y assister. Cela était clairement problématique, et la violation était que les comptes impliqués étaient inauthentiques. Dans un autre exemple, une campagne que nous avons trouvée a tenté de semer la division en créant des pages à la fois pour l'immigration et pour l'immigration. Encore une fois, bon nombre des articles publiés sur ces pages étaient similaires aux publications de militants de l'immigration légitimes, mais ils étaient clairement problématiques dans le cadre d'une campagne coordonnée inauthentique.
L'identification et la suppression de ces campagnes sont difficiles car la quantité d'activité sur nos services est très importante. Dans ces cas-là, nous sommes généralement convaincus que nous devons examiner les activités suspectes: elles sont signalées par nos systèmes techniques ou détectées par notre équipe de sécurité, les forces de l’ordre ou un expert en sécurité externe. Si nous trouvons des comptes qui semblent suspects, nous les examinons pour voir quels autres comptes et pages avec lesquels ils ont interagi. Au cours d'une enquête, nous essayons d'identifier le réseau complet de comptes et de pages impliqués dans une opération afin que nous puissions tous les traiter immédiatement. Nous impliquerons souvent le gouvernement et d'autres entreprises et, si possible, nous en parlerons au public. Bien que nous voulions agir rapidement lorsque nous identifions une menace, il est également important d’attendre que nous découvrions le plus possible le réseau avant de réduire les comptes afin d’éviter de faire basculer nos adversaires qui, autrement, prendraient des mesures supplémentaires pour couvrir leur solde. des pistes. Et, idéalement, nous prévoyons que ces opérations entraînent une perturbation maximale de leurs opérations.
Au cours de l’année dernière, comme nous sommes devenus plus efficaces, nous avons identifié et mis en place des campagnes d’information coordonnées dans le monde entier, notamment:
• Nous avons constaté que l’Institut de recherche sur l’Internet (IRA) s’était essentiellement concentré sur la manipulation des personnes en Russie et dans d’autres pays russophones. Nous avons supprimé un réseau de plus de 270 pages et comptes, y compris les pages officielles des organisations de presse approuvées par l’Etat russe, que nous avons déterminé être contrôlées et exploitées par l’IRA.

• Nous avons trouvé un réseau basé en Iran avec des liens avec des médias d’État iraniens qui tentent de diffuser de la propagande aux États-Unis, au Royaume-Uni et au Moyen-Orient, et des centaines de comptes, de pages et de groupes médias sponsorisés.
• Nous avons récemment supprimé un réseau de comptes au Brésil qui dissimulait son identité et diffusait des informations erronées avant les élections présidentielles du pays en octobre.
• Bien que cela ne soit pas directement lié aux élections, nous avons identifié et supprimé une campagne coordonnée au Myanmar par les militaires pour diffuser de la propagande.
Nous savons que nous avons encore du travail pour améliorer la précision de nos systèmes. Les faux comptes continuent à passer inaperçus - et nous commettons également une erreur dans l'autre sens en prenant à tort les gens qui utilisent nos services de manière légitime. Ces systèmes ne seront jamais parfaits, mais en investissant dans l’intelligence artificielle et plus de personnes, nous continuerons à nous améliorer.
Un avantage de Facebook est que nous avons pour principe que vous devez utiliser votre véritable identité. Cela signifie que nous avons une notion claire de ce qu'est un compte authentique. C'est plus difficile avec des services comme Instagram, WhatsApp, Twitter, YouTube, iMessage ou tout autre service pour lequel vous n'avez pas besoin de fournir votre véritable identité. Donc, si le contenu partagé ne viole aucune politique, ce qui est souvent le cas, et que vous n'avez aucune idée claire de ce qui constitue un faux compte, cela rend l'application plus difficile. Heureusement, nos systèmes sont partagés, de sorte que lorsque nous trouvons de mauvais acteurs sur Facebook, nous pouvons également supprimer des comptes qui y sont liés sur Instagram et WhatsApp. Et lorsque nous pouvons partager des informations avec d’autres sociétés, nous pouvons également les aider à supprimer de faux comptes.

Désinformation
Les faux comptes sont l'un des principaux vecteurs de propagation de la désinformation, en particulier de la désinformation et de la propagande à motivation politique. Cependant, nous avons constaté que la désinformation se propage de trois manières principales:
• par de faux comptes, y compris pour des raisons politiques;
• Par des spammeurs, pour des raisons économiques, comme celles qui ont été écrites en Macédoine; et
• Par des gens ordinaires, qui souvent ne savent pas qu'ils diffusent des informations erronées.
Au-delà des élections, la désinformation susceptible d’inciter à la violence dans le monde réel a été l’une des questions les plus difficiles auxquelles nous avons été confrontés. Dans les endroits où la désinformation virale peut contribuer à la violence, nous la supprimons maintenant. Dans d'autres cas, nous nous efforçons de réduire la distribution de la désinformation virale plutôt que de la supprimer complètement.
La désinformation motivée par des considérations économiques est un autre défi susceptible d’affecter les élections. Dans ces cas, les spammeurs inventent des déclarations sensationnalistes et les diffusent sur Internet dans l’espoir que les internautes cliquent dessus et qu’ils gagneront de l’argent à côté des annonces. C'est le même modèle de gestion que les spammeurs utilisent depuis longtemps, et les techniques que nous avons développées au fil des années pour lutter contre les spammeurs s'appliquent également ici.
L'essentiel est de perturber leurs incitations économiques. Si nous les empêchons de gagner de l'argent, ils iront généralement faire autre chose. C'est pourquoi nous bloquons toute personne ayant diffusé à plusieurs reprises des informations erronées en utilisant nos annonces pour gagner de l'argent. Nous réduisons également de manière significative la distribution de toutes les pages qui ont à plusieurs reprises diffusé des informations erronées et du spam. Ces mesures rendent plus difficile le maintien de la rentabilité du spam dans notre communauté.
La troisième grande catégorie de désinformation est partagée par les gens ordinaires dans leur utilisation normale de nos services. C'est particulièrement difficile à gérer, car nous ne pouvons pas l'arrêter en amont, comme nous le pouvons en supprimant les faux comptes ou en empêchant les spammeurs d'utiliser nos annonces. Au lieu de cela, lorsqu'un message est signalé comme potentiellement faux ou viral, nous le transmettons aux contrôleurs indépendants pour examen. Tous les vérificateurs que nous utilisons sont certifiés par le Réseau international de vérification des faits non partisan. Les publications considérées comme fausses sont rétrogradées et perdent en moyenne 80% de leurs vues futures.
Prenant ensemble ces stratégies, notre objectif en matière de désinformation pour les élections est de nous assurer que peu, voire aucun, des principaux liens partagés sur Facebook ne seront des canulars viraux.

Transparence et vérification des annonces publicitaires
La publicité permet à un message d'atteindre de nombreuses personnes. Il est donc particulièrement important que les annonceurs soient tenus responsables de ce qu'ils promeuvent et que les faux comptes ne soient pas autorisés à faire de la publicité.
À la suite des changements que nous avons apportés cette année, Facebook offre désormais un niveau de transparence des annonces plus élevé que celui des annonces télévisées ou dans les journaux. Vous pouvez voir toutes les annonces d'un annonceur, même si elles ne vous ont pas été présentées. En outre, toutes les publicités politiques et thématiques aux États-Unis doivent indiquer clairement qui les a payées. Et toutes ces publicités sont placées dans une archive publique que tout le monde peut rechercher pour voir combien d'argent a été dépensé pour une annonce individuelle et pour l'audience atteinte.
Cette transparence sert à plusieurs fins. Les gens peuvent voir quand les publicités sont payées par un groupe PAC ou un groupe tiers autre que le candidat. C'est maintenant plus évident quand les organisations disent des choses différentes à différents groupes de personnes. En outre, les journalistes, les chiens de garde, les universitaires et autres peuvent utiliser ces outils pour étudier des publicités sur Facebook, signaler des abus et tenir les annonceurs politiques et responsables responsables du contenu qu'ils diffusent.
Nous exigeons maintenant que toute personne faisant de la publicité politique ou publiant des annonces aux États-Unis vérifie leur identité et leur emplacement. Cela empêche en Russie, par exemple, d'acheter des publicités politiques aux États-Unis, ce qui constitue un obstacle supplémentaire pour les personnes qui tentent de cacher leur identité ou leur emplacement en utilisant de faux comptes.
L'un des défis auxquels nous avons été confrontés lors du développement de cette politique est que la plupart des publicités conflictuelles diffusées par Internet Research Agency en 2016 étaient axées sur des questions telles que les droits civils ou l'immigration et ne faisaient pas la promotion de candidats spécifiques. Pour attraper ce comportement, nous avions besoin d'une définition large de ce qui constitue une annonce de problème. Et comme de nombreuses publicités touchent à ce type de problèmes, nous exigeons maintenant que de nombreuses entreprises légitimes soient vérifiées, même lorsque leurs annonces ne sont pas réellement politiques. Étant donné que le processus de vérification prend quelques jours, cela est frustrant pour de nombreuses entreprises qui comptent sur nos annonces pour accroître leurs ventes.
En décidant de cette politique, nous avons également discuté de l'opportunité d'interdire complètement les publicités politiques. Au départ, cela semblait simple et attrayant. Mais nous avons refusé - pas à cause de l’argent, car ce nouveau processus de vérification est coûteux et nous ne réalisons plus aucun profit significatif sur les annonces politiques - mais parce que nous croyons en la possibilité de donner une voix aux gens. Nous ne voulions pas retirer un outil important que de nombreux groupes utilisent pour s'engager dans le processus politique.

Commission indépendante de recherche électorale
Je veux m'assurer que nous faisons tout notre possible pour comprendre les différentes manières dont les adversaires peuvent abuser de nos services - ainsi que l'impact de ces services sur les élections et la démocratie en général. Peu importe combien nous creusons ou quelle est notre impartialité, nous reconnaissons les avantages d’une analyse indépendante pour comprendre tous les faits et nous assurer que nous sommes responsables de notre travail.
Pour ce faire, nous avons créé une commission de recherche électorale indépendante au début de l’année avec des universitaires et des fondations. Son rôle consiste à identifier des sujets de recherche et à sélectionner, par le biais d'un processus d'évaluation par les pairs, des recherches indépendantes pour les étudier. La commission partagera les données de Facebook avec ces chercheurs afin qu'ils puissent tirer leurs propres conclusions sur notre rôle dans les élections, y compris notre efficacité dans la prévention des abus, afin qu'ils puissent publier leur travail sans avoir besoin de notre approbation. Nous avons collaboré avec des experts de l'industrie pour nous assurer que cela respecte la confidentialité de chacun.
Notre objectif n'est pas seulement d'améliorer notre propre travail sur les élections et le discours civique, mais aussi de créer un nouveau modèle sur la manière dont les universitaires peuvent travailler avec le secteur privé. Comme la presse l'a rapporté, nous avons eu de sérieux problèmes avec les universitaires en utilisant les données de nos services, y compris plus récemment la situation impliquant le chercheur Alexandr Kogan de l'Université de Cambridge et Cambridge Analytica. Quelques années auparavant, nous avons été préoccupés par les recherches effectuées en interne pour déterminer si les réseaux sociaux rendent les gens plus heureux ou plus déprimés.
À la suite de ces controverses, les employés de Facebook se sont beaucoup inquiétés de permettre aux chercheurs d’accéder aux données. Finalement, j'ai décidé que les avantages de permettre ce type de recherche universitaire l'emportaient sur les risques. Mais nous consacrons des ressources importantes à la réalisation de cette recherche dans le respect de la vie privée et dans le respect des normes éthiques les plus strictes. À plus long terme, j'espère que ce type de recherche bénéficiera d'un large soutien et deviendra un programme plus vaste couvrant davantage de domaines dans les années à venir.


Coordonner avec les gouvernements et les entreprises
Prévenir les ingérences électorales est plus important que toute autre organisation. Il est maintenant clair que tout le monde - les gouvernements, les entreprises de technologie et les experts indépendants tels que le Conseil de l'Atlantique - doivent mieux partager les signaux et les informations dont ils disposent pour prévenir les abus. La coordination est importante pour plusieurs raisons:
Premièrement, les mauvais acteurs ne se limitent pas à un seul service. Nous ne pouvons donc pas aborder le problème dans des silos. Si un acteur étranger mène une campagne d'information coordonnée en ligne, il utilisera presque certainement plusieurs services Internet différents. Et au-delà, il est important de se rappeler que les tentatives de manipulation de l'opinion publique ne sont pas la seule menace à laquelle nous sommes confrontés. Les cyberattaques traditionnelles restent un problème majeur pour tout le monde, et de nombreuses démocraties risquent d’être victimes d’attaques sur des infrastructures électorales critiques telles que des machines à voter. Plus nous pouvons partager les informations, mieux chaque organisation sera préparée.
Deuxièmement, il existe certains signaux critiques auxquels seules les forces de l'ordre ont accès, comme les flux monétaires. Par exemple, nos systèmes rendent beaucoup plus difficile la création de faux comptes ou l’achat d’annonces politiques en dehors du pays. Mais il serait toujours très difficile, sans renseignement supplémentaire, que Facebook ou d'autres personnes déterminent si un adversaire étranger a créé une société aux États-Unis, y ont transféré de l'argent, enregistré un compte authentique sur nos services et acheté des publicités américaines. . Il est possible que nous trouvions cela nous-mêmes, car il y a souvent plusieurs façons d'identifier les mauvais acteurs. Cependant, ceci est un exemple où une coordination plus étroite avec d'autres organisations serait très utile.
Notre coordination avec les gouvernements et l’industrie aux États-Unis est beaucoup plus forte qu’elle ne l’était en 2016. Nous apprécions tous davantage les menaces, de sorte que tout le monde est incité à travailler ensemble. Et dans des pays comme l'Allemagne, par exemple, nous avons partagé des informations directement avec le gouvernement pour améliorer la sécurité lors des élections de l'année dernière. Mais de vraies tensions existent toujours. Par exemple, si les services de détection et de répression suivent l'activité publique d'un prospect sur les réseaux sociaux, ils peuvent être réticents à partager ces informations avec nous en cas de suppression du compte.
Le dernier point que je vais soulever est que nous sommes tous ensemble. La définition du succès est que nous arrêtons les cyberattaques et que nous coordonnons les opérations d’information avant de pouvoir causer des dommages. Alors que je préférais toujours Facebook identifier les abus d'abord, cela ne sera pas toujours possible. Parfois, nous ne trouvons que des activités avec des conseils de gouvernements, d’autres sociétés de technologie ou de journalistes. Nous devons créer une culture dans laquelle l’arrêt de ces menaces est ce qui constitue le succès - et non l’origine des informations révélant l’attaque. Pour la complexité des défis à venir, c'est la meilleure voie à suivre.


Conclusion
En 2016, nous n'étions pas préparés aux opérations d'information coordonnées auxquelles nous sommes confrontés régulièrement. Mais nous avons beaucoup appris depuis et avons développé des systèmes sophistiqués qui combinent la technologie et les personnes pour empêcher l’ingérence électorale sur nos services.
Cet effort s'inscrit dans le cadre d'un défi plus vaste consistant à retravailler une grande partie de la façon dont Facebook opère pour être plus proactif en ce qui concerne la protection de notre communauté contre les préjudices et une vision plus large de nos responsabilités.
L'une des leçons importantes que j'ai apprises est que lorsque vous créez des services qui connectent des milliards de personnes à travers les pays et les cultures, vous allez voir toute la bonne humanité, et vous allez aussi voir des gens essayer. abuser de ces services de toutes les manières possibles.
À mesure que nous évoluons, nos adversaires évoluent également. Nous devrons tous continuer à nous améliorer et à travailler ensemble pour rester en tête et protéger notre démocratie.


Cordialement,
Avatar de l’utilisateur
pierre
 
Messages: 23438
Inscription: 20 05 2002
Localisation: Ici et maintenant

Retourner vers Éditoriaux Actualités

Qui est en ligne

Utilisateurs parcourant ce forum: Aucun utilisateur enregistré et 1 invité