Détection des discours de haine (PrivHSD)

Encadrement par un chercheur de l’Université technique de Munich

• Le problème : ce défi se situe à la croisée de la détection du discours de haine (HSD) et de la protection de la vie privée, avec pour objectif ultime d’optimiser le compromis « vie privée-HSD », où le scénario idéal maximise les performances de la HSD tout en minimisant les atteintes à la protection de la vie privée. En utilisant des techniques et des indicateurs de pointe issus de ces deux domaines de recherche, nous mettons les participantes et les participants au défi d’innover pour que la HSD puisse continuer à fonctionner de manière aussi urgente que nécessaire, mais sans créer d’outils de ré-identification nuisibles. L’équipe qui parvient au meilleur compromis remporte la victoire !

  • L’objectif : innover en proposant une nouvelle méthode HSD qui fonctionne indépendamment de l’identité de l’auteur ou de l’autrice. Le but est de maximiser le «compromis entre confidentialité et HSD» — en atteignant des performances de détection élevées tout en minimisant la perte de protection de la vie privée.
  • Résultats attendus : un concept démontrable ou un prototype fonctionnel accompagné d’une note de recherche décrivant son architecture fondée sur les droits et ses fonctionnalités de préservation de la vie privée. L’équipe gagnante devra partager l’intégralité de ses résultats et participer à leur publication dans une revue scientifique.

Identification des comportements inauthentiques coordonnés (CIB)

Encadrement par un chercheur senior de l’Institute for Strategic Dialogue

• Le problème : le discours de haine est de plus en plus alimenté par des réseaux coordonnés « plus intelligents » plutôt que par le comportement organique des utilisatrices et utilisateurs.
• L’objectif : Développer un outil capable de détecter l’émergence du discours de haine sur différentes plateformes et différents comptes dans un laps de temps court. Le regroupement sémantique basé sur les grands modèles de langage (LLM) peut être utilisé à la place des requêtes basées sur des mots-clés pour regrouper les mentions en fonction de leur intention et de leur sens, plutôt que simplement en fonction d’un langage identique. Les participant·es devront inclure au moins une campagne ayant une dimension de genre (par exemple, harcèlement coordonné de femmes politiques ou de militantes) parmi leurs cas tests. Ce type de campagnes sexistes compte en effet parmi les formes les plus documentées de CIB, elles fournissent donc un repère concret quant à la pertinence de l’outil dans le monde réel. Un seuil important consistera à déterminer la frontière entre coordination et comportement organique provenant d’un grand nombre d’utilisatrices et utilisateurs authentiques.
• Résultat potentiel : résumé visualisable de groupes de récits dans un tableau de bord conçu pour être utilisé par des analystes ou des journalistes. Le tableau de bord devrait permettre un filtrage par groupe identitaire ciblé, y compris en fonction du genre.

Du signalement à la réponse : lutter contre la haine en ligne et la violence sexiste

Encadrement par un chercheur de Democracy Reporting International

• Le problème : Ce défi répond à un déficit de mise en œuvre pratique pendant les périodes électorales, lorsque des contenus préjudiciables sont souvent rencontrés en ligne mais restent difficiles à documenter, à évaluer et à signaler pour les acteurs institutionnels. Bien que des cadres juridiques et des mécanismes multipartites existent déjà, les voies de signalement sont souvent fragmentées, inégalement accessibles ou non conçues selon des critères sensibles au genre et aux risques électoraux. L’objectif est de permettre des réponses rapides, proportionnées et respectueuses des droits sans porter atteinte au débat politique légitime ni à la liberté d’expression.
• L’objectif : DRI invite les équipes à concevoir une solution technologique de signalement et d’orientation destinée principalement aux acteurs institutionnels, y compris, mais sans s’y limiter, les commissions électorales, les signaleurs/ signaleuses de confiance (trusted flaggers) et les équipes chargées de l’intégrité des plateformes. Plutôt que de se concentrer uniquement sur l’interface de signalement, la solution devrait permettre de transformer les signalements soumis par les utilisateurs et utilisatrices concernant des soupçons de discours de haine en ligne et de violence fondée sur le genre à l’encontre de femmes candidates et de candidat·es trans ou non-binaires en preuves structurées pouvant étayer la classification, l’évaluation, la hiérarchisation et une logique claire d’escalade ou de renvoi.
• Résultats attendus : les équipes devront  présenter un prototype/MVP, une maquette fonctionnelle ou une preuve de concept montrant comment les signalements de discours de haine en ligne et de violence fondée sur le genre en ligne seraient collectés, structurés, classés, hiérarchisés et transmis aux acteurs institutionnels concernés. Le résultat doit inclure une proposition de parcours utilisateur, les champs de données clés, les critères de classification et la logique de signalement/escalade.

Sortir des sentiers battus

Encadrement par un chercheur universitaire et un enseignant de l’Université de Strasbourg

• Le problème : Et si la lutte contre le discours de haine ne consistait pas seulement à supprimer les contenus préjudiciables, mais aussi à transformer les dynamiques sociales qui les produisent ? Le discours de haine en ligne constitue un problème sociétal croissant et complexe, qui affecte la cohésion sociale, la santé mentale et le discours démocratique. Alors que les solutions actuelles se concentrent principalement sur la détection et la suppression de contenus, elles ne parviennent souvent pas à saisir le contexte, ajoutent des biais de traitement ou ne donnent pas davantage de pouvoir aux utilisatrices et utilisateurs. Ce défi invite les participantes et participants à sortir des sentiers battus et à aller au-delà des approches traditionnelles de modération. Plutôt que de se concentrer uniquement sur la détection, les équipes sont encouragées à explorer de nouvelles façons de prévenir, contextualiser, contrer et transformer le discours de haine dans les environnements numériques.

• L’objectif : Concevoir une solution qui prévient, contextualise, combat ou transforme le discours de haine plutôt que de se contenter de les modérer. Les équipes sont encouragées à combiner technologie, design, politique et approches créatives, en ciblant tout groupe pertinent, des utilisatrices et utilisateurs des réseaux sociaux et modératrices et modérateurs de plateformes aux éducateurs, ONG ou reponsables politiques. Une approche intersectionnelle du travail, incluant le genre, l’âge, l’origine et/ou d’autres motifs de discrimination, est encouragée.

• Résultat attendu : un prototype fonctionnel ou un MVP sous n’importe quelle forme (application web ou mobile, interface d’aide à la modération, expérience éducative, cadre politique ou concept créatif ayant un impact social), accompagné d’une présentation de 5 minutes et d’un bref document conceptuel décrivant les choix de conception, la méthodologie et les considérations éthiques.