Comment protégeons-nous nos utilisateurs sur Yubo ?

De nombreux articles de presse sont récemment sortis en France au sujet de notre application Yubo. Ils contiennent des informations incorrectes qui peuvent mener à des incompréhensions et des amalgames. Nous souhaitons avoir un droit de réponse sur tous les sujets de modération liés à notre application.

Nous avons toujours été transparents sur la manière dont nous travaillons et modérons l’application.

De nombreuses associations comme la NSPCC en Grande-Bretagne ont salué notre travail sur la modération et ont montré publiquement que nous allions plus loin que des plateformes comme Snapchat, Instagram ou Youtube.

John Carr, l’un des experts les plus renommés au monde a écrit sur Yubo :

“Les législateurs devraient prendre acte de l’approche de Yubo (…) C’est une manière brillante de montrer en quoi la technologie peut être utilisée au service de la sécurité des utilisateurs et le plus grand nombre.”

Un peu de contexte:

Yubo est un réseau social français avec plus de 20 millions d’utilisateurs. Yubo permet de se faire des amis dans le monde entier. L’application a été créée en 2015 et rencontre un fort succès aux Etats-Unis, en Grande-Bretagne et dans les pays nordiques.

Sur l’application, il est possible de faire des live vidéos à 10 “streamers” maximum et des spectateurs. Les lives vidéos sont des espaces de discussions, d’échanges, de rencontres amicales, une manière d’ouvrir ses horizons et de ne pas sombrer dans une consommation passive des réseaux sociaux.

Nous pensons que les réseaux sociaux actuels enferment leurs utilisateurs et ne leur permettent pas de se faire de vrais amis. De nombreuses études montrent que la génération Z se sent de plus en plus seule alors qu’elle est paradoxalement de plus en plus “connectée”. Elle est soumise à des logiques de performance (likes, commentaires, etc.) et à un stress important.

C’est ainsi que nous entendons répondre à ce nouveau besoin de la génération Z qui ne parvient plus à tisser des amitiés réelles. C’est notre vision à long-terme : recréer du lien à l’heure des réseaux sociaux.

La modération, c’est notre métier :

Nous n’envisageons pas de réinventer la manière de se faire des amis sans créer un environnement sécurisé pour notre communauté.

Au fil des années, nous avons mis en place une politique de modération stricte et construit des technologies innovantes pour adresser de la manière la plus efficace la publication de contenus inappropriés sur la plateforme.

Nous tâchons d’améliorer en permanence notre application et prenons en compte les retours de tous nos interlocuteurs. C’est la raison pour laquelle nous sommes dans un dialogue permanent avec des associations, gouvernements, parents et utilisateurs.

La BBC a récemment consacré un reportage sur Yubo pour saluer notre travail sur les 2 dernières années.

Nous avons développé des algorithmes pour détecter tout type de contenus inappropriés. Nous modérons également en temps réel les lives vidéos dans lesquels nous intervenons si nécessaire.

Exemple d’alertes de modération envoyées sur les lives

Pour info, nous retirons, outre les contenus inappropriés « classiques »:

• Les photos / videos torse nus
• Le racisme, les discours haineux
• La drogue
• L’automutilation
• La violence, cruauté aux animaux
• Les armes, etc.
• Les faux profils

Enfin, nous développons en ce moment un partenariat avec l’application Yoti pour permettre:

• D’identifier les utilisateurs de moins de 13 ans pour les retirer de la plateforme grâce à une technologie de reconnaissance d’âge
• À nos utilisateurs de s’identifier sur la plateforme avec leur carte d’identité pour avoir un badge spécial.
• D’imposer aux comptes jugées “suspicieux” de vérifier leur identité et leur âge.

SIGNALEMENTS ET BLOCAGES

Nous encourageons tous nos utilisateurs à signaler les contenus ou comportements inappropriés ou n’importe quelle inquiétude qu’ils pourraient avoir à propos d’un utilisateur. Il est très simple de le faire sur l’application. Tous les signalements sont traités par notre équipe. Les utilisateurs, parents ou associations peuvent facilement nous contacter sur www.support.yubo.live ou aller sur notre centre de sécurité sur www.safety.yubo.live

DÉTECTION D’IMAGES ET MODÉRATION DES TEXTES

• Yubo utilise des logiciels de modération pour détecter de manière automatique tout contenu ou profil inapproprié. Tout contenu suggestif est immédiatement supprimé.
• Une équipe de modérateurs veille et analyse tous les contenus et profils signalés par notre communauté 7 jours sur 7 et 24 heures sur 24.
• Nous venons de sortir un algorithme pour modérer les textes, biographies, commentaires de live et nom d’utilisateurs.

COLLABORATION CONTINUE AVEC LES POLICES DU MONDE ENTIER

Yubo collabore avec les forces de l’ordre à travers le monde lorsque cela est nécessaire. Une collaboration avec PHAROS est en place depuis 2 ans. Cela fonctionne de 2 manières:

• Nous fournissons les données nécessaires lorsque cela est requis
• Nous pouvons signaler de manière proactive des comptes suspicieux ou ayant commis des actes répréhensibles.

RÉPONDRE AUX INQUIÉTUDES DES PARENTS

Les parents des utilisateurs peuvent nous contacter à tout moment. Un formulaire leur est dédié sur notre centre de sécurité. Nous répondons à leurs questions en moins de 24h.

Nous avons également développé un guide à l’usage des parents afin qu’ils comprennent comment notre application fonctionne et comment ils peuvent mieux informer leurs enfants sur l’utilisation des réseaux sociaux.

COMITÉ DE SURVEILLANCE

Il y a plus de 6 mois, nous avons créé un comité de surveillance composé d’experts reconnus dans le monde de la protection des utilisateurs. Il est composé d’éducateurs, de psychologues et de membres d’associations. Ce comité nous conseille sur les bonnes pratiques du secteur et nous éclaire sur la meilleure manière de protéger nos utilisateurs.

• Annie Mullins, conseillère spécialisée dans la protection des adolescents en ligne;
• Anne Collier, Net Family news, membre du conseil de surveillance de Snapchat et Facebook;
• John Carr, UNICEF, conseiller du gouvernement anglais;
• Alex Holmes, Directeur adjoint du Diana Awards, membre du conseil de surveillance de Twitter;
• Mickael Moran, Ancien directeur d’Interpol;
• Dr. Richard Graham, Psychiatre spécialisé dans les réseaux sociaux;

Pour en savoir plus:

Working with Teens Responsibly https://medium.com/@Yubo_app_safe/working-with-teens-responsibly-d35d15d7f7f1

Live Interventions https://medium.com/@Yubo_app_safe/real-time-intervention-on-social-video-yubo-takes-the-lead-to-reduce-risks-to-young-people-356ca243fc2a

BBC: https://www.bbc.com/news/av/technology-47156847/how-to-moderate-online-content

Centre de sécurité: http://safety.yubo.live