Facebook : un dispositif pour prévenir les suicides incompatible avec le RGPD

Facebook veut mettre à profit ses technologies de surveillance au profit du bien et annonce aujourd’hui le lancement d’un mécanisme de détection des comportements suicidaires sur son réseau social. Cet outil était déjà déployé aux États-Unis depuis le mois de mars, mais Facebook annonce vouloir l’étendre au reste du monde.


La technique employée par le réseau social ne surprendra pas grand monde : Facebook procède à l’analyse automatisée des contenus postés par les utilisateurs sur sa plateforme. Facebook explique disposer de technologies en mesure de reconnaître les comportements et publications pouvant laisser entendre qu’un utilisateur envisage de passer à l’acte. À titre d’exemple, les outils automatisés de Facebook sont ainsi capables de détecter les commentaires tels que « Est-ce que tu as besoin d’aide ? » ou « Est-ce que tout va bien ? » postés sur certains contenus par les proches.

 

Lorsque l’algorithme détecte ce type de cas de figure, le profil de l’utilisateur est transmis à une équipe de modérateurs dédiés à ces situations au sein de Facebook. Cette équipe compte « des milliers de personnes à travers le monde » précise Facebook, et se charge de déterminer quelle est la réponse la plus appropriée : les modérateurs peuvent ainsi envoyer une pop up sur le compte de la personne identifiée afin de la pousser à contacter un ami, la rediriger directement vers une ligne de prévention dédiée telle que SOS Suicide, ou dans le cas des États-Unis, contacter directement les secours afin d’agir sur les cas demandant une action rapide.


Après une première période de tests concluants sur le sol américain, où les équipes de Facebook sont intervenues auprès d’une centaine d’utilisateurs, Facebook a maintenant décidé d’étendre le dispositif au reste du monde. Ou presque : l’Europe ne disposera pas de ce mécanisme, Facebook invoquant l’arrivée imminente du RGPD (règlement sur les données personnelles) comme la raison de cette exception.

Facebook ne donne pas de détails sur les parties exactes du mécanisme qui risqueraient d’être incompatibles avec le RGPD. Le doute est vite levé quand on sait que le dispositif déployé par Facebook ne s’embarrasse pas du consentement de l’utilisateur, qui est pourtant un des principes centraux du Règlement européen sur la protection des données personnelles.

  • A lire, notre dossier complet

ZDNet