Radar App : l'application qui repère les tweets suicidaires fait débat

L'association caritative britannique Samaritans a lancé, mercredi 29 octobre, une application dont la mission est de détecter les messages à connotation suicidaire sur Twitter. Partant d'une bonne intention, ce projet n'en est pas moins un véritable champ de mine concernant les questions éthiques et légales.

Comment ça marche ?

Lancée mercredi 29 octobre par l'association caritative britannique Samaritans, la première en matière de prévention du suicide du pays, cette nouvelle application a pour but de détecter les messages suicidaires de ses contacts sur Twitter. Gratuite, « Radar App » (c'est son nom), repose sur un algorithme chargé de repérer des mots et expressions clé tels que : « fatigué d'être seul », « je me déteste », « déprimé », « besoin de parler à quelqu'un » ou bien « aidez-moi ». Destinée à tout le monde, mais plus particulièrement aux 18-35 ans (la tranche d'âge la plus active sur les réseaux sociaux), cette application espère pouvoir participer à la prévention du suicide.

En effet, si l'application détecte un message inquiétant, elle envoie alors un e-mail aux « amis » de la personne à l'origine du tweet ayant téléchargés la « Radar App ». L'e-mail comprend le tweet concerné ainsi que des explications sur comment il est possible d'aider une personne en souffrance. La réaction des personnes alertées dépend bien évident de la relation que celles-ci entretiennent avec le contact ciblé (n'oublions pas que Twitter est un réseau social), mais l'espoir que nourrit Samaritans est que ces personnes en souffrance pourront réaliser qu'elles ne sont pas seules.

Les créateurs de cette application sont conscients que cela peut placer une certaine pression sur les épaules des personnes équipées de ce « radar » et les mettre dans une situation délicate. L'association affirme cependant qu'elle « considère que les personnes qui ont téléchargé le « Samaritans Radar » se préoccupe vraiment du bien-être de leurs amis sur Twitter, et prendront des mesures si jamais ils reçoivent une alerte ».

Twitter : des messages à n'en plus finir

Au Royaume-Uni, Twitter compte plus de 15 millions d'utilisateurs actifs. L'association affirme avoir ciblé son action sur ce réseau social à cause de la manière dont les utilisateurs y expriment leurs sentiments. De plus, aucun problème de récolte de données n'est à envisager, Twitter étant utilisé comme un forum public. Ainsi, selon Samaritans, plus de 67 % de la Génération Y (la génération "connectée") se servent de Twitter pour partager des pensées banales et aléatoires. « Nous savons que les personnes qui souffrent vont souvent en ligne pour trouver de l'aide », affirme Joe Ferns, l'un des responsables de l'association. « Nous avons besoin d'instruments comme le Samaritans Radar pour encourager les gens à faire attention les uns aux autres en ligne, les aider à chercher et à trouver de l'aide ».

Une étude conduite en 2013 par des informaticiens de l'Université Brigham Young (États-Unis), et publiée dans le journal Crisis,a conclu que les plateformes sociales pouvaient servir de systèmes d'alertes anticipés concernant les suicides. En effet, après avoir examiné des millions de tweets venant des 50 états américains, les chercheurs ont trouvé une corrélation entre le ratio de messages suicidaires de chaque état et le taux de suicide réel. L'étude suggérait alors d'utiliser Twitter comme outil de prévention face au suicide.

Une application qui ne convainc pas tout le monde

Suite à l'annonce du lancement de l'application, des utilisateurs se sont plaints que celle-ci représentait une invasion de leur vie privée, car l'application ne requérait pas leur permission pour scanner leurs tweets (bien que tous les messages publiés sur Twitter font parti de l'espace public). Ceux-ci en ont appelé à la création d'une option leur permettant de refuser que leurs tweets soient analysés par l'application, menaçant d'arrêter de poster des messages dans le cas contraire. Ces utilisateurs ont également avancé l'argument que l'application pouvait rendre plus visibles des personnes fragiles aux yeux de personnes, elles, mal intentionnées.

Pour Joe Sterns, l'auto-censure serait un résultat décevant de l'application. Il insiste sur le fait que le but du « Radar App » n'est pas de surveiller les gens mais de participer à une action préventive, face à des personnes en difficulté. Pour le moment, l'association a déclaré n'avoir aucune intention de développer une option permettant aux utilisateurs de Twitter de se soustraire au Radar (« opt-out mechanism » en anglais), mais une fonction permettant aux organisation jugées « sans risque » de ne pas être pris en compte est déjà disponible. Potentiellement applicable pour les individus, la manière dont cela serait fait n'est pas encore connue. De nombreux spécialistes ont, eux aussi, mis en avant des soucis légaux quant à la mise en place de cette application (notamment concernant l'analyse de données sans l'accord des auteurs).

Pour l'heure, seul Twitter est concerné par la « Radar App », mais l'application pourrait s'appuyer à l'avenir sur d'autres réseaux sociaux. Près de 1000 téléchargements ont été effectués à ce jour.