Bien qu’ils ne vous en diront pas beaucoup si vous leur demandez, toutes les grandes compagnies de téléphone filtrent automatiquement vos messages texte. Ce processus est, pour la plupart, destiné à protéger les utilisateurs contre les messages texte de spam – moins répandu que le spam par e-mail, oui, mais un problème à travers le monde néanmoins. (Apple a même récemment ajouté un support officiel pour les applications tierces de filtrage de spam par SMS.
) Une grande partie de ce processus est effectuée automatiquement grâce à l’utilisation d’une technologie de filtrage back-end, formée pour signaler spécifiquement les messages de spam. Parfois, ces systèmes glissent et laissent passer des messages de spam, mais l’inverse est également vrai. Les messages texte ne sont souvent pas livrés sans explication et, contrairement aux systèmes plus modernes, les SMS n’alertent généralement pas les utilisateurs de l’échec de leurs messages.
Mais que se passe-t-il lorsque le processus de filtrage automatique signale à tort les messages que l’utilisateur a explicitement choisi de recevoir ? C’est la nature du problème auquel est confronté SlutBot, une IA de sextage qui fonctionne par SMS. Les utilisateurs de SlutBot ont afflué sur la chaîne Discord officielle de la communauté pour se plaindre de ne pas recevoir certains des messages de SlutBot, en particulier lorsqu’ils concernent du matériel LGBTQ. L’un des messages d’introduction filtrés pour les utilisateurs de SlutBot.
conscient de ce problème lorsque les utilisateurs ont commencé à se plaindre sur le canal Discord de la communauté. Certains utilisateurs – il ne semble pas y avoir de modèle – recevront le message texte initial de SlutBot, mais tout contenu de suivi ne passera tout simplement pas. Il ne semble pas y avoir de modèle pour lequel le contenu est bloqué.
SlutBot gère actuellement un programme sur le sexe queer, et ce sont en grande partie les messages liés à ce programme qui sont filtrés. Voici le back-end de Twilio. Le seul aperçu de SlutBot sur les raisons pour lesquelles cela pourrait se produire provient de Twilio, une API de communication utilisée pour planifier les communications SMS automatiques.
Twilio signale des erreurs via des codes uniques, et il y en a un spécial juste pour les problèmes de filtrage des transporteurs : 30007. L’équipe SlutBot en voit beaucoup ces derniers temps, ainsi qu’une erreur similaire 30008 qui signifie essentiellement que Twilio n’a pas pu confirmer l’implication du transporteur dans le problème..
Erreur honnête ou non, c’est un problème – Cela se résume probablement à un problème avec les programmes de filtrage SMS des opérateurs. Les modèles d’apprentissage automatique sont notoirement capricieux ; quels que soient les modèles utilisés par des opérateurs tels que Verizon et AT&T, les messages de SlutBot sont probablement signalés comme spam. L’équipe SlutBot indique à Input qu’elle a déjà été confrontée à des problèmes de filtrage des SMS, mais jamais à ce point.
« Les transporteurs ne sont pas transparents sur les algorithmes qu’ils utilisent pour analyser les messages texte des clients. Protéger les clients contre le spam est une chose », a déclaré un membre de l’équipe SlutBot. « Censurer le contenu LGBTQ à caractère sexuel que les clients s’inscrivent explicitement pour recevoir en est un autre.
» Il s’agit d’un problème plus vaste de transparence des opérateurs (Twilio a une FAQ complète dédiée au filtrage des SMS aux États-Unis et au Canada), mais c’est aussi un problème commercial pour des entreprises comme SlutBot. Twilio et les services similaires facturent toujours les messages filtrés par les opérateurs. Et du point de vue d’un client SlutBot, il semble que SlutBot ne fonctionne pas correctement.
Cela conduit à des frustrations et potentiellement même au départ des clients. Les représentants de Verizon et d’AT&T n’ont pas immédiatement répondu aux demandes de commentaires sur ce problème. Nous mettrons à jour notre article s’ils nous reviennent.
Nous espérons que ce problème de transparence est un problème auquel les opérateurs sont contraints de faire face dans un avenir pas si lointain – il n’y a aucune bonne raison pour que les consommateurs ne soient pas au courant des raisons pour lesquelles leurs messages SMS sont rendus non distribuables.