Pour survivre, les médias sociaux ont besoin d'une meilleure gouvernance

Censorship, Suppression and the 2020 Election ». À l’instar des audiences précédentes, le Congrès a eu beaucoup de zingers mais très peu de progrès vers la définition du rôle souhaité des plateformes de médias sociaux en ce qui concerne la parole. Sans la perspective d’une réglementation significative qui transférera le pouvoir aux organismes gouvernementaux, les entreprises de médias sociaux commencent à reproduire les caractéristiques mêmes du gouvernement en termes de création de lois (c.-à-d., Conditions de service), de leur application (c.-à-d. Modération du contenu), et interpréter leur signification (c.-à-d., le Conseil de surveillance de Facebook). Qu’il suffise de dire que les équipes de confiance et de sécurité du Congrès et des médias sociaux sont remplies d’avocats et d’experts en politique. Et, comme le Congrès, les entreprises de médias sociaux sont désormais obligées de prendre des décisions inconfortables sur des problèmes sociaux épineux. Comme vous vous en doutez, il y a des compromis importants et des valeurs concurrentes en jeu. Aujourd’hui, les entreprises de médias sociaux sont entre un rocher et un endroit difficile en matière de modération de contenu. Toute décision de limiter la désinformation, les discours de haine et les comportements trolls conduit à des accusations de censure. Dans le même temps, toute décision d’autoriser un discours offensant au nom de la liberté d’expression conduit à des accusations de négligence. Chaque décision est à la fois erronée et juste Certains utilisateurs disent aux entreprises de médias sociaux qu’elles devraient exercer plus de pouvoir tandis que d’autres insistent sur le fait qu’ils n’ont aucune autorité morale pour ce pouvoir même. « Nous sommes confrontés à quelque chose qui semble impossible », a déclaré Jack Dorsey lors de l’audience du Sénat de cette semaine. « Nous devons contribuer à améliorer la santé de la conversation publique tout en veillant à ce que le plus grand nombre de personnes possible puissent participer. » Rock, rencontre dur. Cette situation sans issue est apparue lorsque le pouvoir de dicter ce qui est acceptable et ce qui n’est pas acceptable en matière de discours s’est largement déplacé des organismes gouvernementaux aux sociétés de médias sociaux. Ces entreprises ont un œil sur la mise à l’échelle et un angle mort sur leur impact sur les droits civils fondamentaux. Cette transition était plus accidentelle qu’intentionnelle, car aucune plate-forme souhaitant maximiser la richesse des actionnaires ne voudrait assumer le rôle litigieux et coûteux de déterminer la parole autorisée. Pire encore, bien que les entreprises de médias sociaux aient assumé le pouvoir important de déterminer le discours approprié, elles n’avaient pas (et en grande partie n’ont toujours pas) les structures en place pour assumer cette responsabilité professionnelle. Les départements de confiance et de sécurité, qui se concentrent sur la réduction des comportements abusifs, de la désinformation, des deepfakes, des discours de haine et des nombreuses autres façons dont les plates-formes peuvent être utilisées à mauvais escient et militarisées, sont devenus cruciaux. Ils sont passés d’une réflexion après coup à une fonction centrale de chaque plate-forme majeure. « Lorsque nous avons démarré l’entreprise, nous ne pensions pas du tout à cela », a déclaré Dorsey en 2018. « Nous pensions construire quelque chose que nous voulions utilisation. » Mais alors que Twitter est passé du statut de « l’aile de la liberté d’expression du parti de la liberté d’expression » à celui qui équilibre les compromis entre la sécurité, la confidentialité et la liberté d’expression, « l’entreprise a dû s’ajuster massivement. pourrait utiliser allègrement l’expression « place publique » pour décrire des plates-formes comme Twitter, les places publiques réelles et le discours qui y est autorisé ont des centaines d’années de précédent juridique qui ont aidé à développer ce qu’implique réellement la « libre expression ». Il existe également des freins et contrepoids importants entre les pouvoirs législatif, exécutif et judiciaire du gouvernement qui aident à orienter les décisions de discours. Par exemple, les lois relatives à la parole sont sujettes à un contrôle judiciaire et sont généralement annulées si un tribunal les juge arbitraires et capricieuses. Ce processus a du sens car il vise à empêcher un traitement injuste des citoyens en éliminant les lois vagues qui pourraient être utilisées pour cibler la censure sur des groupes spécifiques tout en restant non appliquées pour d’autres. Si vous résumez la plupart des critiques adressées aux plateformes de médias sociaux concernant la parole, elles tournent généralement autour de la conviction que son application des règles semble montrer les lois arbitraires et capricieuses sur la nature doivent éviter. « À quel moment ces contrevenants aux règles sont-ils suspendus ? Des gens ordinaires et ordinaires sont expulsés de la plate-forme et voient leurs comptes suspendus pour beaucoup moins cher », a déclaré Erin Shields, organisatrice nationale sur le terrain chez MediaJustice, parlant à Protocol de la façon dont les plates-formes semblent traiter les gens de manière inégale en donnant plus de marge de manœuvre à des personnes bien connues. Les entreprises de médias sociaux sont déchirées entre les décisions commerciales et les décisions judiciaires, et le grand public exige plus de transparence et d’uniformité. Bien que la question de la régulation de la parole sur les médias sociaux puisse sembler nouvelle, les Américains La société s’est toujours battue pour un discours autorisé. Par exemple, écoutez la routine de George Carlin intitulée « Sept mots que vous ne pouvez jamais dire à la télévision », qui a conduit à la décision de la Cour suprême dans l’affaire FCC contre Pacifica Foundation. Les questions centrales de l’affaire portaient sur les différences subtiles entre décence, indécence et obscénité et quel rôle le gouvernement devrait jouer dans la régulation de celles-ci. Clairement, déterminer les contours nuancés o Le discours permis a toujours été et continuera d’être un combat désordonné. Avoir la « liberté d’expression » n’a jamais signifié l’absence totale de régulation de la parole, mais plutôt une discussion sur les types de discours à protéger et ceux interdits. Maintenant, cependant, ce combat se déroule dans le tribunal de l’opinion publique sur le rôle des médias sociaux dans la modération de la parole plutôt que dans nos tribunaux judiciaires sur le rôle du gouvernement.

Où allons-nous à partir d’ici ?

Les entreprises de médias sociaux sont tenues de refléter nos institutions démocratiques. Nous entrons dans ce que j’aime appeler une période de « démocratie des médias sociaux ». Compte tenu des conséquences des décisions de ces entreprises sur nos droits civils fondamentaux, elles continueront d’évoluer de manière à imiter nos organes gouvernementaux. Les démocraties valorisent la transparence, l’impartialité et des freins et contrepoids adéquats pour empêcher les abus de pouvoir. Ce sont toutes des valeurs que les entreprises de médias sociaux devront adopter si elles conservent encore un pouvoir significatif pour déterminer le discours approprié. Bien qu’il y ait eu énormément de discussions sur la modification de la section 230, qui modifierait la façon dont les plateformes modèrent la parole, cela ne se produira probablement pas à court terme. L’antithèse de la démocratie, c’est lorsqu’une seule personne ou un seul groupe a les rôles de juge, de jury et de bourreau. En règle générale, les entreprises disposent d’une marge de manœuvre considérable aux États-Unis quant à la manière dont elles prennent leurs décisions. Mais comme les entreprises de médias sociaux sont étroitement liées au débat autour de la parole, il deviendra de plus en plus nécessaire pour les plateformes de mettre en place des structures rappelant nos pouvoirs législatif, exécutif et judiciaire, ainsi que des séparations claires des pouvoirs et des freins et contrepoids. À l’heure actuelle, les entreprises de médias sociaux « font des lois », mais quel rôle le public devrait-il jouer dans l’élaboration de ces lois ? Le public pourra-t-il voter pour des personnes qui agissent en tant que législateurs des médias sociaux ? De même, les entreprises de médias sociaux appliquent leurs « lois » (c.-à-d. Conditions de service, directives communautaires). Dans une démocratie, vous ne voudriez jamais une situation dans laquelle quelqu’un pourrait être puni sans savoir exactement quelle loi elle a violée. Les plateformes de médias sociaux devront veiller à ce que leurs lois ne puissent être appliquées que si leurs « citoyens » sont clairement informés de la loi qu’ils ont violée et de la manière dont ils peuvent recourir. Enfin, comme nous l’avons vu avec le Conseil de surveillance de Facebook, chaque grande entreprise de médias sociaux devra offrir aux gens un processus pour faire appel de ses décisions de discours et rendre ce processus suffisamment transparent pour que le public puisse avoir un aperçu des discours autorisés par rapport aux discours non autorisés. Nous avons appris ces dernières années que les entreprises de médias sociaux ont un impact majeur sur notre démocratie. À l’avenir, la structure des médias sociaux commencera à le refléter de plus en plus. Next Up dans l’éthique de la technologieLa clé d’un meilleur écosystème de médias sociaux Friction.