Saltar al contenido
computerg

馃 C贸mo Reddit Convirti贸 A Sus Millones De Usuarios En Un Ej茅rcito De Moderaci贸n De Contenido

junio 19, 2021

Uno de los problemas m谩s dif铆ciles para Reddit, la autoproclamada portada de Internet, es averiguar qu茅 deber铆a y qu茅 no deber铆a aparecer en sus feeds.

Cuando se trata de la moderaci贸n de contenido, que se ha convertido en un tema cada vez m谩s publicitado en los 煤ltimos a帽os, Reddit adopta un enfoque diferente en comparaci贸n con otras plataformas sociales importantes.

A diferencia de Facebook, por ejemplo, que subcontrata gran parte del trabajo a las granjas de moderaci贸n, Reddit depende en gran medida de sus comunidades (o subreddits) para controlarse a s铆 mismo. Los esfuerzos de los moderadores voluntarios se gu铆an por las reglas establecidas por cada subreddit, pero tambi茅n por un conjunto de valores creados y aplicados por Reddit.

La empresa, sin embargo, ha sido criticada por este modelo, que algunos han interpretado como un laissez-faire y una falta de responsabilidad. Pero Chris Slowe, CTO de Reddit, dice que esto es una tergiversaci贸n total.

鈥淧uede parecer una locura decirlo en Internet hoy en d铆a, pero los humanos promedio son bastante buenos. Si miras a Reddit a gran escala, las personas son creativas, divertidas, colaborativas y divertidas, todas las cosas que hacen que la civilizaci贸n funcione 鈥, dijo a LaComparacion Pro.

鈥淣uestro enfoque subyacente es que queremos que las comunidades establezcan sus propias culturas, pol铆ticas y sistemas filos贸ficos. Para que este modelo funcione, debemos proporcionar herramientas y capacidades para abordar [antisocial] minor铆a.禄

Una bestia diferente

Slowe fue el primer empleado de Reddit, contratado en 2005 como ingeniero despu茅s de alquilar dos habitaciones libres a los cofundadores Steve Huffman y Alexis Ohanian. Los tres se hab铆an conocido durante la primera ejecuci贸n del ahora infame programa de aceleraci贸n Y Combinator, que dej贸 a Slowe con grandes recuerdos, pero tambi茅n con un comienzo fallido y tiempo para llenar.

Aunque se tom贸 un descanso de Reddit entre 2010 y 2015, la experiencia de Slowe le brinda una perspectiva 煤nica sobre c贸mo ha crecido el negocio y c贸mo los desaf铆os que enfrenta han cambiado con el tiempo.

En los primeros a帽os, dice, se trataba de desarrollar la infraestructura para hacer frente al crecimiento del tr谩fico. Pero en su segundo per铆odo, desde 2016 hasta hoy, el enfoque se ha desplazado a la confianza del usuario, la seguridad y la protecci贸n.

鈥淧roporcionamos herramientas para que los usuarios denuncien contenido que viole las pol铆ticas del sitio o las reglas establecidas por los moderadores, pero no todo est谩 marcado. Y en algunos casos el informe dice que es demasiado tarde 鈥, explic贸.

鈥淐uando regres茅 en 2016, uno de mis trabajos principales era averiguar con precisi贸n c贸mo funcionan las comunidades de Reddit y definir qu茅 hace que el sitio sea saludable. Una vez que identificamos los s铆ntomas insalubres, trabajamos a partir de ah铆.

(Cr茅dito de la imagen: Reddit)

Auto control

A diferencia de otras plataformas sociales, Reddit tiene un enfoque en capas para la moderaci贸n de contenido, que est谩 dise帽ado para adherirse lo m谩s cerca posible al esp铆ritu de 鈥渃omunidad primero鈥 de la compa帽铆a.

La forma m谩s primitiva de verificaci贸n de contenido la realizan los propios usuarios, que tienen el poder de votar por las cosas que les gustan y de las que no. Sin embargo, si bien este proceso estimula las publicaciones populares y aplasta las publicaciones impopulares, la popularidad no siempre es una se帽al de propiedad.

Las modificaciones de la comunidad act煤an como la segunda l铆nea de defensa y est谩n armadas con el poder de eliminar publicaciones y prohibir a los usuarios que infrinjan las pautas o la pol铆tica de contenido. La regla subreddit m谩s com煤n, seg煤n Slowe, es esencialmente 芦no seas idiota禄.

El informe anual de transparencia de la compa帽铆a, que desglosa todo el contenido eliminado de Reddit cada a帽o, sugiere que los mods son responsables de aproximadamente dos tercios de todas las eliminaciones de publicaciones.

Para detectar cualquier contenido da帽ino perdido por los mods, existen administradores de Reddit, que son empleados directamente por la empresa. Estos miembros del personal realizan verificaciones al azar manuales, pero tambi茅n est谩n armados con herramientas tecnol贸gicas para ayudar a identificar a los usuarios con problemas y monitorear las interacciones individuales que tienen lugar en privado.

芦Usamos una serie de se帽ales para sacar a relucir los problemas y establecer si los usuarios individuales son dignos de confianza y han actuado de buena fe禄, dijo Slowe. 鈥淟a parte complicada es que nunca entender谩s todo. Y eso es en parte porque siempre ser谩 un poco gris y depender谩 del contexto. 禄

Cuando se le pregunt贸 c贸mo se podr铆a mejorar esta situaci贸n, Slowe explic贸 que est谩 atrapado en una posici贸n dif铆cil; dividido entre el deseo de hacer cumplir la pol铆tica de la empresa impulsada por la comunidad y el conocimiento de que hay tecnolog铆as futuras en el mercado que podr铆an ayudar a detectar un mayor porcentaje de abuso.

Por ejemplo, Reddit ya est谩 comenzando a utilizar t茅cnicas avanzadas de procesamiento del lenguaje natural (NLP) para medir con mayor precisi贸n el sentimiento de las interacciones entre los usuarios. Slowe tambi茅n indic贸 la posibilidad de usar IA para analizar im谩genes publicadas en la plataforma y admiti贸 que se producir铆an una mayor cantidad de acciones de moderaci贸n sin intervenci贸n humana a lo largo del tiempo.

Sin embargo, tambi茅n advirti贸 contra la falibilidad de estos sistemas m谩s nuevos, que son propensos a sesgos y ciertamente propensos a errores, y los desaf铆os que podr铆an representar para el modelo de Reddit.

鈥淓s un poco aterrador, en realidad. Si hablamos de esto como un modelo de aplicaci贸n, es lo mismo que poner c谩maras literalmente en todas partes y confiar en las grandes m谩quinas con mentalidad para avisarnos cuando hay un crimen 鈥, declar贸.

Si bien la construcci贸n de un pan贸ptico tecnol贸gico podr铆a limitar la cantidad de material desagradable que aterriza en la plataforma, en 煤ltima instancia obligar铆a a Reddit a dejar de lado su filosof铆a central: la comunidad antes que el contenido.

Reddit

(Cr茅dito de la imagen: Reddit)

Cuando las cosas se ponen dif铆ciles

La moderaci贸n del contenido es un problema que ninguno de los gigantes de las redes sociales puede afirmar haber resuelto, como lo demuestra el debate sobre las cuentas de Donald Trump y la prohibici贸n de la tienda de aplicaciones Talk. Reddit tambi茅n particip贸 en estas conversaciones, y finalmente tom贸 la decisi贸n de prohibir el subreddit r / DonaldTrump.

Por poderoso que sea el modelo impulsado por la comunidad, existe un conflicto significativo en el coraz贸n del enfoque de Reddit. La compa帽铆a aspira a dar a sus comunidades una autonom铆a casi total, pero en 煤ltima instancia se ve obligada a tomar decisiones editoriales sobre d贸nde trazar la l铆nea.

芦No quiero ser el 谩rbitro arbitrario y meticuloso de lo que est谩 bien y lo que est谩 mal禄, nos dijo Slowe. 鈥淧ero al mismo tiempo, tenemos que poder aplicar un conjunto de [rules]. Es una l铆nea muy fina para caminar.

Reddit intenta mantener su pol铆tica de contenido lo m谩s concisa posible para eliminar las lagunas y facilitar la aplicaci贸n, pero las revisiones son comunes. Por ejemplo, la pornograf铆a de venganza fue prohibida en la plataforma en 2015 bajo la ex directora ejecutiva Ellen Pao. El a帽o pasado, la compa帽铆a agreg贸 una cl谩usula que proh铆be la glorificaci贸n de la violencia.

鈥淪er fieles a nuestros valores tambi茅n significa reiterar nuestros valores, reevaluarlos a medida que descubrimos nuevas formas de jugar con el sistema y superar los l铆mites鈥, explic贸 Slowe.

芦Cuando hacemos un cambio que implica mover comunidades a trav茅s de la l铆nea, es el final de un largo proceso de encontrar lagunas en nuestra pol铆tica de contenido y volver a partir de ah铆禄.

Sin embargo, aunque la mayor铆a estar谩 de acuerdo en que la ausencia de venganza pornogr谩fica es un positivo absoluto y que la incitaci贸n a la violencia ha tenido lugar en r / The_Donald, ambos ejemplos demuestran que Reddit debe actuar con moderaci贸n en el mismo plan que Facebook, Twitter o cualquier otro. otra plataforma.

Cuando es necesario hacer preguntas dif铆ciles, en otras palabras, Reddit ya no conf铆a en que sus comunidades respondan con una respuesta favorable.


Source link