Twitter anunció la semana pasada que la «detección automática» será una parte integral de la moderación de contenido en la plataforma en el futuro. Planea eliminar ciertas revisiones manuales e intervenciones en el proceso de moderación. La vicepresidenta de confianza y seguridad de la compañía, Ella Irwin, ahora ha compartido más detalles sobre su gran dependencia de la automatización para moderar el contenido.
Según Irwin, Twitter limitará la difusión de contenido odioso y abusivo en lugar de eliminar por completo dichas publicaciones. Esto está en línea con la idea de libertad de expresión de Elon Musk en la plataforma. En áreas como la explotación infantil, la compañía ya ha comenzado a restringir agresivamente los hashtags y los resultados de búsqueda sensibles al abuso. Desafortunadamente, un proceso automatizado significa que el «uso benigno» de esos términos también se ve afectado.
«Lo más grande que ha cambiado es que el equipo es totalmente capaz de moverse rápido y ser lo más agresivo posible», dijo Irwin en una entrevista con Reuters la semana pasada. Sus comentarios surgen en medio de preguntas sobre la capacidad de la empresa para mantener la seguridad de los usuarios. Yoel Roth, exjefe de confianza y seguridad de Twitter, dijo recientemente que la plataforma es menos segura bajo Musk porque no hay suficientes personas con experiencia para mantener los estándares de seguridad a largo plazo.
Sin embargo, Twitter afirma que el equipo de seguridad es «fuerte y está bien equipado». Irwin repitió eso durante la entrevista. Ella dijo que los despidos masivos no afectaron significativamente a los empleados de tiempo completo o contratistas en las divisiones de «Salud». Las divisiones de salud cubren áreas como la seguridad infantil y la moderación de contenido. Irwin dijo que la compañía tiene tanta gente trabajando en la seguridad infantil hoy como antes de la adquisición de Musk. El jefe de producto también está allí.
Elon Musk se enfoca en usar más la automatización para la moderación de contenido de Twitter
Elon Musk ha estado promoviendo agresivamente la libertad de expresión en Twitter desde que se hizo cargo de la empresa. También restableció varias cuentas suspendidas y anunció una amnistía general para cualquiera que no haya infringido la ley o no haya cometido spam grave. Estas decisiones provocaron una ola de discurso de odio en la plataforma, lo que hizo que muchos de los principales anunciantes huyeran. Existía la preocupación de que Twitter se convirtiera en un infierno porque la empresa no tiene suficientes personas para cuidarlo.
Sin embargo, Musk reveló recientemente que la mayoría de los anunciantes han regresado, lo cual es una señal de aliento. Quizás el reciente anuncio de Twitter de que no ha cambiado su política y que solo permitirá «libertad de expresión, no libertad de expresión» ha ayudado a recuperar la confianza perdida.
Irwin dijo que el nuevo jefe de Twitter ha hecho de la seguridad su máxima prioridad y está alentando a los empleados a concentrarse en eso sin preocuparse por el crecimiento de los usuarios y los ingresos. «Él enfatiza eso todos los días, varias veces al día», dijo.
Por supuesto, el enfoque de Musk es automatizar gran parte del proceso de moderación. «Él ha alentado al equipo a tomar más riesgos, actuar rápidamente y asegurar la plataforma», dijo. Twitter también planea utilizar «reporteros de confianza» para eliminar los tuits abusivos.
Cuando los usuarios «con un historial de marcado preciso de mensajes maliciosos» informen un tweet, la empresa lo eliminará de inmediato. Esto es algo que Twitter ha considerado antes, pero que nunca implementó. Irwin dice que ahora tiene la capacidad de «avanzar con ese tipo de cosas».
