Twitter enfrenta boicots de anunciantes por no monitorear material de abuso infantil
El año de Twitter no es bueno, continúa muy mal, y esta semana la compañía se vio obligada a informar a algunos anunciantes que sus anuncios se mostraban en la aplicación al lado. Tweets que fomentan la pornografía infantil y otro material de abuso.
Según lo informado por Reuters:
“Marcas que van desde Walt Disney, NBCUniversal y Coca-Cola hasta un hospital infantil se encuentran entre los 30 o más anunciantes que han aparecido en las páginas de perfil de la cuenta de Twitter que ofrecen enlaces al material explotador”.
El descubrimiento fue realizado por el grupo de seguridad cibernética Ghost Data, que trabajó con Reuters para descubrir preocupaciones sobre la colocación de anuncios, lo que asestó otro gran golpe a las perspectivas comerciales en curso de la aplicación. Ya en un estado de confusión en medio de la saga de adquisición en curso de Elon Musk, y luego de las recientes revelaciones de su ex jefe de seguridad de que es poco estricto con la seguridad de los datos y otras medidas, Twitter ahora también enfrenta un éxodo de anunciantes, con grandes marcas como Dyson, Mazda y Ecolab suspendieron sus campañas de Twitter en respuesta.
Lo cual es realmente lo menos preocupante del descubrimiento, ya que el informe Ghost Data también identifica más de 500 cuentas que compartieron o solicitaron abiertamente material de abuso sexual infantil durante un período de 20 días. Ghost Data dice que Twitter no pudo eliminar más del 70% de las cuentas durante el tiempo del estudio.
Los hallazgos plantean más preguntas sobre la incapacidad o voluntad de Twitter para interactuar con material potencialmente dañino, y The Verge informó sobre ellos a fines del mes pasado. “no se puede identificar con precisión la explotación sexual infantil y la desnudez no consentida a gran escala”.
Este hallazgo provino de un examen del plan propuesto por Twitter para gOfrezca a los creadores de contenido para adultos la capacidad de comenzar a vender suscripciones pagas al estilo de OnlyFans dentro de la aplicación.
En lugar de trabajar para abordar la abundancia de material pornográfico en la plataforma, Twitter consideró adoptarlo, lo que sin duda aumentaría el factor de riesgo para los anunciantes que no quieren que sus promociones aparezcan junto con tuits potencialmente ofensivos.
Lo que probablemente esté sucediendo en una escala aún mayor de lo que sugiere este nuevo informe, como descubrió la propia investigación interna de Twitter sobre su propuesta similar a OnlyFans:
“Twitter no podía permitir que los creadores para adultos vendieran suscripciones porque la empresa no monitoreó de manera efectiva el contenido sexual dañino en la plataforma, y todavía no lo hace. En otras palabras, Twitter no podía correr el riesgo de facilitar la monetización de material explotador en la aplicación y, dado que no tiene forma de tomar medidas en su contra, tuvo que descartar la propuesta antes de que realmente ganara impulso.
Dado eso, estos nuevos hallazgos no sorprenden, pero nuevamente, es probable que la reacción negativa de los anunciantes sea significativa, lo que podría obligar a Twitter a lanzar una nueva ofensiva de una forma u otra.
Por su parte, Twitter dice que está invirtiendo más recursos en la seguridad infantil, “incluida la contratación de nuevos organismos para redactar políticas e implementar soluciones”.
Genial, Twitter está tomando medidas ahora. Pero estos informes, basados en el examen de la propia investigación de Twitter, muestran que Twitter ha estado al tanto de este problema potencial durante algún tiempo, no específicamente la explotación infantil, sino una preocupación sobre el contenido para adultos que no tiene forma de monitorearlos. De hecho, Twitter ayuda abiertamente a promover contenido para adultos, aunque sin querer. Por ejemplo, en la sección Para ti de mi pestaña Explorar (es decir, la página de inicio de Explorar en la aplicación), Twitter recomienda constantemente que siga “Facebook” como un tema basado en mis Tweets y las personas que sigo en la aplicación.
Aquí están los tweets que se destacaron como algunos de los tweets más populares de ‘Facebook’ ayer: No es material pornográfico como tal, pero supongo que lo encontraré bastante rápido haciendo clic en cualquiera de estos perfiles. Y nuevamente, estos tweets se resaltan según el algoritmo de tweet reciente patentado de Twitter, que se basa en la interacción con tweets que mencionan el término del tema. Estos tweets totalmente ajenos y fuera de tema son luego reenviados por Twitter a los usuarios que no han expresado interés en el contenido para adultos.
Con base en toda la evidencia disponible, está claro que Twitter tiene un problema con la pornografía y está haciendo poco para solucionarlo. Los distribuidores de contenido para adultos consideran a Twitter como tal la mejor red social para publicidad porque es menos restrictiva que Facebook y tiene un alcance mucho más amplio que los sitios de nicho para adultos, mientras que Twitter obtiene los beneficios de uso y compromiso de alojar material que otras plataformas sociales simplemente no permitirían.
Probablemente por eso ha estado dispuesto a hacer la vista gorda durante tanto tiempo, hasta el punto de que ahora se destaca como un problema mucho mayor.
Sin embargo, es importante tener en cuenta que el contenido para adultos no es problemático en sí mismo, al menos no entre los usuarios adultos que lo consienten. El enfoque de Twitter hacia el abuso infantil y el contenido explotador es el verdadero problema.
Y, según los informes, los sistemas de Twitter son “lamentablemente inadecuados” en este sentido. Según lo informado por The Verge:
“Un informe de 2021 encontró que los procesos que usa Twitter para identificar y eliminar material de explotación sexual infantil son lamentablemente inadecuados, en gran medida manuales en un momento en que las empresas más grandes recurren cada vez más a sistemas automatizados, capaces de interceptar material no etiquetado por PhotoDNA. Según el informe, el principal software de aplicación de Twitter es “una herramienta obsoleta y sin soporte” llamada RedPanda. “RedPanda es, con mucho, una de las herramientas más vulnerables, ineficientes y sin soporte que ofrecemos”, dijo un ingeniero citado en el informe.
De hecho, un análisis adicional de los sistemas de detección de CSE de Twitter encontró que del millón de informes enviados cada mes, el 84 % contenía material recién descubierto, “ninguno de los cuales sería marcado por los sistemas de Twitter”.
Entonces, si bien son los anunciantes los que una vez más presionan a la empresa en este caso, está claro que los problemas de Twitter se extienden mucho más allá de la colocación de anuncios. Sin embargo, hacer que Twitter alcance su resultado final puede ser la única forma de obligar a la plataforma a actuar, aunque será interesante ver qué tan dispuesta y capaz está Twitter para promulgar un plan más amplio para hacerlo en medio de su batalla de propiedad en curso para abordar
Hay una disposición en su acuerdo de adquisición con Elon Musk que establece que Twitter debe: “Usar sus esfuerzos comercialmente razonables para mantener sustancialmente intactos los componentes esenciales de su organización comercial actual”.
yoEn otras palabras, Twitter no puede realizar ningún cambio significativo en su estructura operativa mientras se encuentra en la fase de transición que se está discutiendo actualmente mientras se dirige hacia una batalla judicial con Musk. ¿Iniciar una actualización significativa de sus modelos de detección de CSE se consideraría un cambio material, lo suficientemente significativo como para cambiar la estructura operativa de la Compañía en el momento del acuerdo original?
Esencialmente, Twitter probablemente no quiera hacer grandes cambios. Pero podría ser necesario, especialmente si más anunciantes se unen a este nuevo boicot e instan a la empresa a tomar medidas inmediatas.
Probablemente sea un desastre de cualquier manera Sin embargo, este es un problema importante para Twitter, que debería rendir cuentas por sus fallas sistémicas en este sentido.
¿La verificación de identidad mejoraría la seguridad de las redes sociales y reduciría los incidentes de trolling y abuso?
Dado que las plataformas sociales y los reguladores sopesaron varias consideraciones para abordar los problemas de abuso en línea y manipulación coordinada, ha sugerido repetidamente la verificación de la identidad personal y la posibilidad de hacer de esto un elemento obligatorio al crear una cuenta de red social.
Esa idea ahora está ganando terreno nuevamente, y la celebridad británica Katie Price ha presentado una petición para que el Parlamento del Reino Unido lo incorpore a la ley, que rápidamente superó las 100.000 firmas para el escrutinio parlamentario. Como se menciona en la propuesta de Price, si se implementara el impulso, “mTenga en cuenta que al abrir una nueva cuenta en una red social, es un requisito legal proporcionar una forma de identificación verificada. ” “Si la cuenta es propiedad de alguien menor de 18 años, verifique la cuenta con una identificación de padre / tutor para evitar actividades maliciosas anónimas y garantizar la trazabilidad en caso de un delito”. La motivación de Price se basa tanto en sus propias experiencias directas con el abuso y los ataques de personas en Internet, como en el hecho de que está dirigida contra su hijo adolescente Harvey, que sufre del síndrome de Prader-Willi., Un trastorno genético poco común que tiene una variedad de efectos médicos y conductuales. Price usa las redes sociales para crear conciencia sobre la condición de Harvey, que regularmente conduce a un torrente de críticas, abusos y más dirigidos contra ella y su hijo.
En la superficie, la propuesta tiene sentido y, de alguna manera, las plataformas se han movido recientemente hacia esta forma de verificación adicional.
Después de la campaña presidencial estadounidense de 2016 que descubrió que los grupos con sede en Rusia estaban apuntando a los votantes estadounidenses a través de cuentas falsas y engañosas, Facebook introdujo nuevas regulaciones que requieren que los anunciantes que publican anuncios políticos tengan una dirección postal en los EE. UU.
Facebook también ha lanzado un programa para autorizar publicaciones de páginas. que desde entonces ha visto a los gerentes de algunos Las páginas grandes de Facebook pasan por un proceso de identificación obligatorio para confirmar su información, que Facebook actualizó a perfiles personales en mayo del año pasado. Instagram también ha implementado un sistema similar mediante el cual los propietarios de los perfiles que se encuentran asociados con un comportamiento sospechoso deben proporcionar información de identificación.
Estas medidas son similares a la propuesta de Price, pero solo se refieren a casos individuales identificados por los equipos de Facebook y no a perfiles individuales, que, según el diseño de Price, son la causa del mayor daño.
Al extender lo mismo a todas las cuentas en todas las plataformas y vincular una identidad de la vida real con la persona en línea de cada persona, la idea es que las personas se animarán menos a abusar y atacar a las personas en línea, ya que puede haber personas reales. consecuencias legales para tales. Darse cuenta de que esto puede conducir a sanciones y otras repercusiones personales podría en realidad actuar como un disuasivo, pero una pregunta clave es si es posible implementarlo, y luego si realmente produciría el resultado deseado como resultado de una mejora significativa en Esfuerzos de plataforma.
La primera pregunta surge en cuanto a si Facebook, por ejemplo, incluso tendría la opción de obligar a los casi 3 mil millones de usuarios a enviar documentos de identificación y hacer que la plataforma los verifique. Si esto hubiera sido un requisito desde el principio, sería factible, pero obtener la aprobación de tantas personas podría ser problemático y costoso, lo que resultará en que las plataformas se resistan a tales llamadas. También hay una cuestión de implicaciones comerciales. Facebook puede informar actualmente que tiene 2.800 millones de usuarios, lo que es un gran atractivo para su negocio de publicidad. Hay poca motivación para reducir activamente este número, lo que inevitablemente haría la verificación de identidad para cada cuenta. Por tanto, tiene sentido que las propias plataformas traten de evitar esta medida como condición de funcionamiento de todas las formas posibles.
Eso no quiere decir que no debería, pero puede esperar que las propias plataformas luchen fuertemente contra ellos, y tal vez incluso den a entender que sería absolutamente imposible, sea cierto o no.
Eso lleva a la siguiente consideración: ¿funcionaría realmente ese requisito?
En octubre pasado, la comisionada de eSafety de Australia, Julie Inman-Grant, declaró que incluso si solicitara a todos que mostraran su identificación, en la mayoría de los casos no tendría mucho impacto.
“En muchos de los trolls de adultos que vemos … [characteristics of a troll] Suele haber alta autoestima, sadismo y masoquismo; hay muchos trolls que no están interesados en ocultar su identidad. No siempre será un impedimento. ”
Inman-Grant también señaló que iba a haber una “gran reacción de las libertades civiles” en la que las implicaciones más amplias de vincular sus identidades en línea y fuera de línea podrían conducir a importantes preocupaciones sobre la libertad de expresión y la protección personal. ¿Reducirían esas leyes el abuso en línea pero aumentarían la violencia en el mundo real? En realidad, esta es una consideración muy real que le daría a las personas la oportunidad de averiguar dónde vive cada usuario y, en términos más generales, su otra información personal.
¿Y si esa información llega a manos de funcionarios gubernamentales u otros grupos activistas con motivaciones políticas? Existen implicaciones de amplio alcance para proteger la identidad de, por ejemplo, los denunciantes y otras personas que pueden optar por hablar, y si bien esto proporciona cierto nivel de cumplimiento en algunos casos, también puede dar lugar a una postergación adicional no intencionada.
¿Estos posibles aspectos negativos superarían el impulso principal de tal cambio?
Es imposible saberlo, pero podría decirse que existe suficiente lógica potencial contra tal movimiento para no hacer cumplir las leyes de identificación en el futuro, que es probablemente donde terminará este nuevo impulso.
Por otro lado, se debe hacer algo y, de hecho, tales consideraciones fueron parte de las recientes discusiones de Twitter sobre los cambios en el proceso de verificación de cuentas antes de que la compañía finalizara sus nuevas regulaciones. Es algo que todas las plataformas sociales tienen en cuenta, pero si es o no una solución como tal sigue siendo una cuestión.
Veremos qué pasa con esta última propuesta en el Reino Unido.
Gracias por Matt Navarre para el mano a mano con este nuevo impulso.