Twitch ha anunciado una actualización de sus políticas para luchar contra la pornografía 'deepfake' imponiendo sanciones como la suspensión indefinida de la cuenta a los usuarios que «promuevan, creen o compartan» contenido relacionado con este tipo de imágenes.
La plataforma de contenido en 'streaming' se refiere al término pornografía 'deepfake' como «imágenes sintéticas de explotación no consentidas» o NCEI sintético por sus siglas en inglés, ya que es un término más adecuado para referirse a este tipo de acciones, según los expertos consultados sobre el tema.
En este sentido, Twitch ha explicado a través de un comunicado en su blog que, aunque el NCEI sintético «ya estaba prohibido» en sus políticas actuales, ahora ha actualizado dos de sus normas para "estar al día con la terminología en torno a los temas de seguridad".
En concreto, esta actualización se refiere, por un lado, a su política sobre violencia y explotación sexual de adultos, en la que ha especificado que promover, crear o compartir «intencionadamente» NCEI sintético puede tener como consecuencia la suspensión indefinida de la cuenta «en la primera ofensa».
Asimismo, la compañía también ha actualizado su política de desnudez de adultos incluyendo el NCEI sintético. Así, Twitch ha especificado que incluso si los usuarios muestran este contenido «brevemente» o para "expresar indignación o desaprobación del contenido", será eliminado y dará lugar a una sanción.
Según asegura Twitch, estas medidas, que se implementarán durante este mes de marzo, se basan en haber escuchado a la comunidad, hablado con los 'streamers' y consultando con expertos en el campo sobre cómo mantener a los usuarios protegidos, dentro y fuera del servicio.
Por todo ello, la plataforma ha sentenciado que la «creación, promoción o visualización» de este contenido «no es bienvenida» en Twitch. Asimismo, ha explicado que aunque «tienen el control» sobre lo que sucede en su propio servicio, quieren ayudar a los 'streamers' a "protegerse o responder rápidamente" a este tipo de situaciones en cualquier lugar que surja.
No obstante, la plataforma también ha señalado que estas nuevas políticas requerirán una "consideración cuidadosa y reflexiva" de cara a la respuesta a dichas acciones. De hecho, ha indicado que tendrán en cuenta que «no todo el contenido creado sintéticamente es de naturaleza sexual, ni todo es sin consentimiento».
Por otra parte, esta actualización en relación al contenido de NCEI sintético viene precedida de un incidente de pornografía 'deepfake' que tuvo lugar en el mes de enero en Twitch. Según recogieron medios como BuzzFeed News, el 'streamer' Brandon 'Atrioc' Ewing retransmitió imágenes explícitas de mujeres desnudas con los rostros de populares 'streamers' mujeres.
Tal y como ha expresado la propia plataforma, este incidente causó «una inmensa angustia a aquellos cuyas imágenes se usaron sin su consentimiento» y desencadenó un debate sobre los peligros que pueden presentar las imágenes explícitas generadas por IA. "La existencia de este contenido, y su presencia y distribución en varios sitios, es una violación personal", sentencia Twitch.