El streamer de Twitch Atrioc, fue descubierto viendo pornografía creada por inteligencia artificial de compañeras suyas y causó una gran controversia
La creación de arte e imágenes con inteligencia artificial ha causado un gran debate en redes sociales últimamente. Aplicaciones que nos permiten crear imágenes y fotos generadas 100% por computadora a partir de fotografías o videos son cada vez más comunes y se utilizan mucho por su facilidad y precisión.
Artistas han levantado la voz en contra de estas aplicaciones, ya que dicen que al final necesitan alimentarse de material previamente creado para poder generar nuevas imágenes. Y en particular, se dice que estas apps toman arte de otros creadores que está en internet sin su consentimiento para después presentarse como una tecnología novedosa y diferente.
Los debates se centraban más en el futuro arte hecho a mano y los problemas con el copyright, pero no se había presentado un caso que dañara la imagen pública de una persona. Hasta ahora.
Y es que, recientemente, un streamer famoso en Twitch conocido como “Atrioc” fue encontrado viendo pornografía generada por una AI de otras streamers. Ellas no estaban al tanto de lo que estaba sucediendo, provocando un gran debate en internet y causando conmoción sobre el futuro de las imágenes generadas por inteligencia artificial. ¡Aquí les contamos la controversia!
Atrapado sin querer
La controversia inició porque durante un evento, Atric (cuyo nombre real es Brandon Ewing) mostró sin querer las pestañas que tenía abiertas en su computadora y se descubrió que estaba viendo pornografía creada por computadora con las fotos y videos de dos streamers famosas: QTCnderella y Sweet Anita.
Ewing rápidamente salió a disculparse públicamente y explicó que el sitio lo encontró dentro de un anuncio en Pornhub, uno de los sitios más grandes de pornografía en el mundo. Supuestamente, la aplicación funciona como OnlyFans, los usuarios pagan una suscripción y obtienen una amplia gama de videos, todos generados por inteligencia artificial.
La cosa es, que el stream de Ewing le dio mucha visibilidad a ese sitio, el cual usa imágenes de personas sin su consentimiento. Por lo que rápidamente se propagó en internet y fue visitada por millones de usuarios. Páginas como PornHub y Reddit ya habían prohibido pornografía de este tipo en sus plataformas, pero pequeños sitios perduran.
Sin embargo, el sitio en cuestión ya fue eliminado de todo el internet y sus creadores también publicaron una disculpa pública, en donde se asegura que no había entendido la magnitud del problema hasta que vio la disculpa de Ewing y vio las reacciones de las streamers afectadas:
“Para ser honesto, si quisiera continuar con el sitio ya tuve la mejor campaña de marketing que pude pedir. Pero después de ver la situación, las disculpas y las reacciones de algunas streamers, que pensaron que “no me importa” me sentí como una mierda.
El mejor curso de acción es simplemente desaparecer de internet y ayudar a disminuir el número de videos futuros de aquellos/as involucrados/as. Nunca me volverán a ver en internet”.
Anónimo
La respuesta del sitio en cuestión parece muy conveniente, principalmente porque se pueden tomar acciones legales en contra de él por la distribución no autorizada de pornografía, aunque el caso es sumamente complejo y el anonimato de la página lo complica aún más.
¿Streamers afectadas pueden proceder legalmente?
El tema de la pornografía hecha con Deepfake es algo muy nuevo, pero ya hay un par de leyes que nos pueden servir como antecedentes importantes. Actualmente, solamente Virgina y California tienen leyes referencias a la pornografía de esta índole.
En ambos estados, se penaliza como un delito “menor” utilizar la imagen de una persona para crear videos pornográficos, de manera que, de encontrarse culpables, las personas podrían pasar 12 meses en prisión, pagar una fianza de 2,500 dólares y pagar a las víctimas afectadas en retribución al daño de su imagen.
QTCinderella reside en California, por lo que sí podría tomar acciones legales, pero al no saber en donde reside el sitio en cuestión realmente sería muy difícil darle seguimiento a su caso. Por otro lado, Sweet Anita reside en Gran Bretaña, donde apenas se están implementando leyes en contra de la “pornografía de venganza” y que se compartan imágenes sexuales sin su consentimiento, por lo que su caso sería todavía más difícil.
Por eso, QTCinderella usó sus redes sociales para denunciar la página y al streamer Atrioc, ya que su privacidad fue violada.
“Que se joda Atrioc por mostrar eso a miles de personas. Que se joda la gente mándandome fotos mías de mi página de internet. Jódanse todos. Así se ve el verdadero dolor.
No debería ser parte de mi trabajo tener que pagar dinero para que bajen estas cosas, no debería ser parte de mi trabajo ver fotos de mi “desnuda” siendo compartidas por ahí”.
QTCinderella, Twitch
Esto no es un problema nuevo
La llegada de esta tecnología deepfake es un pago más en la evolución del internet y muestra lo poco que hemos avanzado para proteger a víctimas de crímenes sexuales. En el pasado, Pamela Anderson y Paris Hilton tuvieron que lidiar con cosas similares cuando sus videos pornográficos se filtraron en internet y causaron conmoción internacional, dañando su imagen y su reputación.
Pero esta ni siquiera es la primera vez que vemos cómo se usa la tecnología de inteligencia artificial de manera controversial. El año pasado, la aplicación Lensa, dedicada a generar imágenes con inteligencia artificial, fue objeto de un estudio que mostró lo fácil que es crear pornografía con la aplicación.
Olivia Show, una investigadora de la Universidad de California, descubrió que cuando subía fotos de ella cuando era niña “la aplicación podría hacer una imagen de una mujer desnuda con el cuerpo de una adolescente con la cara de una niña”, abriendo la conversación sobre cuáles deben ser los límites de este tipo de tecnología.
Todavía el internet se está organizando para combatir el ciberacoso, la pornografía compartida sin consentimiento y la explotación sexual, que usualmente afecta, en su mayoría, a mujeres. Por eso, este tipo de actividades deben ser analizadas con cuidado, ya que seguimos enfrentando los mismos problemas de siempre, pero ahora con el detalle de que los culpables pueden quedar en el anonimato.
