La comunidad Skyrim Modding tiene su propia controversia sobre el porno falso

La comunidad de mods de Skyrim está actualmente envuelta en su propia controversia sobre la pornografía falsa, con el popular sitio de mods NexusMods y la tecnología de clonación de voz de IA en el centro. Antes del lanzamiento de la próxima epopeya espacial de Bethesda, Starfield, y la creencia de que el juego será una especie de Edén para la comunidad de modding, quienes se oponen al uso de mods pornográficos generados por IA están enfatizando la importancia de vigilar este tipo de contenido. especialmente cuando se trata de obtener el consentimiento de cualquier persona cuyos datos personales se usaron para crear el mod de IA.

Diablo IV – Construcción de doblador de osos

Leer más: Las secuelas del escándalo porno deepfake de Twitch

La inserción de personajes, la adición de líneas de voz y el cambio de apariencia a través de modificaciones ha sido posible desde el lanzamiento original de Skyrim en 2011. El juego de rol de mundo abierto de Bethesda ya es famoso por ser un patio de recreo para contenido erótico que permite a los jugadores posar y vestir a los NPC como mejor les parezca. . Sin embargo, los avances en la tecnología de IA han ampliado lo que los jugadores pueden importar a sus juegos. Los mods recientes (de los cuales hay docenas) usan tecnología de clonación de voz de compañías como ElevenLabs para imitar las voces de los personajes de Skyrim existentes para actuar guiones escritos por los modders, haciendo que personajes como Frea el chamán e Illdi el bardo sean participantes dispuestos en una variedad de encuentros sexuales. Por supuesto, si bien estos son personajes ficticios, son interpretados por personas reales, y ahí es donde radica el problema.

La controversia del deepfake de la IA de Skyrim

Muchos de los mods de línea de voz pornográficos también incluyen mods de revisión visual para los personajes (que son casi exclusivamente mujeres), o se vinculan a ellos, para que se vean más realistas o, en muchos casos, más corpulentos.

He visto algunas de estas modificaciones en acción, y ciertamente no se acercan a retratar un encuentro sexual realista: la entrega de la línea de madera de las voces generadas por IA es otro recordatorio de que la IA no puede ni debe reemplazar a las personas reales. pero eso no hace que la existencia de tales mods sea menos problemática.

Robbie, el usuario de Twitter que llamó la atención sobre estos mods (él mismo un modder de Skyrim), afirma que los actores de voz que se acercaron a NexusMods, el mayor repositorio de mods para juegos como Skyrim, pudieron eliminar el contenido relacionado con ellos. Kotaku pidió confirmación por correo electrónico y Robbie envió un enlace a un mod llamado Valerica, Lust of a Mother.

El mod originalmente declaró que “Actualmente, todo el contenido se expresa con software de IA, y tengo mucho respeto por los actores de voz. Si se ponen en contacto conmigo y quieren que eliminemos esto, ya que usa sus voces como referencia, lo haré y volveré a subir una versión sin voz o que use una muestra de voz con un sonido similar”. Un apéndice dice: «Debido a las acciones de la comunidad de reddit, lamentablemente tuve que eliminar las versiones con voz de este mod para permitir que permanezca en el nexo».

Robbie afirma que él y otros contactaron a la actriz de voz de Valerica, Cindy Robinson, para llamar su atención sobre el mod, y que ella dijo que solicitaría que lo eliminaran. Kotaku se acercó a Robinson para hacer comentarios y ella confirmó que se comunicaron personalmente.

NexusMods, dijo en una declaración de abril de 2023: «El contenido de modificación generado por IA no está en contra de nuestras reglas, pero puede eliminarse si recibimos una queja creíble de un creador/titular de derechos afectado». La postura ha resultado controvertida, especialmente porque las modificaciones generadas por IA están actualmente activas en el sitio. Kotaku se acercó a NexusMods para hacer comentarios.

El daño que la IA y las voces sintéticas causan a los actores de doblaje y las empresas de juegos es real y tangible. — Asociación Nacional de Actores de Doblaje

La situación irritable ha llevado a la comunidad a comenzar a tener conversaciones sobre lo que sucederá a continuación. Robbie escribió una publicación de Reddit en el subreddit de mods de Skyrim llamando la atención sobre los mods pornográficos y defendiendo su eliminación; rápidamente se convirtió en el sitio de un intenso debate antes de que los moderadores lo bloquearan. Algunos se quejaron de que la publicación original estaba infringiendo los Términos de servicio de Reddit al «animar a la gente… a formar una brigada en otro sitio web», mientras que otros señalaron como excusa una percepción de falta de indignación contra la técnica tradicional de empalmar líneas de voz «vainilla» para generar contenido explícito. para desestimar la controversia actual.

La publicación original también hacía referencia a los Términos de servicio de ElevenLabs, que supuestamente requieren que las personas que usan el software obtengan el consentimiento para «cargar y clonar» muestras de voz. ElevenLabs requiere que aquellos que usan su tecnología de clonación de voz sean suscriptores pagos de su servicio, en un esfuerzo por mitigar su uso por razones nefastas, pero está claro que esto no ha impedido que las personas usen la tecnología para crear contenido explícito.

Un portavoz de ElevenLabs le dijo a Kotaku por correo electrónico que:

“Todos los usuarios deben confirmar que tienen los permisos y derechos necesarios antes de clonar una voz. Si se crea contenido de esta naturaleza sin el permiso explícito del titular de la voz, se infringirían nuestros términos de servicio y posiblemente se infringiría la ley. A diferencia de las plataformas de código abierto, podemos rastrear todo el audio hasta la cuenta que lo creó y prohibir a ese usuario, si se han infringido nuestros términos de servicio. También tenemos una herramienta de clasificador de voz disponible públicamente que puede confirmar si un clip contiene audio de IA generado en nuestra plataforma, lo que permite informar e investigar el contenido”.

Los actores de voz recurrieron a Twitter para expresar su enojo, frustración y, en muchos casos, disgusto. El actor de Aggretsuko, Ben Diskin, publicó un tweet en su línea de tiempo de Twitter pidiendo a las personas que le hicieran saber si veían su voz en dichos sitios web. “No estoy de acuerdo con que mi(s) voz(s) sea(n) convertida(s) en clones de voz sintética sin mi consentimiento absoluto, claro, específico e innegable”, escribió. El actor de voz de Diablo IV, Ryan Laughton, calificó la práctica como «incorrecta en todos los niveles».

La Asociación Nacional de Actores de Voz tuiteó que «el daño a los actores de doblaje y las compañías de juegos por parte de la IA y las voces sintéticas es real y tangible» y pidió a Bethesda y al estudio matriz ZeniMax que «ayudaran» ya que «los actores de doblaje no tienen la capacidad legal». para luchar contra esto.”

Los jugadores y espectadores de Skyrim también intervinieron, y muchos expresaron su disgusto ante la perspectiva de que sus voces se introduzcan en un generador de inteligencia artificial que escupirá contenido explícito. “Si alguien usara mi voz para producir contenido generado por IA sin mi consentimiento, estaría furioso. Si alguien usara mi voz para producir pornografía sin mi consentimiento, llamaría a la policía de inmediato para que borraran a esa persona y a cualquier sitio que albergara ese material”, escribió u/robbobert01.

Kotaku se acercó a Bethesda para hacer comentarios.

Actualización 05/07/2023 a las 4:55 p. m. ET: Se agregó para incluir información sobre la eliminación de una voz generada por IA en un mod.

Actualización 05/07/2023 a las 5:15 p. m. ET: Agregado para incluir la confirmación de Cindy Robinson.

Actualización 10/07/2023 a las 2:30 p. m. ET: Agregado para incluir declaración de ElevenLabs.

Deja un comentario