La industria tecnológica se mueve rápido y vuelve a romper cosas, y esta vez se trata de la realidad compartida de la humanidad y el control de nuestra imagen antes y después de la muerte, gracias a plataformas de generación de imágenes con inteligencia artificial como Sora 2 de OpenAI.

El grupo de defensa tecnológica Public Citizen ha exigido a OpenAI que retire Sora 2, citando preocupaciones de seguridad y amenazas a la democracia por parte del generador de vídeo con IA.

El grupo argumenta que OpenAI ha priorizado la velocidad del mercado sobre la seguridad.

OpenAI se ha enfrentado a reacciones negativas de figuras públicas y ha realizado algunos cambios, pero los críticos dicen que estas respuestas son insuficientes y reactivas.

OpenAI lanzó la nueva aplicación Sora para iPhones el mes pasado y para teléfonos Android la semana pasada
El típico video de Sora, creado con la aplicación de OpenAI y difundido en TikTok, Instagram, X y Facebook, está diseñado para ser lo suficientemente divertido como para que hagas clic y lo compartas. Podría ser la reina Isabel II rapeando o algo más común y creíble. Un género popular de Sora son las grabaciones falsas de cámaras de timbre que capturan algo ligeramente inquietante, por ejemplo, una boa constrictor en el porche o un caimán acercándose a un niño impasible, y termina con una leve sorpresa, como una abuela gritando mientras golpea al animal con una escoba

Sin embargo, un número creciente de grupos de defensa, académicos y expertos están alertando sobre los peligros de permitir que las personas creen videos con IA sobre prácticamente cualquier cosa que puedan escribir en un comando, lo que lleva a la proliferación de imágenes no consensuadas y deepfakes realistas en un mar de contenido de IA menos dañino. OpenAI ha tomado medidas enérgicas contra las creaciones de IA de figuras públicas —entre ellas, Michael Jackson, Martin Luther King Jr. y Mister Rogers— que realizan actos extravagantes, pero solo después de la protesta de los herederos de sus familias y un sindicato de actores.

La organización sin fines de lucro Public Citizen exige ahora a OpenAI que retire Sora 2 del público, escribiendo en una carta enviada el martes a la empresa y al director ejecutivo Sam Altman que el lanzamiento apresurado de la aplicación para poder lanzarla antes que la competencia muestra un "patrón consistente y peligroso de OpenAI de apresurarse a lanzar al mercado un producto que es inherentemente inseguro o carece de las medidas de seguridad necesarias". Sora 2, dice la carta, muestra un "desprecio imprudente" por la seguridad del producto, así como por el derecho de las personas a su propia imagen y la estabilidad de la democracia. El grupo también envió la carta al Congreso de los Estados Unidos.

OpenAI no respondió de inmediato a una solicitud de comentarios el martes.

"Nuestra mayor preocupación es la amenaza potencial a la democracia", dijo el defensor de políticas tecnológicas de Public Citizen, JB Branch, en una entrevista. "Creo que estamos entrando en un mundo en el que la gente no puede confiar realmente en lo que ve. Y estamos empezando a ver estrategias en la política donde la primera imagen, el primer video que se publica, es lo que la gente recuerda".

Branch, autora de la carta del martes, también ve preocupaciones más amplias sobre la privacidad de las personas que afectan desproporcionadamente a las poblaciones vulnerables en línea.

OpenAI bloquea la desnudez, pero Branch dijo que "las mujeres se ven a sí mismas siendo acosadas en línea" de otras maneras, como con contenido de nicho fetichizado que logra pasar las restricciones de las aplicaciones. El medio de noticias 404 Media informó el viernes sobre una avalancha de videos hechos con Sora de mujeres siendo estranguladas.

OpenAI presentó su nueva aplicación Sora en iPhones hace más de un mes. Se lanzó en teléfonos Android la semana pasada en los EE. UU., Canadá y varios países asiáticos, incluidos Japón y Corea del Sur.

Gran parte del rechazo más fuerte ha venido de Hollywood y otros intereses del entretenimiento, incluida la industria del manga japonesa. OpenAI anunció sus primeros grandes cambios solo unos días después del lanzamiento, diciendo que "la moderación excesiva es súper frustrante" para los usuarios, pero que es importante ser conservador "mientras el mundo todavía se está adaptando a esta nueva tecnología".

A eso le siguieron acuerdos anunciados públicamente con la familia de Martin Luther King Jr. el 16 de octubre, que impedían las "representaciones irrespetuosas" del líder de los derechos civiles mientras la empresa trabajaba en mejores medidas de seguridad, y otro el 20 de octubre con el actor de "Breaking Bad", Bryan Cranston, el sindicato SAG-AFTRA y las agencias de talento.

"Eso está muy bien si eres famoso", dijo Branch. "Es una especie de patrón que tiene OpenAI, en el que están dispuestos a responder a la indignación de una población muy pequeña. Están dispuestos a lanzar algo y disculparse después. Pero muchos de estos problemas son decisiones de diseño que pueden tomar antes del lanzamiento".

OpenAI ha enfrentado quejas similares sobre su producto estrella, ChatGPT. Siete nuevas demandas presentadas la semana pasada en tribunales de California afirman que el chatbot llevó a personas al suicidio y a delirios dañinos, incluso cuando no tenían problemas de salud mental previos. Presentadas en nombre de seis adultos y un adolescente por el Social Media Victims Law Center y el Tech Justice Law Project, las demandas afirman que OpenAI lanzó GPT-4o prematuramente el año pasado a sabiendas, a pesar de las advertencias internas de que era peligrosamente adulador y psicológicamente manipulador. Cuatro de las víctimas se suicidaron.

Public Citizen no participó en las demandas, pero Branch dijo que ve paralelismos en el lanzamiento apresurado de Sora.

Dijo que están "acelerando a fondo sin tener en cuenta los daños. Gran parte de esto parece previsible. Pero prefieren lanzar un producto, lograr que la gente lo descargue, lograr que la gente se vuelva adicta a él, en lugar de hacer lo correcto y probar estas cosas con anticipación y preocuparse por la difícil situación de los usuarios comunes".

OpenAI dedicó la semana pasada a responder a las quejas de una asociación comercial japonesa que representa a animadores famosos como el Studio Ghibli de Hayao Miyazaki y a fabricantes de videojuegos como Bandai Namco y Square Enix. OpenAI dijo que muchos fanáticos del anime quieren interactuar con sus personajes favoritos, pero la compañía también ha establecido medidas de seguridad para evitar que se generen personajes conocidos sin el consentimiento de los propietarios de los derechos de autor.

"Nos estamos comunicando directamente con los estudios y los titulares de derechos, escuchando sus comentarios y aprendiendo de cómo la gente usa Sora 2, incluso en Japón, donde las industrias culturales y creativas son muy valoradas", dijo OpenAI en un comunicado sobre la carta del grupo comercial la semana pasada.