Organización pide a OpenAI retirar Sora 2 por riesgos para la democracia y la privacidad
Una organización sin fines de lucro ha solicitado a OpenAI que retire su reciente aplicación de generación de videos con IA, Sora 2, debido a los peligros que representa para la democracia y la protección de la privacidad.
La rápida expansión de la inteligencia artificial en el sector tecnológico continúa generando controversia, especialmente en lo que respecta a la manipulación de imágenes y videos.
La plataforma Sora 2, lanzada hace unos meses y disponible en dispositivos iPhone y Android en varios países, permite crear videos falsos y realistas con personajes públicos, así como generar contenidos que pueden ser utilizados para desinformar o cometer fraudes. Entre los ejemplos más difundidos en redes sociales se encuentran videos en los que figuras como la Reina Isabel II aparecen realizando actividades inusuales o escenas ficticias que parecen muy auténticas.
Diversos expertos y grupos defensores de los derechos digitales advierten sobre los riesgos de esta tecnología, que facilita la creación de deepfakes y contenidos no autorizados a partir de simples solicitudes. La organización Public Citizen, en una carta dirigida a OpenAI y a su CEO, Sam Altman, denuncia que el lanzamiento acelerado de Sora 2 evidencia un patrón peligroso de priorizar la competitividad sobre la seguridad y la responsabilidad.
Según la carta, la aplicación pone en peligro la confianza en la información visual y audiovisual, amenazando la estabilidad democrática. JB Branch, especialista en políticas tecnológicas de Public Citizen, afirmó que “estamos entrando en una era en la que la gente no puede confiar en lo que ve”, lo cual puede tener consecuencias graves en ámbitos políticos y sociales. Además, se señala que, pese a las restricciones en contenidos sensibles como desnudos, la app ha sido utilizada para crear videos de acoso y violencia contra mujeres y otros grupos vulnerables.
Desde su lanzamiento, OpenAI ha implementado algunas medidas para limitar el uso indebido de Sora 2, incluyendo acuerdos con organizaciones y defensores de personajes históricos y actores de renombre, pero la organización que pide su retiro considera que estas acciones no son suficientes. La organización también envió su misiva al Congreso de EE.UU., alertando sobre los peligros que estas tecnologías representan para la democracia y la privacidad.
Por su parte, OpenAI no ha emitido respuesta pública a estas solicitudes, mientras continúa defendiendo que la innovación en IA requiere un enfoque prudente y regulaciones que acompañen su desarrollo. Sin embargo, los críticos consideran que la falta de medidas anticipadas y la rapidez en el despliegue de productos como Sora 2 podrían generar daños irreparables, especialmente en contextos políticos y sociales cada vez más vulnerables a la desinformación.
