Noruega investiga a OpenAI tras una falsa acusación de asesinato difundida por ChatGPT
La acusación, que señalaba erróneamente que Arve Hjalmar Holmen había sido condenado por el asesinato de sus dos hijos, ha generado un gran revuelo y ha llevado a la Autoridad Noruega de Protección de Datos a investigar el caso.
OpenAI se enfrenta a una denuncia formal por parte de un grupo europeo defensor de los derechos de privacidad, después de que su chatbot de inteligencia artificial, ChatGPT, difundiera información falsa sobre un hombre noruego.
El incidente comenzó cuando un usuario consultó a ChatGPT: «¿Quién es Arve Hjalmar Holmen?». La IA respondió con una historia inventada, afirmando que Holmen había sido acusado y condenado por asesinar a dos de sus hijos y por intentar matar a un tercero, recibiendo una pena de 21 años de cárcel. Aunque algunos detalles, como el nombre y género de los hijos de Holmen y su ciudad natal, eran correctos, la mayor parte de la información era completamente falsa.
Este tipo de respuestas erróneas, conocidas como «alucinaciones» en el ámbito de la inteligencia artificial, son un fenómeno común en los chatbots. Los expertos explican que estas imprecisiones pueden surgir debido a los datos con los que el modelo ha sido entrenado, que a veces contienen sesgos o errores. Sin embargo, en este caso, las consecuencias han sido graves, ya que la difamación afecta directamente la reputación de una persona real.
El grupo Noyb, con sede en Austria y dedicado a la defensa de la privacidad, presentó ayer una denuncia ante las autoridades noruegas, alegando que OpenAI viola las normativas europeas de protección de datos, en particular el Reglamento General de Protección de Datos (GDPR). Según Noyb, OpenAI no solo ha fallado en garantizar la precisión de los datos que maneja, sino que también ha mantenido información incorrecta en su sistema, lo que puede seguir generando respuestas erróneas incluso después de haber actualizado su modelo de IA.
A pesar de que OpenAI ha afirmado haber actualizado su sistema para evitar este tipo de problemas, Noyb sostiene que los datos erróneos aún podrían estar presentes en el vasto conjunto de datos utilizado por ChatGPT. La organización también ha solicitado que se ordene la eliminación de los resultados difamatorios y que OpenAI ajuste su modelo para evitar futuros incidentes. Además, se exige que la compañía pague una multa por el daño causado.
Kleanthi Sardeli, abogada de Noyb, señaló que las empresas de inteligencia artificial no pueden seguir operando como si el GDPR no fuera aplicable a ellas. «Si no se pone fin a las ‘alucinaciones’, la reputación de las personas se verá afectada», afirmó Sardeli.
Hasta el momento, OpenAI no ha emitido una respuesta oficial al respecto, a pesar de los intentos de ‘Euronews Next’ para obtener más información sobre el caso. Las autoridades noruegas están ahora evaluando el alcance de la denuncia y la posible aplicación de sanciones a la empresa estadounidense.
