Las alucinaciones de la IA ponen en duda su fiabilidad para decisiones críticas laborales

Abogados, jueces y otros profesionales detectaron que estos programas pueden producir respuestas con citas falsas, jurisprudencia inventada y datos engañosos, lo que puede derivar en errores judiciales, pérdida de credibilidad y riesgos legales.

Un creciente problema en distintos ámbitos laborales es la presencia de errores y «alucinaciones» en los textos generados por la inteligencia artificial (IA), lo que pone en entredicho su idoneidad para tomar decisiones cruciales en el trabajo.

Damien Charlotin, científico de datos y abogado francés, ha identificado al menos 490 escritos judiciales en los últimos seis meses que contienen «alucinaciones» por parte de la IA, incluso en casos donde estos textos influyen en decisiones judiciales. Charlotin advierte que, aunque la IA es una herramienta valiosa, su uso sin una verificación cuidadosa puede tener consecuencias graves.

«Incluso los actores más sofisticados enfrentan dificultades con estas tecnologías», señala. Además, creó una base de datos para seguir casos en los que tribunales han detectado contenido inventado por la IA, siendo la mayoría de estos en EE. UU., donde demandantes sin abogados han presentado documentos con citas falsas, y algunos jueces han impuesto multas por errores evidentes.

El problema trasciende el ámbito judicial. Empresas de renombre, como MyPillow Inc., han presentado documentos con casi 30 citas defectuosas en procesos legales, demostrando que incluso en contextos corporativos la IA puede generar información errónea.

Las herramientas de IA también presentan riesgos en la web, donde los resúmenes automáticos de resultados de búsqueda, en muchas ocasiones, contienen errores que pueden afectar decisiones y entendimientos. Además, la privacidad es una preocupación importante; los datos confidenciales compartidos con estas herramientas pueden quedar expuestos o ser utilizados indebidamente.

Expertos aconsejan no confiar ciegamente en la IA para decisiones importantes. Maria Flynn, consejera de Jobs for the Future, recomienda tratar la IA como un asistente que ayuda en tareas específicas, pero que requiere revisión y verificación constante.

«Puede ser útil para redactar correos o investigar, pero no debe reemplazar la revisión humana, especialmente en cuestiones críticas», explica Flynn. La experiencia muestra que, aunque la IA puede ofrecer ideas y facilitar tareas, su capacidad para proporcionar información fidedigna aún no está garantizada.

Justin Daniels, abogado en Atlanta, enfatiza que siempre es necesario revisar y validar la información generada por la IA, ya que su lógica puede parecer convincente pero estar equivocada. Además, el uso de herramientas para grabar y tomar notas en reuniones debe hacerse con cautela, respetando la privacidad y los requisitos legales de confidencialidad.

Para evitar problemas, las empresas y profesionales deben proteger la información sensible, evitando subir datos confidenciales a plataformas gratuitas de IA, y buscar formación adecuada para entender mejor sus limitaciones y potenciales riesgos.

Aunque la IA es una herramienta poderosa y en rápida expansión, su uso en decisiones que afectan derechos, responsabilidades o reputaciones requiere precaución, revisión constante y una comprensión clara de sus limitaciones. «El mayor riesgo es no aprender a usarla correctamente», finaliza Flynn, destacando la importancia de la alfabetización digital en la era de la inteligencia artificial.