Un reciente fallo de la Corte Suprema volvió a poner en evidencia uno de los riesgos asociados al uso de herramientas de inteligencia artificial generativa: las llamadas “alucinaciones”, es decir, la generación de información falsa presentada como si fuera real. El caso involucró a una abogada que presentó un recurso judicial con citas doctrinarias inexistentes atribuidas a reconocidos académicos del derecho. Tras revisar los antecedentes, el tribunal concluyó que las referencias habían sido generadas mediante inteligencia artificial y que la profesional no verificó su autenticidad antes de incorporarlas al escrito.

La Tercera Sala de la Corte Suprema resolvió suspender a la abogada del ejercicio de la profesión por un mes y aplicarle una multa de 5 UTM, al considerar que incurrió en una infracción al deber de buena fe procesal y a las obligaciones básicas de diligencia profesional. Conversamos al respecto en #SinPretexto con Manuel Villalobos Cid, académico e investigador del Departamento de Ingeniería Informática de la Usach.

“La IA no comprende, no experimenta en el sentido humano, funciona con modelos probabilísticos, algoritmos, patrones que va aprendiendo. Estas herramientas están diseñadas para responder de manera colaborativa y un tanto complaciente con las personas. En este caso, más que alucinaciones, son errores, información falsa”, apuntó.

Fuente: Radio USACH