La justicia de Morón dio a conocer un fallo que, además de su implicancia en un proceso jurídico, ya empezó a ser utilizado como herramienta académica. Se trata de una fuerte advertencia a profesionales de la abogacía sobre el uso de inteligencia artificial en los escritos sin el debido control humano, que en última instancia, sigue teniendo la responsabilidad al ser parte de un expediente.
Para comprender el contexto, todo comenzó cuando la defensa de un imputado presentó ante la Sala I de la Cámara de Apelaciones y Garantías en lo Penal de ese Departamento Judicial para presentar un recurso en contra de la prisión preventiva dictada contra L.B.M., su cliente, que está detenido en el marco de una causa por tenencia de 950 gramos de cocaína distribuidos en 933 envoltorios.
El tema es que, al revisar el escrito, los camaristas Diego Grau, Fernando Bellido y Fabián Cardoso detectaron una serie de yerros insólitos: había fragmentos completos de una conversación con un chat generativo de IA. Entre los restos que aparecían en el documento figuraban frases como “Yo seguiría con este orden”, instrucciones para organizar los agravios, el nombre de otro archivo, la indicación “Documento”, un pedido para transformar un texto en un agravio y hasta la leyenda “Pensado durante 19s”.
Además, había versiones superpuestas y reiteraciones, lo que llevó al tribunal a concluir que el escrito había sido presentado sin una revisión profesional final suficiente. Pero, más allá de ese expediente concreto, lo que dejó en evidencia el caso es un fenómeno que comienza a aparecer de manera más visible en los tribunales: la intervención de la IA en los expedientes.
“La responsabilidad sigue siendo humana”
De ahí que la resolución judicial, más allá de la cuestión de fondo sobre la que reclamó el abogado Mariano Agustín S., lo que hizo fue poner el foco en el hecho de que “lo cuestionable es presentar el resultado de la IA sin realizar la verificación, validación y depuración que exige el ejercicio profesional de la abogacía”. Y enfatizó: “la IA puede utilizarse como herramienta, pero la responsabilidad por lo que se presenta ante la Justicia sigue siendo humana”.
En otras palabras, lo que la justicia le demandó al abogado es que ejerza su profesión, aunque también aclaró que el uso de ese tipo de instrumentos digitales no está prohibido. Sí debe guardarse el decoro a la hora de presentar los escritos de rigor, y que no aparezcan ese tipo de diálogos que, en definitiva, demuestran que se entregó un documento sin haberlo leído. ¿Así se defiende a un pupilo que paga por su trabajo?
Los camaristas advirtieron, asimismo, que las herramientas de IA aplicadas “pueden mejorar la calidad y eficiencia del trabajo jurídico”, aunque deja en claro que “no pueden sustituir la intervención humana responsable”. Incluso le recomendaron al letrado realizar un “control final” sobre la presentación antes de que llegue a mano de quienes deben analizarlo, precisamente para prevenir errores.
En otro orden, el fallo también hace hincapié en otro elemento, no de menor importancia: el problema de la confidencialidad y la protección de datos personales, y una cuestión también delicada: es que un expediente judicial contiene información sensible, lo que acarrea el riesgo potencial de convertirse en insumo del sistema de IA frente a otros casos similares.
Tampoco se trata de una defensa de lo humano en contra de la tecnología: los camaristas precisan en la resolución que un escrito elaborado con asistencia de IA puede ser perfectamente válido si contiene argumentos concretos, comprensibles y verificables. Del mismo modo, un recurso redactado íntegramente por una persona puede ser inadmisible si carece de una crítica concreta y razonada.
