¿ChatGPT inventa jurisprudencia? Por qué pasa y cómo evitarlo

En junio de 2023, el mundo legal global recibió una advertencia que cambiaría para siempre la forma en que los abogados se relacionan con la Inteligencia Artificial. Un juez federal de Nueva York sancionó duramente a un estudio jurídico que presentó un escrito con seis citas de jurisprudencia que, sencillamente, no existían.

Todos esos fallos habían sido generados por ChatGPT. El abogado confió ciegamente en la máquina, no verificó las fuentes y las incluyó en su presentación. La sanción fue real, tanto en términos económicos como en el daño irreparable a su reputación profesional. Lo más trágico de la situación es que el error era cien por ciento evitable.

Para utilizar IA de manera segura en el ejercicio de la abogacía en Argentina, es fundamental entender por qué la herramienta "miente", cómo opera esta tecnología y qué protocolos innegociables debemos adoptar.

El caso documentado: Mata v. Avianca

El caso Mata v. Avianca (S.D.N.Y. 2023) es el antecedente más famoso sobre este problema. Roberto Mata, un pasajero, demandó a la aerolínea por lesiones. Sus abogados, Steven Schwartz y Peter LoDuca, utilizaron ChatGPT para investigar jurisprudencia y oponerse a un pedido de desestimación de la aerolínea.

ChatGPT les devolvió fallos con nombres muy creíbles, como Varghese v. China Southern Airlines o Zicherman v. Korean Air Lines. Cuando los abogados de Avianca y el propio juez Kevin Castel intentaron buscar esos precedentes en las bases de datos legales, no encontraron nada. El juez exigió copias de los fallos. En un acto de desesperación (y desconocimiento técnico), el abogado volvió a pedirle a ChatGPT que le diera el texto completo de las sentencias, y el sistema procedió a inventar fojas y fojas de decisiones judiciales falsas.

El juez los sancionó con una multa económica y les ordenó notificar su falta a todos los jueces reales cuyos nombres habían sido utilizados falsamente por la IA. El escrito de sanción dictado por el juez Castel es hoy una lectura obligatoria para cualquier abogado que implemente tecnología en su estudio.

En Argentina, aunque aún no hay casos de sanciones públicas con similar severidad y repercusión mediática, es una realidad latente. Con el auge del acceso de los juristas a modelos de lenguaje (LLM) generalistas, el riesgo ético y profesional está presente en cada escrito no revisado. El tipo de error es idéntico, independientemente de si el sistema judicial es el Common Law o el sistema continental argentino.

Por qué ocurre técnicamente: la anatomía de una "alucinación"

Para evitar el problema, primero hay que entender por qué ocurre. Los modelos de lenguaje generalistas como la versión estándar de ChatGPT no son motores de búsqueda. Son, en esencia, motores de predicción estadística.

Generan texto adivinando o prediciendo qué palabra es más probable que siga a la anterior, basándose en los trillones de textos con los que fueron entrenados.

• No buscan en bases de datos externas de forma nativa.
• No tienen acceso a un repositorio de jurisprudencia oficial ni verificado.
• No saben qué es "verdad" y qué es "mentira".

Estos modelos generan texto que suena exactamente como jurisprudencia porque fueron entrenados leyendo toneladas de texto legal. Conocen a la perfección la estructura: saben que un fallo argentino suele empezar con "Autos y Vistos", seguir con un "Considerando" y terminar con un "Fallo".

El resultado es que pueden generar un precedente con un número de expediente coherente (ej: "Expte. N° 45.321/2019"), el nombre de las partes, la sala de la Cámara de Apelaciones, la fecha exacta y un holding (la decisión central) que suena completamente lógico y brillante para tu caso, pero que no existe en ningún juzgado de la República Argentina. El modelo no distingue entre 'lo que encontré' y 'lo que parece plausible'. Predice y genera ambas cosas con el mismo nivel de confianza y asertividad.

Qué tan frecuente es el problema y la falsa sensación de seguridad

El problema de las invenciones (conocidas técnicamente como "alucinaciones") es altísimo y específico de las herramientas que generan texto sin un paso previo de búsqueda.

Un abogado argentino que abre un chat generalista y le pide "buscame jurisprudencia de la CNAT sobre despido discriminatorio por edad" está jugando a la ruleta rusa con su matrícula. El sistema, en su afán de complacer al usuario y darle una respuesta útil, va a fabricar la jurisprudencia si no la tiene a mano.

La diferencia estructural: La arquitectura RAG

La solución a este problema técnico ya existe, y es lo que separa a las herramientas confiables y profesionales de los experimentos peligrosos. Se llama RAG (Retrieval-Augmented Generation), o Generación Aumentada por Recuperación.

Una herramienta diseñada para el trabajo legal con arquitectura RAG no empieza a escribir inmediatamente. Cuando le hacés una pregunta, sigue este proceso:

1. Busca: Primero consulta en bases de datos reales y verificadas de jurisprudencia, doctrina o normativa.
2. Recupera: Extrae los documentos y fallos reales que responden a tu consulta.
3. Genera: Recién en este paso utiliza el modelo de lenguaje (la IA) para leer esos fallos reales, resumirlos y redactar la respuesta para vos, basándose única y exclusivamente en el texto que recuperó.

Si la herramienta RAG busca en la base de datos y no encuentra ningún fallo sobre tu tema, te va a decir abiertamente: "No encontré resultados". Está diseñada por defecto para minimizar alucinaciones y evitar que el sistema invente información para rellenar vacíos.

El protocolo razonable de verificación

Incluso utilizando las mejores herramientas, la responsabilidad final es humana. Todo abogado debe adoptar un protocolo innegociable antes de firmar:

1. Escepticismo por defecto: Asumir que la IA puede equivocarse.
2. Verificación cruzada: Para cualquier fallo citado en un escrito, se debe verificar que existe buscándolo en el SAIJ, en el portal del Poder Judicial de la Nación, en la SCBA o en la base de datos legal paga que utilice el estudio.
3. Acceso a la fuente original: Si el fallo no aparece en ninguna fuente verificable, o si solo aparece el sumario pero no se puede acceder al texto completo para validar el contexto, no se cita. Esto aplica aunque el número de expediente y los nombres de las partes suenen 100% reales.

Lexgate y Laurel: el motor detrás de la búsqueda jurídica real

Para resolver este problema estructural del mercado argentino, Lexgate trabaja directamente con un sistema de búsqueda real de jurisprudencia local antes de generar cualquier respuesta. En la plataforma, podés ver el link a la fuente original de cada cita generada.

Lexgate funciona sobre Laurel, el motor de búsqueda y generación especializado en la práctica jurídica argentina que opera por detrás de nuestra interfaz. Laurel no es un modelo de lenguaje genérico al que se le hizo un ajuste superficial. Es una arquitectura compleja que conecta las bases de jurisprudencia, normativa y doctrina locales con los modelos de lenguaje más avanzados del mundo.

Dependiendo del tipo de consulta, la complejidad del caso o el resultado deseado, podés optar por combinar nuestro motor de búsqueda con distintos modelos de lenguaje fundacionales. Por ejemplo, en 2026 Laurel puede operar integrado con Claude Sonnet 4.6 o con GPT-5, los principales exponentes de la IA en el mercado, pero obligándolos a trabajar bajo el corset de nuestras fuentes jurídicas reales y verificadas.

La combinación de una búsqueda especializada, la restricción de invención mediante RAG, y los mejores modelos de razonamiento disponibles, es lo que marca la diferencia abismal entre Lexgate y cualquier herramienta genérica.

¿Querés ver cómo una arquitectura segura puede aportarle valor real y tranquilidad a tu práctica profesional? Probalo gratis hoy en https://laurel.lexgateia.com.