Jurisprudencia
En junio de 2023, un abogado neoyorquino llamado Steven Schwartz presentó un escrito ante un tribunal federal con seis precedentes contundentes. Casos perfectamente citados: nombre de las partes, número de expediente, año, tribunal, transcripción de párrafos clave. El juez quiso leerlos. No los encontró. Ninguno existía. ChatGPT se los había inventado a todos. Schwartz terminó sancionado y el caso dio la vuelta al mundo.
En la Argentina ya hubo réplicas: jueces detectaron escritos con fallos apócrifos generados por IA y empezaron a aparecer sanciones. La historia se repite porque hay una característica de estos sistemas que casi nadie termina de internalizar: los modelos de lenguaje inventan información falsa con la misma confianza con la que generan información correcta.
No es un error puntual. Es una propiedad estructural de cómo funcionan. Y entenderla es la diferencia entre usar la IA como una palanca poderosa o cometer un papelón profesional.
Qué es realmente una "alucinación"
El término suena raro pero describe bien el fenómeno. Alucinación es cuando una IA genera contenido que parece verdadero —tiene el tono correcto, el formato correcto, la estructura correcta— pero no se corresponde con la realidad.
El problema es de raíz. Cuando le hacés una pregunta a ChatGPT, a Claude o a Gemini, el sistema no consulta una base de datos ni busca la respuesta en ningún lado: predice qué palabra es más probable que venga después de la anterior. Funciona como un autocompletado gigantesco y muy sofisticado. La fluidez no implica verdad; solo implica que el texto resulta plausible.
Por eso una cita inventada y una cita correcta son, para el modelo, dos salidas igualmente válidas. No hay un semáforo interno que se prenda en rojo cuando algo es falso. Y cuanto mejor escribe el modelo, más convincente suena lo que inventa.
Los cuatro tipos de alucinación que conviene reconocer
No todas las mentiras de la IA son iguales. Distinguirlas ayuda a detectarlas:
1. Fáctica. Inventa un dato concreto: una fecha, un número, un nombre, una sentencia. Es la más fácil de pescar si verificás en fuente.
2. De citación. El libro y el autor existen, pero la frase que les atribuye nunca fue dicha. Resiste un primer chequeo superficial.
3. De razonamiento. El argumento parece sólido, pero hay un eslabón silenciosamente roto en la cadena lógica. Difícil de detectar si lo leés rápido.
4. De cobertura. La forma más traicionera: la IA omite información clave y presenta la respuesta como si estuviera completa. Una mentira por omisión con cara de respuesta exhaustiva.
Por qué el problema no se resuelve con modelos más grandes
Una idea muy extendida —y equivocada— sostiene que esto se va a arreglar solo cuando la IA "evolucione". La realidad es la opuesta: modelos más grandes pueden alucinar más, porque ganan en fluidez y por lo tanto en capacidad de sonar convincentes cuando inventan.
La solución no está adentro del modelo. Está afuera. Se llama arquitectura: combinar el modelo con herramientas que lo conecten a fuentes verificables y con un proceso de verificación humana al final.
En el mundo jurídico, este es exactamente el problema que vinieron a resolver herramientas como JurisprudenciaARG, que en lugar de generar fallos los busca en bases oficiales y entrega el link al PDF original. La regla es simple: si la IA no puede mostrarte la fuente, no es información confiable. Es prosa con cara de información.
La pregunta que separa el uso seguro del uso peligroso
Hay una sola pregunta que conviene hacerse antes de cualquier interacción con una IA:
¿Quién aporta los hechos: yo o la máquina?
Si los hechos los aportás vos —le pasás el contrato, el expediente, el documento, los datos— y le pedís que procese, estás en zona de bajo riesgo. La IA reescribe, resume, traduce, compara, estructura argumentos. Sobre material que vos controlás.
Si los hechos los aporta la IA —le pedís que "encuentre" información, datos, antecedentes, jurisprudencia— estás en zona de alto riesgo. Todo lo que salga de ahí debería verificarse en fuente original antes de usarlo.
Es una regla aburrida. Pero es la misma diferencia que separa al profesional que usa la IA bien del que terminó con el papelón en el diario.
Cuatro técnicas que bajan el riesgo
Para quienes ya incorporaron la IA al día a día —no solo abogados: periodistas, médicos, contadores, estudiantes— hay cuatro hábitos que funcionan:
Pedirle que se ate al documento. "Respondé solo en base a lo que está en este texto; si la información no aparece, decímelo." Reduce drásticamente la alucinación.
Pedirle que marque su incertidumbre. "Marcá con un asterisco cualquier afirmación de la que no estés seguro." Los modelos modernos calibran bastante bien cuando se les pide explícitamente.
Cruzar herramientas. La misma pregunta a dos modelos distintos (ChatGPT y Claude, por ejemplo). Donde discrepan, hay que mirar más fino.
Conectar la IA a fuentes reales. Cuando el modelo busca en tiempo real o trabaja sobre una base documental confiable, el riesgo de inventar baja muchísimo. No desaparece —pero baja.
Ninguna de estas técnicas reemplaza al filtro final, que sigue siendo el mismo desde antes de la IA: un ojo humano que sepa de qué está leyendo.
La regla que conviene grabarse a fuego
La IA es una palanca enorme. Acorta tiempos, organiza información, dispara ideas, ahorra la temida hoja en blanco. Quien la usa bien no es reemplazado por ella —se vuelve más rápido y más completo.
Pero hay una línea que no conviene cruzar nunca: cuando la IA empieza a definir el trabajo en lugar de asistirlo, algo está mal. El criterio sigue siendo del humano. La firma sigue siendo del humano. La responsabilidad, también.
Sonar convincente no es lo mismo que tener razón. Y mientras los modelos sigan siendo motores de plausibilidad y no de verdad, ese va a seguir siendo el oficio más importante: distinguir una cosa de la otra.