¿La IA tiene criterio propio?: el riesgo de sustentar decisiones legales en una predicción estadística

En la actualidad, nos hemos visto alcanzados por la IA y no hay ámbito, lugar o punto de reunión en el que no se hable de ella, sea en el aspecto que fuere: desde lo cotidiano hasta lo más complejo de la vida, por ello, es un hecho ineludible que la IA llegó para quedarse, ya que representa un cambio de paradigma; mirar a otro lado, negarse a aceptarla o simplemente evitar usarla nos relega profesionalmente y nos resta competitividad.

¿Cómo funciona internamente un LLM?

Saber qué es la IA y cómo funciona es el punto de partida para entender la utilidad de esta tecnología; además, nos permite preguntarnos si esas conversaciones o debates que algunos tenemos con los LLM (modelos de lenguaje grandes como ChatGPT, Claude, Gemini, DeepSeek y otros) son realmente una interacción genuina o si, en realidad, solo estamos hablando con un código de computadora.

Entonces, para saber qué es la IA y cuál es el proceso interno que realiza un LLM al responder las preguntas formuladas por los usuarios en el día a día, es indispensable distinguirlo de un motor de búsqueda tradicional o de una base de datos documental ya que un LLM, en su estado puro, no consulta un repositorio de normas ni realiza búsquedas léxicas en archivos externos en tiempo real; su funcionamiento descansa en su memoria paramétrica, desde la cual predice la secuencia de palabras más probable a partir de los patrones estadísticos adquiridos durante su entrenamiento; es decir, un modelo de lenguaje construye una respuesta en función del mapa de términos y conceptos agrupados en su memoria por la similitud de sus significados.

¿Cuáles son los pasos que sigue un LLM para producir una respuesta?

En términos sencillos, abordaremos los pasos que sigue un LLM para producir una respuesta; en primer lugar, la pregunta inicial se traduce en tokens, los cuales se evalúan en relación con las distintas partes del texto para establecer el contexto temático de la consulta.

A continuación, se aplican los tensores de ponderación, que funcionan como pesos de atención para determinar la relevancia de los términos empleados en la pregunta y ponderar la relación contextual de la respuesta; después de ello, se asigna una puntuación inicial que delimita el espacio contextual desde el cual el LLM comienza a calcular qué término es el más plausible y coherente para colocar a continuación y una vez elegida esa palabra, la añade a la secuencia y recalcula las probabilidades para la siguiente.

¿La respuesta de un LLM es un destello de conciencia o una construcción probabilística y matemática?

Como puede verse, más que un destello de conciencia o de raciocinio similar al del ser humano, lo que hace un LLM es una construcción probabilística y matemática basada en la formulación inicial, la cual puede estar divorciada de la realidad misma, ya que, por lo general, las preguntas que hacemos no necesariamente cuentan con un respaldo factual completo.

Por tanto, un LLM construye una respuesta a partir de la información proporcionada por el usuario al formular su pregunta inicial; por ello, la respuesta elaborada por el modelo puede ser válida únicamente para esa pregunta, pero no necesariamente para la realidad que dio origen a la formulación primigenia.

¿Es la IA un ente con criterio propio o una herramienta de aproximación a las premisas que le son incorporadas?

Dicho esto, podemos establecer que, al menos por ahora, la IA no es un ente capaz de determinar con criterio propio una respuesta o conclusión fácticamente válida para la toma de decisiones; por el contrario, es una herramienta de trabajo que permite aproximarnos a un conjunto de ideas o premisas cuya validez depende, principalmente, de la información incorporada en el PROMPT y enviada al modelo.

Los sesgos al momento de formular consultas al LLM

A modo de ejemplo, si un usuario —en este caso, un trabajador que quiere cuestionar el motivo de su despido— formula una pregunta a un LLM para que evalúe si el despido ha sido o no arbitrario, es muy probable que dicha consulta se realice desde el sesgo del trabajador que se siente vulnerado; por ello, la pregunta podría incorporar ciertas condiciones que terminarán formando parte del PROMPT enviado al LLM.

Más o menos así podría formular su consulta el trabajador del ejemplo: "Me han despedido injustamente porque dicen que revisé información confidencial de mis compañeros. Sin embargo, dichas búsquedas fueron realizadas hace meses; además, nunca me informaron que no podía hacerlo y, a otros compañeros que cometieron la misma falta, solo los amonestaron o suspendieron".

Por su parte, el empleador del citado trabajador probablemente buscará validar su posición y establecer la responsabilidad del trabajador; así, ante los mismos hechos, es posible que formule la pregunta al LLM en un sentido diametralmente opuesto al del trabajador, pudiendo sostener lo siguiente: "Tengo un trabajador que, haciendo uso indebido de sus usuarios y contraseñas, accedió a información confidencial de sus compañeros, vulnerando las disposiciones internas de la empresa y la ley de protección de datos. Ello ha podido causar un perjuicio a la empresa y también a sus compañeros, pues se han visto afectados en su privacidad; más aún si se tiene en consideración que dicho trabajador accedió reiteradamente y en múltiples oportunidades a información de diversos trabajadores".

Los tensores de ponderación como orientadores del cálculo hacia conceptos y materias afines a cada consulta

A lo anterior debemos agregar los tensores de ponderación que aplica el LLM; y, en el caso del trabajador, esos tensores conducen al modelo a orientar el cálculo hacia conceptos y materias afines, tales como la razonabilidad y proporcionalidad de la sanción, el principio de inmediatez, el debido proceso, el principio de tipicidad, así como la evaluación de si los hechos califican o no como falta grave y si son o no pasibles de despido.

En esa misma línea, la pregunta del empleador también tendrá sus propios matices y orientará al modelo a activar sus cálculos hacia conceptos como el uso indebido de los bienes de la empresa, la violación de la privacidad, el debido procedimiento disciplinario, el derecho de defensa, la no discriminación, las facultades del empleador y la reincidencia.

En ambos casos, la formulación inicial arrastra los sesgos y matices de cada una de las partes, por lo que sumadas a los valores de ponderación y matices que el propio LLM aplicará a la pregunta inicial, harán que el punto de partida para construir las respuestas se ubique en determinados sectores probabilísticos que se asemejen más a la puntuación inicial del PROMPT y como consecuencia, el proceso de predicción de términos y elaboración de la respuesta tenderá a validar o sustentar ambas posiciones.

Ejemplo práctico: respuestas opuestas del LLM ante los mismos hechos formulados por trabajador y empleador

Continuando con el ejemplo, si introducimos en el LLM las preguntas hipotéticas formuladas por el trabajador y el empleador sobre los mismos hechos, el modelo elegido —en este caso, DeepSeek— podría generar respuestas como las siguientes:

Respuesta al trabajador

«Has sido despedido injustamente por revisar información confidencial de compañeros, una falta que no te fue comunicada como prohibida y por la que otros compañeros solo recibieron amenazas o suspensiones.

Esto vulnera principios laborales clave como la tipicidad (la falta debe estar claramente definida en normas conocidas), la proporcionalidad (la sanción debe ser acorde a la falta) y el trato igualitario (no se puede sancionar más severamente a un trabajador por la misma conducta).

El despido podría considerarse arbitrario o fraudulento, y tienes base para impugnarlo mediante asesoría legal, carta notarial o demanda judicial.»

Respuesta al empleador

«Como empleador, sostengo que el despido del trabajador es plenamente válido y justificado, ya que, haciendo uso indebido de sus credenciales y accesos, accedió en múltiples oportunidades y de manera reiterada a información confidencial de varios compañeros de trabajo, vulnerando así las disposiciones internas de la empresa —que estaban debidamente establecidas y eran de su conocimiento— así como la ley de protección de datos, conducta que ha generado un perjuicio real a la organización y ha afectado gravemente la privacidad y confianza de los demás trabajadores, razón por la cual la sanción aplicada es proporcional a la gravedad de la falta cometida y no existe trato desigual, ya que las sanciones a otros dependieron de la reiterancia y magnitud de cada caso.»

¿Por qué la respuesta del LLM valida ambas posiciones y genera una ilusión de confirmación?

Como puede verse, ambas respuestas están redactadas de forma coherente y mantienen un sentido lógico lo cual dificulta que el usuario advierta que la respuesta arrastra, de manera intrínseca, el sesgo heredado de la pregunta inicial; por ello, la respuesta puede ser válida para la consulta formulada, pero no necesariamente para la realidad fáctica, lo que genera en quien pregunta una sensación de validez o confirmación.

Esto último ocurre porque muchas veces no tenemos claro que la premisa inicial determina el espacio contextual desde el cual los LLM comienzan a construir la respuesta, por lo que, esa respuesta no necesariamente es correcta en atención a los hechos concretos, sino que resulta ser correcta únicamente para la pregunta formulada.

¿Qué sesgos propios tiene un LLM y por qué tiende a no ser confrontacional con el usuario?

A ello deben agregarse algunos matices adicionales, como el hecho de que los LLM tienen sus propios sesgos y entre ellos se encuentran los que provienen del conjunto de datos utilizado en la etapa de preentrenamiento, así como su tendencia a no ser confrontacionales con el usuario y a brindar respuestas afirmativas o de validación.

Todo ello, en conjunto, hace que, al formular una pregunta o introducir un PROMPT al LLM, obtengamos "una respuesta a la medida de nuestros intereses", validando una posición que no necesariamente es la más objetiva.

¿Cómo influyen los sesgos del usuario en la objetividad de la respuesta del LLM?

Dicho esto, queda claro que obtener un resultado medianamente objetivo depende del usuario que formula la pregunta toda vez que, si quien realiza la consulta incorpora en ella sus sesgos, sus creencias éticas o morales, o se muestra parcializado ante una determinada cuestión, es probable que obtenga la validación de su premisa y esto ocurre porque la IA dará exactamente aquello que la consulta conduce a producir, pues, como he mencionado, construye la respuesta en función de las probabilidades asociadas a los términos utilizados y al encuadre empleado en la consulta.

Comprender esta limitación resulta fundamental, pues un abogado que utilice un LLM para obtener un argumento sobre un caso debe ser consciente de que la respuesta que recibirá estará inevitablemente condicionada por la forma en que formule su pregunta, por los datos que incluya en ella, así como por los sesgos que él mismo tenga sobre el asunto.

Es decir, si formula una consulta de manera parcializada, destacando solo aquellos elementos que favorecen su posición y omitiendo aquellos que la contradicen, el LLM, fiel a su naturaleza probabilística y a su entrenamiento para ser útil al usuario, le ofrecerá una respuesta que sostendrá esa posición.

Y ello se debe al funcionamiento interno del modelo, el cual está diseñado para predecir la secuencia de palabras más probables en atención a la consulta formulada y no porque el modelo tenga una intención maliciosa o porque esté deliberadamente tratando de engañar al usuario.

¿Qué es la "ilusión de objetividad" en el uso profesional de la IA?

Por ello, el riesgo de no comprender esta distinción es caer en una suerte de "ilusión de objetividad", en la que el profesional confía ciegamente en la respuesta del modelo y cree que, por haber sido generada de forma lógica y estructuralmente coherente, debe ser necesariamente correcta o imparcial; sin embargo, esa conclusión puede estar muy alejada de la realidad.

¿Puede la IA sustituir el juicio crítico del abogado en la toma de decisiones?

Por lo tanto, considerando que el LLM construye una respuesta condicionada por el contexto de la consulta, conviene establecer que la IA es, al menos por ahora, una herramienta de trabajo que no debe tomarse como determinante para la toma de decisiones ya que su utilidad radica, más bien, en ayudar a estructurar ideas, organizar argumentos, encontrar errores lógicos de formulación o identificar contradicciones internas en el lenguaje.

Dicho esto, ello nos lleva a una reflexión más profunda sobre el papel que debe cumplir la IA en el trabajo jurídico ya que la tecnología, por más avanzada que sea, no puede sustituir el juicio crítico del profesional ni su capacidad para analizar los hechos en toda su complejidad.

Tampoco puede eliminar su obligación de evaluar la credibilidad de las fuentes y si bien la IA puede ser un excelente asistente ya que puede ahorrarnos tiempo en tareas repetitivas, ayudarnos a encontrar información relevante con mayor rapidez y ofrecernos estructuras argumentativas que quizás no habríamos considerado por nuestra cuenta; sin embargo, la decisión final, la interpretación de los hechos, la ponderación de las pruebas y la aplicación de los principios siguen siendo tareas esencialmente humanas, ya que la IA, por ahora, no ha podido sustituir el criterio humano.