¿Qué hay detrás de una respuesta?

Al leer una respuesta generada por inteligencia artificial, solemos mirar primero las frases. ¿Tienen sentido? ¿Responden a la pregunta? ¿Podemos utilizarlas?

Cuando una respuesta debe fundamentar una decisión, surgen otras preguntas. ¿Qué información se utilizó? ¿Qué versión era válida? ¿Tenía el sistema autorización para acceder a ella? ¿La fuente llegó realmente al modelo? ¿Respaldaba la respuesta?

Estas preguntas nos llevan de la respuesta visible a las condiciones en que se produjo.

El white paper de Nage AI OS y SEDIM que he publicado explora cómo hacer visibles y revisables esas condiciones. Su pregunta central es qué puede establecer una institución sobre una respuesta generada por IA y con qué evidencia.

Seguir el recorrido de una fuente

Hay varias etapas entre la presencia de un documento en un sistema y su utilización en una respuesta concreta.

El documento puede haberse admitido y seleccionado para la solicitud. Sin embargo, al preparar el contexto puede quedar fuera del límite de longitud. El sistema puede haber encontrado la fuente correcta sin que la información pertinente haya llegado al modelo.

La revisión tampoco termina cuando la información llega al modelo. La presencia de una frase en su entrada no demuestra que la respuesta se haya producido a partir de ella. Puede repetir otra información, interpretar mal la fuente o contradecirla.

Por eso el trabajo trata por separado la selección de fuentes, su presencia en la entrada final, el respaldo de una afirmación y la influencia causal sobre la respuesta. Cada aspecto responde a una pregunta distinta y requiere una observación o un experimento diferente.

La distinción tiene una consecuencia práctica: ver en qué etapa apareció un problema permite hablar con mayor claridad sobre lo que debemos corregir.

El conocimiento tiene un ciclo de vida

El conocimiento institucional cambia continuamente. Se revisa una directriz, un documento pierde vigencia o se retira el permiso para utilizar una fuente.

En ese entorno, el acceso no basta. También hay que gestionar la identidad, la versión, el alcance de acceso y el estado de uso del conocimiento.

SEDIM aborda esta gestión mediante la arquitectura de modelos, conocimiento y evidencia dentro de Nage AI OS. Nage AI OS ofrece un marco para considerar la ejecución de modelos junto con estos controles, observaciones y registros revisables de solicitudes.

La retirada plantea una pregunta importante. Si una información ya no debe utilizarse, su significado en el sistema debe quedar claro. Retirarla del uso activo, borrar las copias almacenadas y eliminar información que pueda estar en los parámetros de un modelo preentrenado son operaciones distintas. Completar una no demuestra que las demás estén completas.

Expresiones breves como «actualizado» o «eliminado» contienen decisiones técnicas cuyo alcance debe especificarse.

¿Qué puede mostrar un registro?

Revisar una respuesta después exige conocer las condiciones de aquel momento. ¿Qué modelo, versión de la fuente y política de acceso se utilizaron? ¿Qué observaciones se obtuvieron? ¿Qué se entregó al usuario?

Un registro firmado puede ayudar a comprobar la integridad y la firma del contenido divulgado. Por sí solo, no demuestra que la respuesta sea correcta ni que se hayan registrado todos los acontecimientos del sistema.

Ese límite importa. Conservamos el valor de las herramientas de revisión explicando con claridad qué pueden verificar.

Hace falta la misma claridad cuando una medición no está disponible. Sustituir un valor ausente por cero no elimina la incertidumbre: la oculta. A veces, el resultado más significativo es registrar por qué no pudo producirse un valor.

El propio trabajo debe poder revisarse

El white paper presenta resultados de ingeniería medidos junto con objetivos de diseño y capacidades pendientes de pruebas de aceptación. Distinguir su estado es una continuación de la pregunta central del texto.

Un resultado observado en ciertas condiciones no puede extenderse a todos los usos. Una verificación local no demuestra automáticamente el mismo comportamiento en producción. Puede quedar trabajo entre describir una arquitectura y cumplir todas sus condiciones de aceptación.

Por eso he publicado el documento con un anexo de evidencia técnica que permite leer los resultados junto con sus métodos y limitaciones. La investigación de modelos nativos CRATON se aborda como una línea separada con sus propios requisitos de evaluación.

El avance depende de conservar estas distinciones.

Al decidir si utilizar una respuesta, podemos necesitar más evidencia, una fuente vigente o revisión humana. Nage AI OS y SEDIM estudian cómo ver con mayor claridad dónde surge esa necesidad.

Junto a la respuesta debería quedar un rastro que permita volver a interrogarla.

White paper y anexo de evidencia técnica