Lo que pregunta una revisión de privacidad en salud sobre tu capa de IA
Qué llega al modelo, qué se registra y quién puede verlo: las preguntas que deciden si un proyecto de IA clínica pasa la revisión.
Lee más sobre HIPAARecuperación · 5 min de lectura
Antes de que el modelo escriba una palabra, la recuperación decide qué puede leer. La mayoría de los equipos ajustan el modelo y dejan la recuperación con los valores por defecto. Es al revés.
Toda respuesta basada en tus datos es tan buena como el material que el sistema pudo leer. Mucho antes de que el modelo escriba nada, una capa de recuperación decide qué documentos entran siquiera en la conversación, y esa decisión previa, que casi nadie ve, determina si el asistente responde a partir de la política vigente y del pasaje relevante, o improvisa con seguridad a partir del ruido. La mayoría de los equipos ajustan el modelo y dejan la recuperación con los valores por defecto. Es al revés: la recuperación es donde están las mejoras.
Cuando llega una pregunta, la base de conocimientos devuelve una lista ordenada de candidatos. Todo lo que viene después (reordenamiento, respuestas basadas en fuentes, puntuación de confianza, la respuesta misma) trabaja solo con lo que esa primera pasada admitió. Si dejas pasar ruido, cada control posterior gasta esfuerzo en compensarlo. Si admites un conjunto limpio, actual y con mucha señal, todo el proceso mejora a la vez: más preciso, más rápido y más barato.
Hay una segunda razón para que importe, que es quién decide. Las cuatro familias de controles que siguen permiten que alguien que entiende el tema exprese un criterio de negocio (qué tan prudente, qué tan actual, qué tan conciso) como un ajuste explícito, en lugar de que quede codificado por accidente en la lógica de la aplicación por quien escribió la llamada de recuperación.
El primer control es el rango de puntuaciones de coincidencia en el que tiene que caer un documento para que se tenga en cuenta. Si pones el mínimo demasiado bajo, se cuela material poco relacionado, y el modelo va a estirar fielmente una coincidencia débil hasta convertirla en una afirmación que suena segura. Si lo pones con criterio, el sistema razona solo sobre fuentes que de verdad tienen que ver con la pregunta.
El máximo es menos evidente e importa más de lo que parece. Los encabezados repetitivos, los elementos de navegación y los fragmentos casi duplicados coinciden de forma mecánica y pueden dominar un conjunto de resultados sin aportar nada. Poner un tope a la puntuación bruta evita que desplacen al pasaje que realmente responde la pregunta.
Estrechar el rango sube la precisión y baja la cobertura; ampliarlo hace lo contrario. No hay un ajuste correcto, solo un equilibrio entre las dos cosas, y el sentido de ofrecerlo como ajuste es que lo decidas a propósito en lugar de heredarlo.
Las bases de conocimientos acumulan historia. Los precios del año pasado, una política reemplazada, una especificación obsoleta: todo sigue ahí y todo sigue coincidiendo. Un sistema de recuperación que trata cada versión como igual de válida es la forma en que un asistente termina siendo perfectamente preciso sobre un mundo que ya no existe. Es la falla más convincente que hay, porque nada en la respuesta parece estar mal.
Incluir la antigüedad en la puntuación de recuperación hace que las fuentes más nuevas suban y las desactualizadas bajen, sin que nadie tenga que depurar los documentos a mano. Qué tan fuerte debe ser el decaimiento depende por completo del material: suave para la documentación de referencia, que envejece despacio, y pronunciado para precios y notas de versión, donde cualquier cosa del trimestre pasado lleva directamente a error.
Meter más documentos en una sola llamada empeora tres cosas a la vez. La relación señal-ruido se desploma y el modelo pierde el hilo. La latencia sube. Y el costo crece con cada token adicional, en cada solicitud, para siempre.
Un tope estricto de documentos que llegan al modelo obliga al sistema a enviar solo sus mejores coincidencias. Si lo combinas con una ventana de reutilización para preguntas repetidas (la misma pregunta hecha dos veces no necesita recuperarse dos veces), reduces el ruido y el gasto a la vez, y la vigencia de esa reutilización queda bajo tu control y no bajo el de la caché.
Hasta los documentos correctos cargan peso muerto. El tamaño de los fragmentos define cuánto de cada fuente se pasa adelante: lo bastante largo para conservar el pasaje que responde la pregunta junto con el contexto que permite interpretarlo, y lo bastante corto para mantener controlado el presupuesto de tokens.
Las dos direcciones de falla son reales. Si es demasiado pequeño, cortas la oración a la mitad, el modelo recibe un fragmento y lo completa con algo de otro lado. Si es demasiado grande, la línea que contiene la respuesta queda enterrada en el texto que la rodea. Es el último control de precisión de la capa, y no decide qué fuentes ganan, sino cuánto de cada una se lee realmente.
No son controles independientes, y ajustarlos de a uno es como los equipos terminan persiguiendo sus propios cambios. La relevancia decide qué es elegible; la antigüedad decide cuáles de los elegibles ganan; el límite de documentos decide cuántos sobreviven; el tamaño de los fragmentos decide cuánto de cada uno se lee. Si cambias uno, el ajuste correcto de los demás se mueve.
Ajustados juntos, le entregan al modelo un contexto relevante, actual, enfocado y conciso, que es la base más limpia que puede tener una respuesta basada en fuentes, y lo que más mejora la calidad de las respuestas sin tocar el modelo.
El otro beneficio es probatorio. Como cada uno es un ajuste explícito, con cada cambio registrado, y no lógica dentro de una aplicación, “creemos que nuestra recuperación es buena” pasa a ser una declaración exacta de lo que el modelo tenía permitido leer y por qué. Es una posición mucho mejor cuando, seis meses después, alguien pregunta por una respuesta concreta.
Sigue leyendo
Lecturas prácticas para crear, gobernar y ejecutar agentes de IA.
Para ajustes y parámetros, consulta la documentación del producto (en inglés).
Qué llega al modelo, qué se registra y quién puede verlo: las preguntas que deciden si un proyecto de IA clínica pasa la revisión.
Lee más sobre HIPAALa pregunta difícil es qué estaba configurado para hacer el sistema un día concreto. Así se responde, desde un registro de cada cambio de configuración hasta la evidencia exportada.
Lee más sobre registros de auditoríaRegístrate en línea y empieza con una prueba de dos semanas, o habla con un experto de NeuralSeek sobre cómo usar NeuralSeek en tu propia nube.