Búsqueda con IA: Implementando correctamente los permisos

Una búsqueda de IA en la empresa debe cumplir con los mismos permisos que el almacenamiento y la unidad de red. Esto se puede lograr si cada sección de texto en la base de datos vectorial tiene los derechos de su documento fuente como metadatos y cada búsqueda se filtra para el usuario iniciado sesión, antes de que el modelo de lenguaje responda, no después.

La mayor preocupación sobre una búsqueda con IA está justificada: si alguien pregunta "¿Qué gana mi compañero?", la respuesta no debe venir de la nómina. Este artículo muestra cómo resolver esto de una forma técnicamente limpia.

Por qué surge el problema

En la generación aumentada por recuperación (RAG), los documentos se desglosan en secciones y se almacenan en una base de datos vectorial. Sin más acción, este es un bote grande y común. La búsqueda encuentra la sección más adecuada, independientemente de la carpeta de la que proceda. El modelo de lenguaje en sí no tiene derechos; solo formula lo que se le entrega.

El principio: los derechistas migran con ellos

Al importar: Para cada documento, los usuarios o grupos autorizados se leen desde el sistema de origen, como Paperless-ngx, Nextcloud o la unidad de red.
Al guardar: Cada sección obtiene estos derechos como metadatos, por ejemplo, "Grupos: Recursos Humanos, Gestión".
Al buscar: la aplicación conoce al usuario iniciado sesión y sus grupos y envía un filtro: solo las secciones cuyos grupos coinciden con los del usuario.
Para cambios: Si los derechos cambian en el sistema fuente, esto se añade a la base de datos vectorial.

Las bases de datos vectoriales como Qdrant soportan tales filtros directamente en los metadatos en la búsqueda. Con otras soluciones, debe comprobarse si los filtros estrictos siguen proporcionando suficientes resultados; el artículo Qdrant o pgvector explica la diferencia.

Errores típicos

Errores	Consecuencias	Mejor
Consulta los derechos solo después de la respuesta	Model ya ha visto contenido confidencial	Filtrar antes de pasar al modelo
Una colección para todos	Todos lo encuentran todo	Derechos por sección o colecciones separadas
Derechos adquiridos una vez	Los cambios en el sistema fuente no tienen efecto	Comparación regular
Registro sin cuenta de empresa	Grupos desconocidos	Inicio de sesión único con adquisición de grupo

Solución sencilla para empezar

No todas las empresas necesitan derechos por documento. A menudo basta con crear colecciones de conocimiento separadas según la confidencialidad – general, ventas, personal, gestión – y asignarlas a grupos. En Open WebUI, esto puede hacerse mediante grupos y autorizaciones por colección. Los derechos más finos merecen la pena si los documentos se transfieren automáticamente desde un archivo.

Protección de datos y pruebas

Lo que cuenta para el RGPD es que solo las personas autorizadas vean los datos personales. Documenta cómo se toman y revisan los derechos, y prueba con cuentas de diferentes grupos. Puedes encontrar más información sobre la protección de datos en búsquedas de IA en el artículo búsqueda de documentos con IA y RGPD.

Nuestra búsqueda de documentos con IA asume los derechos del sistema fuente y filtra para el usuario iniciado sesión en Qdrant antes de cada respuesta.

El asesoramiento y la implementación acompañada son elegibles para la financiación: A través del coaching INQA, el gobierno federal cubre el 80% de los costes de consultoría de hasta 1.200 € al día durante hasta 12 días, es decir, hasta 11.520 € de subvención. En Mecklemburgo-Pomerania Occidental y los otros nuevos estados federales, la financiación de consultoría BAFA también es elegible con un 80% hasta el 31.12.2026 (50% en los antiguos estados federales). La financiación se proporciona para consultoría, no para software. La comprobación de financiación muestra qué programa encaja.

Preguntas frecuentes

¿Puede una búsqueda con IA respetar los derechos de acceso?

Sí, si los derechos de los documentos fuente se almacenan como metadatos y se filtran para el usuario registrado cada vez que busca.

¿ChatGPT conoce mis derechos de carpeta?

No. Un modelo de lenguaje no conoce derechos. La aplicación que lo rodea debe asegurarse de que solo se transmita al modelo el contenido permitido.

¿Qué ocurre cuando cambian los derechos?

Una comparación regular con el sistema fuente transfiere los derechos modificados a la base de datos vectorial. La frecuencia depende de la rapidez con la que los cambios deben hacer efecto.