Desarrollar software con IA: 7 riesgos de seguridad

Con desarrollar software con IA es rápido y productivo, pero los asistentes de IA no escriben automáticamente código seguro. En el benchmark de Veracode (2026), el código generado por IA superó las pruebas de seguridad solo en alrededor del 56 % de los casos, de media. Los mayores riesgos: código no revisado, paquetes de software inventados, credenciales en el código, falta de comprobación de permisos, entradas sin filtrar, datos confidenciales en asistentes en la nube y agentes de IA con demasiados permisos.

Esto ya no afecta solo a las empresas de software. Hoy también departamentos especializados, fundadores y agencias crean con IA sus propias herramientas, portales de clientes o automatizaciones, a menudo sin una desarrolladora o un desarrollador que entienda el código. Precisamente ahí surgen las brechas.

1. Código que nadie ha revisado

La IA entrega código que funciona, y eso resulta convincente. Si es seguro, la primera impresión no lo muestra. Veracode encontró en 2025 que los modelos eligieron la variante insegura en lugar de la segura en el 45 % de las tareas de prueba; fueron especialmente débiles en Cross-Site-Scripting y Log-Injection. Por eso, la autoridad francesa ANSSI y el BSI recomiendan expresamente que el código generado por IA sea revisado por personas.

2. Paquetes de software inventados

Los modelos de IA a veces sugieren bibliotecas que en realidad no existen. En un estudio presentado en la conferencia USENIX Security 2025, alrededor del 19,7 % de los ejemplos de código generados contenían al menos un nombre de paquete inventado. Los atacantes registran esos nombres y los llenan de código malicioso («slopsquatting»). Quien instala la sugerencia sin comprobarla se lleva el malware a casa.

3. Credenciales en el código

Las claves API, las contraseñas de bases de datos o los tokens acaban rápidamente directamente en el código, y con él en el repositorio o incluso en el navegador de los usuarios. Las credenciales deben guardarse en una configuración segura, nunca en el código fuente.

4. Falta de verificación de permisos

Un patrón típico: la interfaz oculta funciones para usuarios normales, pero la interfaz subyacente no comprueba quién realiza la solicitud. Quien conoce la dirección puede acceder a datos de otros clientes. La IA solo incorpora este tipo de comprobaciones si se le pide expresamente.

5. Entradas sin filtrar

Las entradas de formularios, las cargas de archivos y los parámetros de URL deben validarse y procesarse de forma segura. Si no se hace, aparecen clásicos como la inyección SQL o el cross-site scripting, precisamente los errores en los que el código generado por IA falló con especial frecuencia en la prueba de Veracode.

6. Datos confidenciales en el asistente en la nube

Quien copia datos de clientes, secretos comerciales o credenciales en un asistente en la nube se los entrega a un tercero. ANSSI y BSI recomiendan no introducir datos sensibles en asistentes de programación basados en la nube y realizar un análisis de riesgos antes de su uso. Lo que está permitido en el contexto empresarial lo regula mejor una política de IA.

7. Agentes de IA con demasiados permisos

Los agentes de programación pueden ejecutar comandos, modificar archivos e instalar software. Con permisos demasiado amplios —por ejemplo, acceso a datos de producción o a servidores—, un error o una instrucción manipulada puede causar grandes daños. Más información en Prompt Injection.

Cómo desarrollar con IA de forma más segura

Riesgo	Contramedida
Código no verificado	Revisión humana antes de cada puesta en producción
Paquetes inventados	Comprobar cada nueva dependencia: ¿existe, quién la mantiene?
Credenciales en el código	Gestión de secretos, comprobación automática en el repositorio
Falta de comprobación de permisos	Comprobar los permisos del lado del servidor, pruebas con cuentas ajenas
Entradas sin filtrar	Mencionar los requisitos de seguridad en el prompt, análisis estático
Datos sensibles en la nube	Directriz, herramientas aprobadas, en su caso modelos locales
Agentes con demasiados permisos	Permisos mínimos, sin datos de producción, aprobaciones para comandos

¿Desarrolla software con apoyo de IA, por su cuenta, con su equipo o con un proveedor? Lo revisamos. Una revisión humana del código, las dependencias, los derechos de acceso y la configuración, antes de que su aplicación entre en producción o procese datos de clientes. Póngase en contacto con nosotros.

Preguntas frecuentes

¿Es inseguro el código generado por IA?

No necesariamente, pero con frecuencia sí. En los benchmarks de Veracode, el código de IA superó las pruebas de seguridad solo en alrededor del 56 % de los casos, de media. Lo decisivo es si el código se revisa antes de pasar a producción.

¿Qué es el slopsquatting?

Los atacantes registran paquetes de software con nombres que los modelos de IA suelen inventar y los rellenan con código malicioso. Quien instala sin comprobar una propuesta de este tipo introduce el software malicioso en el proyecto.

¿Puedo introducir datos de la empresa en un asistente de programación con IA?

Los datos confidenciales, los datos de clientes y las credenciales de acceso no deberían acabar en asistentes en la nube. ANSSI y BSI recomiendan un análisis de riesgos antes de su uso. Una política de IA establece reglas claras.

Estado: octubre de 2026. Fuentes: Veracode GenAI Code Security Report 2025 y 2026, Spracklen et al. (USENIX Security 2025), ANSSI/BSI: AI Coding Assistants.