¿Qué hardware necesita una IA propia? Servidores GPU para pymes

Si una IA propia funciona en la empresa, lo que decide sobre todo es un valor: la memoria gráfica (VRAM) de la tarjeta gráfica. Como regla general, un modelo de lenguaje reducido a 4 bits necesita alrededor de 0,6 a 0,7 GB de VRAM por cada mil millones de parámetros – más reserva para textos más largos y varios usuarios. Los modelos pequeños y medianos funcionan en una tarjeta gráfica, los grandes necesitan servidores GPU. En lugar de comprar hardware, las pymes también pueden usar servidores GPU en centros de datos alemanes alquilar.

¿Por qué precisamente la tarjeta gráfica?

Los modelos de lenguaje calculan con enormes tablas de números. Las tarjetas gráficas están especializadas precisamente en este tipo de cálculo y son mucho más rápidas que los procesadores normales. Para que el modelo responda con rapidez, debe caber por completo en la memoria de la tarjeta gráfica. Si la memoria no es suficiente, o bien se vuelve muy lento o no funciona en absoluto.

Reglas generales para los requisitos de memoria

Los siguientes valores son valores orientativos aproximados para modelos con cuantización de 4 bits y un usuario; según el modelo y la configuración, pueden variar:

• Modelos pequeños (alrededor de 8 mil millones de parámetros): unos 6–8 GB de VRAM: cabe en muchas tarjetas gráficas actuales.
• Modelos medianos (alrededor de 20–30 mil millones): aprox. 16–24 GB de VRAM – una tarjeta individual potente.
• Modelos grandes (alrededor de 70 mil millones): aprox. 40–48 GB de VRAM – tarjeta profesional o dos tarjetas.
• Modelos muy grandes (100 mil millones y más): varias tarjetas profesionales o servidores especializados.

Además, se necesita memoria para el «contexto», es decir, los textos que el modelo debe tener en cuenta al mismo tiempo, y para otros usuarios simultáneos. Por eso, planifique siempre un margen de reserva.

Tres niveles típicos de ampliación

Nivel 1: Probar en hardware existente

Un ordenador de trabajo con una buena tarjeta gráfica o un Mac actual con mucha memoria compartida basta para probar modelos pequeños con Ollama. Ideal para el piloto, no para el uso en equipo.

Nivel 2: Un servidor GPU para el equipo

Un servidor con una tarjeta gráfica potente ejecuta un modelo de tamaño medio para un equipo pequeño, por ejemplo como asistente interno o para la búsqueda de documentos. Los proveedores alemanes alquilan este tipo de servidores; Hetzner ofrece, por ejemplo, un servidor dedicado con una NVIDIA RTX 4000 SFF Ada con 20 GB de memoria gráfica.

Nivel 3: Varias tarjetas gráficas o un servicio de modelos

Para modelos grandes o muchos usuarios simultáneos se necesitan varias tarjetas profesionales. Aquí a menudo merece la pena comparar con un servicio de modelos en Alemania, en el que usted no opera un servidor, sino que solo paga por el uso; véase Alojar modelos de IA conforme al RGPD.

¿Comprar o alquilar?

• Comprar compensa con una ocupación alta y sostenida, una sala de servidores disponible y personal de TI propio.
• Alquilar es flexible, sin inversión inicial, con suministro eléctrico profesional, refrigeración y conexión de red, y puede ampliarse o reducirse según sea necesario.
• Electricidad y calor no olvidar: los servidores GPU consumen mucha más energía que la tecnología de oficina normal y necesitan refrigeración.
• Repuestos y mantenimiento: Si falla la única tarjeta gráfica, la IA se detiene. Los servidores alquilados son sustituidos por el proveedor.

Errores típicos

• Memoria gráfica insuficiente: El modelo no cabe o solo funciona muy ralentizado.
• Planificado solo para un usuario: Varias solicitudes simultáneas requieren reserva adicional.
• Modelo demasiado grande: A menudo basta con un modelo mediano con una buena base de conocimiento mediante RAG mejor que uno enorme sin ella.
• Subestimado en la operación: las actualizaciones, la copia de seguridad de datos y la supervisión requieren tiempo o un proveedor de servicios.

bettersorted apuesta para sus clientas y clientes por componentes abiertos y transparentes – operado en servidores en Alemania y agrupado en el automaisa Hub. Asesoramos de forma neutral respecto a fabricantes, estamos registrados en el BAFA como consultores y somos coaches autorizados de INQA. La consultoría y la introducción acompañada pueden subvencionarse a través del INQA-Coaching subvencionar al 80 %; el camino adecuado lo muestra el Chequeo de subvenciones. Para una primera conversación sin compromiso: Contacto.

Ejemplo: cálculo para un equipo de 15 personas

Un escenario ilustrativo: 15 empleados utilizan un asistente interno de IA, por lo general no al mismo tiempo; los picos se sitúan en tres o cuatro consultas paralelas. Se desea un modelo de tamaño medio (alrededor de 30 mil millones de parámetros, 4 bits). Como regla general, se necesitan unos 18–21 GB de memoria gráfica para el modelo, más reserva para el contexto y las consultas paralelas: una tarjeta con 24 GB va justa, con 32 a 48 GB resulta cómoda. Como alternativa, puede combinarse un modelo algo más pequeño con una buena búsqueda de documentos, que funcione en una tarjeta de 20 GB.

Preguntas al proveedor antes del alquiler

1. ¿Qué tarjeta gráfica, cuánta memoria gráfica, cuánta memoria RAM?
2. ¿Ubicación del centro de datos y contrato de tratamiento de datos?
3. ¿Con qué rapidez se sustituye el hardware defectuoso?
4. ¿Hay compromisos de disponibilidad y copia de seguridad de los datos?
5. ¿Se puede ampliar el servidor más adelante o añadir un segundo?

Energía y sostenibilidad

Los servidores GPU consumen bajo carga varias veces más que un PC de oficina. Un modelo de tamaño medio que cumpla la tarea no solo es más económico, sino también más eficiente que uno enorme. Los centros de datos con electricidad verde y refrigeración eficiente son un criterio adicional de selección.

Costes y financiación

Los costes del hardware propio de IA se componen de tres partes: Configuración (planificación, instalación, conexión, pruebas), operación continua (servidor o hosting, actualizaciones, supervisión, copias de seguridad) y acompañamiento de los empleados (formación, normas, personas de contacto). No indicamos precios fijos porque el alcance y la situación de partida varían mucho. El software en sí no genera costes de licencia en las soluciones de código abierto.

No se financia la tecnología, sino la Asesoramiento e introducción acompañada: A través del INQA-Coaching el Estado cubre en todo el país el 80 % de los costes de coaching (hasta 11.520 €, vales hasta el 30.06.2028). Un análisis previo puede subvencionarse mediante la BAFA-Beratungsförderung: con un 80 % en los nuevos estados federados, Lüneburg y Tréveris, y en caso contrario un 50 %, para solicitudes hasta el 31.12.2026. Para inversiones, algunos estados ofrecen programas propios; véase Posibilidades de financiación para empresas en Alemania.

Preguntas frecuentes

¿Cuánta memoria gráfica necesita una IA propia?

Como regla general, aproximadamente 0,6 a 0,7 GB por cada mil millones de parámetros con cuantización de 4 bits, más margen de reserva. Un modelo con unos 8 mil millones de parámetros necesita así unos 6 a 8 GB, uno con 70 mil millones unos 40 a 48 GB.

¿Basta un PC de oficina normal para la IA?

Para modelos pequeños para probar, a veces sí. Para el funcionamiento en equipo hace falta un ordenador o servidor con una tarjeta gráfica potente.

¿Debería una pyme comprar o alquilar un servidor GPU?

Para la mayoría de las pymes, alquilar en un centro de datos alemán es la mejor forma de empezar: sin inversión inicial, operación profesional y adaptación flexible. La compra merece la pena sobre todo con una utilización alta y constante y con TI propia.

¿Puede funcionar la IA también sin tarjeta gráfica?

Los modelos pequeños también funcionan en el procesador, aunque mucho más lentamente. Para el uso diario en equipo, una tarjeta gráfica es prácticamente imprescindible.

Estado: octubre de 2026.