Corbenic AI optimiza el uso de SSD para acelerar el rendimiento de GPUs

Corbenic AI ha lanzado Galahad, una solución innovadora que optimiza el rendimiento de los servidores al almacenar en caché el estado de atención de los modelos de inteligencia artificial en unidades NVMe locales. Esta técnica evita que las GPUs tengan que releer documentos que ya han procesado, lo que promete multiplicar la eficiencia del sistema. Según el fundador de Corbenic, Sietse Schelpe, este enfoque no requiere hardware adicional, lo que lo hace accesible para muchas empresas.

Galahad, que comenzó su beta el 1 de octubre de 2026, utiliza una técnica que guarda el 'key-value cache' (KV cache) de un modelo en almacenamiento local cifrado. Esto permite que, tras un reinicio o cuando la memoria de la GPU se borra, el sistema pueda cargar rápidamente el estado anterior y continuar el procesamiento sin perder tiempo en lecturas innecesarias.

El aumento de rendimiento de 14 veces que promete Galahad se atribuye principalmente a un componente de recuperación llamado Blaise, que optimiza la manera en que se accede a los datos almacenados. Aunque otras soluciones como LMCache, Nvidia Dynamo, y WEKA ya implementan el almacenamiento de KV cache, Galahad se destaca por su exactitud y su capacidad de reutilización segura en una biblioteca compacta.

La importancia de esta tecnología radica en su potencial para mejorar la eficiencia operativa de las empresas que dependen de la inteligencia artificial, permitiendo que los modelos procesen datos de manera más rápida y efectiva. Esto puede traducirse en menores costos operativos y un mejor aprovechamiento de los recursos existentes.

En resumen, la propuesta de Corbenic AI no solo representa un avance técnico, sino que también ofrece una solución práctica para optimizar el uso de hardware ya disponible en los servidores, lo que podría ser un cambio de juego para la industria de la inteligencia artificial.