Majestic Labs, une startup, a annoncé son concept de serveur Prometheus visant à résoudre le problème de mémoire limitée des GPU dans l'inférence IA. L'entreprise propose de remplacer les GPU coûteux par ses propres unités de traitement IA Ignite (AIU) pour éliminer le besoin de mémoire à haute bande passante (HBM) dans les schémas de cache KV.
Selon l'entreprise, l'architecture du serveur Prometheus est conçue pour remédier aux inefficacités du matériel IA actuel, où les GPU sont limités par la bande passante mémoire. En utilisant des AIU, Majestic Labs affirme réduire la latence et la consommation d'énergie tout en maintenant les performances pour les grands modèles de langage.
En juillet 2026, le serveur Prometheus est encore en développement, sans date de sortie confirmée. Majestic Labs n'a pas divulgué de prix ni de benchmarks de performance, mais des prototypes précoces sont testés avec des partenaires sélectionnés.
