Google Cloud a annoncé une nouvelle fonctionnalité appelée accélérateurs à tranches temporelles, conçue pour améliorer l'efficacité de l'apprentissage par renforcement (RL). Cette technologie permet à plusieurs charges de travail RL de partager un seul GPU en divisant le temps de traitement en tranches, améliorant ainsi l'utilisation des ressources et réduisant les coûts.
Selon le blog officiel de Google Cloud, le mécanisme de découpage temporel est particulièrement bénéfique pour l'apprentissage par renforcement, qui implique souvent des simulations itératives et des mises à jour de modèles. En permettant l'exécution simultanée de plusieurs tâches sur le même accélérateur, les utilisateurs peuvent obtenir des cycles d'expérimentation plus rapides sans nécessiter de matériel supplémentaire.
La fonctionnalité est disponible pour les offres TPU et GPU de Google Cloud, y compris les GPU A100 et H100 les plus récents. Les premiers utilisateurs rapportent une amélioration de l'utilisation des GPU allant jusqu'à 40 % pour certaines charges de travail RL, bien que les gains de performance exacts dépendent du modèle et de la configuration spécifiques.
Cette initiative s'inscrit dans la stratégie plus large de Google Cloud visant à fournir une infrastructure spécialisée pour l'IA et l'apprentissage automatique, en concurrence avec des offres similaires d'AWS et d'Azure. Les accélérateurs à tranches temporelles sont actuellement en avant-première publique, avec une disponibilité générale prévue plus tard cette année.
