NVIDIA a lancé quatre plates-formes d'inférence optimisées pour un ensemble varié d'applications d'IA générative qui émergent rapidement, aidant les développeurs à créer rapidement des applications ...

Quand il est question d’IA générative et de grands modèles de langage, difficile de ne pas évoquer Nvidia. Le concepteur fabless d’accélérateurs de calcul est devenu la coqueluche des marchés ...

Swami Sivasubramanian, VP AI et Ddta d'AWS, annonce l'arrivée de nouvelles fonctionnalités pour entraîner et inférer plus facilement les modèles d'IA générative tout en réduisant (encore) les coûts.

Evoquer l'intelligence artificielle revient souvent à porter l'attention sur l'entraînement d'énormes modèles de deep learning, mobilisant des milliers de GPU pendant plusieurs semaines. Pourtant, la ...

Sur l’ensemble du cycle de vie d’un modèle d’IA, le coût de l’inférence est 15 fois supérieur à celui de l’entraînement, et ...

Red Hat, Inc. a annoncé Red Hat AI Inference Server, une étape importante vers la démocratisation de l'IA générative (gen AI) dans le cloud hybride. Nouvelle offre de Red Hat AI, ce serveur ...

À l’occasion du Red Hat Summit 2025, l’éditeur open source met en avant son Red Hat AI Inference Server, de nouveaux modèles validés par des tiers, et l’intégration des API Llama Stack (Meta) et MCP ...

Le fournisseur de cloud français menait aujourd’hui sa conférence annuelle, OVHcloud Summit 2025. L’occasion pour présenter sa stratégie en matière d’IA. Selon Octave Klaba, cofondateur et PDG du ...

Le fabricant d'ordinateurs d'IA affirme que son service d'inférence est beaucoup plus rapide et qu'il rend possible de nouveaux types d'IA « agentique ». Le marché des prédictions issues de ...

De son côté, l’inférence est moins gourmande, s’étale dans la durée, et demande de la scalabilité en fonction du nombre et du type de requêtes traitées. Un modèle de reconnaissance vocale, par exemple ...

Il ne fait aucun doute que l’intelligence artificielle redéfinit les workloads aujourd’hui. D’après le cabinet de conseil Next Move Strategy(1), le marché des technologies d’IA atteignait 200 ...