Data / IA
Microsoft explique l’importance des NPU dans les Copilot+ PC
Par Laurent Delattre, publié le 28 mai 2024
La semaine dernière, Microsoft envoyait une gigantesque gifle à Intel et AMD en lançant ses « Copilot+ PC », la nouvelle génération de PC dotée de NPU 40 TOPS ou plus, des NPU que l’on ne trouve actuellement que sur les nouveaux Qualcomm Snapdragon X. À l’occasion de la Build, Microsoft est revenue sur ce choix et le pourquoi de tels NPU…
Selon Jensen Huang, le CEO de NVidia, qui s’exprimait lors du keynote du dernier Dell World 2024 la semaine dernière, le monde informatique est entré dans une nouvelle ère : « Désormais nous ne produisons plus des logiciels, nous produisons des intelligences ».
C’est finalement bien là toute l’idée des Copilot+ PC : désormais, Windows n’a plus vocation à exécuter de « stupides » programmes mais bien des intelligences. Lors de la Build 2024, Steven Bathiche, leader des Sciences Appliquées chez Microsoft est revenu en détail sur pourquoi Microsoft s’est sentie obligée d’introduire une nouvelle génération de PC, les « Copilot+ PC » qui bénéficieront de fonctionnalités IA dans Windows inaccessibles aux autres PC : Windows Effects, Recall, Live Caption Translation, Cocreator.
Sous le capot des nouveaux PC Copilot+ (y compris les nouveaux modèles phares Surface Pro 11 et Surface Laptop 7), se cache un NPU capable d’effectuer au moins 45 milliards d’opérations matricielles par seconde (TOPS) tout en consommant moins de 4 watts !
Alors que Microsoft a plusieurs « petits » LLM à son actif, notamment les modèles Phi-3, et que d’autres éditeurs en ont aussi fait leur spécialité (Mistral AI 7B, Meta LLama 3, etc.), l’IA embarquée commence à dessiner son potentiel et ses usages.
Steven Bathiche explique ainsi que les NPU de Qualcomm intégrés aux premiers PC « Copilot+ » sont capables d’exécuter simultanément 40 modèles IA, où que vous soyez, avec un impact minimal sur l’autonomie de la batterie. Ces NPU font en pratique faire un bond spectaculaire au PC en termes de puissance de calcul et d’efficacité énergétique comparé aux CPU et GPU traditionnels. Optimisés pour exécuter des réseaux de neurones de façon hautement parallèle, ils rendent possible l’intégration de modèles IA beaucoup plus vastes et puissants directement dans nos appareils. « Les NPU font réaliser au PC un bond à la dois en performance et en efficacité, ce qui est vraiment remarquable » assure-t-il.
Ainsi, lors d’une démonstration en live, Steven Bathiche montre comment la fonction Windows Studio Effects peut être mise en œuvre pour combiner de multiples modèles permettant simultanément de dé-bruiter un flux vidéo, réaliser un floutage de l’arrière-plan et une segmentation. « Tout ceci s’exécute en tâche de fond, sans la moindre sollicitation du GPU » insiste-t-il !
Cette capacité de calcul sans précédent à faible coût énergétique permet l’émergence de nouvelles interactions homme-machine basées sur l’IA. Nos échanges avec les ordinateurs vont évoluer vers un pilotage plus intuitif et conversationnel, comme l’a d’ailleurs fort bien démontré OpenAI lors de la présentation de GPT4-o. « Avec l’IA, nous allons passer d’une informatique programmatique à une informatique pilotée, de productions exactes à des productions floues, de demandes nécessairement explicites à des demandes implicites… On ne commande plus à l’ordinateur, on demande à l’IA. Et cela change forcément la façon dont nous allons utiliser les PC » avertit ainsi Steven Bathiche.
Notre orateur du jour en profite pour faire un court aperçu des outils et kits de développement désormais proposés par Microsoft sous Windows à commencer par l’intégration de Phi-Silica (le nouveau SLM embarqué dans Windows qui offre des capacités proches de GPT 3.5), une fonctionnalité OCR multilingue, des fonctionnalités de traduction et de vectorisation, l’intégration dans Windows Core Audio de fonctions de suppression de bruit ou de localisation de sons, une collection d’effets spéciaux dans l’API Studio FX, etc.
En gros, tout ce qu’il faut pour « encourager les développeurs à utiliser ces nouvelles technologies pour créer des expériences innovantes et magiques » explique Steven Bathiche.
Pour Microsoft, les « Copilot+ PC » sont la promesse d’ordinateurs plus intuitifs, plus personnels et plus puissants que jamais. Et pour inviter les DSI à en prendre conscience, l’éditeur a mis en ligne la vidéo de cette session avec plusieurs démonstrations techniques démontrant, en pratique, l’accélération apportée par les NPU par rapport aux CPU et GPU embarqués dans les PC nomades.
En chargeant cette vidéo, vous acceptez la politique de confidentialité de YouTube.
En savoir plus
À LIRE AUSSI :
À LIRE AUSSI :
