Grâce aux puces NPU intégrées aux processeurs modernes, des modèles de langage de 3 à 7 milliards de paramètres tournent désormais à plus de 40 tokens/seconde directement en local sur un simple ordinateur portable.
Cette avancée permet aux entreprises de traiter des documents confidentiels (contrats, dossiers médicaux) avec l'IA sans jamais envoyer la moindre donnée vers des serveurs distants.
Commentaires & Réactions (0)
Participer à la discussion