Hugging Face lance Llama Windows, une application gratuite et open source qui permet de télécharger et d'utiliser des modèles d'IA sous Windows 11 sans passer par la ligne de commande. De quoi rendre l'IA locale, sans abonnement ni connexion permanente au cloud, plus accessible.
De plus en plus de dirigeants sont tentés de faire tourner une IA sur leurs propres serveurs. L'article explique que la rentabilité de ce choix dépend de deux paramètres.
Avec la version 0.22, une nouvelle installation de Hermes Agent démarre sur une conversation guidée qui tourne sur un modèle d'essai gratuit, sans clé d'API préalable. Elle apporte aussi des connecteurs vers les applications courantes, un moteur llama.cpp en un clic pour les modèles locaux et un versionnage stable.
Google DeepMind et GovTech Singapour ont conçu un outil qui utilise de petits modèles Gemma exécutés sur l'appareil pour détecter les arnaques dans les conversations privées. Aucune donnée ne quitte le téléphone pour le cloud.
La suite ArtCraft propose des applications libres et gratuites qui reprennent les usages de sept logiciels Adobe, de la retouche photo au montage vidéo en passant par l'illustration et le PDF. Un projet ambitieux, dont les premières versions restent très expérimentales.
L'AI Gateway de Vercel propose gratuitement Nemotron 3.5 Lightning, le modèle de NVIDIA, servi par NVIDIA. Ce modèle de raisonnement à poids ouverts compte 30 milliards de paramètres, dont 3 milliards actifs par token, combine Mamba-2 et mixture d'experts et accepte un contexte d'un million de tokens ; le fournisseur peut conserver les requêtes pour améliorer le modèle.