Je viens de faire le test sur un PC datant de 2015, je dois dire que je trouve le résultat plutôt impressionnant (je m’attendais à ce que ça nécessite bien plus de ressources). C’est juste un peu lent pour afficher le résultat.
J’ai même essayé de générer du code en Java, et même pour ce cas le résultat arrive assez rapidement. Bien sûr je me suis totalement coupé d’internet pour le test afin de m’assurer que l’exécution était bien locale. Mais oui, j’ai bien les mêmes résultats/bêtises que quand je suis connecté : quand je lui demande s’il est opportun d’aller à pied à la station de lavage automobile en face de chez moi, il me répond bien que c’est la bonne solution, comme le vrai
Du coup je me demande vraiment ce qui justifie le dépôt sur le cloud. La puissance de calcul nécessaire reste raisonnable, tant qu’on ne veut pas faire mille choses en même temps. Même si les modèles évoluent en permanence, télécharger un modèle de 4 Go en 2026 reste assez rapide.
Et bien entendu, en termes de sécurité, rien ne vaut une exécution locale.