Il était une fois quatre vieux ordinateurs qui rêvaient de devenir une intelligence artificielle.

Il était une fois quatre vieux ordinateurs qui rêvaient de devenir une intelligence artificielle.

Pas de GPU à 10 000 euros.

Pas de datacenter. Juste leurs CPU et de petits modèles spécialisés dans le développement web.

Chacun pouvait coder. Mais chacun travaillait seul.

Alors nous avons eu une idée : pourquoi acheter une machine toujours plus puissante quand plusieurs petites pourraient se répartir le travail ?

C’est ainsi qu’est né WebCoder P2P.

Chaque machine exécute son modèle local. Les nœuds se découvrent, se répartissent les requêtes indépendantes et redirigent les nouvelles demandes lorsqu’un pair devient indisponible. Sans orchestrateur central.

Premier benchmark :

• 1 machine : 8,69 tokens/seconde.

• 4 machines : 17,73 tokens/seconde.

+104 % de débit agrégé dans ce test.

Une réponse unique ne sort pas deux fois plus vite : plusieurs travaux peuvent avancer simultanément.

Dix fichiers indépendants à générer ? On répartit.

Besoin de capacité ? On ajoute un ordinateur.

Le tout sur CPU, avec des modèles GGUF via llama.cpp, sans API cloud obligatoire.

La démonstration tourne sur trois nœuds publics, plus deux locaux quand je développe.

Soyons clairs : nos modèles de 1,5, 3 et 7 milliards de paramètres restent limités.

Nous construisons l’infrastructure pour les spécialiser, notamment en PHP, améliorer leur qualité, optimiser leur vitesse et les faire coopérer en P2P.

La version adaptée au réseau sera bientôt publiée.

Les progrès sont lents. Mais quotidiens.

Pendant que l’industrie bâtit des datacenters gigantesques, nous explorons ce que des machines modestes peuvent produire ensemble.

Nos quatre vieux ordinateurs n’ont pas fusionné pour devenir plus intelligents.

Ils ont appris à se répartir le travail.

Et c’est toute la différence.

#IA #OpenSource #P2P #WebCoder #LocalAI

Sources LinkedIn

• Profil : Pierre Jean Duvivier dit Sage (LinkedIn)