Petals

Petals est un chatbot IA et assistant virtuel gratuit et décentralisé qui exécute de grands modèles de langage en collaboration sur un réseau peer-to-peer. Il permet aux utilisateurs d'exécuter des modèles comme LLaMA et BLOOM en partageant des ressources de calcul, réduisant ainsi les besoins en matériel. Ciblant les chercheurs et les amateurs, il offre une approche unique de l'inférence distribuée, permettant d'accéder à de grands modèles sans GPU coûteux, avec un accent sur le calcul axé sur la communauté.