Petals

Petals est un chatbot IA gratuit et décentralisé ainsi qu'un assistant virtuel qui exécute de grands modèles de langage de manière collaborative sur un réseau pair-à-pair. Il permet aux utilisateurs d'exécuter des modèles comme LLaMA et BLOOM en partageant des ressources informatiques, réduisant ainsi les besoins matériels. Destiné aux chercheurs et aux passionnés, il offre une approche unique de l'inférence distribuée, permettant d'accéder à de grands modèles sans GPU coûteux, avec un accent sur le calcul communautaire.