Petals

Petals es un chatbot de IA y asistente virtual gratuito y descentralizado que ejecuta modelos de lenguaje grandes de manera colaborativa a través de una red peer-to-peer. Permite a los usuarios ejecutar modelos como LLaMA y BLOOM compartiendo recursos computacionales, reduciendo los requisitos de hardware. Dirigido a investigadores y aficionados, ofrece un enfoque único para la inferencia distribuida, permitiendo el acceso a modelos grandes sin GPU costosas, con un enfoque en la computación impulsada por la comunidad.