Petals

Petals es un chatbot de IA gratuito y descentralizado y un asistente virtual que ejecuta grandes modelos de lenguaje de manera colaborativa a través de una red peer-to-peer. Permite a los usuarios ejecutar modelos como LLaMA y BLOOM compartiendo recursos computacionales, reduciendo los requisitos de hardware. Dirigido a investigadores y aficionados, ofrece un enfoque único para la inferencia distribuida, permitiendo el acceso a grandes modelos sin GPU costosas, con un enfoque en la computación impulsada por la comunidad.