Petals

Petals é um chatbot de IA descentralizado gratuito e assistente virtual que executa modelos de linguagem grandes colaborativamente em uma rede ponto a ponto. Ele permite que os usuários executem modelos como LLaMA e BLOOM compartilhando recursos computacionais, reduzindo os requisitos de hardware. Visando pesquisadores e amadores, oferece uma abordagem única para inferência distribuída, permitindo acesso a modelos grandes sem GPUs caras, com foco em computação orientada pela comunidade.