Petals

Petals — это бесплатный децентрализованный AI-чатбот и виртуальный помощник, который запускает большие языковые модели совместно через пиринговую сеть. Он позволяет пользователям запускать такие модели, как LLaMA и BLOOM, путем совместного использования вычислительных ресурсов, снижая требования к оборудованию. Ориентируясь на исследователей и любителей, он предлагает уникальный подход к распределенному выводу, обеспечивая доступ к большим моделям без дорогих GPU, с акцентом на сообщественные вычисления.