Petals

Petals — это бесплатный децентрализованный ИИ-чатбот и виртуальный помощник, который запускает большие языковые модели совместно через одноранговую сеть. Он позволяет пользователям запускать модели, такие как LLaMA и BLOOM, путем совместного использования вычислительных ресурсов, снижая требования к оборудованию. Ориентирован на исследователей и любителей, предлагает уникальный подход к распределенному выводу, обеспечивая доступ к большим моделям без дорогих GPU, с фокусом на вычисления, управляемые сообществом.