Aphrodite Engine

Aphrodite Engineは、PygmalionAIによって開発された無料のオープンソースAIチャットボットおよびバーチャルアシスタントで、大規模言語モデルをローカルで高性能に実行するために設計されています。ロールプレイングと会話型AIに重点を置き、vLLMなどの最適化された推論エンジンを活用して速度を向上させます。開発者や愛好家を対象としており、LLaMAやMistralなどのモデルをホストするための軽量バックエンドを提供し、検閲されていないカスタマイズ可能なインタラクションに独自の重点を置いています。