Aphrodite Engine

Aphrodite Engine — это бесплатный AI-чатбот и виртуальный ассистент с открытым исходным кодом, разработанный PygmalionAI, предназначенный для локального запуска больших языковых моделей с высокой производительностью. Он ориентирован на ролевые игры и разговорный ИИ, используя оптимизированные движки вывода, такие как vLLM, для скорости. Нацеленный на разработчиков и энтузиастов, он предлагает легковесный бэкенд для размещения моделей, таких как LLaMA и Mistral, с уникальным акцентом на нецензурированные и настраиваемые взаимодействия.