Text Generation WebUI

Text Generation WebUI, также известный как oobabooga, — это популярный веб-интерфейс с открытым исходным кодом для запуска больших языковых моделей локально. Он поддерживает широкий спектр архитектур моделей, включая LLaMA, GPT-J и GPT-NeoX, и предлагает такие функции, как режим чата, режим блокнота и обучение моделей. Целевая аудитория — энтузиасты AI и исследователи, желающие экспериментировать с LLM на собственном оборудовании. Уникальность — обширная совместимость моделей и удобный интерфейс для локального развертывания.