Ollama

Ollama é uma ferramenta gratuita e de código aberto que permite aos usuários executar grandes modelos de linguagem (LLMs) localmente em seu próprio hardware. Simplifica o processo de download, gerenciamento e interação com modelos como Llama 2, Mistral e Gemma, fornecendo uma interface de linha de comando e API. Os usuários-alvo são desenvolvedores, pesquisadores e entusiastas de IA que desejam experimentar LLMs sem dependências em nuvem. Sua singularidade reside na facilidade de uso para implantação local de modelos, com uma biblioteca crescente de modelos pré-configurados.