Ollama
Ollama Inc. · Rodar IA no seu computador
Baixa e roda modelos de linguagem abertos no computador, por app, terminal ou API local
- 187,8 mil no GitHub
Motor em C/C++ para rodar LLMs localmente, com CLI e servidor compatível com a OpenAI
por ggml-org (ggml.ai / Hugging Face)
Última versão: v1.0.0, de 13 de novembro de 2026
O llama.cpp é um motor de inferência em C/C++ para rodar modelos de linguagem no formato GGUF, mantido pela comunidade ggml-org com apoio da ggml.ai, empresa comprada pela Hugging Face em 2026. É a base de vários apps de IA local.
O comando llama cli conversa com modelos baixados do Hugging Face, e o llama serve sobe uma API compatível com a OpenAI e uma interface web. O site llama.app instala a CLI e oferece o app Llama para macOS e Windows 11.
Blog post: https://huggingface.co/blog/ggml-org/llama-cpp-v1
Overview
llama.cpp v1.0.0 removes the deprecated public API and promotes the NextN/speculative API to llama.h, adds OCP FP8 KV caches, a host-memory MoE expert cache with a configurable CPU share, and loading of external PLE shards. It adds three text architectures (Kimi-K3.1-Pro, Ripple and xing4_0), drama-3 TTS, and MageVL-Cowork and Kimi-K3.1 vision, hardens llama-server (SSRF, CORS, DNS rebinding, MCP tool cancellation) and adds a /v1/audio/speech endpoint, ships a redesigned web UI with chat groups and a markdown editor, and updates ggml to v1.0.0.
API changes
llama_set_warmup, 35 deprecated functions, defrag_thold and --defrag-thold (#30565)llama-ext.h and rename llama_set_embd_state_src to llama_set_ctx_state_src (#30565)moe_cache_size and moe_cache_cpu_share to llama_context_params (#30966)MTMD_GEN_AUDIO_TYPE_DRAMA3 and temp in mtmd_helper_gen_audio_inp (#31613, #31655)mtmd_helper_resampler for streaming raw PCM at the model sample rate (#31964)/v1/audio/speech endpoint and a temperature option for /tts (#31763, #31655)New models
ricursive): new dense 65B architecture, no new ops (#31692)Core changes
-ctk/-ctv f8_e4m3) with optional static per-tensor scales (#28392)--shard/--ple (#31185)set_rows (#31660)build_rope with a KV-shifting fix and tests (#31683); the model is a member of llm_graph_context (#31733)Ainda sem avaliações
Usou o llama.cpp? Conte para quem está escolhendo.
Ollama Inc. · Rodar IA no seu computador
Baixa e roda modelos de linguagem abertos no computador, por app, terminal ou API local
Ettore Di Giacinto e equipe LocalAI · Rodar IA no seu computador
Servidor de IA local com API compatível com a OpenAI para texto, voz, imagem e vídeo
Element Labs, Inc. · Rodar IA no seu computador
App de desktop para baixar e rodar modelos de linguagem no PC, com chat e API local
Ficha escrita pela redação do Flipters a partir das fontes acima, revisada em 21 de novembro de 2026. Preços e versões mudam: confira no site oficial antes de comprar. Como trabalhamos.