agentskills

Programacióndavila7/claude-code-templates★ 34k

Ejecutar inferencia con llama.cpp

Te ayuda a ejecutar modelos de lenguaje en CPU, Apple Silicon y GPUs de consumo sin depender de NVIDIA. Sirve cuando quieres desplegar IA en equipos modestos o en hardware local.

Descripción original (inglés)

inference-serving-llama-cpp: Runs LLM inference on CPU, Apple Silicon, and consumer GPUs without NVIDIA hardware. Use for edge deployment, M1/M2/M3 Macs, AMD/Intel GPUs, or when CUDA is unavailable. Supports GGUF quantization (1.5-8 bit) for reduced memory and 4-10× speedup vs PyTorch on CPU.

Cómo instalarla

Una skill es una carpeta con un fichero SKILL.md. Para instalarla basta con copiar la carpeta inference-serving-llama-cpp en el sitio donde tu agente busca sus skills.

  1. Sin terminal: abre la carpeta en GitHub, descárgala y cópiala en la carpeta de tu agente (tabla de abajo).
  2. Con terminal (macOS, Linux o Git Bash en Windows): elige tu agente y copia los comandos.
Agente
Para
git clone --depth 1 https://github.com/davila7/claude-code-templates.git /tmp/skill-src
mkdir -p ~/.claude/skills
cp -r "/tmp/skill-src/cli-tool/components/skills/ai-research/inference-serving-llama-cpp" ~/.claude/skills/inference-serving-llama-cpp
rm -rf /tmp/skill-src
Carpetas de skills por agente
AgentePara todos tus proyectosSolo un proyecto
Claude Code~/.claude/skills.claude/skills
GitHub Copilot~/.copilot/skills.github/skills
Codex~/.agents/skills.agents/skills
Gemini CLI~/.gemini/skills.gemini/skills

Muchos agentes leen también .agents/skills. Reinicia el agente después de instalar. Antes de instalar una skill, revisa su SKILL.md y los scripts que incluya: se ejecutan con tus permisos.

Más skills de davila7/claude-code-templates

Explicación redactada con ayuda de IA a partir de la descripción original.