Preentrenar LLMs con torchtitan
Te ayuda a entrenar modelos de lenguaje a gran escala con PyTorch y paralelismo distribuido. Sirve para preentrenar modelos grandes en muchos GPUs con guardado distribuido.
Descripción original (inglés)
model-architecture-torchtitan: Provides PyTorch-native distributed LLM pretraining using torchtitan with 4D parallelism (FSDP2, TP, PP, CP). Use when pretraining Llama 3.1, DeepSeek V3, or custom models at scale from 8 to 512+ GPUs with Float8, torch.compile, and distributed checkpointing.
Cómo instalarla
Una skill es una carpeta con un fichero SKILL.md. Para instalarla basta con copiar la carpeta model-architecture-torchtitan en el sitio donde tu agente busca sus skills.
- Sin terminal: abre la carpeta en GitHub, descárgala y cópiala en la carpeta de tu agente (tabla de abajo).
- Con terminal (macOS, Linux o Git Bash en Windows): elige tu agente y copia los comandos.
git clone --depth 1 https://github.com/davila7/claude-code-templates.git /tmp/skill-src
mkdir -p ~/.claude/skills
cp -r "/tmp/skill-src/cli-tool/components/skills/ai-research/model-architecture-torchtitan" ~/.claude/skills/model-architecture-torchtitan
rm -rf /tmp/skill-src| Agente | Para todos tus proyectos | Solo un proyecto |
|---|---|---|
| Claude Code | ~/.claude/skills | .claude/skills |
| GitHub Copilot | ~/.copilot/skills | .github/skills |
| Codex | ~/.agents/skills | .agents/skills |
| Gemini CLI | ~/.gemini/skills | .gemini/skills |
Muchos agentes leen también .agents/skills. Reinicia el agente después de instalar. Antes de instalar una skill, revisa su SKILL.md y los scripts que incluya: se ejecutan con tus permisos.
Más skills de davila7/claude-code-templates
- Desarrollar juegos 2D 2d-games
- Desarrollar juegos 3D 3d-games
- Crear experiencias web en 3D 3d-web-experience
- Configurar pruebas A/B ab-test-setup
- Crear CV académico academic-cv-builder
- Mejorar accesibilidad web accessibility
- Auditar accesibilidad web accessibility-auditor
- Evaluar agentes de IA agent-evaluation
Explicación redactada con ayuda de IA a partir de la descripción original.