AI框架与工具

PyTorch

训练开源

PyTorch 是由 Meta AI 开发的开源深度学习框架，以动态计算图和直观的 API 设计著称，是学术界和工业界最流行的深度学习平台之一。

TensorFlow

训练开源

TensorFlow 是 Google 开发的端到端开源机器学习平台，提供从研究到生产的完整工具链，支持大规模模型训练和部署。

Axolotl

训练开源

Axolotl 是一个专注于大语言模型微调的开源工具，提供声明式 YAML 配置，支持多种模型和训练方法。

DeepSpeed

训练训练开源

DeepSpeed 是 Microsoft 开发的深度学习优化库，专注于大规模分布式训练，提供 ZeRO 优化器、混合精度训练等核心技术。

JAX

训练开源

JAX 是 Google 开发的高性能数值计算框架，支持自动微分和 JIT 编译，是现代深度学习研究的重要基础设施。

LLaMA-Factory

训练推理开源

LLaMA-Factory 是一个统一的大语言模型微调框架，支持多种模型和训练方法，提供 Web UI 和命令行界面，同时支持 OpenAI 兼容的推理 API。

Megatron-LM

训练训练开源

Megatron-LM 是 NVIDIA 开发的大规模 transformer 训练框架，专注于 GPU 高效并行训练技术。

MLflow

训练开源

MLflow 是一个开源的机器学习生命周期管理平台，提供实验追踪、模型注册、项目打包和部署功能，是 MLOps 的核心工具之一。

TensorBoard

训练开源

TensorBoard 是 TensorFlow 生态的可视化工具套件，提供训练过程可视化、模型结构查看和数据分析功能，是深度学习开发的标准工具之一。

Weights & Biases

训练部分开源

Weights & Biases (W&B) 是业界领先的 MLOps 平台，提供实验追踪、模型版本管理和团队协作功能，帮助团队高效管理机器学习项目。