📄️ LLM internlm-7b 模型文件下载部署
备注
📄️ 调用 replitLM
输入
📄️ LLM 概念
temperature
📄️ chatglm3-6b
ChatGLM3-6B:理论、部署和微调(Function Call、Code Interpreter、Agent)
📄️ coredump 用法
📄️ sample-eval 评测
📄️ 部署 code 模型
下载模型文件
📄️ LLM 大模型 Olloma 项目解读
前言
📄️ LLM 大模型评测
背景
📄️ 大模型 LLM function call
背景
📄️ gsk8k 评测
📄️ LLM StableDiffusion 生成图片
背景
📄️ ONNX 小模型
概念
📄️ 训练一个小参数模型
📄️ 华为昇腾 910b3 单机多卡分布式训练报错复现
img2.png
📄️ 分布式精调遇到的问题
报错 Duplicate GPU detected : rank 0 and rank 2 both on CUDA device 73010
📄️ LlamaFactory 精调模型-环境搭建
步骤
📄️ LlamaFactory 精调模型-Continue-pretrain训练
步骤
📄️ LlamaFactory 精调模型-RL-PPO 强化学习
步骤
📄️ LlamaFactory 精调模型-SFT-lora训练
步骤
📄️ LlamaFactory 精调模型-配置数据集
使用预制数据集训练
📄️ vLLM PD 分离部署
📄️ MCP server 概念
MCP Server(Model Context Protocol
📄️ accelerate 使用心得
使用 accelerate 启动分布式训练。
📄️ maas学习
MAAS 学习
📄️ 华为昇腾 910b3 使用 hccl-test 排查问题
直接使用 hccl-test 镜像
📄️ 使用 nsys 分析 LLM 性能问题
📄️ Harness 学习
ref
📄️ DeepAgent 使用
直接使用如下方式配置。
📄️ OpenClaw 实践
1. 主要步骤