AI — 木小良

模型微调知识

## 模型微调知识 ## Freeze 冻结对原始模型的大部分参数进行冻结，仅训练少部分参数 ## Prefix-Tuning 前缀微调轻量级的参数高效微调（PEFT, Parameter Efficient Fine-Tuning）方法，主要用于大规模预训练语言模型（PLM）的任务适配，尤其适用于 GPT、ChatGLM、T5 等自回归生成模型。相比于全参数微调（Fine-Tuning），Prefix-Tuning 只优

CUDA c++加速

## CUDA c++加速 ```c++ #include <stdio.h> // 包含标准输入输出库头文件 #include <cuda_runtime.h> // 包含CUDA运行时库头文件 void CPUFunction() { printf("运行在CPU中的程序\n"); // 在CPU上打印一条消息 } // __global__表示这个函数在GPU上可全局调用 __global__ void GPUFunct

unsloth微调DeepSeek

## unsloth微调DeepSeek https://github.com/unslothai/unsloth https://kq4b3vgg5b.feishu.cn/wiki/WWzZwHVNei8zsWkieJ3cyHzWnFe ## 安装库首先确保已在项目目录中，并已激活虚拟环境 `pip install --upgrade pip` 升级pip `pip install "unsloth[cu124-torch250]

ubuntu安装deepseek

## ubuntu安装deepseek `sudo apt install -y python3-venv` `sudo python3 -m venv venv` `source venv/bin/activate` 激活虚拟环境 `sudo chown -R $USER:$USER venv/` 修复目录环境权限(否则会提示没有写入权限，不能用sudo,使用sudo会跳出虚拟环境) `pip install torch tor

chatGLM微调和部署

## chatGLM微调和部署 ## 常用版本 https://github.com/THUDM/ChatGLM-6B https://modelscope.cn/models/ZhipuAI/chatglm3-6b https://modelscope.cn/models/ZhipuAI/chatglm2-6b-int4 https://modelscope.cn/models/ZhipuAI/chatglm-6b-int4-qe

vgg16使用和微调

## vgg16使用和微调 vgg16是一个预训练的图片对象识别模型，它能区分一千种类型的物体，根据识别到的物体返回编号，编号对应的物体名称存放在vgg16_imagenet_class.json中 ## vgg16的使用 ```python import torch import torchvision.transforms as transforms from torchvision.models import vgg16 from

pytorch调用已训练图片分类模型

## pytorch调用已训练图片分类模型 ```python import os import shutil import time import torch import torch.nn as nn from torchvision import transforms import torch.nn.functional as F from PIL import Image #指定被操作的文件夹绝对路径 mubiao_path =

pytorch训练图片分类模型

## pytorch训练图片分类模型 ```python import torch import torch.nn as nn import torch.optim as optim from torch.utils.data import DataLoader import torchvision.transforms as transforms from torchvision.datasets import ImageFolder

yolov5目标检测

## yolov5目标检测 ! 训练的时候要注意，**如果开启了同步盘，要关闭**，不然可能因为网盘正在读取而无法保存. 包含数据集的信息与配置，包括自定义数据集的标注和图像，训练、验证和测试数据集的配置文件等 ├── data/ # 数据集目录 │ ├── custom.yaml # 自定义数据集配置 │ ├── images/ # 存放待训练图片 │ ├── labels/ # 存放标签 │ ├── test.yaml # 测试集

Transformers推理框架

## Transformers推理框架 Hugging Face 库推理qwen3 vl模型： ```py # 导入transformers库中的图像文本到文本模型和处理器类 from transformers import AutoModelForImageTextToText, AutoProcessor # # 定义要使用的模型名称，会自动从从huggingface仓库下载 # MODEL_NAME = "Qwen/Qwen3

模型部署框架xinference

## 模型部署框架xinference ## 安装xinference https://inference.readthedocs.io/zh-cn/latest/index.html xinference是一个llm部署框架，和ollama类似，是一个快速运行llm和嵌入模型的框架部署前确定已经在当前虚拟环境和目录中`source venv/bin/activate` `uv pip install xinference` 或者带推

CUDA加速C++程序

## CUDA加速C++程序注意nvcc编译器在windows下只支持Visual Studio的cl.exe编译 linux下支持gcc编译器，所以要在wsl中执行nvcc命令 ubuntu 安装cuda-toolkit `apt install nvidia-cuda-toolkit` 建议安装特定版本： https://developer.nvidia.com/cuda-12-9-0-download-archive?targe

分类 / AI — 木小良