归档: 2025/2

2025

02

28

软件及环境 DeepSeek-R1：https://github.com/deepseek-ai/DeepSeek-R1 SGLang：https://github.com/sgl-project/sglang，使用的镜像版本为：lmsys

2025-02-28 python

python aigc

26

0. 准备工作首先电脑得提前完成安装如下： PicGo：图床神器之PicGo下载、安装与配置详细教程https://picgo.github.io/PicGo-Doc/zh/guide/#picgo-is-here Node.js：Pi

2025-02-26 blog

blog

26

1. Nvidia显卡计算能力查询1.1 显卡计算能力是什么？计算能力（Compute Capability）并不是指gpu的计算性能。 nvidia发明计算能力这个概念是为了标识设备的核心架构、gpu硬件支持的功能和指令，因此计算能力也被

2025-02-26 python

python aigc

25

1. 核心结论DeepSeek 包括推理模型（如 R1）、常规的大语言模型（如 V3）以及基于 R1 蒸馏的小模型，这些小模型的基座为 Qwen 或 Llama 系列。当前，R1 及其蒸馏的小模型是主要关注的对象。模型部署：DeepSe

2025-02-25 python

python aigc

14

软件及环境 DeepSeek-R1：https://github.com/deepseek-ai/DeepSeek-R1 vLLM：https://docs.vllm.ai/en/latest/index.html，使用的镜像版本为：vll

2025-02-14 python

python singularity apptainer aigc

13

前置准备 perftest：RDMA性能测试工具软件安装yum install perftest GPU 的P2P连接使用 nvidia-smi topo -m 命令查看GPU的P2P连接情况 Apptainer> nvidia-sm

2025-02-13 linux

python linux aigc gpu

08

前言DeepSeek 是一款开创性的开源大语言模型，凭借其先进的算法架构和反思链能力，为 AI 对话交互带来了革新性的体验。通过私有化部署，你可以充分掌控数据安全和使用安全。你还可以灵活调整部署方案，并实现便捷的自定义系统。前置准备硬件环

2025-02-08 python

python linux docker singularity apptainer docker容器 aigc