加载中...
问道不止,技近于道
查看显卡之间的拓扑结构 查看显卡之间的拓扑结构
拓扑信息(TOPOLOGY)本篇主要讲解 nvidia-smi 命令的拓扑信息选项 topo,使用命令如下: nvidia-smi topo 该命令用于展示设备或者系统的拓扑结构。拓扑信息选项,支持的参数列表如下: [-m | --mat
2025-03-06
Ray集群的使用 Ray集群的使用
前言什么是Ray?Ray 是一个开源统一框架,用于扩展 AI 和 Python 应用程序(如机器学习)。它提供了用于并行处理的计算层,因此您无需成为分布式系统专家。Ray 使用以下组件最大限度地降低了运行分布式单个和端到端机器学习工作流的复
2025-03-05
使用SGLang部署deepseek大模型 使用SGLang部署deepseek大模型
软件及环境 DeepSeek-R1:https://github.com/deepseek-ai/DeepSeek-R1 SGLang:https://github.com/sgl-project/sglang,使用的镜像版本为:lmsys
2025-02-28
【开源图床】使用Typora+PicGo+Gitee搭建个人博客图床 【开源图床】使用Typora+PicGo+Gitee搭建个人博客图床
0. 准备工作首先电脑得提前完成安装如下: PicGo:图床神器之PicGo下载、安装与配置详细教程https://picgo.github.io/PicGo-Doc/zh/guide/#picgo-is-here Node.js:Pi
2025-02-26
Nvidia驱动程序相关查询汇总 Nvidia驱动程序相关查询汇总
1. Nvidia显卡计算能力查询1.1 显卡计算能力是什么?计算能力(Compute Capability)并不是指gpu的计算性能。 nvidia发明计算能力这个概念是为了标识设备的核心架构、gpu硬件支持的功能和指令,因此计算能力也被
2025-02-26
Linux中IB网卡测试 Linux中IB网卡测试
前置准备 perftest:RDMA性能测试工具 软件安装yum install perftest GPU 的P2P连接使用 nvidia-smi topo -m 命令查看GPU的P2P连接情况 Apptainer> nvidia-sm
2025-02-13
在Linux中使用ollama私有化部署DeepSeek-R1大模型 在Linux中使用ollama私有化部署DeepSeek-R1大模型
前言DeepSeek 是一款开创性的开源大语言模型,凭借其先进的算法架构和反思链能力,为 AI 对话交互带来了革新性的体验。通过私有化部署,你可以充分掌控数据安全和使用安全。你还可以灵活调整部署方案,并实现便捷的自定义系统。 前置准备硬件环
2025-02-08
djangorestframework基础使用 djangorestframework基础使用
前言djangorestframework 也叫 drf,在使用 drf 之前我们需要先知道什么 REST。 REST(Representational State Transfer,表现层状态转移)是一种软件架构风格,它不是一种标准,也不
2025-01-10
linux中systemctl详解及常用命令 linux中systemctl详解及常用命令
systemctl和service命令的区别systemctl 和 service 两个命令都是 Linux 系统中用于管理服务的工具,但它们分别关联着不同的初始化系统(init system),并且在功能和使用场景上有所差异。 servi
2025-01-03
ES6新特性(下) ES6新特性(下)
ES6新特性(下) let和const命令 es6的模板字符串 增强的函数 解构赋值 扩展的字符串、对象、数组功能 Symbol Map和Set 迭代器和生成器 Promise对象 Proxy对象 async的用法 类 class 模块化实
2024-12-31
2 / 7