LinMao's Blog（林茂的博客）
WORK
🖥️ Using NVIDIA *.run Driver on openSUSE and Reverting to SUSE Packages
This guide outlines the steps to: Temporarily install the NVIDIA driver using the .run file on openSUSE. Revert back to...
WORK
SCHOLAR
论文笔记：Efficient Memory Management for Large Language Model Serving with PagedAttention
Published in SOSP'23 from UC Berkeley https://dl.acm.org/doi/10.1145/3600006.3613165 LLM serving 过程中，总是根据之前的 prompt toke...
SCHOLAR
论文笔记：vAttention: Dynamic Memory Management for Serving LLMs without PagedAttention
Published in ASPLOS'25 by Microsoft https://dl.acm.org/doi/10.1145/3669940.3707256 为了保持 KV cache 的内存地址连续，vLLM 里面使用了 Bloc...
学习笔记
LUA Basics
A quick note of LUA for later reference. Lua is a powerful and intuitive general-purpose programming language developed...
GPGPU-Sim
GPGPU-Sim Get Started
简单记录一下编译安装和使用 GPGPU-Sim，以备查询。 安装CUDA gpgpu-sim需要cuda toolkit，通常安装cuda toolkit需要正确的安装driver和GPU，但是gpgpu sim只需要cuda里面的一些li...
WORK
DDR内存知识
内存是一种半导体 本质上，内存芯片和CPU、GPU等处理器芯片一样，都是一种半导体芯片，成分都是硅。 一个芯片制造过程大致分为：拉单晶，切片，磨片，抛光，增层，光刻，掺杂，热处理，针测，划片。 晶圆（wafer） ：制作半导体电路所用的硅晶...
WORK
PyTorch Get Started
创建数据集 PyTorch 有两种方式来处理数据，一种 torch.utils.data.Dataset 和 torch.utils.data.DataLoader ，前者存储数据集和对应的label，后者封装数一个数据集的可迭代对象。 i...
WORK
Common data races in Go
I am working with Milind to fix the data race in Uber's Go database. Here is the common data races concluded from his pa...
WORK
GO语言学习笔记
根据网上资料整理一些重点，当作是笔记，借此对GO语言基本内容形成一个网络。 Go 环境变量 $GOROOT 表示 Go 在电脑上的安装位置，它的值一般都是 $HOME/go ，当然，也可以安装在别的地方。 $GOARCH 表示目标机器的处理...
WORK
Linux的查找命令总结
经常需要在repository中查找文件，这里对常用命令做个总结整理。 查找内容中包含"xxx"的文件 VS Code 这个功能vs code就有，就是打开对应的folder，在左侧显示搜索图标，此时搜索会在当前文件夹下面全局搜索，输出所有...
WORK
conda创建虚拟环境安装pytorch
之前一直用virtualenv配置python虚拟环境，最近用到conda。他们的区别见这篇 博客 。 conda简介 conda是一个python的包管理工具（可以直接spack安装），同时还能配置python虚拟环境，相当于virtua...
WORK
为github repo配置单独的git
背景：由于最近多个用户共享同一个linux用户环境开发，并且该用户上面已经配置了另外的git信息（包括.gitconfig中的用户名邮箱，和.ssh下面的github私钥）。所以本文在不影响原有github账户的情况下设置项目对应的gith...
WORK
GPU学习笔记-执行模型
执行模型 CUDA程序执行流程一般如图： GPU架构是围绕一个流式多处理器（SM）的可扩展阵列搭建的。从软件上看，SM更像一个独立的CPU core。SM（Streaming Multiprocessors）是GPU架构中非常重要的部分，G...
WORK
GPU学习笔记-编程结构
CUDA编程结构 CPU-GPU设备分成主机和设备：主机：CPU及其内存（主机内存），设备：GPU及其内存（设备内存）。CUDA编程模型有两个特色功能，一是通过一种 层次结构来组织内存 ，二是通过 层次结构来组织线程 的访问。 从CUDA...
WORK
GPU学习笔记-GPU简介
GPU简介 GPU并不是一个独立运行的计算平台，而需要与CPU协同工作，可以看成是CPU的协处理器，因此当我们在说GPU并行计算时，其实是指的基于CPU+GPU的异构计算架构。在异构计算架构中，GPU与CPU通过PCIe总线连接在一起来协同...
WORK
Spack Basic Usage
Spack是一个软件包管理工具，类似于debain中的apt，pthon中的pip，node中的npm。与其他的包管理工具不一样的是，spack install时，所下载的时对应库的源代码，整个配置、编译、安装的过程时在本地完成的。和其他包...
WORK
用自签名SSL证书和Cloudflare实现Https
之前是用付费的SSL证书实现https访问，最近证书过期了。谷歌要求 .dev 域名必须https，所以网站没法访问了。鼓捣了一下，用自签名SSL证书和Cloudflare实现https，并且一劳永逸。 Cloudflare支持 Cloud...
WORK
C语言多线程编程
线程&进程 进程是资源分配的最小单位，线程是程序执行的最小单位。 进程是一个程序的一个实例，拥有自己独立的各种段（数据段，代码段等等），每次创建一个进程需要从操作系统分配这些资源给他，消耗一定的时间，在linux下C语言创建一个进程使用 f...
SCHOLAR
Benchmark测试综述
简介 基准( Benchmark ) 测试是一种应用广泛、内容繁杂的测试技术，也是目前最主要的信息系统性能测试技术。 Benchmark 测试的着眼点是测试结果的可比性，即按照统一的测试规范(test specification)对被测试系...
SCHOLAR
"Latency Sensitivity-Based Cache Partitioning for Heterogeneous Multi-core Architecture"
ABSTRACT Shared last-level cache (LLC) management is a critical design issue for heterogeneous multi-cores. In this pape...
最新评论
感谢博主，让我PyTorch入了门！
博主你好，今晚我们下馆子不？
博主，你的博客用的哪家的服务器。
您好，请问您对QNN-MO-PYNQ这个项目有研究吗？想请问如何去训练自己的数据集从而实现新的目标检测呢？
where is the source code ? bomb1 188 2 8 0 0 hello world 0 0 0 0 0 0 1...
在安装qemu的过程中，一定在make install 前加入 sudo赋予权限。
所以作者你是训练的tiny-yolov3还是yolov3...
很有用