https://blog.linmao.dev学习科研记录与分享！https://blog.linmao.dev/joy/1265/https://blog.linmao.dev/joy/1265/Sat, 24 May 2025 17:43:17 +0000This guide outlines the steps to: Temporarily install the NVIDIA driver using the .run file on openSUSE. Revert back to...https://blog.linmao.dev/scholar/1257/https://blog.linmao.dev/scholar/1257/Thu, 01 May 2025 23:00:14 +0000Published in SOSP'23 from UC Berkeley https://dl.acm.org/doi/10.1145/3600006.3613165 LLM serving 过程中，总是根据之前的 prompt toke...https://blog.linmao.dev/scholar/1251/https://blog.linmao.dev/scholar/1251/Tue, 29 Apr 2025 23:54:41 +0000Published in ASPLOS'25 by Microsoft https://dl.acm.org/doi/10.1145/3669940.3707256 为了保持 KV cache 的内存地址连续，vLLM 里面使用了 Bloc...https://blog.linmao.dev/notes/1244/https://blog.linmao.dev/notes/1244/Mon, 13 May 2024 19:42:59 +0000A quick note of LUA for later reference. Lua is a powerful and intuitive general-purpose programming language developed...https://blog.linmao.dev/gpgpu-sim/1240/https://blog.linmao.dev/gpgpu-sim/1240/Thu, 18 Jan 2024 20:03:17 +0000简单记录一下编译安装和使用 GPGPU-Sim，以备查询。 安装CUDA gpgpu-sim需要cuda toolkit，通常安装cuda toolkit需要正确的安装driver和GPU，但是gpgpu sim只需要cuda里面的一些li...https://blog.linmao.dev/joy/1223/https://blog.linmao.dev/joy/1223/Mon, 08 Jan 2024 07:10:24 +0000内存是一种半导体 本质上，内存芯片和CPU、GPU等处理器芯片一样，都是一种半导体芯片，成分都是硅。 一个芯片制造过程大致分为：拉单晶，切片，磨片，抛光，增层，光刻，掺杂，热处理，针测，划片。 晶圆（wafer） ：制作半导体电路所用的硅晶...https://blog.linmao.dev/joy/1209/https://blog.linmao.dev/joy/1209/Fri, 26 May 2023 06:52:49 +0000创建数据集 PyTorch 有两种方式来处理数据，一种 torch.utils.data.Dataset 和 torch.utils.data.DataLoader ，前者存储数据集和对应的label，后者封装数一个数据集的可迭代对象。 i...https://blog.linmao.dev/joy/1201/https://blog.linmao.dev/joy/1201/Sat, 07 Jan 2023 00:01:49 +0000I am working with Milind to fix the data race in Uber's Go database. Here is the common data races concluded from his pa...https://blog.linmao.dev/joy/1195/https://blog.linmao.dev/joy/1195/Fri, 16 Dec 2022 03:44:12 +0000根据网上资料整理一些重点，当作是笔记，借此对GO语言基本内容形成一个网络。 Go 环境变量 $GOROOT 表示 Go 在电脑上的安装位置，它的值一般都是 $HOME/go ，当然，也可以安装在别的地方。 $GOARCH 表示目标机器的处理...https://blog.linmao.dev/joy/1189/https://blog.linmao.dev/joy/1189/Wed, 23 Feb 2022 22:52:30 +0000经常需要在repository中查找文件，这里对常用命令做个总结整理。 查找内容中包含"xxx"的文件 VS Code 这个功能vs code就有，就是打开对应的folder，在左侧显示搜索图标，此时搜索会在当前文件夹下面全局搜索，输出所有...https://blog.linmao.dev/joy/1180/https://blog.linmao.dev/joy/1180/Sat, 19 Feb 2022 00:45:59 +0000之前一直用virtualenv配置python虚拟环境，最近用到conda。他们的区别见这篇 博客 。 conda简介 conda是一个python的包管理工具（可以直接spack安装），同时还能配置python虚拟环境，相当于virtua...https://blog.linmao.dev/joy/1174/https://blog.linmao.dev/joy/1174/Tue, 05 Oct 2021 06:51:10 +0000背景：由于最近多个用户共享同一个linux用户环境开发，并且该用户上面已经配置了另外的git信息（包括.gitconfig中的用户名邮箱，和.ssh下面的github私钥）。所以本文在不影响原有github账户的情况下设置项目对应的gith...https://blog.linmao.dev/joy/1170/https://blog.linmao.dev/joy/1170/Tue, 13 Jul 2021 11:07:07 +0000执行模型 CUDA程序执行流程一般如图： GPU架构是围绕一个流式多处理器（SM）的可扩展阵列搭建的。从软件上看，SM更像一个独立的CPU core。SM（Streaming Multiprocessors）是GPU架构中非常重要的部分，G...https://blog.linmao.dev/joy/1165/https://blog.linmao.dev/joy/1165/Tue, 13 Jul 2021 10:54:06 +0000CUDA编程结构 CPU-GPU设备分成主机和设备：主机：CPU及其内存（主机内存），设备：GPU及其内存（设备内存）。CUDA编程模型有两个特色功能，一是通过一种 层次结构来组织内存 ，二是通过 层次结构来组织线程 的访问。 从CUDA...https://blog.linmao.dev/joy/1148/https://blog.linmao.dev/joy/1148/Sat, 10 Jul 2021 08:21:39 +0000GPU简介 GPU并不是一个独立运行的计算平台，而需要与CPU协同工作，可以看成是CPU的协处理器，因此当我们在说GPU并行计算时，其实是指的基于CPU+GPU的异构计算架构。在异构计算架构中，GPU与CPU通过PCIe总线连接在一起来协同...https://blog.linmao.dev/joy/1139/https://blog.linmao.dev/joy/1139/Tue, 06 Jul 2021 15:12:34 +0000Spack是一个软件包管理工具，类似于debain中的apt，pthon中的pip，node中的npm。与其他的包管理工具不一样的是，spack install时，所下载的时对应库的源代码，整个配置、编译、安装的过程时在本地完成的。和其他包...https://blog.linmao.dev/joy/1117/https://blog.linmao.dev/joy/1117/Mon, 11 May 2020 07:42:18 +0000之前是用付费的SSL证书实现https访问，最近证书过期了。谷歌要求 .dev 域名必须https，所以网站没法访问了。鼓捣了一下，用自签名SSL证书和Cloudflare实现https，并且一劳永逸。 Cloudflare支持 Cloud...https://blog.linmao.dev/joy/1101/https://blog.linmao.dev/joy/1101/Fri, 01 May 2020 08:33:19 +0000线程&进程 进程是资源分配的最小单位，线程是程序执行的最小单位。 进程是一个程序的一个实例，拥有自己独立的各种段（数据段，代码段等等），每次创建一个进程需要从操作系统分配这些资源给他，消耗一定的时间，在linux下C语言创建一个进程使用 f...https://blog.linmao.dev/scholar/1094/https://blog.linmao.dev/scholar/1094/Thu, 23 Apr 2020 04:08:41 +0000简介 基准( Benchmark ) 测试是一种应用广泛、内容繁杂的测试技术，也是目前最主要的信息系统性能测试技术。 Benchmark 测试的着眼点是测试结果的可比性，即按照统一的测试规范(test specification)对被测试系...https://blog.linmao.dev/scholar/1066/https://blog.linmao.dev/scholar/1066/Fri, 27 Dec 2019 03:46:00 +0000ABSTRACT Shared last-level cache (LLC) management is a critical design issue for heterogeneous multi-cores. In this pape...