这里是全站文章的归档入口,下面是按时间倒序排列的全部文章。若想按主题浏览,请从首页的专题分类进入。
HBM、GDDR 与 NUMA:HPC 内存层次优化实战
深入解析现代 HPC 内存架构、NUMA 感知编程与内存带宽优化,涵盖 STREAM benchmark 与 numactl 实战。
posts
这里是全站文章的归档入口,下面是按时间倒序排列的全部文章。若想按主题浏览,请从首页的专题分类进入。
深入解析现代 HPC 内存架构、NUMA 感知编程与内存带宽优化,涵盖 STREAM benchmark 与 numactl 实战。
全面掌握 Harbor 私有镜像仓库的架构设计、RBAC、镜像复制、漏洞扫描与 Helm Chart 管理。
使用 70 GB 显存才能跑一次的 Llama-2-70B,量化后可以塞进 24 GB 的消费级显卡。这不是魔法,而是大语言模型(LLM)权重量化带来的实际收益。本文将深入讲解 GPTQ、AWQ、SmoothQuant、W4A16 等主流量化方案的原理与实战,帮助你在生产环境中实现 4 倍模型压缩而
在 2020 年,Evan Wallace 发布了 esbuild,一款用 Go 编写的 JavaScript 打包器。当时它宣告了一个惊人的事实:把 10 秒级的大型项目构建压缩到 0.1 秒以内。这个速度提升不是渐进优化,而是数量级的碾压。
深入理解 Docker 镜像层原理,掌握缓存策略、多阶段构建、BuildKit 高级语法与镜像扫描。
深入理解 Linux capabilities、user namespaces 和 Docker Rootless 模式,掌握容器运行时安全加固策略。
深入 Docker Compose 生产级实践,涵盖高级语法、健康检查、日志收集、Secrets 与 CI/CD 集成。
在大模型推理与训练日益普及的今天,GPU 已不再是游戏玩家的专属硬件,而是 AI 基础设施的核心。理解 CUDA 编程,是每一位希望深入 AI 系统优化的工程师必经之路。本文从零开始,带你掌握 GPU 并行计算的核心概念与实战代码。一、为什么要用 GPU 计算?
在现代 GPU 计算中,内存访问模式往往是决定内核性能的首要因素。算法复杂度相同的两个 CUDA Kernel,仅仅因为访问显存的方式不同,执行时间可能相差数倍甚至一个数量级。本文将系统梳理 CUDA 编程中各类内存的访问特性,深入讲解合并访问(Coalesced Access)与 Bank Con
深入讲解 CUDA 与 MPI 混合并行编程模型,涵盖 GPUDirect RDMA、NCCL 通信库与大规模 GPU 集群实践,配合完整代码示例。
在 CUDA C++ 应用开发中,开发者很少从零编写核函数。NVIDIA 官方提供了一套经过深度优化的加速库,覆盖线性代数、深度学习、信号处理、并行算法等核心场景。这套库不仅性能卓越,而且经过大量生产环境验证。
CPU 调度是操作系统最核心的职责之一。它决定了哪个进程在何时使用 CPU,直接影响系统的响应速度、吞吐量和用户体验。本文从经典算法讲起,逐步深入到 Linux CFS 的设计与实现,并覆盖多处理器负载均衡、实时调度和前沿趋势。
引言:为什么 Core Web Vitals 至关重要 自 2021 年 Google 将页面体验(Page Experience)正式纳入搜索排名算法以来,Core Web Vitals(核心网页指标) 已成为衡量网站质量和 SEO 表现的核心维度之一。
为什么是 CMake C++ 生态长期缺乏统一的构建工具。Make 语法晦涩且难以跨平台,Ninja 需要先生成规则,各 IDE 的专属项目文件更是互不兼容。CMake 的价值在于它充当了一个「元构建系统「——用一套声明式脚本描述项目结构,再生成平台原生的构建文件(Makefile、Ninja、Vi
1. CDN 工作机制 CDN(Content Delivery Network,内容分发网络)通过在全球部署边缘节点,将静态资源缓存到离用户最近的位置,从而大幅降低延迟、节省回源带宽。
C++ 自 C++11 以来进入了一个快速演进的阶段,每隔三年发布一个新标准,每个版本都带来大量语法改进和库增强。对于习惯了传统 C++ 的开发者来说,C++17、C++20 和 C++23 中引入的许多特性不仅大幅提升了代码的表达力,还改变了编写和思考问题的方式。
C++11 是 C++ 历史上最具里程碑意义的版本更新之一,它从根本上改变了我们编写 C++ 代码的方式。随后的 C++14 则在 C++11 的基础上进行了一系列实用的补充与完善。本文将深入剖析 C++11/14 的核心特性,帮助你全面理解现代 C++ 的设计哲学。
C++ 被誉为「零开销抽象「的语言,但代价是编译模型极其复杂。本文将从预处理到可执行文件的完整链路出发,深入剖析编译与链接的底层机制。一、编译四阶段:从源代码到可执行文件 C++ 编译并非一步到位,而是严格分为四个阶段。
目录: 1. 函数模板与参数推导 2. 类模板与偏特化 3. 类型萃取与自定义检测 4. SFINAE 原理与 5. CRTP:静态多态 6. 表达式 SFINAE 与检测惯用法 7. 综合实战示例 --- C++ 模板不仅是泛型编程的基础,更是元编程的入口。
性能优化是 C++ 开发中最具挑战性也最有成就感的领域之一。然而,Donald Knuth 的名言 「Premature optimization is the root of all evil「 提醒我们:在盲目优化之前,必须先测量。没有数据支撑的优化,往往是徒劳甚至有害的。