HNSW算法笔记
发布于
介绍 Hierarchical Navigable Small World（HNSW）算法过程笔记。 hnsw-1 hnsw-2 hnsw-3 hnsw-4 hnsw-5 hnsw-6...
继续阅读 →构建 Claude 技能的完整指南（译文）
发布于
目录 引言 基础 规划与设计 测试与迭代 分发与共享 模式与故障排除 资源与参考 引言 技能（Skill） 是一组指令——以一个简单的文件夹形式打包——用于教会 Claude 如何处理特定任务或工作流...
继续阅读 →METIS：具备配置自适应能力的快速高质量感知 RAG 系统
发布于
介绍 METIS: Fast Quality-Aware RAG Systems with Configuration Adaptation的阅读笔记 笔记 notes notes notes...
继续阅读 →DeepSeek-R1：基于强化学习的大语言模型推理能力激励方法
发布于
介绍 DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning的阅读笔记 笔记 notes ...
继续阅读 →AReaL：用于语言推理的大规模异步强化学习系统
发布于
介绍 AReaL: A Large-Scale Asynchronous Reinforcement Learning System for Language Reasoning的阅读笔记 笔记 no...
继续阅读 →Oobleck：大模型分布式训练的容错革命
发布于
介绍 Oobleck: Resilient Distributed Training of Large Models Using Pipeline Templates的阅读笔记 笔记 notes no...
继续阅读 →TrainVerify：基于等价性的分布式大语言模型训练验证方法
发布于
介绍 TrainVerify: Equivalence-Based Verification forDistributed LLM Training的阅读笔记 笔记 notes notes notes...
继续阅读 →xv6内核扩展8：文件系统
发布于
大文件 在这个作业中，你将增加 xv6 文件的最大大小。目前 xv6 文件的大小限制为 268 个块，或 268*BSIZE 字节（BSIZE 在 xv6 中为 1024）。这个限制源于 xv6 的 ...
继续阅读 →FSMoE：一种用于稀疏混合专家模型的灵活且可扩展的训练系统
发布于
摘要 近年来，大型语言模型（LLMs）倾向于利用稀疏性来减少计算量，常用的方法是采用稀疏激活的混合专家（Mixture-of-Experts, MoE）技术。MoE 引入了四个模块，包括令牌路由（to...
继续阅读 →Alpa：用于分布式深度学习的算子间与算子内并行自动化
发布于
介绍 本文是Alpa: Automating Inter- and Intra-Operator Parallelism for Distributed Deep Learning的译文与笔记。 摘要...
继续阅读 →