Tag: 论文阅读
All the articles with the tag "论文阅读".
-
OSDI 2022 - Orca: A Distributed Serving System for Transformer-Based Generative Models
OSDI 2022 Orca 论文阅读笔记,梳理迭代级调度、选择性批处理与生成式模型分布式推理服务的系统设计。
-
ICCV 2025 - AdaLLaVA: Learning to Inference Adaptively for Multimodal Large Language Models
由威斯康星大学麦迪逊分校(University of Wisconsin-Madison)、普渡大学(Purdue University)、香港大学(The …
-
SOSP 2025 - ByteRobust: Robust LLM Training Infrastructure at ByteDance
由香港大学和字节seed联合发布的LLM Traing的可靠性研究,详细介绍了用于支持大规模 GPU 集群稳定运行的管理系统 ByteRobust…
-
OSDI 2018 - Ray: A Distributed Framework for Emerging AI Applications
OSDI 2018 论文阅读笔记:Ray — 面向新兴 AI 应用的分布式计算框架。
-
OSDI 2024 - ServerlessLLM: Low-Latency Serverless Inference for Large Language Models
OSDI 2024 论文阅读笔记:ServerlessLLM — 面向大语言模型的低延迟 Serverless 推理系统。
-
SOSP 2024 - Colloid: Tiered Memory Management: Access Latency is the Key!
SOSP 2024 论文阅读笔记:Colloid — 分层内存管理中基于访问延迟的热页面负载均衡机制。
-
arXiv 2024 - Characterization of Large Language Model Development in the Datacenter
arXiv 2024 论文阅读笔记,概括数据中心内大语言模型开发负载、故障、资源利用与调度优化机会。