Tag: LLM
All the articles with the tag "LLM".
-
OSDI 2022 - Orca: A Distributed Serving System for Transformer-Based Generative Models
OSDI 2022 Orca 论文阅读笔记，梳理迭代级调度、选择性批处理与生成式模型分布式推理服务的系统设计。
-
ICCV 2025 - AdaLLaVA: Learning to Inference Adaptively for Multimodal Large Language Models
由威斯康星大学麦迪逊分校（University of Wisconsin-Madison）、普渡大学（Purdue University）、香港大学（The …
-
API Agent: Embedding, MCP, Skills
Updated:基于 Gemini API Cookbook 的 Agent 实操笔记，梳理 Embedding、Function Calling、MCP、Skills 与编排层关系。
-
Ascend C 算子开发 Part5 PyTorch 算子调用与阶段总结
Ascend C 算子开发第五部分，介绍 PTA 适配框架（torch-npu）与 PyTorch 算子集成方式，并对全系列进行阶段性总结。
-
Ascend C 算子开发 Part1 基本概念
华为 Ascend C 算子开发系列第一部分，介绍 CANN 架构、Ascend C 编程模型及基本概念。
-
arXiv 2024 - Characterization of Large Language Model Development in the Datacenter
arXiv 2024 论文阅读笔记，概括数据中心内大语言模型开发负载、故障、资源利用与调度优化机会。
-
MindSpore 专题：番外、Transformer 模型
MindSpore 入门系列番外篇，整理 Transformer、注意力机制、多头注意力与位置编码的基础结构。