从 0 到 1 搭建十亿级包 裹 API Versioning 杨利航 AfterShip 高级研发工程师 这是 API Versioning 吗？ 目 录 Why 01 What 02 How 03 Takeaway 04 Why Part 1/4 1. SaaS 产品的特点 2. API 的重要性 3. 我们 API 面临的挑战 1.1 SaaS 产品的特点 SaaS - 多语言 - 多国家/地区 - 多币种 - … 安全性 - AES - RSA - OAuth2.0 - … 1.2.2 AfterShip API 的演进路线 业务量从十万级到十亿级，从没有 API 到高标准的 API。不是因为 API 做好了所以业务增长了，而是良 好的 API 设计才能支撑业务增长。 1.3 我们 API 面临的挑战 挑战一、变更不规律，打乱客户更新计划

较大的窗口允许模型处理更长的文本片段，从而提高在长文本任务中的表 现，如长篇对话、文档生成和分析等。 1.4.2 单位 B 和 T 在 AI 大模型中，常用的两个单位是 B 和 T。 B（十亿，Billion）：在英文里是 Billion 的缩写，表示十亿。对于 AI 大模型 来说，B 一般用于描述模型的参数数量。例如，具有 50B 参数的模型代表这个 模型有 50 亿个参数。Ollama3 有尺寸 8B 和 70B，Phi-3-mini

背后的开发商）提起了诉讼， 指控 Stability AI 直接、间接侵犯版权、违反 DMCA 和不正当竞争等。 他们认为 Stability AI 在「未经原艺术家同意」的情况下，从网络上收集 了数十亿张图片用于进行 AI 工具训练，侵犯了包括他们在内的数百万艺 术家的权利。 律师 Butterick 将此案描述为「朝着使人工智能对每个人都公平和道德的 方向迈出的又一步」。 开源治理 开源健康发展必不可少的一环。 的算力指的是执行这些模型所需的计算资源。这包括用于训练和运行模型的硬件（如 GPU 或 TPU）、内存、存储空间以及处理 大量数据的能力。LLM 需要非常强大的算力来处理、理解和生成文本，因为它们涉及到数十亿甚至数万亿个参数的训练和推理。 LLM 的基石是算力，而算力的基石是硬件，硬件的性能直接影响着计算任务的速度、效率和能力。 是全球领先的 GPU 制造商，提供了强大的图形处理单元，专门用于深度学习和AI计算。

Docker的聚合⽀支付私有化部署⽅方案 • 关于TiDB的线上运维 - TiDB体系 - 业务零感知运维 Ping++原数据架构及瓶颈 实时数仓数据源挑战： • 数⼗十亿交易易量量 • 多维度联合分析 • 实时分析+报表下载 场景⼀一：实时数仓数据源⽀支撑 数仓数据源选型过程： • RDS快速上线
 最⼤大承载3个⽉月交易易量量分析 • ADS

OpenBLAS 矩阵乘法测试 • 阿里云 ECS g8y（倚天 710）单线程 FP32 vs BF16 • MNK：2000, 2000, 2000 • GFLOPS • 每秒浮点数计算次数，G（十亿次） • 2MNK / Times 性能测试 • 平台 • 阿里云 ECS g8y vs g7（Ice Lake） • 8vCPUs • TensorFlow 推理测试 • ResNet-50

Go语⾔言优势体现在：开发体验好 、⼀一定量级下服务稳定 、性能满⾜足 需要 ⼀一定量级下服务稳定： 50+内部产品，万款开发平台app 实时⻓长连接数亿量级，⽇日独数⼗十亿量级 1分钟内亿量级⼲⼴广播,⽇日下发峰值百亿量级 400台物理机，9个独⽴立集群，国内外近10个IDC 运维管理的go语⾔言编写的常驻service服务实例接近3000个。 业务场景多样：

Google's Bigtable … 先来⼀一段HBase官⽹网的⾃自我介绍. blabla翻译⼀一下 重点看其中的红字, 什什么hadoop数据库, 分布式的, 可伸缩的, 随机实时读写 ⼗十亿级⾏行行, 百万级列列 每次看⼀一个项⽬目介绍完⾃自⼰己, 还是不不知道他是⼲干嘛的, 希望今天我介绍完, ⼤大家能知道他是⼲干嘛的 A Bigtable is a sparse(稀疏), distributed

Right ReservedAll Right Reserved • 专为统计分析⽽而⽣生 • 列存储 • shared-nothing的分布式架构，可扩展性、⾼高可⽤用 • 秒级以内对⼗十亿⾏行级别的表进⾏行统计查询 • 对内存要求⾼高，相当于内存数据库 • JAVA系，开源 曝光统计服务: Druid 专业DSP解决⽅方案 © ⼲⼴广州舜⻜飞信息科技有限公司 All

LLM 基础概念 模型参数。其中比较重要的比如deepseek-r1:1.5b, qwen:7b, llama:8b，这里的 1.5b, 7b、8b 代表什么？b 是英文的 billion，意思是十亿，7b 就是 70 亿，8b 就 是 80 亿，70 亿、80 亿是指大模型的神经元参数（权重参数 weight+bias）的 总量。目前大模型都是基于 Transformer 架构，并且是很多层的

的算力指的是执行这些模型所需的计算资源。这包括用于训练和运行模型的硬件（如 GPU 或 TPU）、内存、存储空间以及处理 大量数据的能力。LLM 需要非常强大的算力来处理、理解和生成文本，因为它们涉及到数十亿甚至数万亿个参数的训练和推理。 LLM 的基石是算力，而算力的基石是硬件，硬件的性能直接影响着计算任务的速度、效率和能力。 是全球领先的 GPU 制造商，提供了强大的图形处理单元，专门用于深度学习和AI计算。