利用夜莺扩展能力打造全方位监控系统 喻波 滴滴 专家工程师 目 录 运维监控需求来源 01 监控痛点：全面完备、跨云 02 夜莺介绍： 国产开源监控系统 03 夜莺设计实现：Agentd 数据采集 04 夜莺设计实现：Server 数据处理 05 夜莺设计实现：技术难点及细节 06 运维监控需求来源 第一部分 如果贵司的业务强依赖IT技术，IT故障会直接影响营业收入，

技术白皮书 03 openEuler 22.09 技术白皮书 02 openEuler 覆盖全场景的创新平台 openEuler 已支持 x86、ARM、SW64、RISC-V 多处理器架构，未来还会扩展 PowerPC 等更多芯片架构支持，持续完善 多样化算力生态体验。 openEuler 社区面向场景化的 SIG 不断组建，推动 openEuler 应用边界从最初的服务器场景，逐步拓展到云计算、边 社区的发展进程中具有里程碑式的意义，也是中国开源历史上的标志性事件。 2021 年 3 月 31 日，发布 openEuler 21.03 内核创新版，该版本将内核升级到 5.10, 还在内核方向实现内核热升级、内存 分级扩展等多个创新特性，加速提升多核性能，构筑千核运算能力。 2021 年 9 月 30 日，全新 openEuler 21.09 创新版如期而至，这是欧拉全新发布后的第一个社区版本，实现了全场景支持。 OOM 内存回收算法保障在线业务安全可靠运行。 • 新文件系统 EulerFS：面向非易失性内存的新文件系统，采用软更新、目录双视图等技术减少文件元数据同步时间，提 升文件读写性能。 • 内存分级扩展 etMem：新增用户态 swap 功能，策略配置淘汰的冷内存交换到用户态存储，用户无感知，性能优于内 核态 swap。 • 内存 RAS 增强：内存可靠性分级技术，可以指定内核、关键进程等对内

社区的发展进程中具有里程碑式的意义，也是中国开源历史上的标志性事件。 2021 年 3 月 31 日，发布 openEuler 21.03 内核创新版，该版本将内核升级到 5.10, 还在内核方向实现内核热升级、 内存分级扩展等多个创新特性，加速提升多核性能，构筑千核运算能力。 2021 年 9 月 30 日，全新 openEuler 21.09 创新版如期而至，这是欧拉全新发布后的第一个社区版本，实现了全场景 支持 ，从而不断孵化新技术。 发行版平台和技术孵化器互相促进、互相推动、牵引版本持续演进。 openEuler 已支持 X86、ARM、SW64、RISC-V、LoongArch 多处理器架构，逐步扩展 PowerPC 等更多芯片架构支持， 持续完善多样性算力生态体验。 openEuler 社区面向场景化的 SIG 不断组建，推动 openEuler 应用边界从最初的服务器场景，逐步拓展到云计算、边 。 通过在内核中提供 GMEM 高层 API，允许加速器驱动通过注册 GMEM 规范所定义的 MMU 函数直接获取内存管理功能， 建立逻辑页表并进行内存超分。逻辑页表将内存管理的高层逻辑与 CPU 的硬件相关层解耦，从而抽象出能让各类加速器复 用的高层内存管理逻辑。加速器只需要注册底层函数，不再需要实现任何统一地址空间协同的高层逻辑。 Remote Pager 内存消息交互框架 Remote

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1614 6 支持的函数 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . API • Zabbix API 为 Zabbix 提供可编程接口，用于大规模操作、第 3 方软件集成和其他用途。 权限系统 • 安全用户认证 • 某些用户可以被限制仅访问某些视图 全功能且易于扩展的 agent • 部署在被监控目标上 • Linux 和 Windows 操作系统都适用于 二进制守护进程 • 用 C 编写，用于提高性能和减少内存占用 • 轻量级、便携 为复杂环境做好准备 server。从 Zabbix 4.4 开始， 有两种类型的 agent 可用：Zabbix agent （轻量级，在许多平台上支持，用 C 编写）和Zabbix agent 2 （非常灵活，易于使用插件扩展， 用 Go 编写）。 数据流 此外，回顾一下 Zabbix 中的整体数据流也是很重要的。为了创建一个收集数据的监控项，必须首先创建一个主机。另一方面 Zabbix 必须 首先拥有一个监控项来创

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1611 20. 扩展 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1769 6 支持的函数 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1935 扩展开发的变化 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

显示和清空目录堆栈中的内容 dstat 通用的系统资源统计工具 du 显示每个文件和目录的磁盘使用空间 dump 用于备份ext2或者ext3文件系统 E e2fsck 用于检查第二扩展文件系统的完整性 e2label 设置第二扩展文件系统的卷标 echo 输出指定的字符串或者变量 ed 单行纯文本编辑器 edquota 用于编辑指定用户或工作组磁盘配额 egrep 在文件内查找指定的字符串 eject 显示或修改以太网卡的配置信息 ex 启动vim编辑器的ex编辑模式 exec 调用并执行指定的命令 exit 退出当前的shell expand 将文件的制表符转换为空白字符 export 为shell变量或函数设置导出属性 exportfs 管理NFS共享文件系统列表 expr 一款表达式计算工具 F false 返回状态为失败 - 5 - 本文档使用 书栈网 · BookStack.CN 构建 - 8 - 本文档使用 书栈网 · BookStack.CN 构建 lilo 安装核心载入开机管理程序 ln 用来为文件创建链接 lnstat 显示Linux系统的网路状态 local 在函数内定义局部变量 locate 比 find 好用的文件查找工具 logger 在系统日志中记录相应条目 login 登录系统或切换用户身份 logname 打印当前终端登录用户的名称 logout

DebugLevel no 0-5 3 指定调试等级: 0 - Zabxxi 进程起停的基本信息 1 - 重要信息 2 - 错误信息 3 - 警告信息 4 - 调试 (产生大量信息) 5 - 扩展调试 (产生更多信息) ExternalScripts no /usr/local/share/zabbix/externalscripts 外部脚本位置 (依赖编译安装时 的变量 datadir) Zabbix 1.8.3 支持多 Ip 地址。 ListenPort no 1024-32767 10051 监听端口. LoadModule no proxy 端启动时加载的模块，这 些模块用来扩展 proxy 的功能。 格式: LoadModule= 这些模块必须在 LoadModulePath 参数指定的 路径中。 允许多个 LoadModule 参数。 LoadModulePath DebugLevel no 0-5 3 指定调试等级: 0 - Zabxxi 进程起停的基本信息 1 - 重要信息 2 - 错误信息 3 - 警告 4 - 调试 (产生大量信息) 5 - 扩展调试 (产生更多信息) EnableRemoteCommands no 0 是否允许 server 远程执行命令. 0 - 禁止 1 - 允许 HostMetadata no 0-255 characters

DebugLevel 否 -5 定调试等级: 0 - Zabbix 进程的起停 基本信息 1 - 重要信息 2 - 错误信息 3 - 警告信息 4 - 调试信息 (产生大量 信息) 5 - 扩展调试 (产生更多 信息) 另外可参考runtime control 选项。 21 DebugLevel no 0-5 3 Specifies debug level: 0 - basic information DebugLevel 否 -5 定调试等级: 0 - Zabbix 进程的起停 基本信息 1 - 重要信息 2 - 错误信息 3 - 警告信息 4 - 调试信息 (产生大量 信息) 5 - 扩展调试 (产生更多 信息) 46 DebugLevel no 0-5 3 Specifies debug level: 0 - basic information about starting 此部分描述real-time export 协议以换行符分隔的 JSON 格式： • trigger events 176 • item values • trends 所有文件都有.ndjson 扩展名。导出文件的每一行都是 JSON 对象。 触发事件 导出问题事件的以下信息： Field Type Description hosts array List of hosts involved

社区的发展进程中具有里程碑式的意义，也是中国开源历史上的标志性事件。 2021 年 3 月 31 日，发布 openEuler 21.03 内核创新版，该版本将内核升级到 5.10, 并在内核方向实现内核热升级、内存分级 扩展等多个创新特性，加速提升多核性能，构筑千核运算能力。 2021年 9 月 30 日，全新openEuler 21.09创新版如期而至，这是openEuler全新发布后的第一个社区版本，实现了全场景支持。 LTS SP4 版本，其作为 20.03 LTS 版本的增强扩展版本，面向服务器、云原生、 边缘计算场景，提供更多新特性和功能增强。 2023 年 12 月 30 日，发布 openEuler 22.03 LTS SP3 版本，是 22.03 LTS 版本增强扩展版本，面向服务器、云原生、边缘计 算和嵌入式场景，持续提供更多新特性和功能扩展，给开发者和用户带来全新的体验，服务更多的领域和更多的用户。 力，从而不断孵化新技术。 发行版平台和技术孵化器互相促进、互相推动、牵引版本持续演进。 openEuler 已支持 x86、Arm、SW64、RISC-V、LoongArch 多处理器架构，逐步扩展 PowerPC 等更多芯片架构支持，持续完 善多样性算力生态体验。 openEuler 社区面向场景化的 SIG 不断组建，推动 openEuler 应用边界从最初的服务器场景，逐步拓展到云计算、边缘计算、

TimescaleDB 数据库或从现有 PostgreSQL 表迁移到 TimescaleDB。 配置 我们假设 TimescaleDB 扩展项已经安装在数据库服务器上（查看 安装说明）。 还必须通过执行以下命令为特定的数据库启用 TimescaleDB 扩展项： echo "CREATE EXTENSION IF NOT EXISTS timescaledb CASCADE;" | sudo 当大量监控项被删除时，会增加数据库的负载, 因为 housekeeper 需要删除这些监控项的所有历史数据。例如, 如果我们只需要 删除一个监控项原型, 但是这个原型链接到 50 个主机，每个主机的原型扩展到 100 个真实的监控项，总共需要删除 5000 个监控项 （1*50*100）。如果 MaxHousekeeperDelete 设置了 500（MaxHousekeeperDelete=500），则 len(data)) + data 5 实时导出协议 本节以换行符分隔的 JSON 格式显示实时导出协议的详细信息，用于： • 触发事件 • 监控项值 • 趋势 所有文件均具有.ndjson 扩展名。导出文件的每一行都是一个 JSON 对象。 触发事件 针对问题事件导出以下信息： 字段 类 描述 hosts 数组触 器表达式中涉及的主机列表；数组中至少应包含一个元素。 - 对象 host