 Curve 分布式存储设计Curve 分布式存储设计 程义 — Curve Maintainer XAgenda 第二 第三 第四 第一 Curve的由来 Curve的设计目标 Curve块存储 和 Curve文件存储 Curve社区Curve的由来 1. 代码复杂/代码量大 2. 运维难度高 3. 无法满足高的性能需求Curve的设计目标 1. Curve云原生软件定义存储 2. Curve块存储 高性能,易运维,云原生Curve块存储 1. 高性能分布式共享数据库场景 2. Curve块存储提供底层分布式共享存储 3. Polardb for PostgreSQL提供上层高性能数 据库服务 4. 性能测试 1. benchmarkSQL 每分钟事务数提升39% 2. pgbench 延迟降低21% TPS提升26% 研究现状Curve块存储 1. 分布式块存储服务 2. KVM块存储服务 可扩展易运维 4. 云原生 设计目标Curve文件存储 1. 兼顾性能与容量的机器学习 场景 2. 快速跨云弹性发布的业务 3. 低成本大容量需求的业务 4. 中间件冷热数据自动分离 5. S3和POSIX统一访问需求 主要挑战和支持场景Curve Roadmap 1. 架构 1. 文件存储支持分布式缓存、完善冷热数据分层存储能力 2. 完善混合云、公有云上部署架构 3. 完善高性能3副本存储引擎,支持混合盘0 码力 | 20 页 | 4.13 MB | 6 月前3 Curve 分布式存储设计Curve 分布式存储设计 程义 — Curve Maintainer XAgenda 第二 第三 第四 第一 Curve的由来 Curve的设计目标 Curve块存储 和 Curve文件存储 Curve社区Curve的由来 1. 代码复杂/代码量大 2. 运维难度高 3. 无法满足高的性能需求Curve的设计目标 1. Curve云原生软件定义存储 2. Curve块存储 高性能,易运维,云原生Curve块存储 1. 高性能分布式共享数据库场景 2. Curve块存储提供底层分布式共享存储 3. Polardb for PostgreSQL提供上层高性能数 据库服务 4. 性能测试 1. benchmarkSQL 每分钟事务数提升39% 2. pgbench 延迟降低21% TPS提升26% 研究现状Curve块存储 1. 分布式块存储服务 2. KVM块存储服务 可扩展易运维 4. 云原生 设计目标Curve文件存储 1. 兼顾性能与容量的机器学习 场景 2. 快速跨云弹性发布的业务 3. 低成本大容量需求的业务 4. 中间件冷热数据自动分离 5. S3和POSIX统一访问需求 主要挑战和支持场景Curve Roadmap 1. 架构 1. 文件存储支持分布式缓存、完善冷热数据分层存储能力 2. 完善混合云、公有云上部署架构 3. 完善高性能3副本存储引擎,支持混合盘0 码力 | 20 页 | 4.13 MB | 6 月前3
 新一代云原生分布式存储新一代云原生分布式存储—Curve 上 李小翠 网易数帆存储团队分布式存储介绍 01 存储的发展 | 分布式存储的分类 | 分布式存储的要素 02 03 04 Ceph 架构简介 | 场景介绍 | 使用中的问题 Curve 架构简介 | 数据对比 | 应用情况 FAQ 答疑存储的发展 互联网时代,数据大爆炸 大型主机 成本高 单点问题 扩容困难 各存储设备通过网络互联 各存储设备通过网络互联 大规模 弹性扩容 底层构建在分布式存储之上 云的概念 成本:共用基础设施 弹性:随意扩缩容 速度:更快的构建发布业务 底层构建在分布式存储之上 云原生的概念: 易用性:跨平台,超融合,弹性 小型主机 容量有限分布式存储的分类 按照各种应用场景所需的存储接口分类 对象 存储 文件 存储 块存储 接口为简单的 Get、PUT、DEL 和其他扩展 对指定地址空间进行随机读写 传统意义的块存储:磁盘分布式存储的要素 如何构建分布式文件系统? 以分布式块存储为例。 •提供大容量的块设备 •可以在指定地址空间内随机读写 write(offset, len) •服务质量要求:数据不能丢、服务随时可用、弹性扩缩容 要什么 •成百上千台存储节点 •磁盘故障、机器故障、网络故障概率性发生 有什么 分布式存储系统需要满足接口需求,并且有持续监控、错误检测、容错与自动恢复的能力0 码力 | 29 页 | 2.46 MB | 6 月前3 新一代云原生分布式存储新一代云原生分布式存储—Curve 上 李小翠 网易数帆存储团队分布式存储介绍 01 存储的发展 | 分布式存储的分类 | 分布式存储的要素 02 03 04 Ceph 架构简介 | 场景介绍 | 使用中的问题 Curve 架构简介 | 数据对比 | 应用情况 FAQ 答疑存储的发展 互联网时代,数据大爆炸 大型主机 成本高 单点问题 扩容困难 各存储设备通过网络互联 各存储设备通过网络互联 大规模 弹性扩容 底层构建在分布式存储之上 云的概念 成本:共用基础设施 弹性:随意扩缩容 速度:更快的构建发布业务 底层构建在分布式存储之上 云原生的概念: 易用性:跨平台,超融合,弹性 小型主机 容量有限分布式存储的分类 按照各种应用场景所需的存储接口分类 对象 存储 文件 存储 块存储 接口为简单的 Get、PUT、DEL 和其他扩展 对指定地址空间进行随机读写 传统意义的块存储:磁盘分布式存储的要素 如何构建分布式文件系统? 以分布式块存储为例。 •提供大容量的块设备 •可以在指定地址空间内随机读写 write(offset, len) •服务质量要求:数据不能丢、服务随时可用、弹性扩缩容 要什么 •成百上千台存储节点 •磁盘故障、机器故障、网络故障概率性发生 有什么 分布式存储系统需要满足接口需求,并且有持续监控、错误检测、容错与自动恢复的能力0 码力 | 29 页 | 2.46 MB | 6 月前3
 Android概述与学习指南Android概述与学习指南 北京理工大学计算机学院 金旭亮 什么是Android? 第一部分 计算设备的演进 Android是由Google支持的一个开放的免 费的手机开发平台 手机平台操作系统之“战争史” 微软败退,Windows Phone死亡,手机操作系统重回“双分天下”的格局…… 诸侯混战时代: Symbian (塞班)、Windows Mobile、RIM BlackBerry(黑莓)、Palm…… 为DEX (Dalvik Executable )文件。 Java代码 Kotlin代码 javac kotlinc Java字节码 文件 编译工具链 Android DEX文件 机器代码 (Android 9.0 以上) 优化 2014年起 Android 5.0+ Android平台开发框架及组件库的变迁 Android SDK组件 提供兼容性的支持库 Android 通过将机器学习的最新成果引入到Anroid app中,让手机应用真正地进入了“智能化” 的时代…… https://developer.android.google.cn/ml 要开发智能化的App,当前主要 还是以原生应用为主,因为这一 领域正处于快速发展变化当中, 想统一iOS和Android的AI编程API, 时机尚未成熟。 Android学习指南 第三部分 学习目的决定学习方法0 码力 | 33 页 | 3.38 MB | 1 年前3 Android概述与学习指南Android概述与学习指南 北京理工大学计算机学院 金旭亮 什么是Android? 第一部分 计算设备的演进 Android是由Google支持的一个开放的免 费的手机开发平台 手机平台操作系统之“战争史” 微软败退,Windows Phone死亡,手机操作系统重回“双分天下”的格局…… 诸侯混战时代: Symbian (塞班)、Windows Mobile、RIM BlackBerry(黑莓)、Palm…… 为DEX (Dalvik Executable )文件。 Java代码 Kotlin代码 javac kotlinc Java字节码 文件 编译工具链 Android DEX文件 机器代码 (Android 9.0 以上) 优化 2014年起 Android 5.0+ Android平台开发框架及组件库的变迁 Android SDK组件 提供兼容性的支持库 Android 通过将机器学习的最新成果引入到Anroid app中,让手机应用真正地进入了“智能化” 的时代…… https://developer.android.google.cn/ml 要开发智能化的App,当前主要 还是以原生应用为主,因为这一 领域正处于快速发展变化当中, 想统一iOS和Android的AI编程API, 时机尚未成熟。 Android学习指南 第三部分 学习目的决定学习方法0 码力 | 33 页 | 3.38 MB | 1 年前3
 古月《ROS入门21讲》加2.ROS在机器人中是如何运行的.pdfROS在机器人中是如何运行的 主 讲 人 : 古 月 以Turtlebot为例 ➢ • • • • 以Turtlebot为例 以Turtlebot为例 ROS在机器人中是如何运行的 应用计算机 (树莓派、JetNano、PC等) 控制器 (STM32、Arduino等) Motor Encoder IMU Sonar Servo PWM PID Timer0 码力 | 7 页 | 1.27 MB | 1 年前3 古月《ROS入门21讲》加2.ROS在机器人中是如何运行的.pdfROS在机器人中是如何运行的 主 讲 人 : 古 月 以Turtlebot为例 ➢ • • • • 以Turtlebot为例 以Turtlebot为例 ROS在机器人中是如何运行的 应用计算机 (树莓派、JetNano、PC等) 控制器 (STM32、Arduino等) Motor Encoder IMU Sonar Servo PWM PID Timer0 码力 | 7 页 | 1.27 MB | 1 年前3
 鸟哥的Linux私房菜:基础学习篇 第四版2.6. 0.6 本章习题 2.7. 0.7 参考资料与延伸阅读 3. 第一章、Linux是什么与如何学习 3.1. 1.1 Linux是什么 3.2. 1.2 Torvalds的Linux发展 3.3. 1.3 Linux当前应用的角色 3.4. 1.4 Linux 该如何学习 3.5. 1.5 重点回顾 3.6. 1.6 本章习题 3.7. 1.7 参考资料与延伸阅读 4. vim 的额外功能 11.4. 9.4 其他 vim 使用注意事项 11.5. 9.5 重点回顾 11.6. 9.6 本章练习 11.7. 9.7 参考资料与延伸阅读 12. 第十章、认识与学习BASH 12.1. 10.1 认识 BASH 这个 Shell 12.2. 10.2 Shell 的变量功能 12.3. 10.3 命令别名与历史命令 12.4. 10.4 Bash Shell 3 延伸正则表达式 13.4. 11.4 文件的格式化与相关处理 13.5. 11.5 重点回顾 13.6. 11.6 本章习题 13.7. 11.7 参考资料与延伸阅读 14. 第十二章、学习 Shell Scripts 14.1. 12.1 什么是 Shell scripts 14.2. 12.2 简单的 shell script 练习 14.3. 12.3 善用判断式 14.40 码力 | 1057 页 | 14.60 MB | 1 年前3 鸟哥的Linux私房菜:基础学习篇 第四版2.6. 0.6 本章习题 2.7. 0.7 参考资料与延伸阅读 3. 第一章、Linux是什么与如何学习 3.1. 1.1 Linux是什么 3.2. 1.2 Torvalds的Linux发展 3.3. 1.3 Linux当前应用的角色 3.4. 1.4 Linux 该如何学习 3.5. 1.5 重点回顾 3.6. 1.6 本章习题 3.7. 1.7 参考资料与延伸阅读 4. vim 的额外功能 11.4. 9.4 其他 vim 使用注意事项 11.5. 9.5 重点回顾 11.6. 9.6 本章练习 11.7. 9.7 参考资料与延伸阅读 12. 第十章、认识与学习BASH 12.1. 10.1 认识 BASH 这个 Shell 12.2. 10.2 Shell 的变量功能 12.3. 10.3 命令别名与历史命令 12.4. 10.4 Bash Shell 3 延伸正则表达式 13.4. 11.4 文件的格式化与相关处理 13.5. 11.5 重点回顾 13.6. 11.6 本章习题 13.7. 11.7 参考资料与延伸阅读 14. 第十二章、学习 Shell Scripts 14.1. 12.1 什么是 Shell scripts 14.2. 12.2 简单的 shell script 练习 14.3. 12.3 善用判断式 14.40 码力 | 1057 页 | 14.60 MB | 1 年前3
 鸟哥的 Linux 私房菜:基础学习篇 第四版2 5.3 5.4 目錄 鸟哥的Linux私房菜:基础学习篇 第四版 目录及概述 第零章、计算机概论 0.1 电脑:辅助人脑的好工具 0.2 个人电脑架构与相关设备元件 0.3 数据表示方式 0.4 软件程序运行 0.5 重点回顾 0.6 本章习题 0.7 参考资料与延伸阅读 第一章、Linux是什么与如何学习 1.1 Linux是什么 1.2 Torvalds的Linux发展 Torvalds的Linux发展 1.3 Linux当前应用的角色 1.4 Linux 该如何学习 1.5 重点回顾 1.6 本章习题 1.7 参考资料与延伸阅读 第二章、主机规划与磁盘分区 2.1 Linux与硬件的搭配 2.2 磁盘分区 2.3 安装Linux前的规划 2.4 重点回顾 2.5 本章习题 2.6 参考资料与延伸阅读 第三章、安装 CentOS7.x 3.1 本练习机的规划--尤其是分区参数 本练习机的规划--尤其是分区参数 3.2 开始安装CentOS 7 3.3 多重开机安装流程与管理(Option) 3.4 重点回顾 鸟哥的 Linux 私房菜:基础学习篇 第四版 2 5.5 5.6 6 6.1 6.2 6.3 6.4 6.5 6.6 6.7 6.8 7 7.1 7.2 7.3 7.4 7.5 7.6 8 8.1 8.2 8.3 8.40 码力 | 1158 页 | 13.73 MB | 1 年前3 鸟哥的 Linux 私房菜:基础学习篇 第四版2 5.3 5.4 目錄 鸟哥的Linux私房菜:基础学习篇 第四版 目录及概述 第零章、计算机概论 0.1 电脑:辅助人脑的好工具 0.2 个人电脑架构与相关设备元件 0.3 数据表示方式 0.4 软件程序运行 0.5 重点回顾 0.6 本章习题 0.7 参考资料与延伸阅读 第一章、Linux是什么与如何学习 1.1 Linux是什么 1.2 Torvalds的Linux发展 Torvalds的Linux发展 1.3 Linux当前应用的角色 1.4 Linux 该如何学习 1.5 重点回顾 1.6 本章习题 1.7 参考资料与延伸阅读 第二章、主机规划与磁盘分区 2.1 Linux与硬件的搭配 2.2 磁盘分区 2.3 安装Linux前的规划 2.4 重点回顾 2.5 本章习题 2.6 参考资料与延伸阅读 第三章、安装 CentOS7.x 3.1 本练习机的规划--尤其是分区参数 本练习机的规划--尤其是分区参数 3.2 开始安装CentOS 7 3.3 多重开机安装流程与管理(Option) 3.4 重点回顾 鸟哥的 Linux 私房菜:基础学习篇 第四版 2 5.5 5.6 6 6.1 6.2 6.3 6.4 6.5 6.6 6.7 6.8 7 7.1 7.2 7.3 7.4 7.5 7.6 8 8.1 8.2 8.3 8.40 码力 | 1158 页 | 13.73 MB | 1 年前3
 openEuler 22.03 LTS SP2 技术白皮书openEuler 22.03 LTS SP2 技术白皮书 平台架构 openEuler 是覆盖全场景的创新平台,在引领内核创新,夯实云化基座的基础上,面向计算架构互联总线、存储介质 发展新趋势,创新分布式、实时加速引擎和基础服务,结合边缘、嵌入式领域竞争力探索,打造全场景协同的面向数字基 础设施的开源操作系统。 openEuler 22.03 LTS SP2 发布面向服务器、云原生、边缘和嵌入式场景的全场景操作系统版本,统一基于 发布面向服务器、云原生、边缘和嵌入式场景的全场景操作系统版本,统一基于 Linux Kernel 5.10 构建,对外接口遵循 POSIX 标准,具备天然协同基础。同时 openEuler 22.03 LTS SP2 版本集成分布式软总线、 KubeEdge+ 边云协同框架等能力,进一步提升数字基础设施协同能力,构建万物互联的基础。 面向未来,社区将持续创新、社区共建、繁荣生态,夯实数字基座。 夯实云化基座 • 容器操作系统 openEuler发布面向嵌入式领域的版本openEuler 22.03 LTS SP2 Embedded,提供更加丰富的嵌入式软件包构建能力, 支持实时 / 非实时平面混合关键部署,并集成分布式软总线。 openEuler Embedded 围绕工业和机器人领域持续深耕,通过行业项目垂直打通,不断完善和丰富嵌入式技术栈和 生态。openEuler 22.03 LTS SP2 Embedded 支持嵌入式虚拟化弹性底座,提供0 码力 | 48 页 | 5.62 MB | 1 年前3 openEuler 22.03 LTS SP2 技术白皮书openEuler 22.03 LTS SP2 技术白皮书 平台架构 openEuler 是覆盖全场景的创新平台,在引领内核创新,夯实云化基座的基础上,面向计算架构互联总线、存储介质 发展新趋势,创新分布式、实时加速引擎和基础服务,结合边缘、嵌入式领域竞争力探索,打造全场景协同的面向数字基 础设施的开源操作系统。 openEuler 22.03 LTS SP2 发布面向服务器、云原生、边缘和嵌入式场景的全场景操作系统版本,统一基于 发布面向服务器、云原生、边缘和嵌入式场景的全场景操作系统版本,统一基于 Linux Kernel 5.10 构建,对外接口遵循 POSIX 标准,具备天然协同基础。同时 openEuler 22.03 LTS SP2 版本集成分布式软总线、 KubeEdge+ 边云协同框架等能力,进一步提升数字基础设施协同能力,构建万物互联的基础。 面向未来,社区将持续创新、社区共建、繁荣生态,夯实数字基座。 夯实云化基座 • 容器操作系统 openEuler发布面向嵌入式领域的版本openEuler 22.03 LTS SP2 Embedded,提供更加丰富的嵌入式软件包构建能力, 支持实时 / 非实时平面混合关键部署,并集成分布式软总线。 openEuler Embedded 围绕工业和机器人领域持续深耕,通过行业项目垂直打通,不断完善和丰富嵌入式技术栈和 生态。openEuler 22.03 LTS SP2 Embedded 支持嵌入式虚拟化弹性底座,提供0 码力 | 48 页 | 5.62 MB | 1 年前3
 基于 APM 的智能运维体系在京东物流的落地和实践-付正全运维人数不变,管理机器数翻倍 1 2  3 4 正在消失的运维 运维从业者减少,运维专家匮乏 运维平台日趋复杂,缺乏统一规划 公司内部监控/运维系统繁多,形成数据孤岛 网络拓扑日益复杂,资源云化,虚拟资 源频繁弹性伸缩。不可靠的CMDB 过去1:n → 现在1:10? 越来越复杂的应用拓扑 消息服务器 发消息 应用D 应用E 收消息 收消息 收消息 数据库 分布式 缓存 JDBC JDBC JDBC 读缓存 分布式 文件系统 写缓存 存取 应用A 开放平台 API 请求 无线客户端请求 前端网页 请求 应用B 应用C 服务调用 服务调用 应用F 应用G 服务调用 服务调用 应用H 服务调用 服务调用 服务调用 应用A 数据库 JDBC 前端网页 请求 系统问题定位难 快速发展的APM APM (应用性能管理)市场规模逐年递增 0 故障预测、容量预测、性能预测 预测分类: 预测算法: 重点关注: LSTM、多元线性回归、决策树、随机森 林、神经网络、朴素贝叶斯分类、最小二乘 法、支持向量机 … 算法匹配度评分 日历适配、基于节假日的机器学习算法 Kpi自动分类并匹配预测算法 基于业务关联关系的预测算法 预测 大规模实时监控平台V3.0 红绿灯 大屏 可视化 目录 ⚫业界智能运维发展现状及趋势分析 ⚫智能运维体系建设方法论0 码力 | 41 页 | 3.52 MB | 1 年前3 基于 APM 的智能运维体系在京东物流的落地和实践-付正全运维人数不变,管理机器数翻倍 1 2  3 4 正在消失的运维 运维从业者减少,运维专家匮乏 运维平台日趋复杂,缺乏统一规划 公司内部监控/运维系统繁多,形成数据孤岛 网络拓扑日益复杂,资源云化,虚拟资 源频繁弹性伸缩。不可靠的CMDB 过去1:n → 现在1:10? 越来越复杂的应用拓扑 消息服务器 发消息 应用D 应用E 收消息 收消息 收消息 数据库 分布式 缓存 JDBC JDBC JDBC 读缓存 分布式 文件系统 写缓存 存取 应用A 开放平台 API 请求 无线客户端请求 前端网页 请求 应用B 应用C 服务调用 服务调用 应用F 应用G 服务调用 服务调用 应用H 服务调用 服务调用 服务调用 应用A 数据库 JDBC 前端网页 请求 系统问题定位难 快速发展的APM APM (应用性能管理)市场规模逐年递增 0 故障预测、容量预测、性能预测 预测分类: 预测算法: 重点关注: LSTM、多元线性回归、决策树、随机森 林、神经网络、朴素贝叶斯分类、最小二乘 法、支持向量机 … 算法匹配度评分 日历适配、基于节假日的机器学习算法 Kpi自动分类并匹配预测算法 基于业务关联关系的预测算法 预测 大规模实时监控平台V3.0 红绿灯 大屏 可视化 目录 ⚫业界智能运维发展现状及趋势分析 ⚫智能运维体系建设方法论0 码力 | 41 页 | 3.52 MB | 1 年前3
 openEuler 21.09 技术白皮书openEuler 21.09 技术白皮书 05 系统框架 openEuler 是覆盖全场景的创新平台,在引领内核创新,夯实云化基座的基础上,面向计算架构互联总线、存储介质 发展新趋势,创新分布式、实时加速引擎和基础服务,结合边缘、嵌入式领域竞争力探索,打造全场景协同的面向数字基础 设施的开源操作系统。 引领内核创新 云原生调度增强:针对云场景在线和离线业务混合部署场景,创新 CPU 调度算法保障在线业务对 化安全配置 secPaver 等更多开发工具。 数据中心 云原生 边缘 HPC 嵌入式/工控 … CPU:X86、ARM、RISC-V DPU NPU 介质 总线 服务器套件 云原生套件 分布式套件 虚拟化/容器 边云协同套件 嵌入式套件 机密计算服务 欧拉 DevKit … 实时加速框架 机密计算框架 … Linux Kernel 实时内核 安全内核 … 场 景 使 能 层 NVDIMM 新介质的文件系统,可代替 EXT4,XFS 等文件系统,满足单机应用、云原生分布式应用高性能 数据存储诉求。 openEuler 21.09 技术白皮书 12 内存分级扩展 当前内存制造工艺已经达到瓶颈,Arm 生态发展让每个 CPU 核的成本越来越低。数据库、虚拟机、大数据、人工智能、 深度学习场景同时需要算力和内存的支持。内存容量成为了制约业务和算力的问题。 内存分扩展通过0 码力 | 35 页 | 3.72 MB | 1 年前3 openEuler 21.09 技术白皮书openEuler 21.09 技术白皮书 05 系统框架 openEuler 是覆盖全场景的创新平台,在引领内核创新,夯实云化基座的基础上,面向计算架构互联总线、存储介质 发展新趋势,创新分布式、实时加速引擎和基础服务,结合边缘、嵌入式领域竞争力探索,打造全场景协同的面向数字基础 设施的开源操作系统。 引领内核创新 云原生调度增强:针对云场景在线和离线业务混合部署场景,创新 CPU 调度算法保障在线业务对 化安全配置 secPaver 等更多开发工具。 数据中心 云原生 边缘 HPC 嵌入式/工控 … CPU:X86、ARM、RISC-V DPU NPU 介质 总线 服务器套件 云原生套件 分布式套件 虚拟化/容器 边云协同套件 嵌入式套件 机密计算服务 欧拉 DevKit … 实时加速框架 机密计算框架 … Linux Kernel 实时内核 安全内核 … 场 景 使 能 层 NVDIMM 新介质的文件系统,可代替 EXT4,XFS 等文件系统,满足单机应用、云原生分布式应用高性能 数据存储诉求。 openEuler 21.09 技术白皮书 12 内存分级扩展 当前内存制造工艺已经达到瓶颈,Arm 生态发展让每个 CPU 核的成本越来越低。数据库、虚拟机、大数据、人工智能、 深度学习场景同时需要算力和内存的支持。内存容量成为了制约业务和算力的问题。 内存分扩展通过0 码力 | 35 页 | 3.72 MB | 1 年前3
 openEuler 23.09 技术白皮书发展新趋势,创新分布式、实时加速引擎和基础服务,结合边缘、嵌入式领域竞争力探索,打造全场景协同的面向数字基 础设施的开源操作系统。 openEuler 23.09 发布面向服务器、云原生、边缘和嵌入式场景的全场景操作系统版本,统一基于 Linux Kernel 6.4 构 建,对外接口遵循 POSIX 标准,具备天然协同基础。同时 openEuler 23.09 版本集成分布式软总线、KubeEdge+ 的门槛。llama.cpp 和 chatglm-cpp 是基于 C/C++ 实现的模 型推理框架,通过模型量化等手段,支持用户可以在 CPU 机器上完成开源大模型的部署和使用。 用户可通过 llama.cpp/chatglm-cpp 在 CPU 机器上部署大模型,并体验智能问答、AI 对话等功能。 应用场景 llama.cpp 支持多个英文开源大模型的部署,如 LLaMa/LLaMa2/Vicuna cgroup 配置 -2~2 的 cpu.qos_level,即多个优先级,使用 qos_level_weight 设置不同优先级权 重,按照 CPU 的使用比例进行资源的划分。并提供唤醒抢占能力。在提高机器利用率的同时,保证高优和延迟敏感的 在线业务不受离线业务的影响。 • 可编程调度:基于 eBPF 的可编程调度框架,支持内核调度器动态扩展调度策略,以满足不同负载的性能需求,具备 以下特点:0 码力 | 52 页 | 5.25 MB | 1 年前3 openEuler 23.09 技术白皮书发展新趋势,创新分布式、实时加速引擎和基础服务,结合边缘、嵌入式领域竞争力探索,打造全场景协同的面向数字基 础设施的开源操作系统。 openEuler 23.09 发布面向服务器、云原生、边缘和嵌入式场景的全场景操作系统版本,统一基于 Linux Kernel 6.4 构 建,对外接口遵循 POSIX 标准,具备天然协同基础。同时 openEuler 23.09 版本集成分布式软总线、KubeEdge+ 的门槛。llama.cpp 和 chatglm-cpp 是基于 C/C++ 实现的模 型推理框架,通过模型量化等手段,支持用户可以在 CPU 机器上完成开源大模型的部署和使用。 用户可通过 llama.cpp/chatglm-cpp 在 CPU 机器上部署大模型,并体验智能问答、AI 对话等功能。 应用场景 llama.cpp 支持多个英文开源大模型的部署,如 LLaMa/LLaMa2/Vicuna cgroup 配置 -2~2 的 cpu.qos_level,即多个优先级,使用 qos_level_weight 设置不同优先级权 重,按照 CPU 的使用比例进行资源的划分。并提供唤醒抢占能力。在提高机器利用率的同时,保证高优和延迟敏感的 在线业务不受离线业务的影响。 • 可编程调度:基于 eBPF 的可编程调度框架,支持内核调度器动态扩展调度策略,以满足不同负载的性能需求,具备 以下特点:0 码力 | 52 页 | 5.25 MB | 1 年前3
共 118 条
- 1
- 2
- 3
- 4
- 5
- 6
- 12














 
 