 Apache Pulsar,云原生时代的消息平台 - 翟佳Apache Pulsar 云原⽣时代的消息平台 翟佳 streamnative.io ⾃我介绍 • 开源项⽬爱好者: • Apache Pulsar PMC成员 • Apache BookKeeper PMC成员 • EMC -> StreamNative • 华中科⼤ -> 中科院计算所 • Pulsar 的根本不同 • Apache Pulsar 简介 • Pulsar Pulsar 的⽣态和社区 streamnative.io Apache Pulsar 简介 streamnative.io Apache Pulsar 是什么 streamnative.io Apache Pulsar 要解决的问题 • 企业需求和数据规模 • 多租户 - 百万Topics - 低延时 - 持久化 - 跨地域复制 • 解除存储计算耦合 • 运维痛点:替换机器、服务扩容、数据 streamnative.io Apache Pulsar 特性 • 云原⽣架构: • 存储计算分离 • 分层 + 分⽚ • ⾼性能 + 强⼀致性 • ⽀持统⼀的 Queue 和 Stream 的接⼝。 • 丰富的企业级特性 • 多租户隔离 — 百万Topics — 跨地域复制 — 鉴权认证 • Pulsar 的根本不同 • Apache Pulsar 简介 • Pulsar0 码力 | 39 页 | 12.71 MB | 6 月前0.03 Apache Pulsar,云原生时代的消息平台 - 翟佳Apache Pulsar 云原⽣时代的消息平台 翟佳 streamnative.io ⾃我介绍 • 开源项⽬爱好者: • Apache Pulsar PMC成员 • Apache BookKeeper PMC成员 • EMC -> StreamNative • 华中科⼤ -> 中科院计算所 • Pulsar 的根本不同 • Apache Pulsar 简介 • Pulsar Pulsar 的⽣态和社区 streamnative.io Apache Pulsar 简介 streamnative.io Apache Pulsar 是什么 streamnative.io Apache Pulsar 要解决的问题 • 企业需求和数据规模 • 多租户 - 百万Topics - 低延时 - 持久化 - 跨地域复制 • 解除存储计算耦合 • 运维痛点:替换机器、服务扩容、数据 streamnative.io Apache Pulsar 特性 • 云原⽣架构: • 存储计算分离 • 分层 + 分⽚ • ⾼性能 + 强⼀致性 • ⽀持统⼀的 Queue 和 Stream 的接⼝。 • 丰富的企业级特性 • 多租户隔离 — 百万Topics — 跨地域复制 — 鉴权认证 • Pulsar 的根本不同 • Apache Pulsar 简介 • Pulsar0 码力 | 39 页 | 12.71 MB | 6 月前0.03
 12-从数据库中间件到云原生——Apache ShardingSphere 架构演进-秦金卫从【数据库中间件】到【云原生】 ——Apache ShardingSphere 架构演进 Apache Dubbo/ShardingSphere PMC 秦金卫(kimmking) 2020-12-04 20:00 云 原 生 学 院 # 1 2 目录 1.数据库框架:从数据库的性能与容量到数据库框架技术的产生 2.数据库中间件:从框架技术到分布式的数据库中间件技术 3.分布式数据库:从数据库中间件技术发展到分布式数据库 MicroServices 服务网格 ServiceMesh 数据库网格 DatabaseMesh 云原生 Cloud-Native 5.数据库解决方案 Apache ShardingSphere 5.数据库解决方案 Apache ShardingSphere 是一套开源的分布式数据库中间件解决方案组成的生 态圈,它由 JDBC、Proxy 和 Sidecar(规划中)这 3 款相互独立,却又能够0 码力 | 23 页 | 1.91 MB | 6 月前3 12-从数据库中间件到云原生——Apache ShardingSphere 架构演进-秦金卫从【数据库中间件】到【云原生】 ——Apache ShardingSphere 架构演进 Apache Dubbo/ShardingSphere PMC 秦金卫(kimmking) 2020-12-04 20:00 云 原 生 学 院 # 1 2 目录 1.数据库框架:从数据库的性能与容量到数据库框架技术的产生 2.数据库中间件:从框架技术到分布式的数据库中间件技术 3.分布式数据库:从数据库中间件技术发展到分布式数据库 MicroServices 服务网格 ServiceMesh 数据库网格 DatabaseMesh 云原生 Cloud-Native 5.数据库解决方案 Apache ShardingSphere 5.数据库解决方案 Apache ShardingSphere 是一套开源的分布式数据库中间件解决方案组成的生 态圈,它由 JDBC、Proxy 和 Sidecar(规划中)这 3 款相互独立,却又能够0 码力 | 23 页 | 1.91 MB | 6 月前3
 云原生安全威胁分析与能力建设白皮书(来源:中国联通研究院)害十分严重,从安全的角度讲,管理平台应该尽量避免暴露在外网。 2.4.6 第三方组件攻击 k8s 生态中还会使用一些第三方组件,比如服务网格、API 网关等,这些 组件也有可能存在漏洞,比如开源 API 网关 Apache APISIX[14] 的 RCE 漏洞、 服务网格 Istio[15] 的未授权访问或 RCE 漏洞等。 2.5 路径 4:微服务攻击 云原生安全威胁分析与能力建设白皮书 30 微服 3:在容器内部创建一个新的容器,并将宿主机目录挂载到新的容器 docker run -it --name container_in_container -v /:/host ubuntu /bin/bash 操作结果如图 13 所示,可以看出,新启动的容器 container_in_container 可以越权查看到主机相关目录信息。 云原生安全威胁分析与能力建设白皮书 40 图 13 容器逃逸结果展示 [13] CVE-2022-22965 Detail. https://nvd.nist.gov/vuln/detail/cve-2022-22965 [14] Apache APISIX. https://apisix.apache.org/ 云原生安全威胁分析与能力建设白皮书 68 [15] Istio. https://istio.io/ [16] Spring Cloud Gateway0 码力 | 72 页 | 2.44 MB | 1 年前3 云原生安全威胁分析与能力建设白皮书(来源:中国联通研究院)害十分严重,从安全的角度讲,管理平台应该尽量避免暴露在外网。 2.4.6 第三方组件攻击 k8s 生态中还会使用一些第三方组件,比如服务网格、API 网关等,这些 组件也有可能存在漏洞,比如开源 API 网关 Apache APISIX[14] 的 RCE 漏洞、 服务网格 Istio[15] 的未授权访问或 RCE 漏洞等。 2.5 路径 4:微服务攻击 云原生安全威胁分析与能力建设白皮书 30 微服 3:在容器内部创建一个新的容器,并将宿主机目录挂载到新的容器 docker run -it --name container_in_container -v /:/host ubuntu /bin/bash 操作结果如图 13 所示,可以看出,新启动的容器 container_in_container 可以越权查看到主机相关目录信息。 云原生安全威胁分析与能力建设白皮书 40 图 13 容器逃逸结果展示 [13] CVE-2022-22965 Detail. https://nvd.nist.gov/vuln/detail/cve-2022-22965 [14] Apache APISIX. https://apisix.apache.org/ 云原生安全威胁分析与能力建设白皮书 68 [15] Istio. https://istio.io/ [16] Spring Cloud Gateway0 码力 | 72 页 | 2.44 MB | 1 年前3
 24-云原生中间件之道-高磊Kubernetes。目前Apache Spark、Apache Flink已经从框架内核不同程度的支持了该特性,但整体的完整对依赖于社 区的努力。 迁移风险高:一次变更引入的改动越多,引发故障的几率也越多。在Hadoop领域,大数据应用的资源,由 Hadoop Yarn负责管理和调度,具体来说,大数据应用运行在Yarn提供的Container之中,这里的Container,是Yarn中资源的抽 象,并非Linux 象,并非Linux Container,将其迁移至以容器为技术的云原生架构,跨越了底层基础架构,改动面比较大,风险相 对也更高。 组织架构造成额外的成本:企业里负责开发和运维Hadoop系统的团队,和容器团队通常分属不同的部门,其技术 栈也有明显区别,在迁移的过程中,存在过多的跨部门沟通,带来额外的迁移成本,如果改动比较大,跨部分沟 通的成本会非常大。 高级能力-云原生大数据|AI-业务赋能的基石-3-解决办法0 码力 | 22 页 | 4.39 MB | 6 月前3 24-云原生中间件之道-高磊Kubernetes。目前Apache Spark、Apache Flink已经从框架内核不同程度的支持了该特性,但整体的完整对依赖于社 区的努力。 迁移风险高:一次变更引入的改动越多,引发故障的几率也越多。在Hadoop领域,大数据应用的资源,由 Hadoop Yarn负责管理和调度,具体来说,大数据应用运行在Yarn提供的Container之中,这里的Container,是Yarn中资源的抽 象,并非Linux 象,并非Linux Container,将其迁移至以容器为技术的云原生架构,跨越了底层基础架构,改动面比较大,风险相 对也更高。 组织架构造成额外的成本:企业里负责开发和运维Hadoop系统的团队,和容器团队通常分属不同的部门,其技术 栈也有明显区别,在迁移的过程中,存在过多的跨部门沟通,带来额外的迁移成本,如果改动比较大,跨部分沟 通的成本会非常大。 高级能力-云原生大数据|AI-业务赋能的基石-3-解决办法0 码力 | 22 页 | 4.39 MB | 6 月前3
 SBOM 为基础的云原生应用安全治理Realtek 的WiFi SDK漏洞 2021年12月,Apache开源组件Log4j被发现两个 相关漏洞,分别为任意代码执行漏洞和拒绝服务攻 击漏洞,攻击者可以通过构造特殊的请求进行任意 代码执行,以达到控制服务器、影响服务器执行的 目的。该漏洞已影响超6万个开源软件,涉及相关 版本软件包32万余个,被认为是“2021年最重要的 安全威胁之一” Apache Log4j2 漏洞 2022年3 月 300 码力 | 30 页 | 2.39 MB | 1 年前3 SBOM 为基础的云原生应用安全治理Realtek 的WiFi SDK漏洞 2021年12月,Apache开源组件Log4j被发现两个 相关漏洞,分别为任意代码执行漏洞和拒绝服务攻 击漏洞,攻击者可以通过构造特殊的请求进行任意 代码执行,以达到控制服务器、影响服务器执行的 目的。该漏洞已影响超6万个开源软件,涉及相关 版本软件包32万余个,被认为是“2021年最重要的 安全威胁之一” Apache Log4j2 漏洞 2022年3 月 300 码力 | 30 页 | 2.39 MB | 1 年前3
 多云下的云原生之道multicloudAnalytics Content Integration Content Solution Architectures & Best Practices Core Services Apache Open Whisk Demo Time IBM Multicloud Manager Demo IBM in KubeCon Keynote Speech Breakout0 码力 | 7 页 | 1.86 MB | 1 年前3 多云下的云原生之道multicloudAnalytics Content Integration Content Solution Architectures & Best Practices Core Services Apache Open Whisk Demo Time IBM Multicloud Manager Demo IBM in KubeCon Keynote Speech Breakout0 码力 | 7 页 | 1.86 MB | 1 年前3
 36-云原生监控体系建设-秦晓辉sum( irate(container_cpu_usage_seconds_total[3m]) ) by (pod,id,namespace,container,ident,image) / sum( container_spec_cpu_quota/container_spec_cpu_period ) by (pod,id,namespace,container,ident,image) 内存使用量除以内存限制量,就是使用率,但 是后面跟了 and container_spec_memory_limit_bytes != 0 是因为有些容器没有配置 limit 的内存大小 container_memory_usage_bytes / container_spec_memory_limit_bytes and container_spec_memory_limit_bytes != 0 increase(container_cpu_cfs_throttled_periods_tota l[1m]) / increase(container_cpu_cfs_periods_total[1m]) * 100 Pod网络出入向流量 irate(container_network_transmit_bytes_total[1m]) * 8 irate(container_network_0 码力 | 32 页 | 3.27 MB | 6 月前3 36-云原生监控体系建设-秦晓辉sum( irate(container_cpu_usage_seconds_total[3m]) ) by (pod,id,namespace,container,ident,image) / sum( container_spec_cpu_quota/container_spec_cpu_period ) by (pod,id,namespace,container,ident,image) 内存使用量除以内存限制量,就是使用率,但 是后面跟了 and container_spec_memory_limit_bytes != 0 是因为有些容器没有配置 limit 的内存大小 container_memory_usage_bytes / container_spec_memory_limit_bytes and container_spec_memory_limit_bytes != 0 increase(container_cpu_cfs_throttled_periods_tota l[1m]) / increase(container_cpu_cfs_periods_total[1m]) * 100 Pod网络出入向流量 irate(container_network_transmit_bytes_total[1m]) * 8 irate(container_network_0 码力 | 32 页 | 3.27 MB | 6 月前3
 16-Nocalhost重新定义云原生开发环境-王炜发的循环反馈效率。 开源与社区共建 Nocalhost ⽬前是 100% 开源的,代码托管在 Github:https://github.com/nocalhost/nocalhost.git,并遵循 Apache-2.0 开源协议,可以免费使⽤。 想了解更多关于 Nocalhost 的信息,欢迎访问官⽹:https://nocalhost.dev 获取。0 码力 | 7 页 | 7.20 MB | 6 月前3 16-Nocalhost重新定义云原生开发环境-王炜发的循环反馈效率。 开源与社区共建 Nocalhost ⽬前是 100% 开源的,代码托管在 Github:https://github.com/nocalhost/nocalhost.git,并遵循 Apache-2.0 开源协议,可以免费使⽤。 想了解更多关于 Nocalhost 的信息,欢迎访问官⽹:https://nocalhost.dev 获取。0 码力 | 7 页 | 7.20 MB | 6 月前3
 09-harbor助你玩转云原生-邹佳[2] Registry: •制品存储仓库 •分发制品的媒介 •访问控制与管理的节点 初识Harbor [1] 官方网站:goharbor.io CNCF毕业项目 落地在很多企业级 产品中 Apache 2.0协议下 开源 GitHub代码库: https://github.com/goha rbor/harbor/ 一个开源可信的云原生制品仓库项目用来存储、签名和管理相关内容。0 码力 | 32 页 | 17.15 MB | 6 月前3 09-harbor助你玩转云原生-邹佳[2] Registry: •制品存储仓库 •分发制品的媒介 •访问控制与管理的节点 初识Harbor [1] 官方网站:goharbor.io CNCF毕业项目 落地在很多企业级 产品中 Apache 2.0协议下 开源 GitHub代码库: https://github.com/goha rbor/harbor/ 一个开源可信的云原生制品仓库项目用来存储、签名和管理相关内容。0 码力 | 32 页 | 17.15 MB | 6 月前3
 云原生中的数据科学KubeConAsia2018FinalSKILLS 1. Autonomy Autonomy Containerization 1. Single Operations per Container Containerization 1. Single Operations per Container 2. Use Parameterize Data Flow • Data Inputs • Data Outputs Distributing of Rights: http://www.pachyderm.io/dsbor.html Azure Container Registry Build: https://docs.microsoft.com/en-us/azure/container-registry/container- registry-tasks-overview Azure Kubernetes Service: https://azure0 码力 | 47 页 | 14.91 MB | 1 年前3 云原生中的数据科学KubeConAsia2018FinalSKILLS 1. Autonomy Autonomy Containerization 1. Single Operations per Container Containerization 1. Single Operations per Container 2. Use Parameterize Data Flow • Data Inputs • Data Outputs Distributing of Rights: http://www.pachyderm.io/dsbor.html Azure Container Registry Build: https://docs.microsoft.com/en-us/azure/container-registry/container- registry-tasks-overview Azure Kubernetes Service: https://azure0 码力 | 47 页 | 14.91 MB | 1 年前3
共 15 条
- 1
- 2













