 陈宗志:大容量redis存储方案--Pika大容量redis存储方案--Pika 陈宗志 360基础架构组技术经理 SACC2017 简介 • 13年入职360 基础架构组 – Bada – Pika – Zeppelin – Mario, Pink, slash, floyd • https://github.com/Qihoo360 SACC2017 概要 • 存在问题 • 分析问题 基础架构团队一起设计开发的 大容量redis的解决方案 • 完全兼容redis 协议, 用户不需要修改任何代码 进行迁移 Introduction SACC2017 • Redis实例数量:6000+个 • 日访问量:5000+亿 • Pika数据数量:1000+个 • 日访问量:1000+亿 • 覆盖率:80%以上业务线 • 单份数据体积:6.8T Pika SACC2017 Pika 的出现并不是为了替代 Redis,而是 Redis 的场景补充。 Pika 力求在完全兼容 Redis 协议、继承 Redis 便 捷运维设计的前提下通过持久化存储的方式解决 Redis 在大容量场景下的问题 Pika 定位 SACC2017 Redis 问题 • 恢复时间长 • 一主多从, 主从切换代价大 • 缓冲区写满问题0 码力 | 47 页 | 2.18 MB | 1 年前3 陈宗志:大容量redis存储方案--Pika大容量redis存储方案--Pika 陈宗志 360基础架构组技术经理 SACC2017 简介 • 13年入职360 基础架构组 – Bada – Pika – Zeppelin – Mario, Pink, slash, floyd • https://github.com/Qihoo360 SACC2017 概要 • 存在问题 • 分析问题 基础架构团队一起设计开发的 大容量redis的解决方案 • 完全兼容redis 协议, 用户不需要修改任何代码 进行迁移 Introduction SACC2017 • Redis实例数量:6000+个 • 日访问量:5000+亿 • Pika数据数量:1000+个 • 日访问量:1000+亿 • 覆盖率:80%以上业务线 • 单份数据体积:6.8T Pika SACC2017 Pika 的出现并不是为了替代 Redis,而是 Redis 的场景补充。 Pika 力求在完全兼容 Redis 协议、继承 Redis 便 捷运维设计的前提下通过持久化存储的方式解决 Redis 在大容量场景下的问题 Pika 定位 SACC2017 Redis 问题 • 恢复时间长 • 一主多从, 主从切换代价大 • 缓冲区写满问题0 码力 | 47 页 | 2.18 MB | 1 年前3
 阿里云云数据库 Redis 版 产品简介)、集合(Set)、有序集合(SortedSet)、哈希表 (Hash)等多种数据类型,及事务(Transactions)、消息订阅与发布(Pub/Sub)等高级功能。 通过“内存+硬盘”的存储方式,云数据库 Redis 版在提供高速数据读写能力的同时满足数据持久化需求。 云数据库 Redis 版支持灵活的部署架构:单副本、双副本、集群版,能够满足不同的业务场景。 单节点架构: 集群架构:集群(cluster)实例采用分布式架构,每个节点都采用一主一从的高可用架构,自动容灾 切换,故障迁移,多种集群规格可适配不同的业务压力,无线扩展数据库性能。 云数据库 Redis 版作为云计算服务,其硬件和数据部署在云端,有完善的基础设施规划、网络安全保障、系统 维护服务,确保用户专心致力于业务创新。 混合存储公测开通须知 Redis混合存储系列将于2018年3 Redis混合存储系列将于2018年3月29日至2018年5月30日期间,进行公测。公测期间,将给部分适用于 Redis混合存储系列场景的用户提供购买资格。 在公测期间创建Redis混合存储系列的实例有如下事项需要您注意。 云数据库 Redis 版 产品简介 1 - - 公测开通对象 对Redis混合存储实例有很强的需求,且适合企业的应用场景,企业有丰富的Redis使用经验。 公测开通地域 公0 码力 | 33 页 | 1.88 MB | 1 年前3 阿里云云数据库 Redis 版 产品简介)、集合(Set)、有序集合(SortedSet)、哈希表 (Hash)等多种数据类型,及事务(Transactions)、消息订阅与发布(Pub/Sub)等高级功能。 通过“内存+硬盘”的存储方式,云数据库 Redis 版在提供高速数据读写能力的同时满足数据持久化需求。 云数据库 Redis 版支持灵活的部署架构:单副本、双副本、集群版,能够满足不同的业务场景。 单节点架构: 集群架构:集群(cluster)实例采用分布式架构,每个节点都采用一主一从的高可用架构,自动容灾 切换,故障迁移,多种集群规格可适配不同的业务压力,无线扩展数据库性能。 云数据库 Redis 版作为云计算服务,其硬件和数据部署在云端,有完善的基础设施规划、网络安全保障、系统 维护服务,确保用户专心致力于业务创新。 混合存储公测开通须知 Redis混合存储系列将于2018年3 Redis混合存储系列将于2018年3月29日至2018年5月30日期间,进行公测。公测期间,将给部分适用于 Redis混合存储系列场景的用户提供购买资格。 在公测期间创建Redis混合存储系列的实例有如下事项需要您注意。 云数据库 Redis 版 产品简介 1 - - 公测开通对象 对Redis混合存储实例有很强的需求,且适合企业的应用场景,企业有丰富的Redis使用经验。 公测开通地域 公0 码力 | 33 页 | 1.88 MB | 1 年前3
 《Redis使用手册》(试读版)储存数据安全吗,不会丢数据吧?!”。 然⽽时⾄今⽇, 经 过⼤量的实践应⽤, Redis 简洁⾼效、安全稳定的印象已经深⼊⼈⼼。 ⽆论是国内还是国外, 从财富五百强到⼩ 型初创公司都在使⽤ Redis , 很多云服务提供商还以 Redis 为基础构建了相应的缓存服务、消息队列服务以及内 存存储服务 —— 当你使⽤这些服务时, 你实际上就是在使⽤ Redis 。 除了变得越来越受欢迎之外, Redis 在过去数年的另⼀个变化就是更新速度越来越快, 在过去数年的另⼀个变化就是更新速度越来越快, 功能也变得越来越多、越 来越强⼤: ⽐如说, Redis 的数据结构数量已经从过去的五种增加到了九种, RDB-AOF 混合持久化模式的引⼊ 使得⽤户不必再陷⼊“⻥和熊掌不可兼得”的难题中, ⽽集群功能和模块机制的引⼊则让 Redis 在性能和功能上拥 有了近乎⽆限的扩展能⼒。 综上所述, 我们可以说现在的 Redis 跟五年前⽐起来已经完全不⼀样了, ⽽如何向读者讲述新版 Redis 并知悉本书使⽤的 Redis 版本以及本书配套的读者服务 ⽹站。 1.1 Redis 简介 Redis 是⼀个主要由 Salvatore Sanfilippo (antirez)开发的开源的内存数据结构存储器, 它经常被⽤作数据 库、缓存以及消息代理等⽤途。 Redis 因为它丰富的数据结构、极快的速度、⻬全的功能⽽为⼈所知, 它是⽬前内存数据库⽅⾯的事实标准, 在 互联⽹上有⾮常⼴泛的应⽤, 包括0 码力 | 352 页 | 6.57 MB | 1 年前3 《Redis使用手册》(试读版)储存数据安全吗,不会丢数据吧?!”。 然⽽时⾄今⽇, 经 过⼤量的实践应⽤, Redis 简洁⾼效、安全稳定的印象已经深⼊⼈⼼。 ⽆论是国内还是国外, 从财富五百强到⼩ 型初创公司都在使⽤ Redis , 很多云服务提供商还以 Redis 为基础构建了相应的缓存服务、消息队列服务以及内 存存储服务 —— 当你使⽤这些服务时, 你实际上就是在使⽤ Redis 。 除了变得越来越受欢迎之外, Redis 在过去数年的另⼀个变化就是更新速度越来越快, 在过去数年的另⼀个变化就是更新速度越来越快, 功能也变得越来越多、越 来越强⼤: ⽐如说, Redis 的数据结构数量已经从过去的五种增加到了九种, RDB-AOF 混合持久化模式的引⼊ 使得⽤户不必再陷⼊“⻥和熊掌不可兼得”的难题中, ⽽集群功能和模块机制的引⼊则让 Redis 在性能和功能上拥 有了近乎⽆限的扩展能⼒。 综上所述, 我们可以说现在的 Redis 跟五年前⽐起来已经完全不⼀样了, ⽽如何向读者讲述新版 Redis 并知悉本书使⽤的 Redis 版本以及本书配套的读者服务 ⽹站。 1.1 Redis 简介 Redis 是⼀个主要由 Salvatore Sanfilippo (antirez)开发的开源的内存数据结构存储器, 它经常被⽤作数据 库、缓存以及消息代理等⽤途。 Redis 因为它丰富的数据结构、极快的速度、⻬全的功能⽽为⼈所知, 它是⽬前内存数据库⽅⾯的事实标准, 在 互联⽹上有⾮常⼴泛的应⽤, 包括0 码力 | 352 页 | 6.57 MB | 1 年前3
 高金芳-平安科技-PostgreSQL反向代理redis2016Postgres中国用户大会 Postgres Conference China 2016 中国用户大会  Oracle  PostgreSQL  Mysql 关系型数据库 Nosql数据库  Redis , Memcache  Hbase , Cassandra  Neo4j  Mongodb 2016Postgres中国用户大会 2016Postgres中国用户大会 Postgres Conference China 2016 中国用户大会 Redis Management Dilemmas 一个实例的密码多人使用 密码明文配置到配置文件 高危命令明文重设在配置文件 01 02 03 Redis的密码安全 2016Postgres中国用户大会 id 2016Postgres中国用户大会 Postgres Conference China 2016 中国用户大会 通过FDW可以访问任何一种存储 FDW接口 存储类型 2016Postgres中国用户大会 Postgres Conference China 2016 中国用户大会 可以读取数据库以外的文件,比如0 码力 | 28 页 | 3.61 MB | 1 年前3 高金芳-平安科技-PostgreSQL反向代理redis2016Postgres中国用户大会 Postgres Conference China 2016 中国用户大会  Oracle  PostgreSQL  Mysql 关系型数据库 Nosql数据库  Redis , Memcache  Hbase , Cassandra  Neo4j  Mongodb 2016Postgres中国用户大会 2016Postgres中国用户大会 Postgres Conference China 2016 中国用户大会 Redis Management Dilemmas 一个实例的密码多人使用 密码明文配置到配置文件 高危命令明文重设在配置文件 01 02 03 Redis的密码安全 2016Postgres中国用户大会 id 2016Postgres中国用户大会 Postgres Conference China 2016 中国用户大会 通过FDW可以访问任何一种存储 FDW接口 存储类型 2016Postgres中国用户大会 Postgres Conference China 2016 中国用户大会 可以读取数据库以外的文件,比如0 码力 | 28 页 | 3.61 MB | 1 年前3
 阿里云云数据库 Redis 版 快速入门快速入门旨在介绍如何创建 Redis 实例以及连接实例数据库,使用户能够了解从购买 Redis 实例到开始使用实 例的流程。 目标读者 首次购买 Redis 实例的用户 想要了解如何连接 Redis 实例的用户 快速入门流程图 若您初次使用云数据库 Redis 版,请先了解使用限制以及关于 Redis 管理控制台。 通常,从新购实例到可以开始使用实例,您需要完成如下操作: 操作: Redis 管理控制台是用于管理 Redis 实例的 Web 应用程序,您可以通过该控制台上直观的用户界面进行实例 创建、网络设置、实例管理、密码设置等操作。 Redis 管理控制台是阿里云管理控制台的一部分,关于控制台的通用设置和基本操作请参见使用阿里云管理控 云数据库 Redis 版 快速入门 1 制台。本文将介绍 Redis 控制台的通用界面,若有差异,请以控制台实际界面为准。 管理控制台。若没有阿里云账号,请单击注册。 控制台简介 控制台首页 对于 Redis 所有类型的实例而言,控制台首页的界面信息都是相同的。 登录 Redis 管理控制台,进入实例列表页面,如下图所示(仅为示例,请以实际界面为准)。 实例列表页面中会展示实例 ID、状态、已用内存及配额、可用区、创建时间、付费方式、网络类型等信息。 注意:已用内存及配额信息是0 码力 | 29 页 | 1.07 MB | 1 年前3 阿里云云数据库 Redis 版 快速入门快速入门旨在介绍如何创建 Redis 实例以及连接实例数据库,使用户能够了解从购买 Redis 实例到开始使用实 例的流程。 目标读者 首次购买 Redis 实例的用户 想要了解如何连接 Redis 实例的用户 快速入门流程图 若您初次使用云数据库 Redis 版,请先了解使用限制以及关于 Redis 管理控制台。 通常,从新购实例到可以开始使用实例,您需要完成如下操作: 操作: Redis 管理控制台是用于管理 Redis 实例的 Web 应用程序,您可以通过该控制台上直观的用户界面进行实例 创建、网络设置、实例管理、密码设置等操作。 Redis 管理控制台是阿里云管理控制台的一部分,关于控制台的通用设置和基本操作请参见使用阿里云管理控 云数据库 Redis 版 快速入门 1 制台。本文将介绍 Redis 控制台的通用界面,若有差异,请以控制台实际界面为准。 管理控制台。若没有阿里云账号,请单击注册。 控制台简介 控制台首页 对于 Redis 所有类型的实例而言,控制台首页的界面信息都是相同的。 登录 Redis 管理控制台,进入实例列表页面,如下图所示(仅为示例,请以实际界面为准)。 实例列表页面中会展示实例 ID、状态、已用内存及配额、可用区、创建时间、付费方式、网络类型等信息。 注意:已用内存及配额信息是0 码力 | 29 页 | 1.07 MB | 1 年前3
 Redis 多数据中心双向同步 祝辰Redis 多数据中心双向同步 祝辰 • 携程框架架构部门 • 资深研发工程师 • 专注于 Redis 高可用系统的 研发工作 • 对分布式存储系统有所涉猎 讲师介绍 祝辰 1 开篇 2 3 4 5 目 录 CONTENTS 携程的Redis架构 分布式理论 双向/多向同步的问题 CRDT 19 世纪的通讯 “At 12:30 am on April 4th 仅仅需要毫秒级 别的时间, 一条消息可以 被全世界共享起来 互联网的规模也从单独 一个数据中心的部署方 式转变为多数据中心, 甚 至是跨区域的部署模式 多区域部署 Serverless 分布式存储 Redis 内存数 据库 支持多种 数据结构 支持主 从架构 缓存服务 分布式锁 消息队列 计数器 目前携程的 Redis 部署架构 通过携程的 X-Pipe 项目, 来达到 Redis 目前已经支持上海到美国和德国的 Redis 数据同步 • 到德国法兰克福站点, 平均延迟在 176ms 左右 • 到美西站点, 平均延迟在 160ms 左右 携程业务开发的需求, 对于 Redis 的数 据存储有着强依赖. 机票的业务需要从 上游供应商处收集舱位信息, Redis 方便 的多种数据结构类型对于储存这种数据 比较方便. 同时由于供应商是在全球分布的特性, 就更需要一个能够多点写入的 Redis0 码力 | 45 页 | 1.74 MB | 1 年前3 Redis 多数据中心双向同步 祝辰Redis 多数据中心双向同步 祝辰 • 携程框架架构部门 • 资深研发工程师 • 专注于 Redis 高可用系统的 研发工作 • 对分布式存储系统有所涉猎 讲师介绍 祝辰 1 开篇 2 3 4 5 目 录 CONTENTS 携程的Redis架构 分布式理论 双向/多向同步的问题 CRDT 19 世纪的通讯 “At 12:30 am on April 4th 仅仅需要毫秒级 别的时间, 一条消息可以 被全世界共享起来 互联网的规模也从单独 一个数据中心的部署方 式转变为多数据中心, 甚 至是跨区域的部署模式 多区域部署 Serverless 分布式存储 Redis 内存数 据库 支持多种 数据结构 支持主 从架构 缓存服务 分布式锁 消息队列 计数器 目前携程的 Redis 部署架构 通过携程的 X-Pipe 项目, 来达到 Redis 目前已经支持上海到美国和德国的 Redis 数据同步 • 到德国法兰克福站点, 平均延迟在 176ms 左右 • 到美西站点, 平均延迟在 160ms 左右 携程业务开发的需求, 对于 Redis 的数 据存储有着强依赖. 机票的业务需要从 上游供应商处收集舱位信息, Redis 方便 的多种数据结构类型对于储存这种数据 比较方便. 同时由于供应商是在全球分布的特性, 就更需要一个能够多点写入的 Redis0 码力 | 45 页 | 1.74 MB | 1 年前3
 常见Redis未授权访问漏洞总结0以上)。 CouchDB 未授权访问漏洞 漏洞简介以及危害 Apache CouchDB是一个开源数据库,专注于易用性和成为"完全拥抱web的数据库"。它是一个使 用JSON作为存储格式,JavaScript作为查询语言,MapReduce和HTTP作为API的NoSQL数据库。应用 广泛,如BBC用在其动态内容展示平台,Credit Suisse用在其内部的商品部门的市场框架,Meebo,用0 码力 | 44 页 | 19.34 MB | 1 年前3 常见Redis未授权访问漏洞总结0以上)。 CouchDB 未授权访问漏洞 漏洞简介以及危害 Apache CouchDB是一个开源数据库,专注于易用性和成为"完全拥抱web的数据库"。它是一个使 用JSON作为存储格式,JavaScript作为查询语言,MapReduce和HTTP作为API的NoSQL数据库。应用 广泛,如BBC用在其动态内容展示平台,Credit Suisse用在其内部的商品部门的市场框架,Meebo,用0 码力 | 44 页 | 19.34 MB | 1 年前3
共 7 条
- 1













