 深度学习在百度搜索中的工程实践-百度-曹皓0 码力 | 40 页 | 29.46 MB | 1 年前3 深度学习在百度搜索中的工程实践-百度-曹皓0 码力 | 40 页 | 29.46 MB | 1 年前3
 百度APP基于Istio实现基础架构升级 - lightning talk - MichaelXu#IstioCon 百度APP基于Istio实现 基础架构升级 许超 #IstioCon 背景 l 核心业务线已完成微服务改造,数万个微服务对架构服务治理能力提出了更高的要求。 l 高级架构能力能否多语言、多框架支持? l 运维架构能力是否具备可移植性?是否能低成本复制新的产品线? l 可观测性不足,是否有通用机制提升产品线可观测性? Ø 部分模块上下游超时配置不合理,超时倒挂,集中管理调整成本比较高。 比如常用运维降级、止损能力各个产品线重复建设,方案差异大,OP期望运维能力在不同产品线之间能够通用化, 集中化管理,甚至做到自动决策 Ø 精细故障能力(异常query、注入延迟等)期望能够标准化、低成本跨产品线复制 Ø 百度APP架构缺少上下游模块视图和流量视图,黄金指标不足,导致容量管理压测效率低、混沌工程实施成 本高、故障定位成本高。 #IstioCon 目标 l 服务治理策略平台化 联合公司内部,通过合作共建方式实现完整的Service l 关键技术 Ø 内核劫持,使用Loopback IP 与 服务发现一一对应。 Ø RPC劫持,构建可快速扩展标准方案。 Ø 自身稳定性,降级(兜底)、隔离、监控多种方式保证。 ①bns, 百度内部基础设施层,服务发现。 ②bns-agent,服务发现接入层。 ㊟ 内核劫持:Loopback方案 Ø loopback地址的管理和分配。 Ø 需要打通业务和loopback之间的映射管 理。0 码力 | 9 页 | 2.20 MB | 1 年前3 百度APP基于Istio实现基础架构升级 - lightning talk - MichaelXu#IstioCon 百度APP基于Istio实现 基础架构升级 许超 #IstioCon 背景 l 核心业务线已完成微服务改造,数万个微服务对架构服务治理能力提出了更高的要求。 l 高级架构能力能否多语言、多框架支持? l 运维架构能力是否具备可移植性?是否能低成本复制新的产品线? l 可观测性不足,是否有通用机制提升产品线可观测性? Ø 部分模块上下游超时配置不合理,超时倒挂,集中管理调整成本比较高。 比如常用运维降级、止损能力各个产品线重复建设,方案差异大,OP期望运维能力在不同产品线之间能够通用化, 集中化管理,甚至做到自动决策 Ø 精细故障能力(异常query、注入延迟等)期望能够标准化、低成本跨产品线复制 Ø 百度APP架构缺少上下游模块视图和流量视图,黄金指标不足,导致容量管理压测效率低、混沌工程实施成 本高、故障定位成本高。 #IstioCon 目标 l 服务治理策略平台化 联合公司内部,通过合作共建方式实现完整的Service l 关键技术 Ø 内核劫持,使用Loopback IP 与 服务发现一一对应。 Ø RPC劫持,构建可快速扩展标准方案。 Ø 自身稳定性,降级(兜底)、隔离、监控多种方式保证。 ①bns, 百度内部基础设施层,服务发现。 ②bns-agent,服务发现接入层。 ㊟ 内核劫持:Loopback方案 Ø loopback地址的管理和分配。 Ø 需要打通业务和loopback之间的映射管 理。0 码力 | 9 页 | 2.20 MB | 1 年前3
 尚硅谷大数据技术之Hadoop(入门)尚硅谷大数据技术之 Hadoop(入门) ————————————————————————————— 更多 Java –大数据 –前端 –python 人工智能资料下载,可百度访问:尚硅谷官网 尚硅谷大数据技术之 Hadoop(入门) (作者:尚硅谷大数据研发部) 版本:V3.3 第 1 章 Hadoop 概述 1.1 Hadoop 是什么 Hadoop是什么 尚硅谷大数据技术之 Hadoop(入门) ————————————————————————————— 更多 Java –大数据 –前端 –python 人工智能资料下载,可百度访问:尚硅谷官网 Hadoop发展历史 6)2003-2004年,Google公开了部分GFS和MapReduce思想的细节,以此为基础Doug Cutting等人用 了2年业余时间实现了D 尚硅谷大数据技术之 Hadoop(入门) ————————————————————————————— 更多 Java –大数据 –前端 –python 人工智能资料下载,可百度访问:尚硅谷官网 官网地址:http://hadoop.apache.org 下载地址:https://hadoop.apache.org/releases.html 2)Cloudera0 码力 | 35 页 | 1.70 MB | 1 年前3 尚硅谷大数据技术之Hadoop(入门)尚硅谷大数据技术之 Hadoop(入门) ————————————————————————————— 更多 Java –大数据 –前端 –python 人工智能资料下载,可百度访问:尚硅谷官网 尚硅谷大数据技术之 Hadoop(入门) (作者:尚硅谷大数据研发部) 版本:V3.3 第 1 章 Hadoop 概述 1.1 Hadoop 是什么 Hadoop是什么 尚硅谷大数据技术之 Hadoop(入门) ————————————————————————————— 更多 Java –大数据 –前端 –python 人工智能资料下载,可百度访问:尚硅谷官网 Hadoop发展历史 6)2003-2004年,Google公开了部分GFS和MapReduce思想的细节,以此为基础Doug Cutting等人用 了2年业余时间实现了D 尚硅谷大数据技术之 Hadoop(入门) ————————————————————————————— 更多 Java –大数据 –前端 –python 人工智能资料下载,可百度访问:尚硅谷官网 官网地址:http://hadoop.apache.org 下载地址:https://hadoop.apache.org/releases.html 2)Cloudera0 码力 | 35 页 | 1.70 MB | 1 年前3
 尚硅谷大数据技术之Hadoop(生产调优手册)尚硅谷大数据技术之 Hadoop(生产调优手册) ——————————————————————————————————————— 更多 Java –大数据 –前端 –python 人工智能资料下载,可百度访问:尚硅谷官网 尚硅谷大数据技术之 Hadoop(生产调优手 册) (作者:尚硅谷大数据研发部) 版本:V3.3 第 1 章 HDFS—核心参数 1.1 NameNode 尚硅谷大数据技术之 Hadoop(生产调优手册) ——————————————————————————————————————— 更多 Java –大数据 –前端 –python 人工智能资料下载,可百度访问:尚硅谷官网 3579 Jps [atguigu@hadoop102 ~]$ jmap -heap 2611 Heap Configuration: MaxHeapSize 尚硅谷大数据技术之 Hadoop(生产调优手册) ——————————————————————————————————————— 更多 Java –大数据 –前端 –python 人工智能资料下载,可百度访问:尚硅谷官网 1.2 NameNode 心跳并发配置 1)hdfs-site.xml The number of Namenode RPC server threads that0 码力 | 41 页 | 2.32 MB | 1 年前3 尚硅谷大数据技术之Hadoop(生产调优手册)尚硅谷大数据技术之 Hadoop(生产调优手册) ——————————————————————————————————————— 更多 Java –大数据 –前端 –python 人工智能资料下载,可百度访问:尚硅谷官网 尚硅谷大数据技术之 Hadoop(生产调优手 册) (作者:尚硅谷大数据研发部) 版本:V3.3 第 1 章 HDFS—核心参数 1.1 NameNode 尚硅谷大数据技术之 Hadoop(生产调优手册) ——————————————————————————————————————— 更多 Java –大数据 –前端 –python 人工智能资料下载,可百度访问:尚硅谷官网 3579 Jps [atguigu@hadoop102 ~]$ jmap -heap 2611 Heap Configuration: MaxHeapSize 尚硅谷大数据技术之 Hadoop(生产调优手册) ——————————————————————————————————————— 更多 Java –大数据 –前端 –python 人工智能资料下载,可百度访问:尚硅谷官网 1.2 NameNode 心跳并发配置 1)hdfs-site.xml The number of Namenode RPC server threads that0 码力 | 41 页 | 2.32 MB | 1 年前3
 【PyTorch深度学习-龙龙老师】-测试版202112用方 向,很多公司投入大量资源在自动驾驶上,如百度、Uber、Google 等,其中百度的无人巴 士“阿波龙”已经在北京、雄安、武汉等地展开试运营;在长沙,市民已经可以免费乘坐 Apollo Robotaxi 无人出租车。图 1.20 为百度的自动驾驶汽车。 图 1.19 波士顿动力公司的机器人③ 图 1.20 百度 Apollo 自动驾驶汽车④ 1.5 上所有样本,并打印出性能指标,例如: network.evaluate(db_test) # 模型测试,测试在 db_test 上的性能表现 8.3 模型保存与加载 模型训练完成后,需要将模型保存到文件系统上,从而方便后续的模型测试与部署工 作。实际上,在训练时间隔性地保存模型状态也是非常好的习惯,这一点对于训练大规模 的网络尤其重要。一般大规模的网络需要训练数天乃至数周的时长,一旦训练过程被中断 Keras 中,有三种常用的模型保存与加载方法。 8.3.1 张量方式 网络的状态主要体现在网络的结构以及网络层内部张量数据上,因此在拥有网络结构 源文件的条件下,直接保存网络张量参数到文件系统上是最轻量级的一种方式。我们以 MNIST 手写数字图片识别模型为例,通过调用 Model.save_weights(path)方法即可将当前的 网络参数保存到 path 文件上,代码如下: network0 码力 | 439 页 | 29.91 MB | 1 年前3 【PyTorch深度学习-龙龙老师】-测试版202112用方 向,很多公司投入大量资源在自动驾驶上,如百度、Uber、Google 等,其中百度的无人巴 士“阿波龙”已经在北京、雄安、武汉等地展开试运营;在长沙,市民已经可以免费乘坐 Apollo Robotaxi 无人出租车。图 1.20 为百度的自动驾驶汽车。 图 1.19 波士顿动力公司的机器人③ 图 1.20 百度 Apollo 自动驾驶汽车④ 1.5 上所有样本,并打印出性能指标,例如: network.evaluate(db_test) # 模型测试,测试在 db_test 上的性能表现 8.3 模型保存与加载 模型训练完成后,需要将模型保存到文件系统上,从而方便后续的模型测试与部署工 作。实际上,在训练时间隔性地保存模型状态也是非常好的习惯,这一点对于训练大规模 的网络尤其重要。一般大规模的网络需要训练数天乃至数周的时长,一旦训练过程被中断 Keras 中,有三种常用的模型保存与加载方法。 8.3.1 张量方式 网络的状态主要体现在网络的结构以及网络层内部张量数据上,因此在拥有网络结构 源文件的条件下,直接保存网络张量参数到文件系统上是最轻量级的一种方式。我们以 MNIST 手写数字图片识别模型为例,通过调用 Model.save_weights(path)方法即可将当前的 网络参数保存到 path 文件上,代码如下: network0 码力 | 439 页 | 29.91 MB | 1 年前3
 Apache RocketMQ 从入门到实战080 查看是否安装成功,如果出现如下图则表示安 装成功。 3. 异常分析与解决思路 如果在安装过程中出现意想不到的错误,别慌,通过查看相关的日志文件,寻找错误日 志,根据错误日志进行思考或百度,相信能够轻易将其解决。 例如使用的 baseuser 启动的 rocketmq,rocketmq-console,那相关的日志路径 如下: rocketmq:/home/baseuser/logs/rocketmqlogs/ pageCache 繁忙。那什么是 transientStorePoolEnable 机制呢? 3. 漫谈 transientStorePoolEnable 机制 Java NIO 的内存映射机制,提供了将文件系统中的文件映射到内存机制,实现对文 件的操作转换对内存地址的操作,极大的提高了 IO 特性,但这部分内存并不是常驻内存, 可以被置换到交换内存(虚拟内存),RocketMQ 为了提高消息发送的性能,引入了内存锁0 码力 | 165 页 | 12.53 MB | 1 年前3 Apache RocketMQ 从入门到实战080 查看是否安装成功,如果出现如下图则表示安 装成功。 3. 异常分析与解决思路 如果在安装过程中出现意想不到的错误,别慌,通过查看相关的日志文件,寻找错误日 志,根据错误日志进行思考或百度,相信能够轻易将其解决。 例如使用的 baseuser 启动的 rocketmq,rocketmq-console,那相关的日志路径 如下: rocketmq:/home/baseuser/logs/rocketmqlogs/ pageCache 繁忙。那什么是 transientStorePoolEnable 机制呢? 3. 漫谈 transientStorePoolEnable 机制 Java NIO 的内存映射机制,提供了将文件系统中的文件映射到内存机制,实现对文 件的操作转换对内存地址的操作,极大的提高了 IO 特性,但这部分内存并不是常驻内存, 可以被置换到交换内存(虚拟内存),RocketMQ 为了提高消息发送的性能,引入了内存锁0 码力 | 165 页 | 12.53 MB | 1 年前3
 Service Mesh 高可用在企业级生产中的实践Service Mesh 高可用在企业 级生产中的实践 罗广明 百度高级研发工程师1/总页数 讲师介绍 • 罗广明、百度高级工程师 • ServiceMesher 社区(servicemesher.com)治理委员会核心成员 • 云原生社区(cloudnative.to)联合创始成员 • 百度云智学院认证讲师 • 目前在「百度云云原生团队」负责微服务治理与相关中间件研发 • 对云原生架构与技术、研发流程、团队文化有深入研究,对 服务注册中心 • 服务网关 • 配置中心 混合微服务的互联互通 目标 • 互联互通 • 平滑迁移 • 灵活演进 环境 • 虚拟机 • Kubernetes8/总页数 混合微服务的互联互通 百度智能云 CNAP 混合微服务架构图 • Spring Cloud • Service Mesh9/总页数 注册中心与高可用方案 /0210/总页数 • Consul is a tool for0 码力 | 38 页 | 1.38 MB | 6 月前3 Service Mesh 高可用在企业级生产中的实践Service Mesh 高可用在企业 级生产中的实践 罗广明 百度高级研发工程师1/总页数 讲师介绍 • 罗广明、百度高级工程师 • ServiceMesher 社区(servicemesher.com)治理委员会核心成员 • 云原生社区(cloudnative.to)联合创始成员 • 百度云智学院认证讲师 • 目前在「百度云云原生团队」负责微服务治理与相关中间件研发 • 对云原生架构与技术、研发流程、团队文化有深入研究,对 服务注册中心 • 服务网关 • 配置中心 混合微服务的互联互通 目标 • 互联互通 • 平滑迁移 • 灵活演进 环境 • 虚拟机 • Kubernetes8/总页数 混合微服务的互联互通 百度智能云 CNAP 混合微服务架构图 • Spring Cloud • Service Mesh9/总页数 注册中心与高可用方案 /0210/总页数 • Consul is a tool for0 码力 | 38 页 | 1.38 MB | 6 月前3
 经典算法与人工智能在外卖物流调度中的应用经典算法与深度学习 在外卖物流调度中的应用 SPEAKER / 徐明泉 百度外卖首席架构师 引言:外卖配送的背后 2 引言:外卖订单调度系统要考虑的因素 3 订单相关 骑士相关 • 商户、用户位置 • 用户期望时间 • 预计出餐时间.. • 现有订单的配送路线 • 新增订单后配送路线的改变情况 • 历史取送餐速度 • 完成每个订单的预计时间 • 熟悉的区域 • 配送工具 当前顾客等待时间分布 历史顾客平均等待时间 当前顾客平均等待时间 25 回顾 26 外卖订单的智能 智能调度系统的 智能调度系统的 调度系统 分析监控 自主学习 百度外卖技术团队 27 百度外卖技术团队对内、对外的沟通、交流和学习平台。更多优秀技术文章、 公开课、招聘信息等,欢迎关注。 欢迎扫码关注0 码力 | 28 页 | 6.86 MB | 1 年前3 经典算法与人工智能在外卖物流调度中的应用经典算法与深度学习 在外卖物流调度中的应用 SPEAKER / 徐明泉 百度外卖首席架构师 引言:外卖配送的背后 2 引言:外卖订单调度系统要考虑的因素 3 订单相关 骑士相关 • 商户、用户位置 • 用户期望时间 • 预计出餐时间.. • 现有订单的配送路线 • 新增订单后配送路线的改变情况 • 历史取送餐速度 • 完成每个订单的预计时间 • 熟悉的区域 • 配送工具 当前顾客等待时间分布 历史顾客平均等待时间 当前顾客平均等待时间 25 回顾 26 外卖订单的智能 智能调度系统的 智能调度系统的 调度系统 分析监控 自主学习 百度外卖技术团队 27 百度外卖技术团队对内、对外的沟通、交流和学习平台。更多优秀技术文章、 公开课、招聘信息等,欢迎关注。 欢迎扫码关注0 码力 | 28 页 | 6.86 MB | 1 年前3
 机器学习课程-温州大学-10机器学习-聚类向客户发出警告。在聚类算法的帮助下,保 险公司可以发现某些客户的欺诈行为,并调 查类似客户的保单是否有欺诈行为。 10 1.无监督学习方法概述 聚类案例 4.搜索引擎 百度是人们使用的搜索引擎之一。举个例子,当 我们搜索一些信息,如在某地的超市,百度将为 我们提供不同的超市的选择。这是聚类的结果, 提供给你的结果就是聚类的相似结果。 11 1.无监督学习方法概述 聚类案例 5.社交网络 比如在社交网络的分析上。已知你朋友的信息,0 码力 | 48 页 | 2.59 MB | 1 年前3 机器学习课程-温州大学-10机器学习-聚类向客户发出警告。在聚类算法的帮助下,保 险公司可以发现某些客户的欺诈行为,并调 查类似客户的保单是否有欺诈行为。 10 1.无监督学习方法概述 聚类案例 4.搜索引擎 百度是人们使用的搜索引擎之一。举个例子,当 我们搜索一些信息,如在某地的超市,百度将为 我们提供不同的超市的选择。这是聚类的结果, 提供给你的结果就是聚类的相似结果。 11 1.无监督学习方法概述 聚类案例 5.社交网络 比如在社交网络的分析上。已知你朋友的信息,0 码力 | 48 页 | 2.59 MB | 1 年前3
 机器学习课程-温州大学-01机器学习-引言杰弗里·欣顿(Geoffrey Hinton) 本吉奥( Bengio ) 共同获得了2018年计算机科学的最高奖项 ——ACM图灵奖。 机器学习界的执牛耳者 Andrew Ng 中文名吴恩达,斯坦福大学副教 授,前“百度大脑”的负责人与百 度首席科学家。 6 李航, 现任字节跳动科技有限公司人 工智能实验室总监,北京大学、南京 大学客座教授,IEEE 会士,ACM 杰 出科学家,CCF 高级会员。 代表作:《统计学习方法》 计算机视觉技术、自然语言处理技术 等 综合 美国 1998年 上市 市值9324亿美元 3 Facebook(脸书) 人脸识别、深度学习等 社交 美国 2004年 上市 市值5934亿美元 4 百度 计算机视觉技术、自然语言处理技 术 、知识图谱等 综合 中国 2001年 上市 市值438亿美元 5 大疆创新 图像识别技术、智能引擎技术等 无人机 中国 2006年 战略融资 估值210亿美元0 码力 | 78 页 | 3.69 MB | 1 年前3 机器学习课程-温州大学-01机器学习-引言杰弗里·欣顿(Geoffrey Hinton) 本吉奥( Bengio ) 共同获得了2018年计算机科学的最高奖项 ——ACM图灵奖。 机器学习界的执牛耳者 Andrew Ng 中文名吴恩达,斯坦福大学副教 授,前“百度大脑”的负责人与百 度首席科学家。 6 李航, 现任字节跳动科技有限公司人 工智能实验室总监,北京大学、南京 大学客座教授,IEEE 会士,ACM 杰 出科学家,CCF 高级会员。 代表作:《统计学习方法》 计算机视觉技术、自然语言处理技术 等 综合 美国 1998年 上市 市值9324亿美元 3 Facebook(脸书) 人脸识别、深度学习等 社交 美国 2004年 上市 市值5934亿美元 4 百度 计算机视觉技术、自然语言处理技 术 、知识图谱等 综合 中国 2001年 上市 市值438亿美元 5 大疆创新 图像识别技术、智能引擎技术等 无人机 中国 2006年 战略融资 估值210亿美元0 码力 | 78 页 | 3.69 MB | 1 年前3
共 113 条
- 1
- 2
- 3
- 4
- 5
- 6
- 12














 
 