《基于深度学习的视频结构化实践》 七牛云 AI实验室首席架构师／姚唐仁� • 围绕海量数据提供创新的云服务，帮助客户缩短想法到产品的距离 • 创立6年，每年超过300%的业绩增长 • 已完成5轮融资，累计超过20亿 • 长期服务70多万企业用户和开发者 • 文件数超过2000亿，每日新增文件20亿 • 覆盖全球300个节点 • 覆盖金融、公安、广电媒体、互联网等行业 视觉-最重要的信息感知 2017中国网络视频用户情况 ����2017������������� 传统视频摘要 vs AI视频结构化 内容不完整 依赖经验 实时性差 时效性差 识别范围广 效率高 可迭代 创新基础 传统手工摘要 AI视频结构化 视频结构化场景 视频分解 基础模型要素 ��1�01:02:03-01:10:05� ��1����� �� �� 2 ������ ��PA� ������ 3 4 5 6 ���L ������ ��PA� ����� ���L ��������� ������L 大规模视频训练框架 结构化策略 ���� ������ ���� ���� 主题分类-特征提取 DPN SENet ResNeXt NASNet 主题分类-模型训练 模型融合 a) Early

况不符合，那成为一个开源项目的 Committer 有些什么条件呢？ 1. 扎实的 Java 基础功底 一个开源项目的底层都会涉及到存储，这就要求具备一定的数据结构基础，JAVA 集 合框架中的类自然成为了我们突破数据结构最好的老师，其次是 java 并发，即多线程、并 发容器、锁等课题，这方面可以好好学习一下 JUC 框架。最后最好是具备一些网络方面的 知识，例如 NIO、Netty。 有着突出贡献。 我比较“苦逼”，在带娃方面我的资源只有我老婆，父母在老家无法分身，故下班后我 没有连续的空闲时间专心投入一项任务中，而开源最需要的是精益求精，不只是需要完成功 能，而是要编写结构优良的代码，设计所占据的时间比代码开发时间要多的多，故我个人认 为我暂时不方便走代码贡献这条道路。但我零碎时间还是充足的，故现阶段我会好好利用这 些零碎时间，继续通过写文章的方式为开源项目贡献自己的一份力量。 本文来自『中间件兴趣圈』公众号，仅作技术交流，未授权任何商业行为。 29 > 1.3 实战：RocketMQ 学习环境搭建指南篇 其中 conf 文件夹存放的是 RocketMQ 的配置文件，提供了各种部署结构的示例配 置。例如 2m-2s-async 是 2 主 2 从异步复制的配置示例；2m-noslave 是 2 主的示例 配置。由于本文主要是搭建一个学习环境，故采取的部署架构为 1 主的部署架构，关于生产

流 都可以用Istio原生的机制来完成 • 扩展Mixer：选择一部分流量来应用对应的授权逻辑 FreeWheel的Istio实践 • 右图为接入FreeWheel自定义认证和 授权模块的原理图 扩展Sidecar接入认证 • 修改 istio-system/istio-sidecar- injector 这个ConfigMap，加入自定 义反向代理 FreeWheel的Istio实践

的物理机的计算和内存资源的虚拟表示。当一个或多个物理机 组合在一起工作并作为一个整体来管理时，聚合计算和内存资源就形成群集。物理机可 以动态添加或从群集移除。从主机和群集中获得的计算和内存资源能够被精细地分区成 资源池的层次结构。 VMware, Inc. 15 VMware Infrastructure 简介 数据存储是数据中心基础物理存储资源组合的虚拟表示。这些物理存储资源来自服务器 的本地 SCSI、SAS “工资单”虚拟机在 其高峰时期可使用这些 GHz。当 “会计”需要这些资源时，“工资单”将动态地归还 这些资源。因此，即使资源为不同的资源池预留，其他的资源池也可使用这些资源。 如示例所示，资源池可嵌套、以层次结构形式组织并动态重新配置，从而使 IT 环境与 公司组织相符：各个业务部门可接收专用的基础架构，同时仍从资源池效率中获益。 VMware, Inc. 17 VMware Infrastructure 一主机上配置的多个虚拟机位于同一网络。另请参见 “custom networking （自 定义网络）”。 I inventory （清单） 由 VirtualCenter Server 或主机代理使用的层次结构，用来组织受管实体。该层次 结构在 VirtualCenter client 窗口左面板中显示为列表，它提供了 VirtualCenter 中 所有受监控对象的视图。 L License Server 一种存储和分配许可证的服务器。

群集上横跨多台服务器的可扩展性。为实现资源管理，可考虑将 Hadoop YARN 加入到软件栈中，它是面向大数据应用程序的分布式 操作系统。 ZooKeeper 是另一个 Hadoop Stack 组件，它能通过共享层次名 称空间的数据寄存器(称为 znode)，使得分布式进程相互协调工作。 每个 znode 都由一个路径来标识，路径元素由斜杠(/)分隔。 还有其他一些系统能与 Hadoop 进行集成并从其基础架构中受 以及分析。如果 你在使用 Hadoop 工作时期望数据库的体验并且怀念关系型环境中 的结构(见图 1-3)，那么它或许是你的解决方案。记住，这不是与传 统的数据库或数据结构进行对比。它也不能取代现有的 RDBMS 环 Hadoop 大数据解决方案 8 境。Hive 提供了一种为数据赋予结构的渠道，并且通过一种名为 HiveQL 的类 SQL 语言进行数据查询。 Hive 10 常好的方法。借助这些服务和工具，Hadoop 生态系统将继续发展， 并清除分析处理和管理大数据湖中的一些障碍。通过使用本章中讨 论的一些工具和服务，Hadoop 即可集成到数据生态系统的层次结 构中。 Horton 数据平台(Horton Data Platform，HDP)是一个生态系统。 HDP 能够帮助你通过使用虚拟机上的单节点群集来开始 Hadoop 之 旅，如图 1-4

机器学习-聚类 黄海广 副教授 2 本章目录 01 无监督学习概述 02 K-means聚类 03 密度聚类和层次聚类 04 聚类的评价指标 3 1.无监督学习概述 01 无监督学习概述 02 K-means聚类 03 密度聚类和层次聚类 04 聚类的评价指标 4 1.无监督学习方法概述 监督学习 在一个典型的监督学习中，训练集有标签? ，我们的目标是找到能够 Recommender systems） ✓ 很多客户经常上网购物，根据他们的浏览商品的习惯，给他们推荐 什么商品呢？ 主要的无监督学习方法 6 1.无监督学习方法概述 主要算法 K-means、密度聚类、层次聚类 聚类 主要应用 市场细分、文档聚类、图像分割、图像压缩、聚类分析、特征学习或者词 典学习、确定犯罪易发地区、保险欺诈检测、公共交通数据分析、IT资产 集群、客户细分、识别癌症数据、搜索引擎应用、医疗应用、药物活性预 微信的朋友圈，我们可运用聚类方法自动地给朋 友进行分组，做到让每组里的人们彼此都熟识。 12 2.K-means聚类 01 无监督学习概述 02 K-means聚类 03 密度聚类和层次聚类 04 聚类的评价指标 13 聚类的背景知识--基本思想 图中的数据可以分成三个分开的点集(称为簇)，一个能够分出这些点集的算 法，就被称为聚类算法。 聚类算法示例 2.K-means聚类

另一个是更实际的示例，我们使用深度学习框架的高级API编写简洁的代码。一旦我们教了您一些组件是如 何工作的，我们就可以在随后的教程中使用高级API了。 内容和结构 全书大致可分为三个部分，在 图1 中用不同的颜色呈现： 目录 3 图1: 全书结构 • 第一部分包括基础知识和预备知识。1节 提供深度学习的入门课程。然后在 2节 中，我们将快速介绍实 践深度学习所需的前提条件，例如如何存储和处理数 network，CNN），这是构成大多数现代计算机视觉系统骨干的强大工具。随后，在 8节 和 9节 中，我们引入了循环神经网络(recurrent neural network，RNN)，这是一种利用数据中的时间或序列 结构的模型，通常用于自然语言处理和时间序列预测。在 10节 中，我们介绍了一类新的模型，它采用 了一种称为注意力机制的技术，最近它们已经开始在自然语言处理中取代循环神经网络。这一部分将 帮助读者快速 分类可能变得比二项分类、多项分类复杂得多。例如，有一些分类任务的变体可以用于寻找层次结构，层次 结构假定在许多类之间存在某种关系。因此，并不是所有的错误都是均等的。人们宁愿错误地分入一个相关 的类别，也不愿错误地分入一个遥远的类别，这通常被称为层次分类(hierarchical classification)。早期的一 个例子是卡尔·林奈13，他对动物进行了层次分类。 在动物分类的应用中，把一只狮子狗误认为雪纳瑞可

标准化开发测试和生产环境 12. 安全 i. 内核名字空间 ii. 控制组 iii. 服务端防护 iv. 内核能力机制 v. 其它安全特性 vi. 总结 13. Dockerfile i. 基本结构 ii. 指令 iii. 创建镜像 14. 底层实现 i. 基本架构 ii. 名字空间 iii. 控制组 iv. 联合文件系统 v. 容器格式 vi. 网络 15. Docker *注意：在删除镜像之前要先用 docker rm 删掉依赖于这个镜像的所有容器。 移除本地镜像 Docker —— 从入门到实践 26 移除 Docker 镜像是怎么实现增量的修改和维护的？ 每个镜像都由很多层次构成，Docker 使用 Union FS 将这 些不同的层结合到一个镜像中去。 通常 Union FS 有两个用途, 一方面可以实现不借助 LVM、RAID 将多个 disk 挂到同一个目录下 apache2 openssh-server # Firefox over VNC # # VERSION 0.3 FROM ubuntu 基本结构 Docker —— 从入门到实践 87 基本结构 # Install vnc, xvfb in order to create a 'fake' display and firefox RUN apt-get update

(Container Runtime Interface) 层将 Kuernetes 与具体的 Container 管理工具隔离，并且可以进行 Container 的操作。 在 Node 上的层次关系 通过 Label 的方式将 Node 分类 在企业环境中 Node 很有可能需要进行不同类别的区分，而每 一类 Node 上的环境都有可能会不同。 关键点回顾 • Kubernetes 多集群管理 云提供服务形式 • 企业级架构 • 用户管理 • 用户访问权限管理 • 用户操作日志 • 硬件监控 • 存储管理 • 多集群管理 • 根据客户需求不同进行不同层次的封装 关键点回顾 Kubernetes 介绍 Kubernetes 使用 Kubernetes 部署与企业对接 AI 技术介绍 AI 云平台介绍及构成 AI 与 Kubernetes 行分析学习， 最终得出判断。 • 机器学习最难的地方在于特征的提取，而深度学习认为特征 提取是可以通过人工神经网络学习而得出结论的。深度学习 在非结构化数据方面有很大的优势。 卷积神经网络 - CNN 通过卷基层和池化层的网络结构进行不断的对图像的特征提取 数组运算并行化 – CUDA by Example 将数组 a 和数组 b 相加并将计算结果放入数组 c 中。 数组运算并行化

ls 替换 docker images 命令为 docker image ls 修改 安装 Docker 一节中部分文字表述 移除历史遗留文件和错误的文件 优化文字排版 调整目录结构 修复内容逻辑错误 修复 404 链接 0.9.0-rc1: 2017-11-29 根据最新版本（v17.09）修订内容 增加 Dockerfile 多阶段构建( multistage 间的总和，因为镜像到本地后，查看空间的时候，更关心的是本地磁盘空间占用的大小。 另外一个需要注意的问题是， docker image ls 列表中的镜像体积总和并非是所有镜像实际硬 盘消耗。由于 Docker 镜像是多层存储结构，并且可以继承、复用，因此不同镜像可能会因为 使用相同的基础镜像，从而拥有共同的层。由于 Docker 使用 Union FS，相同的层只需要保 存一份即可，因此实际镜像硬盘占用空间很可能要比这个列表镜像大小的总和要小的多。 Docker 命令行使用过程中非常常见，不仅仅是 镜像，将来我们会在各个命令中看到这类搭配以完成很强大的功能。因此每次在文档看到过 滤器后，可以多注意一下它们的用法。 另外一些时候，我们可能只是对表格的结构不满意，希望自己组织列；或者不希望有标题， 这样方便其它程序解析结果等，这就用到了 Go 的模板语法。 比如，下面的命令会直接列出镜像结果，并且只包含镜像ID和仓库名： $ docker image