统计，不必开 发专门的 MapReduce 应用，十分适合数据仓库的统计分析。 9）ZooKeeper：它是一个针对大型分布式系统的可靠协调系统，提供的功能包括：配置维护、 名字服务、分布式同步、组服务等。 1.7 推荐系统框架图 推荐系统项目框架 数据库（结构化数据） 文件日志（半结构化数据） 视频、ppt等（非结构化数据） Sqoop数据传递 Flume日志收集 Kafka消息队列 [atguigu@hadoop103 opt]$ scp -r atguigu@hadoop102:/opt/module/* atguigu@hadoop104:/opt/module 2）rsync 远程同步工具 rsync 主要用于备份和镜像。具有速度快、避免复制相同内容和支持符号链接的优点。 rsync 和 scp 区别：用 rsync 做文件的复制要比 scp 的速度快，rsync 只对差异文件做更 hadoop103 中/opt/module/hadoop-3.1.3/wcinput [atguigu@hadoop103 hadoop-3.1.3]$ rm -rf wcinput/ （b）同步 hadoop102 中的/opt/module/hadoop-3.1.3 到 hadoop103 [atguigu@hadoop102 module]$ rsync -av hadoop-3

................................................. 50 7.1.8 运行 hive_udtf_sql_runner.py，将 hive 的数据同步到 odps ........................................ 51 7.2 进阶功能..................................... 统一的命令行工具和 JAVA/PYTHON SDK 开发&诊断 Dataworks/Studio/Logview 配套的数据同步、作业开发、工作流编排调度、作业运维 及诊断工具。开源社区常见的 Sqoop、Kettle、Ozzie 等 实现数据同步和调度。 整体 不是孤立的功能，完整的企 业服务 不需要多组件集成、调优、定制，开箱即用。 3 MaxCompute 迁移场景分析 上传完成后，Dataworks 服务会根据 ODPS DDL 批量生成 MaxCompute 的 table。 6. MaxCompute 的表创建完成后，Dataworks 服务会自动拉起 DataX 的数据同步任务，完成 批量数据迁移。 Alibaba Cloud MaxCompute 解决方案 38 6.4.3.2 Dataworks 项目描述文档的目录结构及说明： Alibaba

表函数调用同时也承担 着处理角色。 在第 2 步中，该表函数调用 (QC) 使用 dbms_scheduler（图 3 中的作业控制器）启动一个异步 作业，该作业接着在 Hadoop 集群上运行同步 bash 脚本。这个 bash 脚本就是图 3 中的启动程 序 (launcher)，它在 Hadoop 集群上启动 mapper 进程（第 3 步）。 5 Oracle 白皮书 — 通过 END; / Bash 脚本 下面这个简短的脚本是图 3 的第 3 步和第 4 步所示的数据库外控制器。只要 Hadoop mapper 保持运行，系统就会持续执行这个同步步骤。 #!/bin/bash cd –HADOOP_HOME- A="/net/scratch/java/jdk1.6.0_16/bin/java -classpath /home/