Hadoop Shell 命令0 码力 | 10 页 | 99.34 KB | 1 年前3
consul 命令行链滴 consul 命令行 作者:boolean-dev 原文链接:https://ld246.com/article/1545917811707 来源网站:链滴 许可协议:署名-相同方式共享 4.0 国际 (CC BY-SA 4.0) consul命令行 ● advertise:广告地址用于将我们通告的地址更改为群集中的其他节点。默认情况下,-bind通告地 。但是,在某些情况 WAN八卦通信的地址。默认情况下,该值遵循与-bind命令行 志相同的规则,如果未指定,-bind则使用该选项。这可以在Consul 0.7.1及更高版本中找到。在Con ul 1.0及更高版本中,可以将其设置为 go-sockaddr 模板 ● -serf-lan-bind:应该绑定到Serf LAN八卦通信的地址。这是群集中所有其他LAN节点都应该可以 问的IP地址。默认情况下,该值遵循与-bind命令行标志相同的规则,如果未指定,-bind则使用该选 从“.json”或“.hcl”扩展名中检测 置文件的格式。将此选项设置为“json”或“hcl”会强制Consul解释具有或不具有扩展名的任何文 ,以便以该格式进行解释。 原文链接:consul 命令行 ● data-dir:此标志为代理程序存储状态提供数据目录。这是所有代理商都需要的。该目录在重新启 后应该是持久的。这对于在服务器模式下运行的代理尤其重要,因为它们必须能够持久化群集状态。 外0 码力 | 5 页 | 346.62 KB | 1 年前3
尚硅谷大数据技术之Hadoop(入门)YARN资源管理 MapReduce离线计算 Spark Core内存计算 Hive 数据查询 Spark Mlib 数据挖掘 Spark Streaming 实时计算 Spark Sql 数据查询 Oozie任务调度 Azkaban任务调度 业务模型、数据可视化、业务应用 Z o o k e e p e r 数 据 平 台 配 置 和 调 度 数据来源层 数据传输层 数据存储层 它是一个适合于非结构化数据存储的数据库。 8)Hive:Hive 是基于 Hadoop 的一个数据仓库工具,可以将结构化的数据文件映射为一张 数据库表,并提供简单的 SQL 查询功能,可以将 SQL 语句转换为 MapReduce 任务进行运 行。其优点是学习成本低,可以通过类 SQL 语句快速实现简单的 MapReduce 统计,不必开 发专门的 MapReduce 应用,十分适合数据仓库的统计分析。 9)ZooK YARN资源管理 MapReduce离线计算 Spark Core内存计算 Hive 数据查询 Spark Mlib 数据挖掘 Spark Streaming 实时计算 Spark Sql 数据查询 Oozie任务调度 Azkaban任务调度 Z o o k e e p e r 数 据 平 台 配 置 和 调 度 数据来源层 数据传输层 数据存储层 资源管理层 数据计算层0 码力 | 35 页 | 1.70 MB | 1 年前3
OpenShift Container Platform 3.11 扩展和性能指南intel_iommu=on iommu=pt 添加到 GRUB_CMDLINX_LINUX 行的末尾(在括号内)。 第 第 3 章 章 推荐的主机 推荐的主机实 实践 践 13 3. 运行以下命令重新生成 /etc/grub2.cfg : 4. 重启系统: 5. 在 /etc/nova.conf 中的控制器上: [filter_scheduler] enabled_filters=RetryFilter tuned 是 Red Hat Enterprise Linux(RHEL)和其他红帽产品默认启用的调优配置文件交付机制。 tuned 自 定义 Linux 设置,如 sysctl、电源管理和内核命令行参数,以针对不同的工作负载性能和可扩展性要求优 化操作系统。 OpenShift Container Platform 利用 tuned 守护进程,包括名为 openshift、openshift-node Atomic Host 提供调试功能,它具有不可变的软件包树。rhel- tools 包括 tcpdump、sosreport、git、GDB、perf 等实用程序,以及更常见的系统管理实用程 序。 使用以下命令使用 rhel-tools 容器: 如需更多信息,请参阅 RHEL 工具容器文档。 4.4. 使用基于 ANSIBLE 的健康检查进行调试 通过用于安装和管理 OpenShift Container0 码力 | 58 页 | 732.06 KB | 1 年前3
云原生安全威胁分析与能力建设白皮书(来源:中国联通研究院)进行容器逃逸,然后获得宿主机的控制权。 2.2.2 镜像仓库攻击 这里指的是攻击受害者本地的镜像仓库,如 Harbor[8]、Docker Registry[9] 等。其中 Harbor 镜像库从发布开始就被爆出权限提升、枚举、SQL 注入、CSRF 等多项漏洞。除此之外,如果私有镜像仓库由于配置不当而开启了 2357 端口, 将会导致私有仓库暴露在公网中,攻击者可直接访问私有仓库并篡改镜像内容, 造成仓库内镜像的安全隐患。 Daemon 作为主机上的根进程运行,攻击者还可能获得主机的完全控制 权。 2.3.2 容器提权和逃逸攻击 攻击者通过劫持容器,获得了容器内某种权限下的命令执行能力,然后利用 这种命令执行能力,借助一些手段进一步获得该容器所在宿主机上某种权限下的 命令执行能力,实现容器逃逸的目的。根据不同的原因,容器逃逸方式包括以下 几方面: 内核漏洞导致的容器逃逸:容器本身是一种受到各种安全机制约束的进程, shell 监听,然后执行如下命令模拟受 害者创建并运行容器即可,效果如图 12 所示: 图 12 反弹 shell 攻击结果展示 3.2 挂载 Docker Socket 导致容器逃逸攻击 3.2.1 攻击场景介绍 Docker 通过将主机上的目录或文件挂载到 Docker 容器中,以实现数据的 共享或持久化,详细命令可参考 Docker CLI[24],其中挂载命令如下: Docker run0 码力 | 72 页 | 2.44 MB | 1 年前3
第1930期:Kubernetes基础介绍Kubernetes基础介绍 综合产品支持部——李树兵 2 www.h3c.com Confidential 秘密 22 Kubernetes基础架构介绍 01 03 Kubernetes常见命令介绍 02 Kubernetes基本概念和术语介绍 04 Kubernetes技术在H3Cloud OS中的应用介绍 3 www.h3c.com Confidential 秘密 33 Kubernetes基础架构介绍 Kubernetes基础架构介绍 01 03 02 Kubernetes基本概念和术语介绍 04 Kubernetes技术在H3Cloud OS中的应用介绍 Kubernetes常见命令介绍 4 www.h3c.com Confidential 秘密 44 Kubernetes基础结构介绍 Kubernetes(来自希腊语,意为“舵手”或者“飞行员”又称为k8s),它是谷歌开源的容器集群管理系统,是谷歌多年大规模 Kubernetes常见命令介绍 10 www.h3c.com Confidential 秘密 10 10 k8s基本概念和术语介绍(Master) 主节点(Master): Master是集群的控制节点,每个k8s集群中至少需要一个Master节点来维护整个集群的管理和控制,几乎所有的控制命 令都是发给它,它负责执行具体的动作。它很重要,如果它不可用,那么我们所有的控制命令都会失效。 Master节点上运行一组关键进程:0 码力 | 49 页 | 4.11 MB | 1 年前3
Hadoop 迁移到阿里云MaxCompute 技术方案................................ 42 Alibaba Cloud MaxCompute 解决方案 4 6.5.1 Hive SQL -> MaxCompute SQL 自动转换 ..................................................................... 42 6.5.2 UDF、MR 的输出,调整 hive 与 odps 的映射 ................................................... 46 7.1.5 生成 ODPS DDL、Hive SQL 以及兼容性报告 ................................................................. 48 7.1.6 查看兼容性报告,调整直到兼容性报告符合预期 odps 表和分区 .............................................................. 50 7.1.8 运行 hive_udtf_sql_runner.py,将 hive 的数据同步到 odps ........................................ 51 7.2 进阶功能..............0 码力 | 59 页 | 4.33 MB | 1 年前3
第29 期| 2023 年9 月- 技术雷达提供了从开发到生产的安全状态的统一视图,因此我们将其放入试验阶段。 31. Trino 试验 Trino 以前被称之为 PrestoSQL,是一个专为面向大数据交互式分析查询而设计的开源分布式 SQL 查询引擎。经 过优化后,它可以在本地或者云上环境运行,并支持对 Hive、Cassandra、关系型数据库、甚至专有数据存储 等多种不同的数据源进行查询。它支持基于密码的认证、LDAP 和 OAuth Thoughtworks, Inc. All Rights Reserved. 26 42. dbt 采纳 dbt 仍是我们在 ETL 工作流程中进行数据转换的首选工具。我们喜欢它的工程严谨性和它在 SQL 数据转换中实 践模块化、可测试性、和可复用性的能力。 dbt 有开源和商业化 SaaS 产品两种版本和健康的生态,包括一个 提供了许多用于单元测试、数据质量、数据可观测性等软件包的社区。这些包中尤为值得注意的是用于监测数 dbt-unit-testing。dbt 很好地集成了各种云数 据仓库、数据湖和数据库,包括 Snowflake,BigQuery,Redshift,Databricks 和 Postgres。当需要处理结构 化数据并且能使用 SQL 进行数据转换时,我们的团队们倾向于 dbt,因此我们将它移至采纳阶段。 43. Mermaid 采纳 Mermaid 通过使用类似 Markdown 的标记语言来生成图表。自从上次在技术雷达中介绍以来,Mermaid0 码力 | 43 页 | 2.76 MB | 1 年前3
Docker 从入门到实践 0.9.0(2017-12-31)列出镜像 删除本地镜像 利用 commit 理解镜像构成 使用 Dockerfile 定制镜像 Dockerfile 指令详解 COPY 复制文件 ADD 更高级的复制文件 CMD 容器启动命令 ENTRYPOINT 入口点 ENV 设置环境变量 2 1.7.6.6 1.7.6.7 1.7.6.8 1.7.6.9 1.7.6.10 1.7.6.11 1.7.6.12 1 1.17.6 1.18 1.18.1 自定义网桥 工具和示例 编辑网络配置文件 实例:创建一个点到点连接 Docker 三剑客之 Compose 项目 简介 安装与卸载 使用 命令说明 Compose 模板文件 实战 Django 实战 Rails 实战 WordPress Docker 三剑客之 Machine 项目 安装 使用 Docker 三剑客之 Docker 附录一:常见问题总结 附录二:热门镜像介绍 Ubuntu CentOS MySQL MongoDB Redis Nginx WordPress Node.js 附录三:Docker 命令查询 附录四:Dockerfile 最佳实践 附录五:资源链接 附录六:Docker 中文资源 6 Docker — 从入门到实践 0.9.0(2017-12-31)0 码力 | 370 页 | 6.73 MB | 1 年前3
机器学习课程-温州大学-01深度学习-引言com/distribution/ 通常选64位 可以用默认安装,右图两个选择框都勾上 53 Python 的环境的安装 ⚫Jupyter notebook 在cmd环境下,切换到代码的 目录,输入命令: jupyter notebook之后就可以 启动jupyter botebook编辑器 ,启动之后会自动打开浏览器 ,并访问http://localhost:8088 ,默认跳转到 http:/ 取 pd.read_sql() | 从 SQL 表 或 数 据 库 读 取 pd.read_json() | 从JSON格式的URL或文件读取 pd.read_clipboard() | 从剪切板读取 将DataFrame写入⽂件 df.to_csv() | 写入CSV文件 df.to_excel() | 写入Excel文件 df.to_sql() | 写入SQL表或数据库 df.to_json() Python模块-Matplotlib 图 形 样 式 73 深度学习框架 Keras 74 深度学习框架-PyTorch https://pytorch.org/ 安装PyTorch 命令行运行: 75 深度学习框架-PyTorch 测试PyTorch import torch x = torch.rand(2, 3) print(x) 或者输入 conda list -f0 码力 | 80 页 | 5.38 MB | 1 年前3
共 271 条
- 1
- 2
- 3
- 4
- 5
- 6
- 28













