小型设备上运行大语言模型，特别是在边缘设备和资源受限的环境中。我们还提到有望提高性能的 ReAct 提示 工程，以及利用大语言模型驱动的自主代理开发远超简单的问答交互的动态应用。我们也提到一些向量数据库 （包括 Pinecone）由于大语言模型而重新流行起来。大语言模型的底层能力，包括更专业化和自行托管的能力， 将继续呈爆发性增长。 远程交付解决方案日臻成熟 尽管远程软件开发团队多年来利用 是一种结合预训练参数和非参数记忆的文本生成技术。它使你能够通过你的领域内特有 的包含上下文的知识，来强化预训练模型中的现有知识。使用 RAG，你会先从非参数记忆中去检索相关文档集 （一般是通过在向量数据库中的相似性搜索），再使用 LLM 中的参数记忆生成与检索出的文档一致的输出。我们 发现 RAG 对各种需要大量知识的 NLP 任务十分有用，包括问答，总结和故事生成。 技术 © Thoughtworks 平台编排 评估 随着平台工程的广泛采纳，我们看到了新一代的工具，它们超越了传统的平台即服务（PaaS）模型，为开发人 员和平台团队之间提供了公开的合约。这个合约可能涉及在不同环境中提供云环境、数据库、监控、身份验证 等功能。这些工具强制执行组织标准，同时允许开发人员通过配置自主访问多种环境。这些平台编排系统的案 例包括 Kratix 和 Humanitec Platform Orchest

pair是成对的虚拟网络设备，一端连接自己的namespace的tcp/ip协议栈， 另一端互相连接；所以veth-pair常用于充当桥梁，连通2个不同的NameSpace网 络 NameSpace是Linux 2.6.x之后的内核版本支持的特性，主要用于资源的隔离，有 了NameSpace，一个Linux系统可以抽象出多个网络子系统，各子系统都有自己 的网络设备、协议栈等，且互不影响；Docker容器服务给每个容器组创建一个 #使用h�p path: /xx/cxxx/healthz #请求的文件 port: 80 scheme: HTTP #协议，可为HTTP, HTTPS ★执行shell命令进行探测 livenessProbe: #pod存活性探测 exec: username=admin --password=xx ★第15章、prometheus监控系统 ★Prometheus简介 Prometheus是一款基于时序数据库的开源监控告警系统，Prometheus的基本原 理是通过HTTP协议周期性抓取被监控组件的状态，任意组件只要提供对应的 HTTP接口就可以接入监控。不需要任何SDK或者其他的集成过程。这样做非常 适合做虚拟化环境监控系统，比如VM

包 代码质量 管理 多语⾔ 构建 安全管控 构建实 践 测试管理 功能测 试 性能测试 接⼝测 试 产出物管 理 持续构建与测试 ⾃动部 署 配置管理 环境管 理 数据库变 更 运维监 控 通知反馈 部署策 略 持续交付 ⼯具链 最佳实践 测试管理 规范 流⽔线建设 规范 敏捷开发 规范 流程协作与最 佳实践 项⺫管理 进度 管理 范围 06-02-部署指南V1.0 3. 06-03-测试指南v1.0 4. 06-04-代码审查指南V1.0 5. 06-05-功能测试指南V1.0 6. 06-06-环境指南V1.0 7. 06-07-技术协议指南V1.0 8. 06-08-敏捷开发过程指南V1.0 9. 06-09-敏捷-⽤户需求分解指南-V1.0 10. 06-10-系统分析设计指南V1.0 11. 06-11-项⺫定价指南V1 lug-in 4. 06-04-代码审查指南V1.0 5. 08-05-Eclipse-Sonar-Plug-in 6. 08-06-JIRA集成GITLAB操作⼿册 7. 06-07-技术协议指南V1.0 8. 06-08-敏捷开发过程指南 9. 06-09-敏捷-⽤户需求分解指南-V1.0 10. 08-10-JIRA操作⼿册 11. 06-11-项⺫定价指南V1.0 12. 06-12-业务设计和开发指导指南V1

载，包括⽆状态、有状态以及数据处理⼯作负载。 如果应⽤程序可在容器中运⾏，那么它应该能够很好地在 Kubernetes上运⾏。 不提供中间件（例如消息总线）、数据处理框架（例如Spark）、数据库（例如MySQL），也不提供分布式存储系 统（例如Ceph）作为内置服务。 这些应⽤可在Kubernetes上运⾏。 没有点击部署的服务市场。 01-什么是Kubernetes 6 不部署 序以及集群本身。 Container Resource Monitoring（容器资源监控） Container Resource Monitoring 将容器的通⽤时序指标记录到⼀个中⼼化的数据库中，并提供⼀个UI以便于浏览该数 据。 Cluster-level Logging（集群级别的⽇志） Cluster-level logging 机制负责将容器的⽇志存储到具有搜索/浏览界⾯的中央⽇志存储中去。 态系统组件的相关对象的URL。 轻量级升级⼯具的元数据：例如配置或检查点。 负责⼈的电话或寻呼机号码，或指定能找到该信息的条⽬，例如团队⽹站。 如果不使⽤注释，则可将这种类型的信息存储在外部数据库或⽬录中，但这将会使⽣产共享客户端库/⼯具（⽤于部 署、管理、内省）变得更加困难。 原⽂ https://kubernetes.io/docs/concepts/overview/workin

Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Confidential • 通过 HTTP/HTTPS 协议路由 到集群内相关服务 • 多种实现方式: ALB, NGINX, F5, HAProxy 等. • 默认 service type: ClusterIP Kubernetes Ingress 客户端数据加密 及 数据完整性验证 服务端加密 文件系统和数据 网络流量保护 加密/完整性/身份管理 AWS 端点 基础服务 AWS全球基础架构 AWS IAM 计算 存储 数据库 网络 区域 可用区 边缘节点 由AWS用户管理 由AWS管理 © 2019, Amazon Web Services, Inc. or its Affiliates. All rights rights reserved. Amazon Confidential Amazon EKS 的责任共担模型 用户 IAM 应用 POD AWS 端点 AWS IAM 基础服务 计算 存储 数据库 网络 AWS 全球基础架构 区域 可用区 边缘站点 由AWS用户管理 由AWS管理 KUBELET K8s RBAC APP HOST AWS IAM 容器 升级 加固 监控

集群管理理 版本管理理 配置管理理 链路路跟踪 负载均衡 ⾃自动容灾 持续集成 持续部署 灰度发布 服务注册/发现 关系数据库 KV存储 对象存储 块存储 DNS 消息队列列 API- Gateway 镜像仓库 统⼀一代码管理理 统⼀一编程框架 统⼀一通讯协议 统⼀一部署环境 计算平台/KUN 公共服务 存储平台 Think in Cloud . 北北京 基于RBAC实现 ⼊入交换机上宣 告。该IPv4地址对应的6to4 IPv6地址作为该Kubernetes集群 Service IP的地址段 Bgpd 负责将 Service IPv6 地址段通过 BGP 路路由协议宣告给接⼊入交换机 P o d 返 回 的 包 ， 会 先 回 给 S e r v i c e Gateway，由于做了了SNAT，基于连接 追踪（conntrack），再返回给请求的 客户端。

io/docs/concepts/workloads/pods/init- containers/。 添加容器：⽀持添加多个容器 23 ii. 可选配置 端⼝映射：配置所启动容器使⽤的协议（⽀持TCP和UDP）、端⼝ 环境变量：配置所启动容器所需的环境变量（key/value的形式） 健康检查和就绪检查：⽀持健康检查（liveness）和就绪检查（Readiness）。健康检查⽤于 io/docs/concepts/workloads/pods/init- containers/。 添加容器：⽀持添加多个容器 34 ii. 可选配置 端⼝映射：配置所启动容器使⽤的协议（⽀持TCP和UDP）、端⼝ 环境变量：配置所启动容器所需的环境变量（key/value的形式） 健康检查和就绪检查：⽀持健康检查（liveness）和就绪检查（Readiness）。健康检查⽤于 视化的各类仪表盘进⾏显示 点击查看Grafana 跳转⾄Grafana登录⾸⻚ （3）查看详细监控 58 登录进⾸⻚后，即可查看相关仪表盘（折磨默认配置prometheus数据库作为数据源，⽆需⽤户⾃⼰配 置数据源） 59 点击Nodes查看仪表盘，这⾥默认数据源已关联⾄prometheus，⽤户⽆需操作，可查看当前集群对应 实例 左侧导航为Grafana功能栏，功能丰富，可⾃定义仪表盘等操作。

计算节点挂掉：跨机迁移 • 健康探针 ① 存活探针 ② 就绪探针 • 负载均衡 • 重启机制 ① 区分异常原因 ② 本地重启/跨机重启 • 黑名单机制 • 集群核心数据的备份和恢复 ① Etcd ② 核心数据库 • 云盘机制保护应用数据 • 举例：1.4升级1.9版本 • Pod Hash发生变化 • Container名称发生变化，点分隔改为了下划线分隔 • 容器标签发生变化 pause容器的标签io CPU下降38.3%， 包量+6% 性能 Docker、Docket、Gaiastack P2P Agent下载镜像对比 Registry与P2P Agent流量占比对比 • 镜像下载引入BT协议 • 对Docker Daemon零入侵 • 每层分别做种 • 优化blob下载策略 发表论文：《FID: A Faster Image Distribution System for Docker

自由切换，到处运行 Sealos API Sealos CLI Desktop 裸金属 AWS 阿里云 更多······ boot 集群镜像 租户管理 应用管理 函数计算 消息队列 数据库 缓存 计算驱动 网络驱动 存储驱动 自由组装 内聚解耦 化整为零 大道至简 sealos 的能力 • 10 秒上线一个自带域名和 https 的 nginx 应用 • 其它应用同理如博客系统 mysql/pgsql/mongo/redis 数据 库 • 写代码像写博客一样简单 • AI 自动编码，毫秒级上线，0 运 维 数据库管理 mysql/pgsql/mongo/ redis 等多种数据库 数据库多主架构高 可用 数据库备份恢复， 故障自愈 数据库管理工具， 监控告警 Userlnterface API/CLI/GUI Cilium Gvisor/Containerd 不同版本liux发行版 裸金属 AMD ARM ······ 数月 数十人 依赖中间数十款软件 SaaS 机房1 机房2 机房n ·· ·· ·· 打包 监控 系统 日至 系统 数据库 消息队列 对象存储 计算 储存 网络 kubernetes SaaS服务 30min 1人 一键打包 整体交付 一次建构 到处运行 使用sealos 技术实现 行业 痛点 在公网不可信的环境中提供多