 2024 中国开源开发者报告LLM,agent 底层技术经历了三个大的阶段。 符号系统的缺点在于过于依赖人工定义的“符号”和“逻辑”,强化学习苦于训练数据的匮 乏和“模态墙”,而 LLM 一次性解决这些问题。 人类语言就是一种高度抽象、跨模态、表达力充分的符号系统,同时它作为知识的载体,自 然地存在大量数据可用于训练,还蕴含了人类的思维模式。 在此基础上训练得到的 LLM,自然具备被诱导出类人思考的潜力。在 COT(思维链)【4】、 SWE-bench verified 第一位 (53%)。 基于代码大模型的自身进化,以及 RAG 技术、智能体的有力支持,从而 LLM 有更好的上 下文感知能力。例如,在代码大模型预训练时,其训练语料中加入抽象语法树(AST)、代码依 赖关系等数据,新的代码生成模型则具有更强的上下文感知能力。 41 / 111 在此基础上,基于 AI 的编程工具能够根据给定的上下文(如函数名、注释、部分代码等) 硅基流动等组成的 GPU 推理集群 服务提供商,它们处理扩展与缩减等技术难题,并在基本计算费用基础上收取额外费用,从 而让应用公司无需承担构建和管理 GPU 推理集群的高昂成本,而是可以直接利用抽象化的 AI 基础设施服务。  第三类是传统的云计算平台,例如亚马逊的 Amazon Bedrock、阿里云百炼平台、微软的 Azure AI、谷歌 Vertex AI 等,允许应用开发者轻松部署和使用标准化或定制化的0 码力 | 111 页 | 11.44 MB | 8 月前3 2024 中国开源开发者报告LLM,agent 底层技术经历了三个大的阶段。 符号系统的缺点在于过于依赖人工定义的“符号”和“逻辑”,强化学习苦于训练数据的匮 乏和“模态墙”,而 LLM 一次性解决这些问题。 人类语言就是一种高度抽象、跨模态、表达力充分的符号系统,同时它作为知识的载体,自 然地存在大量数据可用于训练,还蕴含了人类的思维模式。 在此基础上训练得到的 LLM,自然具备被诱导出类人思考的潜力。在 COT(思维链)【4】、 SWE-bench verified 第一位 (53%)。 基于代码大模型的自身进化,以及 RAG 技术、智能体的有力支持,从而 LLM 有更好的上 下文感知能力。例如,在代码大模型预训练时,其训练语料中加入抽象语法树(AST)、代码依 赖关系等数据,新的代码生成模型则具有更强的上下文感知能力。 41 / 111 在此基础上,基于 AI 的编程工具能够根据给定的上下文(如函数名、注释、部分代码等) 硅基流动等组成的 GPU 推理集群 服务提供商,它们处理扩展与缩减等技术难题,并在基本计算费用基础上收取额外费用,从 而让应用公司无需承担构建和管理 GPU 推理集群的高昂成本,而是可以直接利用抽象化的 AI 基础设施服务。  第三类是传统的云计算平台,例如亚马逊的 Amazon Bedrock、阿里云百炼平台、微软的 Azure AI、谷歌 Vertex AI 等,允许应用开发者轻松部署和使用标准化或定制化的0 码力 | 111 页 | 11.44 MB | 8 月前3
 Moonshot AI 介绍ion是最领先的。 杨植麟:我不太担⼼这个问题。现在就是最好的分配⽅式,更接近⼀个⾃由市场,最后会有最⾼的分 配效率。我们要跟别⼈证明的也不是我们的vision,因为vision是⼀个抽象的东西,还是要通过真实 的deliver模型和产品。Anthropic放出Claude这些模型之后,⻢上就得到了更多的资源。市场是公 平的。 海外独⻆兽:从建⽴产品和公司竞争壁垒的 为你还没有经历让它持续迭代变好 的过程,或者说去更加精细化地定义你想要⼀个怎样的产品的过程。它远远没有之前的产品那么直 接、简单。 因为,你可能有⼀个产品,然后你怎么让它变得更好?「好」是⾮常抽象的。你要怎么让ChatGPT变 得更好?怎样算好?往哪个⽅向好?好多少算是好?这些都很难(定义)。 很多产品经理容易陷⼊⼀个误区,定义⼀堆feature功能,像以前⼀样,这可能是不对的。因为(现 1、本科及以上学历,3年及以上互联⽹中后台产品经验,计算机软件相关专业加分 2、效率控,对于标准化、⾃动化有着天然的好奇⼼ 3、有项⽬管理相关领域经验者优先;需要善于设计并跟进流程效果 4、逻辑严,抽象佳,敢创新,落地快,owner意识,学习能⼒强,有判断⼒ 5、对⼤模型领域有强烈好奇⼼ 业务线类 国内/国外效果⼴告设计师 ⼯作地点:北京 学历要求:本科及以上 ⼯作年限:1-3年0 码力 | 74 页 | 1.64 MB | 1 年前3 Moonshot AI 介绍ion是最领先的。 杨植麟:我不太担⼼这个问题。现在就是最好的分配⽅式,更接近⼀个⾃由市场,最后会有最⾼的分 配效率。我们要跟别⼈证明的也不是我们的vision,因为vision是⼀个抽象的东西,还是要通过真实 的deliver模型和产品。Anthropic放出Claude这些模型之后,⻢上就得到了更多的资源。市场是公 平的。 海外独⻆兽:从建⽴产品和公司竞争壁垒的 为你还没有经历让它持续迭代变好 的过程,或者说去更加精细化地定义你想要⼀个怎样的产品的过程。它远远没有之前的产品那么直 接、简单。 因为,你可能有⼀个产品,然后你怎么让它变得更好?「好」是⾮常抽象的。你要怎么让ChatGPT变 得更好?怎样算好?往哪个⽅向好?好多少算是好?这些都很难(定义)。 很多产品经理容易陷⼊⼀个误区,定义⼀堆feature功能,像以前⼀样,这可能是不对的。因为(现 1、本科及以上学历,3年及以上互联⽹中后台产品经验,计算机软件相关专业加分 2、效率控,对于标准化、⾃动化有着天然的好奇⼼ 3、有项⽬管理相关领域经验者优先;需要善于设计并跟进流程效果 4、逻辑严,抽象佳,敢创新,落地快,owner意识,学习能⼒强,有判断⼒ 5、对⼤模型领域有强烈好奇⼼ 业务线类 国内/国外效果⼴告设计师 ⼯作地点:北京 学历要求:本科及以上 ⼯作年限:1-3年0 码力 | 74 页 | 1.64 MB | 1 年前3
 2023 中国开源开发者报告开放平台、投身自动驾驶技术领域。 百度正式推出 Apollo 开放平台 9.0 PolarDB-X V2.3 集中式和分布式 Katalyst 是字节跳动对多年大规模业务云原生化场景中资源管理能力的抽象 和总结,我们期望通过 Katalyst 的开源直接或间接地帮助用户做好资源管理, 实现降本增效。 2023 年 4 月,APUS 大模型正式发布。APUS 成立于 2014 年,是一家以产 品技 48 / 87 LLM 基础设施:大模型框架及微调 (Fine Tuning) 大模型框架有哪些特点: :大模型开发框架通过提供高 层次的 API 简化了复杂模型的构建过程。这 些 API 抽象掉了许多底层细节,使开发者能 够专注于模型的设计和训练策略。 :这些框架经过优化,以充分利用 GPU、TPU 等高性能计算硬件,以加速模型 的训练和推理过程。 :为了处理大型数据集和大规模参0 码力 | 87 页 | 31.99 MB | 1 年前3 2023 中国开源开发者报告开放平台、投身自动驾驶技术领域。 百度正式推出 Apollo 开放平台 9.0 PolarDB-X V2.3 集中式和分布式 Katalyst 是字节跳动对多年大规模业务云原生化场景中资源管理能力的抽象 和总结,我们期望通过 Katalyst 的开源直接或间接地帮助用户做好资源管理, 实现降本增效。 2023 年 4 月,APUS 大模型正式发布。APUS 成立于 2014 年,是一家以产 品技 48 / 87 LLM 基础设施:大模型框架及微调 (Fine Tuning) 大模型框架有哪些特点: :大模型开发框架通过提供高 层次的 API 简化了复杂模型的构建过程。这 些 API 抽象掉了许多底层细节,使开发者能 够专注于模型的设计和训练策略。 :这些框架经过优化,以充分利用 GPU、TPU 等高性能计算硬件,以加速模型 的训练和推理过程。 :为了处理大型数据集和大规模参0 码力 | 87 页 | 31.99 MB | 1 年前3
 网易数帆 领先的数字化转型技术与服务提供商 2021用户画像 数字化运营 数字化管理 数字化供应链 数据后台 数据源 数据库 埋点采集 服务器日志 爬虫数据 SOLUTIONS 数据中台,构建在数据湖之上,连接孤岛数据,构建统一的指标管理和抽象数据公共层,对外通过接口提供数据服务。 数据中台解决方案 26 方案价值 方案特色 打造金融级分布式技术平台 利用分布式框架与容器云中间件等成熟的云原生分布式架构体系,打 造满足金融业务特性的企业级技术平台。0 码力 | 43 页 | 884.64 KB | 1 年前3 网易数帆 领先的数字化转型技术与服务提供商 2021用户画像 数字化运营 数字化管理 数字化供应链 数据后台 数据源 数据库 埋点采集 服务器日志 爬虫数据 SOLUTIONS 数据中台,构建在数据湖之上,连接孤岛数据,构建统一的指标管理和抽象数据公共层,对外通过接口提供数据服务。 数据中台解决方案 26 方案价值 方案特色 打造金融级分布式技术平台 利用分布式框架与容器云中间件等成熟的云原生分布式架构体系,打 造满足金融业务特性的企业级技术平台。0 码力 | 43 页 | 884.64 KB | 1 年前3
共 4 条
- 1













