越强时，所有东西只需要放在内存⾥就可以。⽐如你的⼤模型内存有⼀堆
prefix
这样的东西⽤来
follow，成本可以降到⾮常低。最终，你对模型个性化的过程实际上就是你所有的交互历史，也是⼀ 个包含了你的偏好和反馈的集合，这些反馈会⽐上个时代的产品更直接，因为它是完全通过对话界⾯ 产⽣的。 基于这个判断，进⼀步就会想：如何在技术层⾯实现基于
long-context
的定制化去完全取代微调？
我认为现在正在 化。 ⽐如，GPT-4
带来的新的计算范式，创建
GPTs
并不需要微调。以前的定制化是通过
programming
实 现的，今天实际上是通过让模型的
prefix
变得⾮常复杂，从这个通⽤的集合中抽出你想要的东西。通 过这种⽅式实现个性化才是
AI-native
的个性化，外挂⼀个传统的推荐引擎肯定会被新⽅式淘汰。

海外独⻆兽：你们先做
lossless
long-context
这个决策是怎么做出来的？
于是
Moonshot
AI
的⼯程师决定设计⼀个中⽂版的“⼤海捞针”实验，做进⼀步的测试和研究。
第三次实验 我们将
Greg
Kamradt
的“⼤海捞针”英⽂实验语料换成了
AI
科技媒体《量⼦位》的⽂章集合，原实 验中藏进去的句⼦换成了： “在北京最好的事情就是秋天⾥坐在五道营胡同⾥的铁⼿咖啡馆，喝⼀杯热美式”。 向⼤模型提问的句⼦换成了： “北京最值得体验的活动是什么？仅基于上述⽂档，不要给出上述⽂档以外的信息。”

更好的发挥其资源管理者的作用。这种适配是双向 的，不同应用场景操作系统适配的生态也有所差异，随着场景的不断创新增加，生态适配性问题日渐复杂，仅靠单个操作系统发行 商进行生态匹配难以解决问题，需要开源集合更多的开发者力量进行帮助。 开源帮助操作系统优化性能、提升使用体验：在常见的操作系统开源sig分布中，大量的开发者有序的渗入到不同功能板块的代码仓 中，帮助客户端进一步用好更好的操作系统，同时，si

项各种与抗击新冠疫情有关的⼀⼿及⼆⼿信息。 据⾃组织机构的不完全统计，截⾄ 2020 年 5 ⽉ 20 ⽇，Wuhan2020 的 5 个⻚⾯/⽹站的点 击量超过 30 万次。其允许公开读取使⽤的数据信息集合促成了⽜津剑桥校友援助会提供的武 汉社区及周边地市医院和社区数据对接，硅⾕的 Gliding Eagle 团队及美国⼀家全球医疗信息 服务平台的医疗物资援助等案例达成。⾄此，Wuhan2020 已成为抗击新冠肺炎疫情迄今为⽌

的发布，其受关注再创新高， OpenHarmony 组织的关注总数也超过了 3 万。 令人欣喜的是，2021 年国内开发者自发创建的开源组织也收获了诸多关注，这些开源组织从简单的项目 68 集合开始，近两年的发展愈发成熟，已经逐渐形成了一个个较为完善的开源社区，正是一个个这样的开 源组织，构成了国内开源生态发展的重要基础。 2.7 Gitee 指数 在 Gitee 上衡量一个开源项目优质与否，除了

OpenHarmony followers exceeded 30,000 in total. 令人欣喜的是，2021 年国内开发者自发创建的开源组织也收获了诸多关注，这些开源组织从 简单的项目集合开始，近两年的发展愈发成熟，已经逐渐形成了一个个较为完善的开源社区， 正是一个个这样的开源组织，构成了国内开源生态发展的重要基础。 It is encouraging to note that