科技爱好者周刊(第 410 期):你需要知道的 AI 三种机制
这里记录每周值得分享的科技内容,周五发布。 本杂志 开源 ,欢迎 投稿 。另有 《谁在招人》 服务,发布程序员招聘信息。合作请 邮件联系 ([email protected])。 封面图 宁夏沙坡头景区的巨型蒙眼雕塑。( via ) 你需要知道的 AI 三种机制 这是"AI 小知识系列"的第三篇,前两篇分别是 《大模型需要多少内存》 和 《AI 缓存是什么》 。 我分享一些自己的学习笔记,用来理清对于 AI 技术的理解。我尽量写得通俗,希望对大家有用。 今天谈一个基本问题: AI 为什么能够回答我们的提问,它怎么会知道答案? 你可以找到很多这方面的论文和书籍,详细解释大模型的运作,通常非常难懂。但是,对于非专业人士,只要简单知道 AI 的三个机制 ,就可以了。 (1)参数机制 在宏观层面, 所有大模型都是对人类知识的建模 。它建立了一个数学模型,用来描述所有的人类知识。 怎么描述呢?它使用的是一种参数机制,将知识分解成一个个"词元"(token),然后计算所有词元之间的数学关系。这个过程称为"训练"。 这种数学关系使用无数个参数来表示。举例来说,大模型 GLM 5.3 有7440亿个参数,这些参数用来构建所有词元之间的关系(也就是权重)。所谓"训练",其实就是找出这个7440亿个权重,描述人类知识的构成,也就是所有词元之间的关联。 一旦训练完成,我们向大模型提问时,它就会根据这些权重,找出最可能的词元,从而生成符合概率的答案。 所以, 大模型本质上是一种"压缩-生成"机制 ,将人类知识抽象在无数参数之中,后期再生成出来。 (2)推理机制 不难理解,参数越多,模型的效果越好。因为更多的参数意味着,可以更精确地描述各种知识,从而可以更准确地将其还原出来。 但是,一方面,参数不可能无限增加,训练和使用成本将直线上升,使用时的运算时间也会变长。 另一方面,也没有必要包含所有的知识,很多知识不需要包含在参数之中, 完全可以通过逻辑推理获得 。 举例来说,只需要知道某个城市的人口出生率和死亡率,就马上知道了人口的净增长率。这不需要记忆,可以通过推理得到。 大模型就依靠推理机制,根据参数包含的知识,从逻辑规则出发,推断出那些它没有包含的知识。 (3)联网机制 不管模型有再多的参数、再强的推理,它不可能包含所有的知识,总有一些问题它回答不了。 比如,你问大模型,今天股票的收盘指数是多少,它就回答不了。参数里面不包含这个知识,也无法推理得到。 这时,模型就要依靠 Agent 或应用框架提供的联网机制,自动去互联网搜索那些它不知道的知识。 (4)总结 正是有了以上三种机制,AI 才能正确回答我们的问题。 首先,参数机制提供了大模型的基本知识;其次,推理机制产生通过推理得到的知识;最后,联网机制用来获取前两种机制都无法得到的知识。 公开演讲的窍门 很多同学对于公开登台,在大庭广众进行演讲,会感到紧张。 其实,只要掌握 几个窍门 ,树立正确认知,就能进行一次成功的公开演讲。 (1)成功的演讲,内容只占30%,表演技巧占70%。 你要知道,演讲是一场秀,你要充分利用语气、动作、表情、手势等等,去吸引听众的注意力,内容其实不是决定性的。 (2)提前做好充分准备。 演讲稿、幻灯片、笑话、语调、节奏,所有细节最好都反复练习过。你无法预知上台时会发生什么,反复练习能让你沿着预设的轨道,顺利进行下去。 (3)如果涉及具体技术细节,你最好多讲"为什么"(why),让听众明白为什么应该关注这些。 至于"如何做",略微讲一讲大致思路和一般概念即可,具体操作和实现可以全部跳过,因为没人想听你背诵文档。 (4)紧张是正常的。 但是,如果你做了充分准备,把稿子背得滚瓜烂熟,上台后一旦进入状态,你很快就会把紧张忘记。 (5)不管讲得好与坏,你一定要自信。如果你自己都对所讲的内容有迟疑,就很难让听众信服。 公开演讲的成功者,都是自信的人,而不是能力强的人。很多槽糕的管理者和骗子,都发表过成功的演讲,这说明内容绝非登上讲台的必要条件。 (6)只要你渴望谈论某个话题,你就绝对有登上讲台的条件。 科技动态 1、 平面椅 一位美国设计师发明了一种玻璃纤维椅,用户拿到手的就是一块平板。 花几分钟,将其拆开,组装起来就是一把椅子。 这种平板设计,大大减少了运输体积、存储空间和运输成本。 它依靠曲线的张力和互锁的部件,来提供足够的强度。 2、 虚拟化身演唱会 本周,美国著名歌星多莉·帕顿去世,享年80岁。这个消息非常突然,因为不久之前,她还表示将举行演唱会。 但是,她不是自己登台演唱,而是授权制作一个"虚拟化身",让这个化身在台上演唱。 她没有透露具体细节,但在技术上,现在已经完全可行。现在的 AI 不仅唱得逼真,还能实时生成影像,与歌迷互动。 这种"虚拟化身演唱会"有很多优点,比如可以大量举办,一天几场都可以,而且票价低,而且还可以做很多真人演唱会无法做到的事情,比如去世的歌星也可以开演唱会。相信只要有第一次,后面就会大量涌现,形成一个专门的市场。 3、 自行车助力器 华硕推出了一种"自行车助力器",任何自行车都可以安装,让普通自行车变成电助力自行车。 它的原理很简单,就是一块电池带动一个轮子。 你把它装在后轮上方,它就会自己带动后轮转动,从而提供助力。 它对于爬坡和携带重物,很有帮助,值得推广。 文章 1、 动荡的人工智能时代已经到来 (英文) 比尔盖茨本周发表了一篇文章,提出 AI 有风险,应该减缓发展速度。 但是,他在20023年发表过一篇完全相反的文章<a href="https://www.gate