自适应的自主,固定的权限。
想象一台机器:它学习时,不改变任何一个神经权重。世界每变一次,不必重新训练一次。学到的策略,不会埋在数十亿个参数里。Perslis 采用无权重的符号学习:经验变成明确的知识,系统可以检验它、否决它、保留它,并把它带向下一台机器。认识 Perslis 大脑——一个自我演化的架构,为在真实任务、真实环境与日常机器人中运行的自主机器而打造。
拖动可旋转,滚动可逐区浏览。
想象一台机器:它学习时,不改变任何一个神经权重。世界每变一次,不必重新训练一次。学到的策略,不会埋在数十亿个参数里。Perslis 采用无权重的符号学习:经验变成明确的知识,系统可以检验它、否决它、保留它,并把它带向下一台机器。认识 Perslis 大脑——一个自我演化的架构,为在真实任务、真实环境与日常机器人中运行的自主机器而打造。
眼 · 视觉皮层
传感器报告某个距离、某个方位上有东西。眼睛拿摄像头实际看到的画面去核对这份报告——核对不了,就说无法确认并给出原因。坏数据会被标出来,而不是被执行。
为什么不用神经模型? 神经检测器给出一个标签和一个置信度。它可能自信地出错,也说不出是检查的哪一步没通过。我们的眼睛拿像素核对断言,核对不了就弃权并说明原因。
眼 · 丘脑
传感器收集到的一切,都被压缩成一小份有名字、看得懂的事实清单。换任务时,只需要重建这份清单。它还会自查:哪些教训它一直没学到。
为什么不用神经模型? 神经网络的内部特征是数以百万计、没人能叫出名字的数字。我们的是一小份有名字、看得懂的事实清单;换任务只需改写这份清单,而不是重新训练一个网络。
PEEL · 杏仁核
一次倒霉不算教训。当某个地方让它吃亏的次数远高于别处,这就变成一条规则:别进去。同样的伏击,对它不再管用。
为什么不用神经模型? 部署后的神经模型是冻结的。它无法在任务途中把今天的伏击变成持久的教训并改变策略;那需要收集数据、回到后方重新训练权重。语言模型可以在一次对话里调整,对话结束就忘了。Peel 在任务途中、失败一经证明就改变策略,并把教训留下来。
PEEL · 海马体
墙、暗道,以及它被击毙过的地方。它绕开杀伤区,而且它的每一步都能指回支撑这一步的那段经历。
为什么不用神经模型? 神经策略的记忆被抹匀在它的权重里;你指不出一个选择背后是哪段经历。这里的每个选择都能引用支撑它的经历,记在一张你可以打开的表里。
PEEL · 突触修剪
从来用不上的、或者会让它吃亏的行为,都会被剥离——只凭证据,而且从不碰核心安全规则。身上带的越少,出错的地方越少。
为什么不用神经模型? 你无法从神经网络里删掉一个行为,除非重新训练并祈祷别的东西没被带动。这里一个行为就是一条记录:只凭证据移除,核心安全规则受保护。
失败优先 · 联合皮层
每一次失败都要讲清楚原因。它一次只试一个改法,在同样的地形上和老办法正面比拼,只有在反复对比中明显胜出才会保留。大多数想法都会失败——这正是目的。
为什么不用神经模型? 重新训练一个模型会同时改变数以百万计的权重;没人说得清是哪一处改变让它变好或变坏。这里一次只测试一个改变,正面对比,只有明显胜出才保留。
失败优先 · 扣带皮层
一旦停止前进,它会质疑一个假设、试一个办法,并把有效的做法连同证据写下来。解决不了的,它作为一个问题交给人。
为什么不用神经模型? 卡住的神经策略会一直重复同样的动作,直到有人收集新数据、重新训练。这个大脑自己诊断停滞,把修正写进自己的规则书,解决不了的就标出来。
地板 · 前额叶皮层
规则由你和你的指挥链来定。地板让机器守住它被交付的那一版规则——由命令、任务规则、安全限制和适用的交战规则写成的约束。在选择动作之前,它先算出这些约束允许什么。命令可以收窄这份清单;它学到的任何东西都不能放宽它。
为什么不用神经模型? 神经模型的边界是学出来的,所以更多训练可能悄悄移动它们,巧妙的提示词也可能把语言模型哄过边界。这里的边界在每一步之前计算,学习根本碰不到它们。
地板 · 基底神经节
它只在地板允许的动作里选。不是先动手、再被否决——禁止的选项在它决定之前就已经没了。一次到位,不与安全层讨价还价。
为什么不用神经模型? 神经模型上的安全过滤器通常在模型选定动作之后才去检查。这里,被禁止的动作根本到不了选择这一步。
追踪 · 白质
每一次拦截、每一次修改、每一次驳回,都连同起因记录在案。在战后复盘时,任何一个决定都能追溯到它为什么被做出。出了问题,有人能给出交代。
为什么不用神经模型? 神经模型可以给出一个解释,却给不出真正的原因:它的决定是数十亿次乘法。这里,原因就是记录本身——删掉一行,行为就改变。
身体 · 小脑
射击、命中、瞄准误差和闪避,都按武器从仿真器里逐项计数。你知道它实际有多好——而不是它自称有多好。
为什么不用神经模型? 神经控制通常只用一个汇总的奖励分数来评判。这里每一次射击、命中、脱靶和闪避都按武器计数,你清楚知道它哪里好、哪里不行。
身体 · 运动皮层
大脑是一个密封、签名的文件,每次运行前都要校验。把它移到新的载具上,只换连接这副身体的接口;学到的东西跟着走。并不是每次迁移都成功,我们照实说。
为什么不用神经模型? 把神经策略搬到新载具上,通常意味着新数据和重新训练。这个大脑是一个密封文件;只需写通往身体的适配器。目前已在两款坦克游戏之间得到验证。
把你所有的端点,直接接进大脑。没有 API 的老电脑,没问题:它通过遗留软件自己的按钮、字段和屏幕来驱动它们,通过主机已有的入口接入,并把老数据导出,每一步都有收据。什么都不用拆。
你不会让一个语言模型去运行你的核安全计算机。 美国政府问责局发现,协调国家核力量的系统运行在一台 1970 年代、使用 8 英寸软盘的 IBM Series/1 上。正是这样的系统,容不下一个靠猜的模型——所以,凡是你需要确切知道它会做什么、为什么这样做的地方,都不要交给这种模型。Peel 面对同样的事实,每次都做同样的事,并写下原因。