<p>有这样一批<strong>智能体</strong>，在<strong>完全没有见过</strong>的游戏任务里，也学会了游刃有余地解决目标。</p>
<p>譬如面对下面这样一个高地，它们要取到上面的紫色金字塔。</p>
<div><img src="https://imageproxy.pbkrs.com/https://p3.toutiaoimg.com/img/pgc-image/4265e0192da44bc0982df868fff3dcac~tplv-tt-shrink:640:0.image?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="438" height="454" original-src="https://imageproxy.pbkrs.com/https://p3.toutiaoimg.com/img/pgc-image/4265e0192da44bc0982df868fff3dcac~tplv-tt-shrink:640:0.image"/></div>
<p>没有跳跃功能的它们，看似开始 “焦躁” 地乱扔起东西来，实则其中一块板子<strong>正好被 “扔” 成了楼梯</strong>，这不就巧了，目标完成！</p>
<div><img src="https://imageproxy.pbkrs.com/https://p26.toutiaoimg.com/img/pgc-image/7aeb74dd16294e6dbadbb8758813d85b~tplv-tt-shrink:640:0.image?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="600" height="336" original-src="https://imageproxy.pbkrs.com/https://p26.toutiaoimg.com/img/pgc-image/7aeb74dd16294e6dbadbb8758813d85b~tplv-tt-shrink:640:0.image"/></div>
<p>你可能会说这只是 “瞎猫撞死耗子” 罢了，但多次实验发现，该智能体可以<strong>复现</strong>该方法的！</p>
<div><img src="https://imageproxy.pbkrs.com/https://p9.toutiaoimg.com/img/pgc-image/4eddaae9756a43e8a3fb59775c31891a~tplv-tt-shrink:640:0.image?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="600" height="336" original-src="https://imageproxy.pbkrs.com/https://p9.toutiaoimg.com/img/pgc-image/4eddaae9756a43e8a3fb59775c31891a~tplv-tt-shrink:640:0.image"/></div>
<p>‍</p>
<p>而且它还会不止一种方法，“我不上去，你下来”——直接<strong>借助板子把目标扒拉下来</strong>了！</p>
<div><img src="https://imageproxy.pbkrs.com/https://p9.toutiaoimg.com/img/pgc-image/9e05de46601846c9b77b6f97b948996a~tplv-tt-shrink:640:0.image?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="600" height="336" original-src="https://imageproxy.pbkrs.com/https://p9.toutiaoimg.com/img/pgc-image/9e05de46601846c9b77b6f97b948996a~tplv-tt-shrink:640:0.image"/></div>
<p>这也行？</p>
<div><img src="https://imageproxy.pbkrs.com/https://p5.toutiaoimg.com/img/pgc-image/3121069f343c4fa3aea9b4f6cde947a7~tplv-tt-shrink:640:0.image?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="500" height="506" original-src="https://imageproxy.pbkrs.com/https://p5.toutiaoimg.com/img/pgc-image/3121069f343c4fa3aea9b4f6cde947a7~tplv-tt-shrink:640:0.image"/></div>
<p>而这些<strong>成精了</strong>的智能体来自<strong>DeepMind</strong>。</p>
<p>现在，为了让 AI 更加多才多艺、举一反三，他们专门给智能体打造了一个包含了<strong>数十亿游戏任务的 “元宇宙”</strong>XLand：让智能体在不断扩展、升级的开放世界中通过上亿次的训练练就了不俗的<strong>泛化能力</strong>。</p>
<div><img src="https://imageproxy.pbkrs.com/https://p5.toutiaoimg.com/img/pgc-image/207b96e6ec07423f9460257ffe648ac8~tplv-tt-shrink:640:0.image?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="640" height="663" original-src="https://imageproxy.pbkrs.com/https://p5.toutiaoimg.com/img/pgc-image/207b96e6ec07423f9460257ffe648ac8~tplv-tt-shrink:640:0.image"/></div>
<p>最终效果就像前面看到的，<strong>无需在新游戏中从头训练</strong>，它们就能<strong>自主</strong>解决任务！</p>
<p>DeepMind 也因此发表了一篇论文，就叫做：《从开放学习走出来的通用智能体》。</p>
<div><img src="https://imageproxy.pbkrs.com/https://p9.toutiaoimg.com/img/pgc-image/3b5a0513cb7c4cc08d18467464853295~tplv-tt-shrink:640:0.image?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="640" height="225" original-src="https://imageproxy.pbkrs.com/https://p9.toutiaoimg.com/img/pgc-image/3b5a0513cb7c4cc08d18467464853295~tplv-tt-shrink:640:0.image"/></div>
<p>如何做到的呢？</p>
<h1>“元宇宙” XLand</h1>
<p>最功不可没之一的就是这个庞大的 “元宇宙” 模拟空间。</p>
<p>这是一个<strong>“游戏星系”</strong>，里面有无数个 “游戏星球”，每个星球上的游戏按<strong>竞争性、平衡性、可选项、探索难度</strong>四个纬度进行区分。</p>
<div><img src="https://imageproxy.pbkrs.com/https://p6.toutiaoimg.com/img/pgc-image/d19b194cb11b45008400bed3e2903dcd~tplv-tt-shrink:640:0.image?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="640" height="394" original-src="https://imageproxy.pbkrs.com/https://p6.toutiaoimg.com/img/pgc-image/d19b194cb11b45008400bed3e2903dcd~tplv-tt-shrink:640:0.image"/></div>
<p>比如图左上介绍的<strong>“抢方块”</strong>游戏：蓝色智能体需要把黄色的立方体放到白色区域，红色智能体需要把<strong>同一个立方体</strong>放在蓝色区域。</p>
<div><img src="https://imageproxy.pbkrs.com/https://p26.toutiaoimg.com/img/pgc-image/1effe7c3668940e2b22c415af64256f0~tplv-tt-shrink:640:0.image?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="640" height="651" original-src="https://imageproxy.pbkrs.com/https://p26.toutiaoimg.com/img/pgc-image/1effe7c3668940e2b22c415af64256f0~tplv-tt-shrink:640:0.image"/></div>
<p>啊想想就头大，所以这个游戏的<strong>竞争性值都拉满了</strong>，而由于双方的条件/目标都一样，所以<strong>平衡性值也很高</strong>，因为需要定位目标区域，所以<strong>探索难度并不小</strong>。</p>
<p>再比如图右上的<strong>“将球体和立方体配对”</strong>：蓝色/红色智能体要将几何体按颜色归类到一起，完成任意一组配对就行。这个游戏的可选性值就拉满了，但竞争性就没那么强。</p>
<div><img src="https://imageproxy.pbkrs.com/https://p6.toutiaoimg.com/img/pgc-image/0a8749cc929845b499ff1a28e5b21e9b~tplv-tt-shrink:640:0.image?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="640" height="664" original-src="https://imageproxy.pbkrs.com/https://p6.toutiaoimg.com/img/pgc-image/0a8749cc929845b499ff1a28e5b21e9b~tplv-tt-shrink:640:0.image"/></div>
<p>ps.蓝色游戏代表是完全竞争性的，粉色为完全合作性的。</p>
<p>不管是哪种游戏任务，这批智能体都从最简单的开始（比如仅 “靠近紫色立方体” 这种），一步步解锁复杂度升级的游戏（比如和另一个智能体 “捉迷藏”），其中每一项游戏都有奖励，智能体们的目标就是将拿到的奖励最大化。</p>
<p>而智能体 “玩家” 们是通过阅读收到的目标的文字描述、观察 RGB 图像来感知周围环境来完成任务。</p>
<h1>生成的新任务要基于旧任务，且难度要刚刚好</h1>
<p>除了上面这个开放式的学习环境，训练方法也很重要。</p>
<p>研究人员使用的神经网络训练架构提供了一种针对智能体内部循环状态的<strong>注意力机制</strong>——通过估计所玩游戏的子目标，来持续引导智能体的注意力。</p>
<div><img src="https://imageproxy.pbkrs.com/https://p3.toutiaoimg.com/img/pgc-image/be8adbddeb8a4914a83418481e0d81c4~tplv-tt-shrink:640:0.image?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="640" height="380" original-src="https://imageproxy.pbkrs.com/https://p3.toutiaoimg.com/img/pgc-image/be8adbddeb8a4914a83418481e0d81c4~tplv-tt-shrink:640:0.image"/></div>
<p>这种策略让智能体学习到更具普遍能力的策略。</p>
<p>还有一个问题：如此广阔的游戏环境，什么样的<strong>游戏任务分布</strong>能产出最善于泛化的智能体呢？</p>
<p>研究人员通过持续调整每个智能体的游戏分布发现，每个新任务都要<strong>基于通关的旧任务生成，不能太难，也不能太容易。</strong></p>
<p>这个也基本符合一般认知。</p>
<p>它们先经历了四次迭代：</p>
<p>每个任务由多个智能体参与竞争，在旧任务上适应得好的智能体，会带着权重、瞬时任务分布、超参数等参与到新一轮任务中继续学习。此时也会加入新的智能体让竞争 “活” 起来。</p>
<div><img src="https://imageproxy.pbkrs.com/https://p6.toutiaoimg.com/img/pgc-image/742f2ce00b6340f688f91e0834eb6b52~tplv-tt-shrink:640:0.image?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="640" height="209" original-src="https://imageproxy.pbkrs.com/https://p6.toutiaoimg.com/img/pgc-image/742f2ce00b6340f688f91e0834eb6b52~tplv-tt-shrink:640:0.image"/></div>
<h1>智能体表现出明显的零样本学习能力</h1>
<p>最后生成的第五代智能体，在 XLand 4000 多个 “星球” 里玩了大约<strong>70 万个</strong>游戏，每一个智能体都经历了<strong>2000 亿次</strong>训练，完成了 340 万个独特任务。</p>
<p>到了这个时候，这些智能体已经能够顺利完成每一项评估任务（除了少数即使是人类也不可能完成的）。</p>
<p>整个实验也最终表明，通过开发像 XLand 这样的环境和这样开放式的练方法，一些基于 RL 的智能体已表现出明显的<strong>零样本学习能力</strong> （0-shot）。</p>
<p>比如使用工具、打拦（ridge-fencing）、“捉迷藏”、找立方体、数数、合作或竞争等。</p>
<div><img src="https://imageproxy.pbkrs.com/https://p26.toutiaoimg.com/img/pgc-image/c3e4d44d73e14be9b35905e0e45c1262~tplv-tt-shrink:640:0.image?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="640" height="201" original-src="https://imageproxy.pbkrs.com/https://p26.toutiaoimg.com/img/pgc-image/c3e4d44d73e14be9b35905e0e45c1262~tplv-tt-shrink:640:0.image"/></div>
<p>研究人员也观察到智能体们面对新任务时不知道 “什么是最好的解决办法”，但它们会不断地试验直到达到目标。</p>
<p>这个过程中出现的有趣的” 紧急启发式行为”，除了开头提到的搭梯子，还有这个<strong>临时更换更简易目标</strong>的例子——</p>
<p>在一个游戏中该智能体需要从 3 个目标中任选一个完成：</p>
<p>1、将黑色金字塔放到黄色球体旁边；<br/>2、将紫色球体放到黄色金字塔旁边；<br/>3、将黑色金字塔放到橙色区域。</p>
<p>它一开始找到了一个黑色金字塔，想去完成目标 3，但在搬运过程中看到了黄色球体，于是它就在<strong>1 秒内改变了主意</strong>，选择直接将金字塔放在黄色球体旁边完成目标 1。（整个过程一共耗时 6 秒）</p>
<div><img src="https://imageproxy.pbkrs.com/https://p26.toutiaoimg.com/img/pgc-image/5cb699f7fbb343af9e3c912a2c26010b~tplv-tt-shrink:640:0.image?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="640" height="148" original-src="https://imageproxy.pbkrs.com/https://p26.toutiaoimg.com/img/pgc-image/5cb699f7fbb343af9e3c912a2c26010b~tplv-tt-shrink:640:0.image"/></div>
<p>最后，看完了 DeepMind 的研究，再抛给大家一个问题：我们离真正的通用人工智能还有多远？</p>
<div></div>
<p>（ps.你发现了吗，文章最开头高台取金字塔任务中的小红智障体就不行，一直打转，面对小蓝搭好的梯子甚至直接毁掉）</p>
<div></div>
<p>论文地址：<br/>https://arxiv.org/abs/2107.12808</p>
<p>参考链接：</p>
<p>https://deepmind.com/blog/article/generally-capable-agents-emerge-from-open-ended-play</p>

<p>在一个包含数十亿游戏任务的 “元宇宙” 中 “修炼” 的成果</p>

2000 亿次开放学习后，DeepMind 智能体成精了