选自arXiv [原文来自：www.ii77.com]
本文认为机械进修和人工智能范畴中的待解难题素质上与因果关系有关。
图灵奖得主、贝叶斯收集之父 Judea Pearl 曾自嘲本身是「AI 社区的作乱者」，因为他对人工智能成长偏向的概念与主流趋势相反。Pearl 认为，尽管现有的机械进修模型已经取得了伟大的提高，但遗憾的是，所有的模型不外是对数据的正确曲线拟合。从这一点而言，现有的模型只是在上一代的根蒂上提拔了机能，在根基的思惟方面没有任何提高。
[本文来自：www.ii77.com]
那么，如何才能鞭策 AI 社区解决这一问题呢？Pearl 认为，我们需要一场「因果革命」。研究者应该考虑采用因果揣摩模型，从因果而非纯真的数据角度进行研究。
近日，马克斯·普朗克智能系统中心主任 Bernhard Schölkopf 揭橥论文，谈论了因果关系和机械进修之间的关联，并科普了一些相关的主要概念。Judea Pearl 转发相关推文，透露「这是一篇非常周全、令人愉悦且极具开导性的论文」，适合所有人，而不光仅是机械进修/人工智能从业者阅读。
机械之心对这篇论文进行了摘要编译，感乐趣的同窗能够查察原论文获取更多信息。
论文地址：https://arxiv.org/pdf/1911.10500.pdf
Judea Pearl 开创的图因果揣摩源自人工智能研究，历久以来与机械进修范畴关系甚少。本文商议因果揣摩和机械进修已有的关联以及应该竖立哪些关联，并介绍个中的焦点概念。本文认为机械进修和人工智能范畴中的待解难题素质上与因果关系有关，并注释了该范畴逐渐懂得它们的过程。
近年来，机械进修社区对因果关系的乐趣显著增进。我对因果关系的认识来自于 Judea Pearl 和一些合作者以及同侪，我将个中一些常识写在了与 Dominik Janzing、Jonas Peters 合著作品《Elements of Causal Inference》中。
我曾在多个场合谈论过这个话题，个中一些概念正在融入机械进修主流视角，好比「因果建模可以带来更稳健的模型」。
我很感动可以看到因果和机械进修的交集，这篇文章测验表达我的思惟，并绘制更广宽的图景。我进展本文不光可以匡助商量因果脑筋之于 AI 的主要性，还可以作为入门文章，指导机械进修群体认识图因果模型或构造因果模型的相关概念。
尽管近期机械进修取得了很大成功，但若是我们将机械进修可以完成的事与动物能做的事进行对比，就会发现机械进修对于动物擅长的一些花样示意并欠好。这包罗将解决问题的能力迁徙至新问题，以及随意形式的泛化，这里不是指从一个数据点到另一个数据点的泛化（且数据点来自统一分布），而是从一个问题泛化至下一个问题。
二者固然都是「泛化」，但后者难度更高。这个瑕玷并不令人惊讶，因为机械进修是轻忽动物严重依靠的信息：对世界的干涉、域偏移、时间构造，总体上，我们感觉这些身分很烦并尽量移除。
最后，机械进修还不擅长在想象空间中动作。我认为，存眷对干涉进行建模和推理的因果关系能够极大地匡助懂得息争决这些问题，从而将机械进修范畴推向新高度。
我们的社区在使用机械进修解决大数据问题上取得了好多成功。这个中呈现出多个趋势：
我们拥有海量数据，这些数据平日来自模拟或大规模人类标注；
我们使用高容量机械进修系统（即具备好多可调整参数的复杂函数类）；
我们使用高机能较量系统；
问题是自力同分布的（IID，这一点经常被轻忽，然则在涉及因果关系时，这很要害）。
这些设置平日要么一起头就是 IID（如使用基准数据集的图像识别），要么被人工处理为 IID，如为给定的应用问题精心收鸠合适的练习数据集，或许使用雷同 DeepMind「经验回放」（experience replay）的方式，即强化进修智能体存储观测究竟稍后再打乱以便后续练习。
IID 数据具备统计学理论中的强泛相合性（strong universal consistency），这确保进修算法能够最小风险获得收敛。此类算法的确存在，好比比来邻分类器和支撑向量机。
从这个角度看，在供应充沛数据的前提下，机械达到甚至跨越人类机能也无可厚非。然则，当机械面临的问题不遵循 IID 假设时，那么即使这类问题对 IID 假设的损坏在人类看来眇乎小哉，机械也平日很难解决。
当一个能以高正确率被正常识其余物体被放进与该物体显现场景呈负相关的场景练习集时，视觉系统很轻易被误导。例如，此类系统或者无法识别站在沙滩上的奶牛。
更夸张的是，「匹敌懦弱性」（adversarial vulnerability）现象强调，即使对 IID 假设作出非常微小但有针对性的损坏（这类损坏能够经由向图像添加精心选择的噪声来实现，而人类无法察觉此类更改），也会造成危险的错误，好比搅浑交通标记。
近年来，「防御机制」和之后很快显现并从新确立问题的新型冲击睁开了攻防战。总体上，大量（试图解决 IID 基准问题的）当前实践和大部门（关于 IID 设置泛化的）理论究竟无法解决在分歧问题长进行泛化这一待解难题。
为了进一步认识 IID 假设事实哪里有问题，我们先来考虑一个购物案例。假设爱丽丝在网上查找电脑包，网店的介绍系统建议她搭配购置一台笔记本电脑。这看起来很新鲜，因为她很或者已经买过笔记本电脑了，否则她也不会先看电脑包啊。
在某种水平上，笔记本电脑是「因」，电脑包是「果」。若是有人敷陈我某位顾客是否购置过笔记本电脑，那么我对顾客是否购置过电脑包的不确定性会削减，且反之亦然。二者对我的影响是一致水平的（互信息），所以因果之间的偏向性丢失了。
然而，这种情形显现在生成统计相关性（statistical dependence）的物理机制中，例如使拥有笔记本电脑的顾客想要购置电脑包。介绍待购置物品组成了对系统的干涉，超出了 IID 设置。我们不再处理观测数据分布，而是某些变量或机制已经发生改变了的分布。这就属于因果关系的领域了。
Reichenbach (1956) 明确指出了因果关系和统计相关性之间的关联。他提出配合原因道理（Common Cause Principle）：若是两个观测对象 X、Y 具备统计相关性，则存在变量 Z 对二者造成因果感化，且经由使它们基于 Z 互相自力来注释二者之间的相关性。
在特别情形下，变量 Z 可与 X 或 Y 重叠。假设 X 是鹳鸟的数目，Y 是人类出生率（在一些欧洲国度中，二者具备相关性）。若是是鹳鸟带来了人类婴儿，则准确的因果图是 X → Y。若是是婴儿吸引来了鹳鸟，则因果图是 X ← Y。若是某个其他变量引出了这两者（如经济成长），则因果图为 X ← Z → Y。
我们能够从中得出一个主要结论：在没有额外假设的情形下，我们无法行使观测数据区分这三种情形。在这三个案例中，X 和 Y 的观测分布类别（可经由模型获得）是沟通的。是以，因果模型所包含的信息超出统计模型。
鉴于仅有两个观测对象的案例已经很难，我们会思虑，包含更多观测对象的案例是否完全没有进展解决呢？
令人诧异的是，事实并非如斯：必然意义上这类问题变得加倍简洁了，因为这类问题中存在因果构造暗含的非寻常前提自力性（nontrivial conditional independence）属性。这类属性能够经由因果图或构造因果模型来描述，它们集成了概率图模型和干涉（intervention）概念，最好使用直接的函数式父子（parent-child）关系来描述，而不是使用前提句（conditional）。
尽管如今看来其概念很简洁，但它组成了懂得因果关系的要害一步，正如 Pearl (2009a, p. 104) 后来所述：
我们研究用函数式父子关系 X_i = f_i(PA_i , U_i) 替代父子关系 P(X_i |PA_i) 的或者性，倏忽间一切停当：我们最终获得了一个数学对象，我们能够将物理机制中的熟悉属性归因于它，而不是归因于那些桀黠的认知概率 P(X_i |PA_i)，它也是我们在贝叶斯收集研究中历久研究的对象。
对于更习惯于用估量函数而非概率分布来思虑问题的机械进修研究者而言，SCM 对照直观。SCM 供应了一组观测对象 X_1, . . . , X_n（被建模为随机变量），它们与有向无环图（DAG）G 的极点相关系。我们假设每个观测对象是一个义务的究竟：
该公式使用确定性函数 f_i，该函数依靠于 X_i 在图中的父亲 PA_i 和随机未注释变量 U_i。图中的有向边透露直接因果关系，因为父亲经由有向边与 X_i 相连，并经由公式 (1) 直接影响 X_i 的义务。噪声 U_i 确保整体方针 (1) 透露通用前提分布 p(X_i |PA_i)，噪声鸠合 U_1, . . . , U_n 是结合自力的。若是它们不是如许，则凭据配合原因道理，应存在另一个变量引起它们的相关性，因而该模型不具备足够的因果关系。
若是我们指定 U_1, . . . , U_n 的分布，则对 (1) 的递归应用使得我们可以较量获得的观测结合分布 p(X_1, . . . , X_n)。该分布具备继续自图的构造属性：它知足因果马尔可夫前提，即基于其父亲，每个 X_j 都自力于其非子女。
直观上，我们能够将自力噪声想象为在图中扩展的「信息探针」（雷同于在社交收集中舒展的闲话的自力元素）。其信息互相纠缠，以前提依靠性的萍踪呈现，反映出访用自力性磨练从观测数据中揣摩出图构造属性的或者性。
就像适才谁人闲话的类比一般，该萍踪不足以确定奇特的因果构造。具体来说，若是只有两个观测对象，它一定无法确定因果构造，因为随意非寻常前提自力性语句都至少需要三个变量。
曩昔十年，我们一向研究双变量问题。我们意识到经由额外的假设能够解决该问题，因为不光图拓扑在观测分布中留下萍踪，函数 f_i 也是如斯。这一点对于机械进修而言非常有趣，在机械进修中大量注重力被倾泻在函数类的属性上（如先验或容量器量），稍后我们再商议这一点。
在商议之前，我们需要注重 (1) 的其他两个属性。首先，SCM 说话能够直接将干涉公式化为点窜义务 (1) 子集的运算，如更改 U_i 或将 f_i（X_i）设置为常量。其次，具备噪声结合自力性的图构造解说可将从 (1) 获得的结合分布正准分化为因果前提句，这又叫做因果（或解纠缠，disentangled）分化
但公式 (2) 是独一一个将结合分布分化为构造义务 (1) 对应前提句的分化形式。我们认为它们是注释观测对象之间统计相关性的因果机制。是以，与 (3) 相反，该解纠缠分化将结合分布透露为因果机制的积。
统计进修的概念根蒂是结合分布 p(X_1, . . . , X_n)（个中平日存在一个 X_i 是 Y 指定的回响变量），我们假设要切近的函数类是回来 E(Y |X)。因果进修考虑更多类的假设，且追求行使结合分布具备因果分化 (2) 这一事实。它涉及因果前提句 p(X_i | PA_i)（即 (1) 中的函数 f_i 和 U_i 分布）、这些前提句彼此之间的关系，以及它们允许的干涉或更改。稍后我们将进行具体商议。
我接管过物理学练习，喜欢将一组耦合微分方程作为建模物理现象的黄金尺度。它匡助我们展望系统的将来行为，揣摩干涉对系统的影响，以及经由适当的平均步伐展望耦应时间演化生成的统计相关性。此外，它还许可我们获得对系统的看法，注释其运作，尤其是获取其因果构造。下面是一组耦合微分方程
其初始值 x(t_0) = x_0。凭据皮卡-林德勒夫定理，若是 f 知足利普希茨前提，则至少在局部局限内，存在独一解 x(t)。这表明，x 比来的将来值将由其之前的值决意。
基于此，我们能够确定向量 x(t) 的哪些条目导致 x(t+dt)，即因果构造。这解说，若是我们拥有一个可使用此类常微分方程 (4) 进行建模的物理系统，且该系统的解为 dx/dt（该导数仅显现在公式 (4) 的左侧），则我们能够直接读取其因果构造。
微分方程是对系统相对完整的描述，统计模型则可视为较为粗浅的描述。它平日不漫谈实时间，相反，它敷陈我们在实验前提不变的情形下某些变量若何执行对其他变量的展望。例如，若是我们使用某种类型的噪声驱动微分方程系统，或许按时间进行平均，则 x 的组件之间或者显现统计相关性，并被机械进修行使。
此类模型不克展望干涉的感化，然则其优势在于，它平日基于数据学得，而微分方程平日需要聪明的人类来提出。因果建模位于这两个极端之间，它旨在供应对干涉的懂得，并展望其影响。因果发现和进修试图在仅使用弱假设的前提下，以数据驱动的体式获得此类模型。
表 1 总结了整体状况，该表基于 Peters 等人（2017）的论文内容进行了改编。
表 1：模型的简洁分类。最具体的模型（第一行）是机械/物理模型，平日以微分方程的形式呈现。而另一个极端（最后一行）是纯统计模型，它可从数据中学得，但无法对建模副现象（epiphenomenon）之间关系以外的事情供应看法。因果模型是中央派，既抽象了物理实在（physical realism）又保留了回覆特定干涉或反事实问题的能力。读者能够查阅 Mooij 等人（2013）的论文，认识物理模型和构造因果模型之间的正式关联。
如今回到结合分布 p(X_1, . . . , X_n) 的解纠缠分化 (2)。凭据因果图，当 U_i 是自力的时，该分化平日是可行的，然则我们如今要考虑 (2) 中因子之间的自力性这一额外概念。我们能够行使视错觉 Beuchet Chair 来非正式地介绍它，如图 1 所示。
图 1：Beuchet Chair 由两个零丁物体组成，从损坏了物体和感知过程自力性的特定视角看，它们「构成」了一把椅子。
我们在感知物体时，大脑会假设该物体和其光线所包含信息抵达大脑的机制是互相自力的。我们能够从特定视角旁观该物体，来损坏这一假设。若是我们这么做了，则感知会失足：在 Beuchet Chair 的例子中，我们感知到椅子的三维构造，而实际中并没有如许一把椅子。
上述自力性假设是有效的，因为在实践中，它相符绝大多数情形，是以我们的大脑依靠自力于特定视角和光照的物体。雷同地，不该显现偶然巧合，好比以 2D 形式组合的 3D 构造，或许与纹理界限重合的暗影界限。在视觉研究中，这叫做通用视角假设（generic viewpoint assumption）。
同样地，若是我们环绕该物体移动，则特定视角随之改变，但我们假设整体生成过程中的其他变量（如光照、物体位置和构造）不受此影响。这是上述自力性所暗含的不变性，许可我们即使在没有立体视觉（活动恢复构造，structure from motion）的情形下也能揣摩 3D 信息。极端损坏此原则的一个例子是头戴式 VR 设备，它追踪感知者的头部位置，并对设备进行响应的调整。此类设备建立了与实际纰谬应的视觉场景。我们再来看另一个例子，假设一个数据集包含海拔高度 A 和年均气温 T。A 和 T 具备相关性，我们认为其原因在于高度对温度有因果感化。假设我们有两个如许的数据集，一个是奥地利，一个是瑞士。则两个结合分布或者判然不同，因为海拔高度的边缘分布 p(A) 分歧。
然则，前提句 p(T|A) 或者是雷同的，因为它们描述基于高度生成温度的物理机制。然而，当我们仅存眷整体结合分布，缺乏因果构造 A → T 的相关信息时，这种相似性就丢失了。因果分化 p(A)p(T|A) 包含的组件 p(T|A) 可泛化至分歧国度，而纠缠分化 p(T)p(A|T) 不具备这种稳健性。
当我们考虑系统中的干涉时，也会显现沟通的情形。对于准确展望干涉感化的模型，它需要具备稳健性，能从观测分布泛化至特定干涉分布。
自力因果机制（ICM）道理。系统变量的因果生成过程由多个自立模块组成，它们彼此之间不会互相影响。在概率案例中，这意味着每个变量基于其原因（即机制）的前提分布不会影响其他机制；
机制相关性器量（measures of dependence of mechanisms）。注重 p(X_i |PA_i) 和 p(X_j |PA_j ) 这两个机制的相关性不与随机变量 X_i and X_j 的统计相关性重合。在因果图中，好多随机变量具备相关性，即使这些机制是完全自力的。
图 2：若是 f 和 p_x 是自力的，则 p_Y 的峰值或者显现在 f 斜率较小、f^−1 斜率较大的区域。因而 p_Y 包含 f^−1 的信息。
我们回到从观测数据中发现因果关系的问题。若是存在合适的假设，如忠厚性，则我们有时可经由执行前提自力性磨练从观测数据中恢复底层图的属性。然则，该方式存在一些问题。个中之一是，在实践中，数据集平日是有限的，前提自力性磨练是非常难题的问题，尤其是当前提集一连多维时。
是以，尽管原则上岂论 SCM 中的函数具备如何的复杂度，遵循因果马尔可夫前提的前提自力性都成立，但对于有限数据集，前提自力性磨练在没有额外假设时是非常难题的。另一个问题是，在仅具备两个变量的案例中，前提自力性的三元概念不成立，是以马尔可夫前提没有有效感化。
对函数类作出假设能够解决上述两个问题。尤其是对机械进修而言，我们都知道在机械进修中，纰谬函数类进行假设，则有限样本泛化弗成能实现。具体而言，尽管一些进修算法是遍及一致的，即在无限样本限制下接近最小预期误差，但对于数据中的随意函数相关性，存在一些收敛很慢的情形。
是以对于给定样本数量，这取决于待进修问题是否达到低预期误差，统计进修理论以函数类复杂度器量供应概率包管。
回到因果关系，我们为 SCM 中函数假设对基于数据进修因果关系的必然性做出了直观注释。考虑一个仅具备两个观测对象的 SCM X → Y，则 (1) 酿成：
且
。如今假设 V 是从函数集 F = {f_v(x) ≡ f(x, v) | v ∈ supp(V)} 中选择的随机选择器变量。若是 f(x, v) 以一种不屈滑的体式依靠于 v，则从有限数据集中收集 SCM 相关信息是很难的，因为 V 不被观测，它在随意分歧的 f_v 之间随机切换。这促进了对复杂度的限制。一种天然的限制是假设一个加性噪声模型
若是 (7) 中的 f 腻滑依靠于 V，V 相对密集，则对复杂度的限制能够经由局部泰勒睁开式来促进。它极大降低了函数类的有效规模，若是没有此类假设，则后者会指数级依靠 supp(V) 的基数（cardinality）。
对函数类的限制不光使从数据中进修函数变得简洁，还可以打破双变量案例中因果之间的对称性：给定 X, Y 的分布（由加性噪声模型生成），无法在相反偏向拟合加性噪声模型（即 X 和 Y 的脚色交换）。这相符特定的泛型假设，U、X 是高斯分布，f 是线性函数的情形属于破例。它推广了 Shimizu 等人（2016）对于线性函数的结论，该概念可泛化至非线性重缩放、轮回、干扰因子（confounder）和多变量设置等情形。我们收集了一组因果揣摩基准问题，今朝已有大量方式能够检测出因果偏向，个中一些方式基于上述 Kolmogorov 复杂度模型构建，一些则直接进修将双变量分布分类为因果和非因果。
是以，对函数类的假设有助于解决因果揣摩问题。它们还可以匡助解决基于前提自力性磨练的因果发现方式的其他弱点。（前提）自力性磨练的近期进展首要依靠核函数类，来透露再生核希尔伯特空间（RKHS）中的概率分布。
是以，我们收集了一些证据，证实机械进修中的设法能够匡助解决之前被认为很难的因果关系问题。然则，相反偏向也同样有趣：因果关系可以匡助改善机械进修吗？今朝的机械进修（以及现代 AI 的相当多部门）是基于统计建模的，然则跟着这些方式变得遍及，其局限性也会加倍显着。
大约在 2009 或 2010 年，我们起头对若何行使因果关系改善机械进修感乐趣。具体而言，「神经收集坦克的都会传说」似乎能够解说些什么。在这个故事中，神经收集被练习用于以高正确率分类坦克，但之后发现该收集只是成功地聚焦于包含坦克类型信息的某个特征（如时间段或天色），问题出在数据收集过程中。在分歧情况下拍摄的坦克照片长进行测试时，此类系统没有展示出一点稳健性。
我进展包含因果关系的分类器可以对此类转变具备不变性，关于这个主题我之前使用非因果方式研究过 (Chapelle and Schölkopf, 2002)。我们起头思虑因果关系和协变量偏移之间的保持。我们知道因果机制应该具备不变性，雷同地，任何基于进修因果机制获得的分类器也应该具备不变性。然则，好多机械进修分类器不使用因果特征作为输入，我们注重到它们切实更经常解决非因果问题，即使用究竟特征来展望原因。
从 2010 年 4 月在雷伯格举办的院系 retreat 到 2011 年 7 月的 Dagstuhl 钻研会，我与 Dominik、Jonas、Joris Mooij、Kun Zhang、Bob Williamson 等进行了大量商议，我们关于不变性的设法在此时代逐渐成熟。
当我收到 NIPS 会议 Posner 演讲邀请后，将这些设法构建成结论的压力显着更大了。那时，我需要扶植新的马普所，很难匀出时间处理这件事并作出进展。是以，我和 Dominik 决意在黑丛林度假屋待一周全力处理这件事。
在 2011 年 11 月的那一周中，我们完成了草稿 invariant.tex，之后不久我们将其送达到 arXiv 网站。这篇论文认为因果偏向对于特定机械进修问题非常主要，对协变量偏移连结稳健性（不变性）是能够等候的，对于从因展望果的进修问题，迁徙也变得加倍简洁，这为半监视进修打了头阵。
论文地址：https://arxiv.org/abs/1112.2738
假设底层因果图是 X → Y，同时我们测验进修映射 X → Y。则该案例的因果分化 (2) 为：
ICM 道理认为结合分布因果分化中的模块无法彼此影响。这意味着，p(X) 不该包含关于 p(Y |X) 的任何信息，即半监视进修是徒劳的，除非它使用来自无标注数据的额外 p(X) 信息来改善对 p(Y |X = x) 的估量。那么反偏向呢？半监视进修在相反的情形下是或者的吗？谜底是「Yes」，拜见第 5 章使用自力因果机制的因果揣摩研究。
该研究与 Povilas Daniušis 等人合作完成（2010），它提出对输入和给定输入的输出前提句之间相关性的器量方式，并展示了若是该相关性在因果偏向上为 0 时，则它在相反偏向上为正。是以，因果自力性和因果偏向中的机制表明，在反偏向中（即非因果进修），输入变量的分布应包含给定输入的输出前提句的信息，即机械进修平日存眷的量。我之前研究过半监视进修，如今能够明确的是，当测验使用无标注输入改善对输出的估量时，给定输入的输出前提句的信息恰是 SSL 所需要的。是以，我们展望 SSL 无法处理因果进修问题，但适合处理非因果问题。
你能够假设因果偏向应该对分类器可否抗击匹敌冲击发生影响。比来，这类冲击变得风行，它们包含对输入进行的微小更改，人类视察者无法察觉此类更改，但它们的确改变了分类器的输出。
这在多个维度上与因果关系相关。首先，这些冲击明确组成了对展望式机械进修的底层 IID 假设的损坏。若是我们想做的是在 IID 设置下执行展望，则统计进修完全充沛。而在匹敌情况下，点窜后的测试样本和练习样本不来自统一个分布：它们组成了干涉，干涉经优化后可用来揭示（非因果）p(y|x) 的非稳健性。
匹敌现象还解说今朝分类器所具备的稳健性与人类分歧。若是我们知道两种稳健性器量，我们会测验最大化个中一个、最小化此外一个。今朝的方式可被视为对此的粗略切近，将人类的稳健性有效建模为简洁的数学鸠合，如半径 > 0 的球 l_p：它们平日试图找出给分类器输出带来最大改变的样本，不外需遵循一项限制，即这些样本必需在 l_p 球内（以像素器量形式）。这也导致匹敌练习的步伐雷同于在「虚拟」样本上练习分类器使其具备不变性的旧方式。
如今，考虑将模型分化为多个组件（拜见 (3)）。若是这些组件对应因果机制，则我们估计模型具备必然水平的稳健性，因为因果机制是天然属性。具体而言，若是我们在因果偏向上进修分类器，则该分类器具备必然的稳健性。你或者是以假设，对于因果进修问题（从因展望果），我们弗成能或至少更难找到匹敌样本。近期研究支撑这一概念：经由建模因果生成偏向来解决非因果分类问题是一种有效的匹敌冲击防御方式，在视觉范畴中该方式叫做合成剖析（analysis by synthesis）。
更普遍来讲，对于具备两个以上极点的图，我们能够揣摩出其构造由多个自立模块组成，如因果分化 (2) 所供应的组件，这类构造应该对置换或点窜单个组件具备必然的稳健性。稍后我们再来讲这个话题。
稳健性还应该在研究策略行为时施展感化，策略行为即考虑其他智能体（包罗 AI 智能体）的动作后所做出的决议或动作。考虑一个试图基于一组特征展望成功了偿信用卡概率的系统。这组特征包罗小我当前债务及其地址。为了获得更高的信用积分，人们会（经由了偿行为）更改其当前债务金额，或许将小我地址更调到更富足的区域。前者对了偿债务的概率有正面的因果感化，尔后者则相反。是以，我们能够仅使用因果特征作为输入，构建一个对此类策略行为具备更强稳健性的得分系统。
假设我们想构建一个在多个情况中解决多个义务的系统。此类模型能够行使进修视角作为压缩。基于练习集 (x_1, y_1), . . . ,(x_n, y_n) 进修函数 f（从 x 到 y 的映射）可被视为 y 基于 x 的前提压缩。其思路是，我们能够找出最紧凑的系统来基于 x_1, . . . , x_n 恢复 y_1, . . . , y_n。
假设爱丽丝想与鲍勃交流标签，二人均知道输入。首先，他们商定将要使用的函数 F 的有限集。然后爱丽丝从函数集中选出最优函数并敷陈鲍勃（拔取函数的数量取决于函数集巨细，也或者取决于二人商定的先验概率）。此外，爱丽丝或者还要敷陈鲍勃函数无法准确分类的输入 x_i 的索引 i，即 f(x_i) ≠ y_i。
在选择大量函数类（编码函数索引需要好多成本）和许可大量练习误差（需要分隔编码）之间存在衡量。该衡量完美对应统计进修理论中的尺度 VC 界限（standard VC bound）。
你能够将其泛化至多义务情况：假设我们有多个数据集，它们从雷同但不沟通的 SCM 中采样得来。若是这些 SCM 共享大部门组件，则我们能够经由编码 SCM 中的函数来压缩从多个 SCM 中采样获得的多个数据集。准确的构造（在双变量案例中，这应该等于准确的因果偏向）应该是最紧凑的一个，因为它包含多个数据集共享的多个函数，是以只需要执行一次编码即可。
将统计进修向因果进修鞭策的规划与强化进修也有关系。强化进修曩昔（如今平日也）被认为是很难处理实际世界高维数据的进修方式，原因之一是作为反馈的强化旌旗比拟监视进修中的标签信息要稀少好多。DeepQ 智能体取得了其时社区认为弗成能实现的究竟，但与动物智能比拟它仍然存在一些显著缺陷。个中两个首要问题能够表述为：
问题 1：为什么强化进修在原始高维 ATARI 游戏中要比在降采样版本中更难？
对于人类而言，降低游戏屏幕差别率会使问题变难，这恰是 DeepQ 系统的运行道理。动物能够凭据「配合命运」或对干涉的配合回响，对像素进行分组，从而识别物体（在较量机游戏中这叫做「sprite」）。是以该问题与「物体由什么组成」这个问题相关，后者不光关乎感知还涉及我们与世界的交互体式。我们能够捡起某个物体，但无法捡起半个物体。是以物体也对应可被零丁干涉或操控的模块化构造。物体由变换下的行为来界说，这个深刻概念不光适用于心理学，也适用于数学。
问题 2：为什么在打乱重放（replay）数据后，强化进修会变得简洁？
因为智能体活着界中浪荡时，它对其看到的数据发生影响，因而统计数据跟着时间发生改变。这损坏了 IID 假设，如前所述，DeepQ 智能体存储之前数据并在其上从新练习（作者将该过程比作做梦），从而行使尺度 IID 函数进修手艺。然则，时间顺序包含动物智能所使用的信息。信息不光包含在时间顺序中，还包含在统计数据的迟缓改变可以高效建立多域设置这一事实中。
多域数据被证实有助于识别因果（也是稳健）特征，更普遍来讲，它能够寻找不变性，从而搜寻因果构造。这有助于强化进修智能体找到模型中的稳健组件，这些组件有望泛化至状况空间的其他部门。一种体式是使用 SCM 布置基于模型的强化进修，该方式能够匡助解决强化进修中的干扰问题，在这类问题中时间转变和时间不变的未观测干扰因子会影响动作和奖励。在此类方式中，非平稳性是特征而非 bug，智能体积极寻找分歧于已知区域的区域，以挑战现有模型，并认识哪些组件具备稳健性。这种搜刮可被视为一种内涵念头，该概念与动物行为学中的潜在进修（latent learning）有关，它在强化进修中获得了正视。
最后，因果进修中还有一个伟大的开放区域是与动态过程的保持。我们或者无邪地认为因果关系平日与时间有关，但大部门现有因果模型并非如斯。例如海拔高度与温度谁人例子，底层的时间物理过程确保更高的处所温度更低。在涉及粒子活动的微观方程条理上，存在清楚的因果构造（如上所述，微分方程切实指明变量的哪些之前值对当前值发生影响）。然则，在说起高度和温度之间的相关性或因果关系时，我们无需担忧时间构造的细节，我们使用的数据集没有显现时间信息，我们能够揣摩对温度或高度进行干涉后，数据聚会酿成什么样。我们需要思虑若何在这些分歧的描述条理之间架起桥梁。
在推导出可以描述耦合系统干涉行为的 SCM 方面已经取得了一些进展，耦合系统处于平衡状况，且能够用「绝热」体式干扰，并泛化至振动系统。为什么简洁的 SCM 平日是可推导的？这不存在基本性原因。SCM 是对微分方程底层系统的高级抽象，此类方程只在合适的高级变量被界说时才可以被推导，这或者是破例而非划定。
比拟机械进修主流，强化进修与因果关系研究更接近，因为它有时高效直接地估量执行某个行为的概率（在策略进修）。然则，一旦涉及离策略进修，稀奇是在批量（或观测）设置下，因果关系的问题就变得很微妙。
传统的因果发现和推理假设单元是由因果图保持的随机变量。然则，实际世界观测究竟平日无法在一起头就构造化为这类单元，如图像中的对象。因果透露进修这一新兴范畴致力于从数据中进修这些变量，就像超出符号 AI 的机械进修，不需要为算法操控的符号供应先验。界说与因果模型相关的对象或变量等同于对更具体的世界模型进行粗拙模拟。在合适的前提下，对微观模型的粗拙模拟能够发生构造模型，这些微观模型包罗微观构造方程模型、常微分方程和时间聚应时序（temporally aggregated time serie）。尽管经济学、医疗或心理学中的每一个因果模型使用的变量是对较初级概念的抽象，然则表述粗拙变量允许因果模型（具备界说规范的干涉）的通用前提是很有难度的。
识别允许因果模型的合适单元这一义务对于人类和机械智能都有难度，然则它与现代机械进修进修有意义的数据透露这一通用方针是一致的，「有意义」透露稳健、可迁徙、可注释或平正。为了却合构造因果建模 (1) 和透露进修，我们应将 SCM 嵌入到更大的机械进修模型中，该模型的输入和输出或者是高维和非构造化的，然则其内涵工作机制至少部门受 SCM 掌握。实现这一点的一种体式是，将未注释变量实现为生成模型中的（潜在）噪声变量。此外，还需注重 SCM 和现代生成模型之间存在天然保持：它们都使用重参数化技能，包罗使盼望随机性作为模型的（外生）输入（在 SCM 中，这些是未注释变量）而非内涵组件。
复杂世界中的人工或天然智能面子临的资源有限。这涉及到练习数据，即每个义务/范畴的数据有限，是以需要追求池化/数据重用方式，这与人类执行大规模标注工作的当前行业实践形成光鲜对比。它还涉及较量资源的问题：动物的大脑规模存在限制，进化神经科学中有好多大脑区域被从新规划的示例。雷同的规模和能量限制也显现在机械中，因为机械进修方式嵌入的（小型）物理设备或者是电池供电。是以，将来稳健地解决大量实际问题的 AI 模型有或者需要重用组件，这要求组件对多个义务和情况具备稳健性。
实现该方针的一种优雅体式是，行使可以反映世界对应模块的模块化构造。换言之，若是世界的确是模块化的，那么必然水平上世界的分歧组件在大量情况、义务和设置中施展感化，模型需要郑重行使对应模块。例如，若是天然光线的转变（如太阳、云的位置等）表明视觉情况的光照前提多达数个数量级，则人类神经系统中的视觉处理算法应行使可以因子化这些转变的方式，而不是针对每一种光照前提构建分歧的人脸识别器。
若是我们的大脑可以经由增益掌握机制填补光线转变，那么该机制无需与带来光照转变的物理机制有任何干系。然则，它会在模块化构造中施展感化，这对应于物理机制活着界的模块化构造中的感化。这会使向我们无法直接识其余世界展示特定形式的构造同构（structural isomorphism）的模型显现误差，这很有趣，因为最终我们的大脑什么都没做，只是将神经元旌旗转换为其他神经元旌旗。
进修此类模型的合理概括偏置是寻找自力因果机制，有竞争力的练习能够施展感化：对于模式识别义务，Parascandolo 等人（2018）展示了进修包含自力机制的因果模型有助于在迥异范畴中实现模块迁徙。在这篇研究中，手写字符被一组未知机制（包罗平移、噪声和对照倒置）扭曲。神经收集试图经由一组模块去除这些变换，这组模块中的每一个都专注于一个机制。
对于随意输入，每个模块测验生成准确的输出，然后判别器来差别哪个模块结果最好。获胜的模块经由梯度下降进行练习，进一步提拔其对该输入的机能。最终系统学得平移、倒置或去噪等机制，这些机制可迁徙至来自其他分布的数据，如梵语字符。近期，这已成长到新的阶段：将一组动态模块嵌入到轮回神经收集中，注重力机制对此进行协调。这使得进修模块的动态过程大部门时间自力运转，但偶然也会彼此交互。
进修解纠缠透露（disentangled representation）
上文我们商量了 ICM 道理，它既表明 (1) 中 SCM 噪声项的自力性，又进而解说解纠缠透露具备可行性：
以及前提句 p(S_i | PA_i) 可被自力操控，且在大量相关问题上具备壮大的不变性。假设我们进展行使来自数据的自力机制 (11) 重建此类解纠缠透露，然则没有因果变量 S_i 作为先验，只有（或者是高维度的）X = (X_1, . . . , X_d)（下文中，我们将 X 想象为具备像素 X_1, . . . , X_d 的图像），基于此我们应构建因果变量 S_1, . . . , S_n (n << d) 以及机制（拜见 (1)），
建模 S_i 中的因果关系。为此，我们首先使用编码器 q : R^d → R^n 将 X 输入潜在「瓶颈」透露，该透露包含未注释噪声变量 U = (U_1, . . . , U_n)。然后是构造化义务 f_1, . . . , f_n 确定的映射 f(U)。最后，我们使用解码器 p : R^n → R^d。若是 n 充沛大，则该系统可行使重建误差练习，以在观测图像上知足 p ◦ f ◦ q ≈ id。为了使其具备因果关系，我们使用 ICM 道理，即我们应使 U_i 具备统计自力性，使机制 f_i 自力。这能够经由确保它们对多个问题具备不变性或可被自力干涉来实现：若是我们操控个中一些，它们应该仍能生成有效图像，这能够经由生成匹敌收集的判别器来练习。
我们完美地操控了完整机制 f_i，如今我们来商议干涉潜在噪声变量的特例。一种干涉体式是用基于其他输入图像较量出的对应值替代噪声变量，该步伐被 Besserve 等人 (2018b) 称为「杂合」（hybridization）。在极端情形下，我们能够杂合每个组件都较量自另一个练习样本的潜在向量。对于 IID 练习设置，这些潜在向量具备统计自力性组件。
在此类架构中，编码器是识别或重建世界中因果驱动身分的非因果映射。如许，机制可被公式化，也可在分歧义务中迁徙。解码器在（驱动因果模型噪声的）低维潜在透露和高维世界之间竖立保持，这部门组成了因果生成图像模型。ICM 假设表明，若是潜在透露重建真正的因果变量（以及驱动它们的噪声），则对这些噪声（以及被驱动的机制）的干涉是许可的，且可以有效生成图像数据。
进修干涉式世界模型（interventional world model）和推理
现代透露进修擅长为保留相关统计属性的数据进修透露。然则，如许做没有考虑到变量的因果属性，也就是说它不关心它所剖析或重建变量的干涉属性。我进展将来，因果关系能够在鞭策透露进修更进一步的道路上施展主要感化，使其超出统计相关性构造的透露，向支撑干涉、规划和推理的模型进步，实现 Konrad Lorenz「像在想象空间中动作那样思虑」的概念。这最终需要回首小我行为和设想其他场景的能力，或者需要自由意志。自我意识的生物功能或者与小我的 Lorenzian 想象空间中透露自身的变量有关，自由意志或者是交流该变量所执动作作的体式，这对社会和文化进修都很主要，这个话题尚未进入机械进修研究，尽管它是人类智能的焦点。
第三届机械之心「Synced Machine Intelligence Awards」年度奖项评选正在进行中。本次评选设置六大奖项，重点存眷人工智能公司的产物、应用案例和财富落地情形，基于真实客观的财富示意筛选出最值得存眷的企业，为行业带来实际的参考价格。
参选报名日期：2019 年 10 月 23 日~2019 年 12 月 15 日评审期：2019 年 12 月 16 日~2019 年 12 月 31 日
