免费咨询热线：400-699-1716 
微信
APP
管理会计研究：那些AI还做不到的事
文章来源：CMA官微
发布时间：2020-04-26 15:42
阅读：2373次
不到十年的时间里，计算机已经非常擅长疾病诊断、语言翻译和语音转录。它们在复杂的策略游戏中技高一筹，会制作逼真的图像，还能为电子邮件提供实用的回复内容。
尽管成就斐然，人工智能的弱点仍十分突出。
面对从未见过的情景，机器学习系统可能会受欺骗或干扰。人类驾驶员可以轻松应对的场景，却让无人驾驶汽车束手无策。AI系统经过耗时费力的训练来执行一项任务（比如识别猫）之后，执行另一项任务（识别狗）又得从头学起。在这个过程中，它可能会丢失在原始任务中掌握的一些知识。计算机科学家称之为“灾难性遗忘 (catastrophic forgetting)”。
这些弱点的共性是：它们之所以存在是因为AI系统不懂因果关系。AI系统观察到一些事件与其他事件的相互关联，但不确定是哪些事直接导致另一些事的发生。这好比是，你知道云的出现增加了降雨的可能性，而你并不知道是云产生了雨。
Elias Bareinboim：AI系统对因果关系一无所知。
我们所说的直觉判断力，其中很重要的一点是理解因果关系，这正是目前AI系统“一无所知”的领域，Elias Bareinboim说道。他当然清楚这一点：作为哥伦比亚大学新成立的因果人工智能实验室主任，他正站在寻求该问题解决方案的最前沿。
他的观点是在人工智能研究中注入因果关系新科学的洞见。这一科学领域的创建在很大程度上归功于图灵奖获得者Judea Pearl，他视Bareinboim为自己的门徒。
如Bareinboim和Pearl所言，AI发现相关关系（比如，云增加了降雨的可能性）的能力不过是因果推理的最低层级。它在过去十年表现可喜，推动了以深度学习著称的AI技术繁荣。借助大量的常见情景数据，这种方法可以做出很好的预测。计算机能推测出带有某些症状的患者罹患某种疾病的概率，因为它知道数千以至数百万名相同症状的其他患者罹患这种疾病的频率。
然而，越来越多的人认为，如果计算机不能很好地掌握因果关系，AI的发展将停滞不前。一旦理解了某些事物是其他事物发生的原因，机器就不必一直从头学习每件事——它们可以将某个领域学到的知识应用到另一个领域。假如机器会运用直觉判断力，我们还能给予更多信任，让它们独立完成任务，因为我们知道它们不大可能犯愚蠢的错误。
目前，AI从特定行动推断出结果的能力还十分有限。强化学习的一项技术能使机器掌握国际象棋和围棋这类游戏，这种方法通过大量的“试错“来辨别哪些走步将实质上帮助机器致胜。但在更棘手的现实情景中，这种方法就不管用了。它甚至无法让机器大致了解该如何玩其他游戏。
因果思维的更高一个层级表现为对事物发生原因进行推理的能力，能提出假设 (what if) 问题。病患在临床试验中死亡；这是试验药物所致或是其他原因？学校考试分数下降；哪些政策调整最有利于成绩提高？此类推理远非目前人工智能能力所及。
缔造奇迹
在里约热内卢联邦大学攻读完计算机科学硕士课程后，Bareinboim怀着赋予计算机因果推理能力的梦想，于2008年来到美国。他欣然投师加州大学洛杉矶分校计算机科学家和统计学家Judea Pearl门下。现年83岁的Pearl是因果推理领域独领风骚的巨匠，为什么开发通晓因果推理的AI如此困难，我们从他的学术生涯可见一斑。
即使是受过专业教育的科学家也常常把相关关系误认作因果关系——或犯相反的错误，就连合理的因果关系也不敢断定。例如，20世纪50年代，一些知名统计学家在烟草是否会致癌这个问题上纠缠不清。他们主张，如果没有将人们随机分为吸烟者和非吸烟者进行实验，就不能排除某些未知压力或某种基因导致人们吸烟和患肺癌的可能性。
吸烟致癌的事实最终得到明确证实，但这本无需大费周折。此后，Pearl和其他统计学家设计了一种数学方法，以确定支持某个因果关系说法需要用到哪些事实。Pearl的方法表明，鉴于吸烟行为和肺癌的普遍性，导致两者发生的独立因素存在的可能性微乎其微。
反过来，Pearl的方法还可在相关关系无法用来确定因果关系时帮助识别。德国马克斯-普朗克智能系统研究所主任Bernhard Schölkopf从事于因果人工智能技术研究，他说如果知道某个国家鹳的总数，就可以预测该国的出生率。这不是因为鹳催生了婴儿，或婴儿引来了鹳，但有可能是经济发展带来了更多的婴儿和鹳。Schölkopf 说，Pearl帮助统计学家和计算机科学家找到了攻克类似难题的方法。
Judea Pearl：他的因果推理理论彻底改变了科学。
管理会计CMA Pearl的研究还推动了基于因果的贝叶斯网络（通过筛选海量数据找出哪些变量对其他变量产生最大影响的软件）的发展。例如，位于马萨诸塞州剑桥的GNS Healthcare公司利用这些技术给研究人员提供建议，告知哪些实验有望成功。
GNS与多发性骨髓瘤（血癌的一种）研究人员合作开展一个项目。研究人员想知道为什么一些接受干细胞移植（一种常见的治疗方式）的患者比其他患者寿命更长。该软件在包含30,000个变量的数据中淘选后，指向一些看似极有可能的原因。生物统计学家和疾病专家把目光聚集在特定的一个原因上：患者体内的某种蛋白质水平。因此，研究人员就可以进行针对性的临床试验，观察体内含该蛋白质的患者是否真的在治疗中受益更多。“这比在实验室里东碰西撞找答案快多了，”GNS联合创始人Iya Khalil说道。
尽管如此，Pearl和其他学者在因果理论上取得了进展，但对深度学习的影响仍然有限，因为深度学习无需过多考虑因果关系就可以确认相关关系。Bareinboim正在准备向下一步迈进：让计算机成为人类因果关系探索更实用的工具。
他的一个测试版系统可以帮助科学家确定他们的数据是否足以回答某个因果问题。马克斯-普朗克进化人类学研究所的人类学家Richard McElreath正在使用该软件指导关于人类为什么会有更年期（其他灵长类动物没有经历这一阶段）的研究。
这种假说是，年长女性的生育能力下降有利于早期人类社会，因为付出更多精力照顾孙辈的女性最终繁衍了更多的后代。但当今社会有什么证据可以支持祖父母身边的孩子表现更出色的说法？人类学家不能简单地将是否与祖父母同住的孩子的教育或医疗结果进行比较。有一种统计学家称之为“混杂因素”：祖母更有可能和最需要帮助的孩子一起生活。Bareinboim的软件能帮助McElreath 分辨对跟随祖父母长大的孩子的研究中哪些包含最少的混杂因素，这些研究能帮助他回答因果问题。“这是一个巨大的进步，”McElreath说道。
最后的难关
Bareinboim语速很快，双手不时地比划，仿佛试图平衡一个心理方程式的两端。10月份我到访哥伦比亚大学的时候，学期已过半，但他的办公室看上去几乎没用过——墙上和书架上都空荡荡的，只有一台雅致的Mac电脑和一块写满方程式和图表的白板——就像狂人教授漫画的细节部分。
他对屋内的现状毫不在乎，说他一直忙于做有关因果革命两面性的报告。Bareinboim认为，他从事的工作不仅有机会将因果思维与机器融合，还能提高人类的因果思维能力。
他表示，让人们更深入地思考因果关系，未必比教机器学习容易得多。从分子生物学到公共政策，遍及不同学科的研究人员有时会满足于发现并非真正源于因果关系的相关性。比如，一些研究表明饮酒会缩短寿命，另一些则显示适量饮酒有益无害，甚至还有研究发现嗜酒之徒比滴酒不沾的人活得更长。这种被称为“再现性危机”的现象，不仅出现在医学和营养学领域，还有心理学和经济学领域。“可以看出，这些推断的结果并不可靠，” Bareinboim说道。“每隔几年，我们就推翻之前的结论。”
他主张，任何人提出假设问题时——不论是医学研究人员开展临床试验，还是社会科学家开发试点项目，甚至是网络出版商准备A/B测试——都不应该只从搜集数据出发，还应运用Pearl的因果逻辑和类似Bareinboim的软件，确定现有数据是否可能就因果假设给出答案。最后，他设想将来会出现“自动化科学家”软件：人类可以构想出因果问题并探索答案，软件会结合因果推断理论和机器学习技术，排除那些无法给出答案的实验。这可能使科学家们避免陷入大量花费高昂的“死胡同”困境。
Bareinboim在去年秋天做完一场报告后，跟我坐在麻省理工学院斯隆管理学院的大厅里，他描述了这个愿景。“我们这的一座楼里大约有200人，”他说。那些社会科学家，或任何地方的任何科学家要如何确定应该做哪些实验、搜集哪些数据点？依靠他们的直觉：“他们试图根据目前认识的情况，看清事情的发展方向。”
他说，这种方法在本质上存在局限性，因为人类科学家在规划一项实验时，大脑中只能同时考虑少数的变量。计算机则不同，它可以弄清几百个或几千个变量之间的相互影响。基于Pearl 的因果推理微积分“基本原则”编码生成的“自动化科学家”能预测新变量集合可能带来的结果，它能明确指出人类研究员应该把时间用在哪些实验上。如果能更充分地了解一些因果相关因素，一些仅在德克萨斯州有效的公共政策，或许放到加利福尼亚州也可以适用。科学家再也不必“在黑暗中摸索实验”了，Bareinboim说道。
而且，他认为这一切并不遥远：“这是胜利前最后的难关。”
假设问题 (What if?)
跨越这道难关可能需要一些眼下正在开发的技术。例如，因深度学习研究获得2018年图灵奖的蒙特利尔大学计算机科学家Yoshua Bengio，正在尝试让神经网络（作为深度学习核心的一个软件）进行“元学习”，发现事物的起因。
译者注：“深度学习三巨头”之称的Yoshua Bengio、Yann LeCun、Geoffrey Hinton共同获得了2018年的图灵奖
在目前的情况下，如果想让神经网络察觉人们在跳舞，你得向它展示大量跳舞的图像。如果想让它识别人们在跑步，你得展示大量跑步的图像。该系统会通过识别图像中的不同特征，如手和手臂的位置，学会区分跑步和跳舞。但Bengio指出，通过分析不同数据集中相似或“不变”的事物，可以获得关于世界的基础知识。或许，神经网络能理解腿部的运动自然产生跑步和跳舞的活动。或许，看过这些例子和其他一些显示人们离地几英尺的情况，机器可能最终会了解重力及其如何影响人类活动。随着时间推移，对不同数据集中一致的变量进行足够的元学习后，计算机能获得在许多领域中可重复使用的因果知识。
Pearl认为，只有通晓因果推理，AI才能实现真正的智能。他说，因果推理不是实现通用人工智能的充分条件，但却是一个必要条件，因为它会引发认知核心的内省。Pearl还表示，“What if”这类假设问题“是科学、道德态度、自由意志和意识的基础部分”。
Pearl不愿去预测计算机需要多久才能掌握强大的因果推理能力。“我不是未来主义者，“他说。不过他认为，无论如何，第一步应该先开发机器学习工具，将数据和现有科学知识相结合：“人类大脑存储的大量知识尚未得到利用。”
Pearl认为，只有通晓因果推理，AI才能实现真正的智能，因果推理会引发认知核心的内省。
2022年CMA最新资料包领取
请大家认真填写以下信息，获取2025年CMA学习资料包，会以网盘链接的形式给到大家，点击免费领取后请尽快保存。
*姓名不能为空
*手机号错误
*验证码错误
考试问答
Sally
讲师认证：CMA中文考试全球高分金奖
CICPA会员，CMA会员，新三板公司副总经理兼财务总监; 15年财务管理经验。4年+财经教学经验，秉持“教其知识，育其智慧，授人以渔，知行合一”的教学理念，倾己所有教学，不仅讲解细致，逻辑清楚，更能结合案例及实战经验，帮助学员学员轻松理解。温柔耐心，知识丰富，是被学生誉为“指路明灯”的实战派讲师，
免费下载老师推荐的学习资料
免费直播
