美国科学院院士迈克尔·乔丹：需要解决AI“不确定性”问题

发布日期： 2023-09-07 16:54:46 来源：界面新闻

“如果你问ChatGPT‘你对刚刚写的内容你确定吗？’，它就会无法回答这个问题。”9月7日，在INCLUSION·外滩大会上，美国科学院、美国工程院、美国艺术与科学院三院院士迈克尔·乔丹（Michael I. Jordan）上发表主题演讲，讨论人工智能的“不确定性”问题时，抛出提问称。

即使处于ChatGPT引发的“人工智能2.0”时代，大语言模型已经有明确落地场景，对于AI技术的研究仍存诸多问题。“ChatGPT也没有办法对不确定性进行量化，我们需要去解决这个问题，找到一个可能的方法去应对这些挑战。”乔丹称，他提及，人类非常擅长处理这些此类“不确定性”问题，知道如何去沟通不确定信息，提出应对方案。

解决人工智能的“不确定性”问题，一直是人工智能领域重要课题。涉及到在金融等关键领域的落地应用，“金融科技归根结底讲的是不确定性的技术。如果说不确定性应对不好，你不可能有非常好的金融科技技术。”乔丹表示。

(资料图)

乔丹是机器学习领域的先驱，通过在机器学习、概率学、统计学以及图模型这四者间建立联系，为机器学习奠定了数学与计算基础。他的重要贡献包括指出了机器学习与统计学之间的联系，并推动机器学习界广泛认识到贝叶斯网络的重要性。他还以近似推断变分方法的形式化、最大期望算法在机器学习的普及方面的工作而知名。他曾获得IEEE约翰·冯·诺依曼奖章、国际人工智能联合会议卓越研究奖和2022年第一届世界顶尖科学家协会奖。

对于乔丹而言，如何应对AI系统的不确定性，已经是其日常的工作中需要应对的事物。他提到，在科学研究领域，一个名为“Alpha Fold”的深度学习蛋白质结构预测系统是该领域的热门，由于Alpha Fold在蛋白质结构预测的准确度远远高于其他任何程序，这一方案被认为可解决困扰生物学长达半个世纪的蛋白质折叠结构预测难题。

“Alpha Fold主要用于蛋白质预测，其预测能力强于人，某种程度上来讲是有智能的，但是它依赖的是人的数据，依赖的是有标记的蛋白质结构数据，这个可以用于药品的开发、药品的监管。”乔丹称，他介绍，Alpha Fold推动了学界时下一种流行研究方法——基于预测驱动的推导。

“很多科学家用（AI）预测的蛋白质数据，而不是真实的蛋白质数据，来作为真实数据使用，可以实现上亿级别的蛋白质结构预测，如果用人力的X-射线晶体结构分析技术的话，只能做几十万级别的预测。”乔丹说，“但是，我们要区分一下：基于真实的数据和电脑产生的数据，这两者有差别吗？会不会产生问题？”

实际上，对于结构生物学研究而言，预测并不陌生，并一直作为实验科学的辅助存在。至于预测与实验的结果，有时候一样，很多时候是不一样。也是科学姐近年激烈探讨的热门话题，乔丹坦言，对于预测的“偏差”仍无法忽略，甚至可能因为极小的预测偏差，最终会导致实验结果出现极大的不同。

“有很多人说，人工智能会替代人，用机器来替代人，我觉得不是这样的。我们应该将技术看作赋能人类的一种工具。”乔丹说，ChatGPT也没有办法对“不确定性”进行量化，所以需要去解决这个问题，要找到一个可能的方法去应对这些挑战。

乔丹称，应对AI的不确定性，一定程度可借鉴现实生活中的方案。他称，人们可以设计一种集体智能体，“蚂蚁（蚂蚁集团）就是一个很典型的例子，它创造了双边市场，把商户和客户有效联结在一起，我觉得这是一个智能的集体，具有真正的智能。”他说，通过设立一种机制，让集体更加公平、可扩展和具备稳定性，这才是未来解决人工智能问题的主要方向。