郭毅可：未来人机共生的世界里，人与机器如何相处？

郭毅可：未来人机共生的世界里，人与机器如何相处？台州电视台新闻综合频道 在外界看来，近几年的人工智能正在如火如荼地发展壮大，而在香港浸会大学副校长、欧洲科学院院士郭毅可看来，人工智能还有很多问题需要研究。在 2020 上海静安国际大数据论坛上，郭毅可院士

在外界看来，近几年的人工智能正在如火如荼地发展壮大，而在香港浸会大学副校长、欧洲科学院院士郭毅可看来，人工智能还有很多问题需要研究。在 2020 上海静安国际大数据论坛上，郭毅可院士从机器伦理出发，提出了一些对人工智能的冷思考，并展望了一个人机共生的未来世界。

对人工智能的冷思考

郭毅可教授认为，现阶段我们对于机器的理解是非常浅薄的。现阶段的技术是用效用函数向机器表达行为，但是无法告诉机器什么是对的行为。我们把机器行为转化为对效用函数的优化问题，在这过程中失去了许多对行为的正确性和目的性的阐述。其中的原因是，效用函数不能够保证与提出的目标相一致，因为将目标转为效用函数不一定是准确的。同时它的结果并不一定保证跟我们的目的相吻合。

另外，人们还无法理解机器行为的缘由。当机器做出一个行为之后，我们不能知道是通过哪些优化工作做到的。现在理解机器人的困难在于今天的机器不理解人教育它的目的，它理解的是一个优化函数，这是一个根本的缺陷。

对人工智能的重新思考

面对目前人工智能的缺陷，郭毅可院士提出我们必须要重新思考未来的人工智能。

目前，在机器伦理的研究领域，其中比较有影响力的是 Stuart Russell 教授，他有本著作叫《人类的可兼容》（Human Compatible）。在这本关于未来人工智能发展的书中，他提出下一代人工智能的三大原则：第一是对人有利（A law of Altruism），机器的目标是学习人的需求和喜好，以最大化人类价值；第二是谦逊法则 (A law of humility)；第三个原则是机器的工作是要了解更多人们的需求 (A law of learning)，通过对人行为的观察和与人的交流来理解人类价值。

具体来讲，就是机器必须是利人主义，而不是为自己的目标最大化。另外，机器无法一下子理解人类价值，而是需要通过观察人类的行为、与人进行交流来获得。这一过程很像训练一个小孩，教他做人的基本道理，需要通过观察和学习来获得。训练机器也是这样，开始的时候告诉它常识、基本的规则和一些公允的价值，之后具体的工作、行为是怎么样的，都需要机器通过观察，通过积累数据不断学习并获得知识。

未来人机共生的世界

在这一过程中还有重要的一点是：机器的目标是不确定的，它是在学习过程中间不断强化的。这也就是为什么强调机器与人的交互。未来，机器与人类的共生社会中，机器学习是互相与人交流的过程。

另一方面，人要理解机器的行为，要理解它做事情的目的是什么，为什么这么做，要能解释机器的行为。而机器要理解人的意图，这个目标不是人给的，而是它自己学习出来的。

下一阶段人工智能的研究将以人和机器的有效交互为出发点。未来，不是人给机器一个任务，机器执行任务就完事，而是要有一个不断与人交互学习的过程，来逐步完成一个有利于人的任务。

最后，郭毅可教授总结道，未来机器学习和人工智能的进程，不求让机器做得多，但求要机器做得对。我们不是在制造一个仆人，而是一个伙伴。仆人不需要交流，人让它做什么它就做什么，人也不需要知道它为什么这么做。而未来人和机器要互相理解，保证之间互相的学习过程，这才是一个正常的人工智能机器的生存方法。

人类和机器的相互理解，是人机共生世界的基础。人要理解机器的行为，机器要理解人的意图，才能呈现出互相交融的人工智能前景。