人工智能如何“驯服”？——人工智能时代的前景与对策

汽车生产线上的工业机器人。资料照片，新华网（钟桂林摄）

随着第四次工业革命的到来，人类社会正式进入了人工智能的新时代。人工智能作为一项技术，会对人类社会产生什么样的影响呢？社会各界对这个问题持有不同的看法，如“发展论”、“控制论”、“破坏论”、“驯服论”等。这些观点显然都是从一定的角度去理解人工智能的影响。但从科技发展史来看，任何新技术的发明都会有积极和消极的结果。乐观者容易看到技术积极的一面，而悲观者则往往关注其消极的影响。但无论如何，由于人工智能对人类社会的颠覆性影响，这个时代的人类社会很可能处于最好的时代，也可能是最坏的时代；可能是智慧的时代，也可能是愚昧的时代。

1. 我是谁？AI是谁？

我们可以想象这样一天：“我”身边围绕着一群人工智能（AI）“人”，他们叫我起床、做早餐、打扫房间、修剪草坪等。同时，我们也在那一天迷失了——我们完全被人工智能“人”包围，成为人工智能时代的少数；而他们则是时代的大多数。不仅如此，我的所有生活都被AI精准安排。比如“我”计划和朋友见面，AI会立刻精准计算出朋友今天的行程、空闲时间等，甚至可能建议“我”改日再去；“我”计划去看医生，AI也能计算出“我”病情的严重程度、医生的忙碌程度、去医院的交通状况等，然后建议“我”是否去看医生、哪天去看医生等。

这一切说明，“我”已经完全处于确定性之下，不再面对不确定的社会。但这并不意味着没有风险，相反，风险更大。

人类在追求幸福时，不仅关注最终的结果，也享受追求幸福的过程，只有在过程中，才能体会到真正的幸福。然而，在未来的人工智能时代，“我”的人生，变成了简单的起点和终点，没有过程。在这个时代，确定性取代了不确定性，人类成为了没有幸福体验的物种，这是最大的风险。我们甚至要思考，没有幸福体验的人类，从长远来看，是否会在智商方面出现“倒退”？

2. AI能做什么？我能做什么？

汽车无人驾驶、棋类游戏由AI对弈、工作完全由AI完成……这一切，确实让“我”感到幸福。“我”根本不需要工作，仿佛来到这个世界，就是为了享受生活。就如写论文，“我”只需要提出概念，AI就能在一瞬间围绕概念完成论文写作；对于文学创作，“我”只需要提出主题，AI就能围绕相关主题完成文学作品。“我”过去所遵循的“十年苦读”在人工智能时代，将成为笑话。

这样的局面，会导致一切工作都被人工智能“人”所取代，“我”只是控制开关而已，“我”的价值会逐渐降低。众所周知，人是通过劳动创造人类生命和一切价值、社会关系的，也就是说“劳动创造人本身”。未来人工智能时代，劳动会逐渐被人工智能所取代，而对于人类的“我”来说，劳动会成为一种奢侈品。在当今社会，一个人如果犯罪，可能会被判处“劳改”，而在未来，很有可能一个人如果犯罪，可能会被判处“不准劳动”。如果真是这样，人类在体力活动方面是否也会出现某种“返祖现象”？

3、“我”和AI是什么关系？

是我控制人工智能，还是人工智能控制我？是人类控制人工智能，还是人工智能控制人类？

在2016年3月的人机大战中，程序（）以4比1的总比分战胜了职业九段棋手李世石。2016年底2017年初，该程序在中国某围棋网站上注册了“大师”（）的账号，与中日韩数十位围棋高手下快棋，连赢60局，未尝一败；2017年5月，在中国乌镇围棋峰会上，它与世界围棋头号冠军柯洁对决，以3比0的总比分获胜。面对这一切，我们不得不担忧：既然机器人可以战胜围棋高手，那么人工智能可能在其他方面取代人类，从而成为控制人类的“智能人”或“数据生命体”。这就是技术的异化。所谓“异化”，是指人类的物质生产和精神生产及其产品成为异己力量，反过来统治人类的一种社会现象。 技术是人类创造和发明的，但技术却成为了人类的控制者。为何会出现技术异化现象？原因有三：

第一，公益伦理与私利伦理的矛盾。技术发明最初源于一定的公益伦理，即人类不能停留在野蛮时代，人们在劳动中逐渐学会制造和更新工具。但人类分为民族、国家，分为不同的“想象的共同体”，而不同的人群、不同的共同体、不同的国家都有私利。技术发明创新最终会成为私利的工具，公益伦理最终会被私利伦理所取代。同时，先进的技术往往被少数人垄断，用来控制其他弱势人群、弱势共同体、弱势国家，这就会导致技术的异化。

第二，制度创新与技术创新的矛盾。制度是调整人与人之间关系的契约，技术是处理人与自然关系的工具。技术创新是改造自然、征服自然的工具，人类很容易解决这一问题，但人类很难设计出一套制度来调整人与人之间关系。原因之一就是制度设计往往受制于设计者的私利，制度最终会成为私利伦理下的契约关系。但问题的关键在于制度创新与技术创新不是同一群人，这就导致制度的私利伦理与技术的私利伦理产生矛盾，技术的异化由于制度的缺失而更加严重。

第三，社会科学思想创新速度与技术创新速度的矛盾。通过比较社会科学思想发展史与科学技术发展史可以发现，科学技术发展速度远远高于社会科学思想创新速度。

例如，自18世纪中叶英国工业革命以来的200多年里，技术发展不断创新：第一次工业革命使人类进入“蒸汽时代”，英国成为“世界工厂”；第二次工业革命使生产力高度发展，人类进入“电气时代”；第三次科技革命主要以原子能、电子计算机、航天技术、生物工程的发明和应用为标志，人类进入“微电子时代”；以人工智能、清洁能源、机器人、量子信息技术、虚拟现实、生物技术为主导的新技术革命，即第四次工业革命浪潮，技术发展迅猛。相比之下，社会科学思想的创新却严重滞后。让我们回溯到公元前500年前后，即所谓的“轴心时代”。 这个时代，中国、西方、印度等地区文化突飞猛进，产生了东方的老子、孔子、印度的佛陀（释迦牟尼）、古希腊的苏格拉底、柏拉图等一批伟大的思想家。他们对宇宙本质的理性认识达到的程度是空前的，也是此后两千年空前的。即便是欧洲的文艺复兴，也只是文化长河中的一朵浪花，无法达到轴心时代的思想高峰。

与此同时，正是思想观念缺乏融合发展，在一定程度上给人类带来了极其悲惨的后果。从第一次工业革命到第三次工业革命，世界大战爆发，人类进行了史无前例的自我毁灭，科技在其中扮演了非常重要的角色。当人类进入第四次工业革命时，由于哲学思想缺乏融合，人与人之间的战争依然存在。而未来更悲惨的战争，可能是人类与人工智能“人”之间的战争，科技对人类的战争。

4、如何协调“我”与人工智能的关系？

人类发明科技，并不是为了让科技控制人类。

技术是人类发明的，是人类改造社会和自然的产物。客观上讲，人类完全有能力驾驭技术。同时，无论人工智能AI多么先进，也不可能成为完全有肉体和情感的人。换言之，AI的进步完全由人类掌控。但人类并不会用一种技术的“善”去控制另一种技术的“恶”，技术也无法分“善”与“恶”。如果某项技术被赋予“善”与“恶”的价值，那必须由人类自身的价值来决定。因此，处理人类与人工智能的关系，最终还是要看处理人与人之间的关系，也就是通过制度来规训。如果真的要“驯服”“赛瓦坦”，那也只能靠制度来“驯服”，别无他法。

制度也是人类活动的产物。诚然，制度很难在顶层设计，因为设计者有各种主观因素，包括知识水平、环境认知甚至私利，尤其是私利伦理的不可改变的约束，使制度成为设计者维护私利的工具。但人类是智慧的动物，总有办法纠正错误，制度设计也不例外。在制度创新过程中，创新利益集团最终会占据上风，成为创新制度的设计者，从而克服私利，在一定时期内设计出基于公益伦理的制度。换言之，制度的私利伦理被有效克服，使制度在公益伦理下正常运转。因此，不必过于担心人工智能会毁灭人类。当人工智能在规范的制度下正常工作时，克服私利伦理的制度必将引领人类在人工智能的技术条件下重建智慧的阳光。

（作者：上海社会科学院软实力研究中心主任、研究员胡健。本文为作者在“人工智能与社会影响暨十万人才工程创新论坛”上的演讲；来源：光明网）