清华思客|蓝志勇:人工智能时代公共治理创新迫在眉睫

一场关于人工智能的有趣对话

在2019年世界人工智能大会上,有一个饶有意思的对话。阿里巴巴总裁马云充满信心地说,AI(Artificial Intelligence,人工智能)可以解释为“阿里智慧”(Alibaba Intelligence)。特斯拉公司首席执行官马斯克(Elon Musk)楞了一下,轻轻回应说,“那最后还真有可能(It might end up being true)”,或许马斯克在想,这也是他自己想做的。马云后来又说:“在我的一生中,特别是过去的两年多时间,当人们大量谈论AI,认为机器会控制人的时候,我十分不认同。那是不可能的事情。人是不同的,机器是人造的,根据科学,人不可能造出比他自己更聪明的机器。人很聪明的,而且还有很多聪明人。他们不可能造出比自己更聪明的机器(来控制自己)。”马斯克这次的回答却非常敏捷明快:“我太不同意你了(I very much disagree.)。”这段对话既显示了中国企业家对未来的憧憬和人定胜万物的信心,也反映了美国企业家坚持理念,不轻易放弃对科学能力的认同的精神。

马斯克认为,与计算机比,人其实很笨(very dumb)。机器已经在很多地方比人聪明,能做到人做不到的事情。人们往往低估AI的能力,以为那只不过是另一个聪明人的出现。“我们实际上已经开始进入半机器人的状态(Cyborg)。很多人都离不开手机、电脑或助听器等辅助设施,将其作为自己能力延伸的一部分了(将来还有神经元接驳)。”高性能计算机的诞生,让一小部分机器不如人的地方越来越少。“人工智能进步的速度真是太快了,将来人的作用可能只是一个计算机编码的功能,去启动一下机器,就不需要了。到那种情形出现的时候,我们该怎么做,我不知道,真不能确定(What do you with a situation like that. I don’t know. I am not sure.)。”

人工智能时代的来临对现有社会秩序形成前所未有的挑战

两位引领互联网时代革命的企业家的对话,是对人文社会的共同关怀,展现了对未来技术挑战的两种态度。马斯克作为在技术前沿的工程师企业家,对AI自然有深入的认识。虽然上个世纪五、六十年代以来,人工智能的炒作并不成功(因为当时理论与实践的差距太大,中间需要填补的空白太多,那时的人工智能科学家依然不免要继续坐冷板凳),但在计算机和物联网技术大踏步发展的今天,计算机的数据传输能力、储存能力和算法能力都进展了百万倍以上,很多过去不可能的事情现在都成为可能,如超大规模的数据库管理、基因系列的排序、蛋白结构的运算等等。

很多人不太重视的人机对弈的故事,描述的就是AI技术进步的轨迹。这是个漫长和复杂的过程,简单说来,先是计算机与简单方格棋(Checker)的对弈,后来是IBM深蓝(Deep Blue)与国际象棋手的对弈,这时的计算技术相对简单。到“深脑”公司(DeepMind)开发的“阿尔法围棋”(AlphaGo,又音译为“阿尔法狗”)与围棋手开始对弈时,计算机的能力就开始引人瞩目了。“阿尔法围棋”输入30多万盘世界围棋冠军的残局做底,与世界冠军李世石下了五盘棋,四胜一败。“深脑”公司被谷歌收购后,不断有了新的改进。谷歌的技术人员拿回去复盘,发现机器人输的那一盘棋是因为对手下了一步在30万盘棋里没有出现的棋,于是团队的一位华裔科学家发明了一种“残差算法”,把围棋中剩下的80%的可能,也就是人类30万盘棋的经验里没有的可能都算出来了,围棋一共有10的176次方种可能,比宇宙里所有的原子数量还要多(10的80次方),这就是第二代机器人“阿拉法围棋零”(AlphaGoZero)。“零”的意思是它不需要向人类学习经验,把法则输入即可,后来甚至不需要法则,只须自己对弈,每秒钟下200盘棋,把所有的棋步都走一遍。这就好比不向武圣张三丰学武功,靠高速度自我对弈,自学武功,把所有可能的招数都走过一遍。7天走完30万盘棋子,40天学完所有的招数,人类没有的也学了,招招不忘,天下无敌手。后来的对弈成绩是100比0。再到第三代的“阿尔法叠”(AlphaFold),用一个蛋白的基因系列,算出超级复杂的蛋白的三维结构,可以节约下买一千万美元的电子冷冻镜等描述蛋白结构的仪器。

要回答机器是否比人聪明的问题,并不是完全没有办法。聪明的定义是什么?感知学习能力、记忆力超强、反应敏捷这三个基本特点,机器在后两项能力上绝对远超人类。机器有巨大的知识吸纳和储存能力,过目不忘;有高速运算检索,随时回答问题的能力。前一项能力,机器也在人的辅助下不断改进,从阅读、声音转换,到图像、电波和光信息接收,包括选择判断能力(如“华生医生”程序)都在日益精进。从20世纪初莱特兄弟发明飞机到今天的一百多年的时间里,飞机的变化不可同日而语,而AI在近年来的进步,更是令人吃惊。有专家说,AI一周的学习就能够吸纳人类2000多年的知识积累,六个月的智能进化能力超过人类的50万年。

当然,人的能力比机器更多元,但计算机可以用速度进行弥补。根据脑科学家的研究,人的大脑中神经元之间的沟通有200多种方法(分泌不同的化学酶介),但计算机只有一种——“0”和“1”。但人脑的信息传递不够稳定,只有30%成功率,其它的也就是我们说的“忘记”了,传递速度也比较低,为每秒200公里左右;计算机虽然只有一种方法,但速度是每秒30万公里。如果这些数字正确的话,让我们做一个游戏性的算术:人脑的信息传递速度为:200(种方法)× 30%(接受率)× 200(公里/秒)=12,000,机器的传递方法:1(种方法)× 100%× 300,000(公里/秒)=300,000= 12,000× 25。就是说,在单细胞传递的信息的情况下,计算机的信息处理速度是人脑的25倍。2007年1月因特尔发布的65纳米的酷睿2四核处理器,就含有5.8亿个晶体管;而2013年的酷睿i7-4960X,制造工艺为22nm,晶体管数量达到了18.6亿。如果将这些2厘米左右的芯片处理器(processors)并联起来,计算机的能力就会大大提高,可以超越人的智慧的并联。因为,一个人学会了,另一个并不会,还要沟通协调;而一个机器会了,所有的机器就都会了,基本没有协调成本。机器比人缺的是“意识”(consciousness),而这种意识,被分解成理性和情感后,会发现情感是阻碍理性的因素,而且,情感也并非不能被机器语言表达。

当然,在人工智能能力的研究和描述方面,有人“咋呼”多,往往言过其实;有人专注于单项研究,兢兢业业。很多人可能不会有突破,也有人会抵制和批评这一技术。抑或有人取得了研究突破,但得不到关注,长期默默无闻。不过,这些群体的努力、积累、思想、方法最终会以不同的形式被社会所认知、表达(成为公认的观点)和运用。不同的研究成果被社会接受的时间有长短,但终归都会有一天得到认可,并以“涌现”的方式出现在我们面前,让我们措手不及。

马云其实说得很好:“我就那么傻,要与机器比下棋,与汽车比谁跑得快吗?”但问题是,你不比它,它要来比你,它要抢夺你的工作,你的幸福感,甚至生命权。到目前为止,弱人工智能的机器人,如精密焊接、精密芯片刻制、负重搬运,无人机、精密制导的能力早就在人类之上,比较强的人工智能如人脸识别、情感对话、知识交流、音乐欣赏能力等也在迅速提升。如人脸识别的误差率,机器只有3.5%,低于人的5%;自动驾驶辅助的汽车事故率,是没有辅助的事故率的1/4。在许多工厂,包括零件加工、焊接、玻璃制造、产品分装运输、轧钢、甚至汽车组装,机器手、机器人已经形成了巨大的就业替代效应。未来的世界,机器人生产、自动车送货、自动交易、提供知识和信息咨询的现象将大量出现,按《未来简史》作者的说法,将会出现掌握和使用机器人的人(神人),和被机器人替代的人(无用的人)。社会的过渡、世界的稳定、人类的和谐,将会首先在劳资关系、社会贫富关系、未来教育关系、人的能力与发展的关系(如有植入的知识下载能力的神经元链接)、生命的不平等(辅助肢体能力,DNA改造等)和社会福利关系等多方面涌现。说到底,智能机器的问题还是人类自己的问题,是人们如何驾驭技术,处理好自己的矛盾的问题。

公共治理创新刻不容缓

公共治理是人类使用理性,特别是集体的理性、智慧和组织能力来管理和协调自己的生活,与人类自己和大自然和谐共处的努力。公共治理的能力受“公共能力”的影响和制约。马云说过,我们有很多聪明的人,但社会互动历史告诉我们,很多聪明人生活在更多的普通人之中,他们在一起的决策结果大多数情况下只是平均值,并不一定是优秀智慧结晶的正向和。因为公共能力的决定因素不一定是最优秀能力和智慧的集约,而是由社会的整体认知、群体所支持的领袖能力、社会整体的行为能力、社会群体文化意识、社会发展阶段、制度能力和外部环境等等影响和制约的,加在一起,就是体制机制能力。人类终究要解决自己的问题,有的解决得好,平稳过渡,国泰民安;但有的解决得不好,以动荡、战争、甚至毁灭告终。应对技术创新和社会力量的变化,需要有新的人类治理机制。

事实上,新技术出现本身也是人类治理体系运行的结果。因为,技术的产出和创新,需要依靠人才能力的发挥,而人才能力的发挥,靠的是人才的生存环境和体制环境。有了好的技术,还需要有技术与资源、市场的良好结合,这一点,需要靠适应新技术的企业的组织能力和竞争能力。而企业组织处于国家政策和国际环境之中,其潜力的发挥需要靠国家制度和治理体系的创新。所以,技术创新、组织创新和国家公共治理体系创新三个层次环环相扣,互为依存,密不可分。

科学技术的不断突破,提高了工农业的生产力,提供了新的能源,给人类带来了巨大的福祉,但也带来了前所未有的能够毁灭地球的能力。能源耗竭、生态污染、气候变暖,大规模改变环境的工程,加上巨大破坏性的核武器,使今天高度发达的人类文明,比历史上任何时候都更加脆弱和缺乏韧性,也更需要进行针对性的“技术”治理。

对于突飞猛进的科学技术发展,我们一方面恨其不足,有了想要更多,好了还要更好;但另一方面,我们常常对新技术的到来准备不足,没有想好如何有效驾驭这些技术,让它们在带来福祉的同时,不造成或少造成破坏。比如说,英国的蒸汽机革命,污染了环境,摧毁了传统的农业社会;美国的大农业,将印第安人赶入深山和沙漠,将小农场主排挤到社会的边缘。再如,希特勒在德国钢铁工业大发展的基础上,挑起了世界大战;二战时日本在航母和海军航空兵实力迅速壮大的基础上,悍然袭击了珍珠港,造成人类文明史上的空前浩劫。二战后,以联合国等世界组织为代表的世界新秩序在防止战争、协同应对自然灾害、提供国际援助与维护世界和平方面做了不少工作,但近年来的逆全球化思潮又开始挑战这一本就不够牢固的国际秩序。黑格尔说过,人类从历史中得到教训就是,人类从来不记取历史的教训。一位香港学者也曾形象地比喻,人们往往驾着历史的巨轮,重复着过去的悲剧。在信息资讯高度发达的今天,我们重复历史错误的概率本该越来越小,但新技术带来的新挑战却往往是历史经验中没有的问题。新技术带来新的生产力变革,需要的正是上层建筑结构的改变和国家治理体系的创新,新技术的出现或许是新制度形成的启示,而新制度更是新技术成长和发展的温床。十八大以来,党中央提出创新体制机制,提高现代治理体制和治理能力,就是呼唤制度创新的号角。

在理论上,大家都知道技术是工具,人文诉求才是社会发展的目标。但实践中,人们却一直在重复着用工具理性替代人文目标的错误,包括今天的科技崇拜和数据崇拜,忽略技术对于人的侵犯。一个简单的例子就是当前普遍使用的AI刷脸技术。通过机器学习,AI能够成功识别和储存人脸特征这一重要的、终身的生物数据,理论上对于防范犯罪有极大的威慑力,但这一技术也同时有深度的隐患,它不仅损害一般公民的个人隐私权和尊严感,也可能对人民的生命财产安全造成新的、过去未曾想到的威胁。比如说,一个小小的航拍器在数公里之外就可以快速扫描人的面部信息,通过机器学习将脸部特征提取出来,如果被犯罪分子制作成一个“假脸皮”,那么用人脸特征作为密钥,其安全性就荡然无存了,事实上,利用人脸特征识别技术的犯罪案例已经开始出现。然而,这个“不安全”的技术,却由于企业家的推动和使用者的了解不足而大行其道,得到迅速推广,并没有经过公共政策和伦理等方面的充分讨论,这不能不说是我们太快地、盲目地相信了科学技术的“神奇”。对大数据技术的推崇,可能导致社会用大量资源重复地建设庞大的数据库,并不理会资源的浪费和数据对个人权利的侵蚀。以消费推送为例,商贸公司在消费者不知情的情况下收集其个人信息,推送他们有偏好的消费品,降低了消费者寻求新产品,拓展消费兴趣的可能。人的学习、生活和兴趣的发展需要新奇和变化,为商家盈利设计的推送消费,特别是在教育领域,危害的是社会生态的变化性学习和发展,更不用说个人隐私数据被买卖,导致消费者生活受到干扰或危害消费者权益的犯罪行为。所以说,数据治理,也是AI时代的重中之重。

西方国家在科技发展的历史过程中,经历过不同的科技治理阶段。比如,早期西方对科技发展的方式缺乏治理,是自由放任(Laissez Faire),让找到资源的有才华的科学家自由探索,发现了的就是新技术。后来发现,有组织地发展科技的力量更强大,特别是30年代金融危机后的大型国家工程建设和二战中的原子弹研制,以举国之力进行科技攻关,以国家重点工程的方法进行了科技突破,形成了国家任务型科技政策的基础。而这个政策的制定过程也经历了几个不同的阶段,早期的科技投入方向由科学家主导,他们按照科学上的可能来确定攻关方向,只有少数有强大社会责任感的科学家会从社会整体利益,而不是个人利益和学科利益来思考研究方向;后来的科技政策由经济学家主导,重点关注科学上的可能与经济效益高回报的发展方向;近年来,人们逐渐意识到科技政策需要多方面的利益团体来参与制定:要由科学家指出技术上的可能,要由经济学家计算投入产出成本,要由代表人民的公共管理者、社会组织和人民自己共同来表述他们的诉求,寻求符合社会整体利益的科技发展和使用方式。重大的科技治理,需要全社会各方的参与。

人工智能技术来势凶猛,给我们留下的时间不多了。马斯克说还有十年二十年,是让许多人中年下岗的力量。这是一项比原子能有更广泛的影响力、对现有人类社会秩序有更大威胁的新技术。在我们推动人工智能创新,形成巨大的就业替代的时候,亟需对于未来的教育、就业,对社会财富分配和人们发展机会的分配,对社会新结构的管理,对于社会分层和社会和谐,对于各项涉及民生的公共政策等问题,进行广泛深入的讨论和更为严肃的思考。要识别具有颠覆性意义的AI工具,规范AI技术的开发和使用,要准备相应的法规和政策,提供替代补偿和社会结构调整,要让AI给人类真正带来“爱”。

注:本文是根据作者2019年11月30日在北京师范大学“推动人工智能和教育深度融合”会议上的发言和2020年1月5日在清华大学人工智能沙龙上的随机发言整理扩展而成的。

作者简介

蓝志勇,清华大学公共管理学院教授、博士生导师,北京市组织学习与城市治理创新研究中心主任。研究和教学领域包括政府改革与创新、信息技术与公共决策(可视化决策、智慧城市等)、城市治理等。有专著十余部,在国内外公共管理核心期刊和重要报刊媒体发表文章150余篇。


相关文章