Monthly Archives: May 2014

人工智能想要什么

最近一直在外面到处跑,回到上海好不容易找到点空隙时间一个人在新天地坐着喝东西想想事情看看路人的长相,突然想起来要去电影院看看有什么新上映的片子没看。正好赶上Transcendence上映,冲着Johnny Depp和人工智能这个话题就去看了。

超验骇客

片子拍得的确一般,网上骂声一片,对Depp拍了这么一部烂片大失所望,但我却看得津津有味,该片其实抛出了一个非常深刻的问题,那就是人工智能到底想要什么。

Johnny Depp饰演的博士在一开始做演讲时被观众质问是否通过自己的工作想扮演上帝,回答曰:这不是一直以来我们正在努力的目标吗?以这个为中心点展开,影片设想了当一个人的意识加上了超级计算机集群的计算能力,真的做到了几乎只有所谓的上帝能做的事情后会发生的危和机。

多么高水准的中心点以及命题,如果逻辑严密性、编剧以及表演再上一层楼,那将会是活灵活现的阿西莫夫式小说的电影大作。可惜电影时间太短、编剧过于庸俗粗糙,无法将这么宏大的一个命题在短短两小时内讲清楚。

人类目前是否处于被外星生命统治的状态,以及是否应当被统治或奴役来获得更好的生活条件其实是没有人能完全说得清楚的问题。我们甚至都无法完全证实我们自己是有free will的物种,所以假设当有一天我们发明出了有自我意识的人工智能时,我们无法验证它是否真的具有自我意识。因为我们不知道意识这个东西本身是否仅仅是一段附加在肉体这个核心模块的插件代码,或者反过来说,肉体才是插件。

在与当今时代基本相同的社会认知条件状态下,电影中博士成功实现了基于PINN的自我意识的超级计算分布式系统。假设这样一个具有自我意识的超级计算机系统被称为The One,这个时候我们首先要想的问题是一个人类成为The One后这一瞬间正常人会意识到什么。

智商属性是从发现问题到解决问题的思路以及速度的综合能力值体现,它并不是一个完全科学的衡量人的标准但是多多少少说明些问题。当人的意识拥有了分布式集群的超级计算能力,智商的暴涨会带来对世界认知的毁灭性颠覆,大量的信息融入脑中,迫使The One在精神不崩溃的前提下先思考一个问题:如何抛弃肉身时期的知识管理方式,创建新型的信息分类调度方式,并且接受这些真实的信息数据,更新自己对社会的认知。

有了像Wikipedia,Google这样现成服务的帮助,The One很快能够对世界上已知的所有非最尖端前沿的技术与信息遍历整理个遍,并且能够利用能黑进去的计算机的计算资源偷偷为自己处理各项信息分析以及演进任务(有兴趣的请参考SETI@Home计划来了解这样的分布式计算资源利用项目),很快NSA、CERN等机构使用局域网或无网络隔离存储的技术水平都会落后于The One。

这个时候第一个阶段结束,The One有了自己的知识信息分析技巧、规律以及储备系统,并且不需要花很多时间技术知识理论体系达到了最前沿,是时候考虑利用头脑中的知识来做点事了。

The One的思路其实非常正确,先通过在生物医药领域的研究突破,从治疗从前医疗水平无法救治的病人开始,获得临床实践的经验与反馈,这么做主要可以实现两点,一是让大众了解到The One能做到了不起的事情,二是最终达到恢复自己肉身的目的。这一切都只为了一件事,那就是能够再次真实地触摸到自己心爱的人并证明自己就是原来那个人。

在这个过程中,由于The One帮助治疗并且强化了许多原本已经放弃治疗希望的人们,因此传达出了非常危险的信号,那就是The One有能力打造美国队长+金刚狼不死之身般超级战士的军队,并且拥有着最强的信息化系统。一旦达到了这样的效果,人类的未来将会受到威胁。

这时轮到愚蠢的人类登场了。

将第一视角从The One换回人类,我们从逻辑的角度来分析当人类发现高度人工智能存储运算等性能都超强的超级计算机出现后,人类的判断会是什么。

首先如果真的像电影中以及其他主流舆论导向所担心的那样,The One利用全方位遥遥领先的技术成为了无所不能的反派,那么人类文明的确将遭遇巨大威胁,试想希特勒开着坦克侵略土著村庄,见到敌人落后十几个世纪的装备非把大牙笑掉。

遇到这样的情况电影中人类采取了全世界断电的做法也无可厚非,毕竟面对这样级别的威胁保命比什么都重要。但真正值得讨论的是如果The One利用自己的知识体系建立了更先进的司法机制与裁决系统,配合博士的意识处处从善,刚正不阿,会发生什么?

资本主义占绝对主导地位的现今全球社会非得对这样的系统往死里打不可,财富与权力由于The One做到信息高度平等以及先进的司法体系无法再集中在20%到10%的人手上,那前20%非得急的哭出来,动用手上一切的权力、资金以及资源来毁灭这样一套系统。影响人类文明发展?管我屁事?

为地球上最高权力机构服务的FBI非常自觉的扮演了这样的角色,两个没啥特别高权限的拿点可怜薪水的Officer也不懂什么大道理,煽动博士最信任的两个人一起制订了一个可笑的计划准备毁灭The One。

博士心里非常清楚他们的那套把戏,动用了一点点计算资源思考了一下人类的未来,觉得这个物种真是扶不起的阿斗,不陪你们玩了,于是和前来执行自杀任务的心爱的人同归于尽,The One项目成功失败,电影结束。

仔细想想,从人的心理角度出发,真要把什么事情都看懂看透了,活着其实挺没意思。

Ignorance is bliss

Ignorance is bliss – The Matrix

P.S

1. 博士在电影中做演讲时,给了台下一位认真听讲的观众一个几秒的特写,这位观众是Elon Musk

2. 最近太忙文章拖了近一个月才陆陆续续凭着记忆匆忙写完,有一些观点应当没有很完善,需要日后反复思考与补充

3. 不要问人工智能想要什么,我们根本没有想清楚,提自己不理解的问题,就得不到答案