突然之间,不管是什么东西,都成了计算机。除了常见的手机和电视机以外,变成计算机的还包括烤面包器、门锁、婴儿监视器、榨汁机、门铃和燃气烤架,甚至水龙头和花园浇水用软管。「智能」设备大概已经无处不在,日常物品的计算机化趋势在不断地蔓延。

有那么一段时间,让那些看起来平平无奇的东西看上去新鲜一点,是有必要的。但很快,质疑声四起。没有人真正需要用智能手机操控的自行车锁或者丙烷罐。他们显然不需要那些替代原来的「笨」设备、没那么可靠的设备。但人们似乎真的想要拥有它们——而且这一人群在不断壮大。据估计,目前联网设备数量达到数十亿,到 2020 年,该市场的规模可能将高达 2500 亿美元。

为什么那样的设备还会吃香呢?一种说法是,市面上卖什么消费者就买什么,制造商们也十分渴望将它们的笨设备智能化。这么做可给它们带来更多的收入,更多的控制权,以及更多鼓励消费者替换旧产品的机会。它也催生了一个围绕借这些设备收集到的数据的次级市场。例如,扫地机器人生产商 Roomba 希望通过分析其家用扫地机器人的移动情况,推断出家家户户的楼层平面图,然后拿它们当商业智能去出售。

不过,市场强制的解释并不能完全站住脚。更需要注意的是,普通物品的计算机化本身已经成了目的,而不是实现目的的一种途径。随着计算机化趋势从台式机和后台蔓延到手机、相机、汽车和门锁,人们对于计算机的喜爱也转移到其它甚至更加普通的物品上面。人们越是喜欢使用计算机来做各种事情,一旦计算机不在身边,他们就越觉得生活不完整。

计算机化带来的问题

之前,我写过一款名为 GasWatch 的丙烷罐测量器的设备。该设备连接一款相配的智能手机应用,旨在避免煤气罐在需要使用的时候突然就耗尽的情况。

每次看到像这样的设备,我都会很诧异竟然会有如此荒唐的产品,它们的创造者和顾客似乎没怎么留意到这一点,或者说完全不在乎。明明用个便宜的计量器就行了,为什么非得使用计算机来监视丙烷用量呢?

然而,随着联网的设备和服务变得越来越司空见惯,对它们的制造商冷嘲热讽也于事无补。联网烤面包器宣称可帮助人们「更加智能地烤面包」。连接智能手机的自行车锁号称要「消除钥匙遗失和忘记密码带来的麻烦和沮丧情绪」,仅售 149.99 美元。然后是 Nest,这款智能恒温器由前 iPod 设计师设计而成,后来其厂商被谷歌以 32 亿美元的高价收归门下。该公司还生产智能监控摄像机,那些设备可连接网络来将视频画面传输到它们的主人的智能手机。婴儿监视器等曾经的自给式设备如今也拿联网功能作为重要卖点。

这种趋势的扩散速度完全超出了我的预期。几年前,我住过的一家时髦酒店声称不久以后它的房门卡将会被智能手机彻底淘汰。时至今日,再普通的汉普顿酒店房间都可以用希尔顿的应用来打开。家庭版的应用市面上也有。用户甚至可以了解门被锁了多长时间的分析数据——我完全没觉得自己需要这种数据。

这些设备带来了诸多的问题。成本是一个方面。跟廉价的丙烷计量器一样,传统的自行车锁也是日用品。它的售价大概在 10 到 15 美元之间,而 Noke 的联网自行车锁的价格则达到它的十倍之多。这些设备还会带来安全和隐私方面的问题。据说,美国中央情报局(CIA)在三星电视机里植入后门程序来实施监视。由于婴儿监视器被黑客入侵,受到干扰的人与其孩子之间的对话可能会被偷听。僵尸网络可控制数千个安全性很低的联网设备来对域名系统发动 DDOS(分布式拒绝服务)攻击。

可靠性问题也会困扰联网设备。一旦网络宕机,或者应用服务无法正常访问,又或者某种其它的软件行为带来障碍,那些产品往往就无法正常运作。

以门铃为例。普通的门铃接通线路来激活电磁体,然后后者转动活塞来发出响声。名为 Ring 的智能门铃用包含运动传感器和摄像头的盒子装置来替代按钮。很不错的主意。但据一些用户反映,Ring 有时候无法发出响声,又或者隔了很久才响。这种问题相当普遍,有人甚至开了个名为 Internet of Shit 的 Twitter 账号,来专门汇总联网设备的种种弊端,引发了不少的关注。

正如科技评论家尼古拉斯·卡尔(Nicholas Carr)所指出的,这些不是我们被允诺的那些机器人。飞行汽车、机器人房屋、快过光速的旅行等还没有到来。与此同时,新的未来愿景设想,人类和机器可能将发生融合,要么通过生物黑客技术,要么是通过模拟的意识。那种未来也感觉非常遥远——也许遥不可及。它的遥远可能削弱了人们对于 AI 大灾难的恐惧,同时也模糊化了一个关于机器在人类命运上的角色的特定真相:计算机已经无处不在,人类生活已经基本都离不开它们了,而人们也安于现状。

模拟机器而非人类

计算机普通用途和超凡用途之间的分歧始于近 70 年前,当时阿兰·图灵(Alan Turing)提出了一个意外帮助创立人工智能领域的主意。图灵猜测,当机器变得像人类一样的时候,它们最令人信服。那也正是现在的智能手机(以及智能烤面包器)所做的事情。但计算机科学家们没有抓住要领,他们反而将图灵的思考实验曲解为模拟或者替代人类大脑的一项挑战。

在 1950 年发表的论文中,图灵描述了一项被他称作模拟游戏的派对游戏。游戏的内容是,一男一女走进密室,然后密室外的另一个人发问,试图猜测里面哪个是男哪个是女。图灵后来想到了密室内的其中一人是人类,另一人是类似于计算机的机器的游戏版本。如果外面的提问者分辨不出哪个是人哪个是机器,那该计算机就算通过测试。图灵测试如今已经聚焦计算机角色——现在流行于 Twitter 和 Facebook Messenger 的聊天机器人的前身。甚至有人每年围绕它们举办比赛。有的人仍然将该测试视作验证机器智能的正当方式。

但图灵从未说过机器具有思考能力,更不用说它们或许能够在智力上比肩人类智能。相反,他只是猜测,机器或许能够表现出令人信服的行为。对于图灵来说,那涉及机器表现得像某种其它的东西的能力。随着计算机科学的进步,「通过」图灵测试变得意味着成功通过许可证测试,而不是准确地扮演一个角色。

那种曲解可能标志着图灵对计算机成为令人信服的机器的愿景的终结。但他也将他的想法融入到计算机硬件设计本身上。1936 年,图灵提出一种概念性机器,该机器根据有限的规则来控制磁带上的符号。

该被称为通用图灵机器的设计成为了计算机处理方面富有影响力的模型。经过了著名数学家约翰·冯·诺依曼等人的一系列修正,它变成了标准的存储程序设计技术——一种同时存储程序指令和数据的计算机。

在计算历史中,图灵机器通常被认为是独立于图灵测试的一项创新。但它们被关联了起来。通用计算指代机器模拟任何图灵机器的能力(计算机科学家将这种能力称之为图灵完全)。图灵机器(以及计算机)成了假装其它的机器的机器。

想想你每天用到的计算系统,它们全都代表模拟某种其它的东西的尝试。正如图灵当初设想的机器试图假装人类一样,计算机在某种程度上也在试图假装另外的东西。例如,假装计算器、账簿、打字机、电话、相机、商店或者咖啡店。

经过一段时间以后,模拟成功的机器替代和取代它们当初模拟的那些机器。文字处理器不再只是模拟的打字机或者秘书,而是用于生成各类书面材料的首选工具。最终,如果它们流行开来的话,那模拟的机器就真的成了机器。

现在,计算机的使用整体上就是围绕这个。计算机不能处理的事情已剩下不多。计算机正在分离作为实现生产和创造目的的符号操控方式的本源,成为一项独立的活动。现在,人们寻求使用计算机并不是为了将事情完成;他们是去做那些让人们使用计算机的事情。

「反向图灵测试」

计算机的使用从它的目的分离出来,成为一种生活方式,目标和问题只有在它们能够通过计算系统来处理和解决的时候才会显得是正当的。物联网设备为了那种新理想提供了一个例子。另一个例子可通过观察硅谷科技公司如何设想它们的产品服务来发现。

以社交网络上的辱骂行为为例。今年早些时候,Twitter 数据战略副总裁克里斯·穆迪(Chris Moody)坦言,「我们的平台存在一些谩骂行为。」他说遏制这种行为是公司的头号要务,接着补充道,「但这是一个非常非常艰难的挑战。」对此,Twitter 决心部署 IBM 的沃森(Watson)AI 来检测仇恨言论。谷歌也采取了类似的行动。它的其中一个实验室开发了 Perspective,Perspective 是「一个利用机器学习来发现网络上的辱骂和骚扰言论的 API(应用程序接口)」。

有时候,科技公司会把像这样的努力当做业务可行性一般的事宜——为产品和服务寻找「可扩展的」解决方案。被问到穆迪发表的那番言论的时候,Twitter 发言人表示公司同时采用计算系统和人工系统来审查安全内容,但没有透露具体的细节。

这似乎让人看到了希望,但结果却喜忧参半。Twitter 声称它在抗击辱骂行为上已经取得了进步,但它似乎还是忽略了最严重的一些情况。谷歌的 Perspective 也会被简单的打字错误和否定言语蒙骗。

尽管从商业利益角度来看,它们亟需尽早解决这些问题,但让网络空间变得更加安全,应该需要计算方面的解决方案。无可否认,人工内容审查难度太大。内容数量太过庞大(正如 Twitter 所强调的),因此需要计算系统来实施管控。

不过,也许管控辱骂内容是「一项非常非常艰难的挑战」,很大程度是因为那一假定。全球网络是由无数能够相互匿名进行互动的人组成的,因此无法实施高效的人工干预。Twitter 的回答假定,他们的服务(几乎完全是由应用和服务器来自动提供)完全没有问题——他们只需要找到合适的计算管理方式,再将它建立在他们的服务上面。如果计算机自动化被假定是最好的或者唯一的答案,那当然只有工程解决方案似乎是可实行的。

从根本上说,GasWatch 用户不选择廉价的模拟式测量器来管理野炊规划,也是出于同样的理由。在有计算机的情况下,人们为什么不选择要选择一个不涉及计算机的解决方案呢?丙烷罐和自行车锁仍属于极端例子,但普通的数字服务也是同样的道理:人们所寻求的那些服务是那些可让他们使用计算机来做事的服务——从寻找资讯,到打车,再到点外卖。这既是业务上的成功,也是感官上的成功。人们将计算机当做获得使用计算机的快感的途径,不仅仅是将其当做实用高效的问题解决途径。

因此,不难理解生产所有的那些似乎毫无意义或者有问题的服务、应用和物联网设备背后的用意了:他们在原来缺少计算机的地方放置一台计算机。他们将普通的现实体验变成计算体验。如今,机器希望说服人类它们真的是计算机,而不是试图说服人类它们也是人类。这跟图灵测试恰恰相反。

随时在线时代

这一现象也有一个名称:「反向图灵测试」。CAPTCHAs,那些在过滤自动化机器人的在线论坛上的代码,属于反向图灵测试,在里面计算机判断用户是否是人类。也有让人猜测大批计算机中哪个是人类的逆向图灵测试。

这些项目本身是将图灵测试用作一种体验,而不是用它来测量智能。那个先例要追溯到计算时代初期。最有名的模拟游戏式聊天机器人案例之一是约瑟夫·魏泽宝(Joseph Weizenbaum)1966 年的程序 ELIZA。该程序充当一个罗杰斯学派心理治疗师——一种基于向咨客抛回他们提出的问题的心理疗法。这是一种容易模拟的模型,即便是在 1960 年代中期,但它很难称得上智能、人工智能之类的东西。图灵测试在人人都知道提问者是计算机但依然乐在其中的时候效果最好。

如今「变成计算机」的意思不同于 1950 年图灵提出模拟游戏的时候,不同于人工智能的技术前提条件,表现得像计算机往往只涉及移动一些数据,或者充当控制器或执行器。

以 Uber 为例,该打车服务巨头的主要商业成功来自对劳动力的有效利用。但它的感官成功来自于让人们通过智能手机就能打车。不必电话联系也是这一过程的吸引力的一部分,在手机上通过数字地图看到汽车接近上车地点亦然。同样地,对于那些拥抱打车服务的人来说,自动驾驶汽车富有吸引力,不仅仅是因为它们可让人们从驾驶的负担和危险性中解放出来,还因为它们让汽车变得更像是计算机。当然,计算机为汽车提供辅助已经有多年时间。但无人驾驶汽车让车辆变成了明显是由计算机来驱动的机器。

又或者想想门铃。忘掉 Ring 吧,该门铃已经被计算机取而代之。我的孩子的朋友来访的时候,他们只需要发来请求短信即可让我家的门打开。门铃甚至没有连接应用或者网络,就已经计算机化了。你硬要说的话,可以将其称作「颠覆」,但门铃、汽车和出租车在这一进程中几乎不会消失。相反,它们只需要进入计算机里面,这样它们就能产生新的吸引力。

其中的一个吸引之处在于联网的愉悦性。你不想要离线。既然如此,你为什么会想要你的烤面包器或者门铃离线呢?现在,沉浸在计算当中成了一种理想。终极的梦想是随时都在线,或者至少连接某种计算机化的机器。

这不是任何人所想的计算的局面。早期的反乌托邦论调警告称,计算机可能会变成官僚主义者或者法西斯主义者。又或者,强迫性的计算机使用倾向会让人失去活力,让人像被麻醉了一样。

那些恐惧在某种程度上一直都存在,部分因为它们成为了现实。但它们也有被反转。如今,离开它们,而非没完没了地被它们缠着,会让人觉得没有活力。因此,计算机所采取的行动成了一种自我指涉:将越来越多的东西变成计算机,从而延续那种情感连接。

计算机真正的威胁

一切都跟往常一样,但对于现实,人们是觉得它处在计算机当中。

从这个角度来看,当代技术文化的所有问题——企业收集数据,隐私,我之前所说的「就业过多」(hyperemployment,人们为 Facebook、谷歌等公司免费提供的无形劳动力)——都不再是剥削行为,而只是人们有意无意选择的结果。

在未来主义者们看来,计算机革命的希望(或者威胁)往往都离不开人工智能的巨大跃进。哲学家尼克·博斯特罗姆(Nick Bostrom)将超过人类智能的 AI 称作「超级智能」。超级智能一旦实现,人类要么将接近于永远摆脱单调沉闷的工作,要么将接近于因为机器人大灾难而灭绝。获另一位哲学家大卫·查尔莫斯(David Chalmers)和计算机科学家雷·库兹韦尔(Ray Kurzweil)认同的另一种观点是「奇点」,即一旦具备足够的处理性能,计算机就将能够模拟人类大脑。如果这成真的话,那么人类或许可以将他们的意识上传到机器,理论上实现长生不老。库兹韦尔如今供职于谷歌,该公司在运营一个致力于对抗死亡的项目。

有的人甚至认为超级智能是过往的技术,而不是未来的技术。

但智能机器的现状比任何的未来机器人大灾难都要无趣乏味,同时也比它们都更有影响力。图灵通常被称作 AI 之父,但他只是说过机器可能会变得足够令人信服,能够激发互动。那算不上智能、人工智能或者真实的智能,而且也容易实现得多。计算机已经说服人们将他们的生活带到计算机当中去。那些机器并不需要让人们长生不老,不需要给人以服务他们每一个奇想的希望,也不需要扬言彻底摧毁他们。它们只需要成为人们做的一切事情的一部分,以至于他们无法(或者不愿意)想象没有它们自己独自去做那些事情的情景。

这种未来多少有些悲剧色彩。并不是说人类可能无法应对机器人大灾难的到来,也不是说他们可能会死亡,没能够将自己的意识上传到机器。计算机真正的威胁并不在于,它们可能会利用其未来的能力和智能取代和摧毁人类;而在于,它们可能仍会跟现在那样平庸,那样无力,但却还是取代了我们。

(来源:网易科技)

20160630000123