【世界经理人办公伙伴-讯】不管再怎么样,人类不至于沦落为废铁。人工智能(AI)与机器人会取代人类所有工作的预言,近年层出不穷,不过多数专家认为尚不至此。未来,人类在人工智能体系之外仍有角色可扮演,原因是:科技尚未成熟到可以完全取代人类,后果兹事体大,不能贸然全面交给机器代劳。
美国麻省理工学院教授、 《Our Robots,ourselves》一书作者戴维·明德尔(David
Mindell)表示,人与机器人“混搭”共事效果,比机器或是由人类独力完成任务更好。问题是:人与半智能系统合作,也非万无一失。
在美国亚利桑那州的坦佩市(Tempe)就发生过惨剧。
一辆装有最新自驾科技的优步测试车,撞死了一名过马路的行人。为防软件失灵,目前所有的自驾车行驶时,都备有一名后备驾驶人,这辆肇事的优步也是如此;但警方分析,这
位后备驾驶人,当时可能在手机上看电视。
自驾车意外带给人类的反思
这辆优步车配备的自主技术会在明年广加运用,这种Level
3的人工智能系统,设计初衷是在大多数情况下自动驾驶,出现无法应付的状况时,控制权转交给坐镇车中的后备驾驶
人。批评者认为,设计旨在百分百自动的系统,突然要交由人来掌控,要求不合乎现实。
既然科技不是万无一失,无周延的设计,AI系统要打进现实世界必然引发反弹。学习心理AI专家沈克(Roger
schank)说:“一旦人了解今天机器学习系统的有限时,被浮夸托大的希望就会迅速幻灭。”他预测结果就是“AI冬天”的出现,一如1980年代后期,社会大众对科技进展失望后,出现的原地踏步现象。
要防止这种现象重演,社会对新自动系统的期待必须务实,设计也必须周密,让科技与人类世界水乳交融。只是,目前科技本身还有严重的障碍。AI如何有效运作、怎么会失灵,都是离奇难解的事。
人类+机器人合作的三种面貌
目前,人与机器“混搭”合作的新形式呈现出三种面貌。第一种情况是:人充当机器人
的候补,在机器能力达到极限时接手。现在许多AI的工作进程都按照这种方式重新设计,例如具备可以辨识、了解语言能力的AI自动电话服务中心,AI系统在科技对问题困惑不解时,会将问题自动转手给人。
优步车祸事件是一个说明机器和人都会出错的极端例子。赫克说,美国斯坦福大学的研
究显示,驾驶人恢复意识和接管主控权至少需要六秒钟,但即使人的注意力有足够的恢复时间,人进入一种情况时,看到的也可能与机器不一样,机器与人之间的衔接也因此无法天衣无缝。
第二种人与机器合作的类型,是把敏感的工作都交给人——即使是自动系统已经准备好所有预备性的工作,而且可以自力完成。军事无人驾驶飞机就是一个例子——当无人机奉命瞄准目标发射时,真正的飞行员其实坐镇在千里之外。被移民官员用来检验通关旅客的脸部辨识系统,是另一个例子。赫克说,两者都显示AI能让人在指挥权上如虎添翼。
诸如无人飞机这种半自动武器遭到的一项批评是,当它要转变成全面的自动系统时,中间缺少技术拦阻关卡,现有的程序和安全防护弹指之间就可变更。加州大学伯克利分校的AI教授罗素(Stuart
Russell)认为,在国家进入紧急情况时,可以轻而易举地将人的因素从运作指令中解除,进而开启机器人可以自作主张大开杀戒的武器新纪元。他指出:“我们不能说这些科技是受制于人,只用于防惊,因为事实不是这样。”
最后一类是“人在其中”的智能系统,它会用到AI,但它无法完全靠自己处理任务,却可以辅助人类作决定。处理资料的运算提出建议或指导人如何走下一步,这也渐渐打进人的日常生活。但是电脑运算法充其量只与它们拿来做运算的数据一样好,并不擅长处理新情况;需学着信任这些系统的人,也必须学着对它信心。
沈克以电脑运算在棒球中的角色来说明:AI系统可以分析打者的强项和弱点,做出不同的场上攻守安排;传统教练或行家可能对它不以为然,而这些电脑辅助的决定结果,也可能不如“人算”。
人类真拥有决策的自主权吗?
上述的误事还无大碍,但万一后果不堪设想那时又如何?IBM曾经发明了一个叫作
“华生”的AI医疗诊断系统,最初研发这套系统的目的,只是要上电视赢得益智游戏,后来又调整为AI认知系统。
“华生”让专家有最后的发言权;IBM坚持人永远有最后决定权。但是,在一个分析过诸多类似情况、运算过所有资料的电脑提出建议后,要医师推翻电脑的决定,容易吗?如果牵涉到保险或财务后果,那拒绝科技就更难了。诺巴克许说:“医师感觉他们自己受AI的摆布,他们可以做决定,并不表示做决定的是他们。”
类似的担心也曾在80年代出现过,当时AI领域的“专家智能系统”琳琅满目,设计旨在引导使用人通过“决定图谱”找出各种情况的正确答案。结果却发现:要预测一切让现实世界决定复杂化的因素非常困难。
不过,基于机器学习的最新AI科技,看来更易于被广泛接纳,也可能更难于反诘。由于在影像辨认等狭窄领域上的成功,各界对这类系统的期待殷切,这些技术的发明人也乐得炒作。沈克说:“营销部门如脱缰之马。”他特别指名IBM,认为IBM渲染“华生”的功能,而AI圈子中不止只有沈克这样批评。【转载务必注明:世界经理人办公伙伴-office.icxo.com】