人工智能时期行将来临机遇与挑战并存

发布时间：2020-03-23 12:11:14 阅读：次来源：滤纸厂家

北京时间3日消息，据国外媒体报道，2015年第一个星期天的下午，埃隆·马斯克（Elon Musk）在波多黎各的一个度假胜地参加了一场有关“智力爆炸”（intelligence explosion）的闭门会议。这个略显吓人的理论辞汇描写的是人工智能在认知能力上不受控制的奔腾，埃隆·马斯克和物理学家斯蒂芬·霍金耽忧，有朝一日这将给全部人类带来灭顶之灾。这是一次有关人工智能伦理的会议，长期以来，这1领域的专家、学者都不怎么引人注目。

人工智能是不是会让人类终究堕入万劫不复的地步？

会议的主题是“人工智能的未来：机遇与挑战”，显得十分乐观。牛津大学人工智能伦理学家尼可·博斯特伦（Nick Bostrom）与商业巨头，如Skype的创始人扬·塔里安（Jaan Tallinn）、谷歌公司人工智能专家谢恩·列格（Shane Legg）都参与了这次会议。

埃隆·马斯克和霍金耽忧“人工智能天启”的到来，但目前还存在着更加燃眉之急的威逼。在过去5年中，人工智能——特别是被称为“深层神经网络”的人工智能算法分支——的快速发展使人工智能主导的产品在我们的生活中愈来愈占据着中心和前沿的地位。谷歌、Facebook、微软和百度等公司，都在以史无前例的速度寻觅人工智能研究者，投入数以亿计的美元，试图开发出更好的算法和更聪明的计算机。

几年之前人们认为仿佛没法解决的人工智能困难如今逐步被攻克，推动了安卓系统的语音辨认，使Skype能像《星际迷航》里那样进行即时的翻译；谷歌公司正在研制自动驾驶汽车，和可以自动学习如何分辨猫类视频的计算机系统；机器大狗如今的行走能力也愈来愈接近现实中的狗了。

“计算机视觉已开始运用；语音辨认也开始了运用，人工智能系统有相当快的发展速度，”参与会议的人工智能伦理学家、康奈尔大学教授巴特·塞尔曼（Bart Selman）说，“这使得这1议题变得更加紧急。”

鉴于如此快速的发展，埃隆·马斯克和其他许多人开始向人工智能产品的开发者发出呼吁：要斟酌开发进程中的伦理问题。在这次波多黎各的会议上，代表们签署了1封公开信，许诺进行目的健康、积极的人工智能研究，避免误入歧途。埃隆·马斯克也在公然信上签了名，“所有这些最优秀的前沿研究者都认为人工智能的安全问题非常重要，”他说，“我同意他们的意见。”

谷歌公司的雄心

9位来自DeepMind公司的研究者也在公然信上签了字。DeepMind是一家人工智能公司，去年被谷歌收购。这个故事要从2011年开始讲起。当时，德米斯·哈萨比斯（Demis Hassabis）在一次人工智能会议上做了演讲，以后认识了主动前来自我介绍的扬·塔里安。哈萨比斯刚刚创建了DeepMind，而塔里安在创建Skype以后，逐步成了一个人工智能安全问题的“布道者”，正在寻觅一名志同道合的人。两个人开始谈论起人工智能，塔里安很快就投资了DeepMind。去年，谷歌公司花了4亿美元收购了这家唯一50人的公司，一举具有了世界上最大的深度学习领域人材和专利库。不过，谷歌还是显得十分低调，乃至不让哈萨比斯接受采访。DeepMind正在进行的研究包括对周围环境具有更好感知能力的智能机器人和自动驾驶汽车。

不过，这些研究却让扬·塔里安有点担心。他在此次波多黎各的会议上做了个演讲，回忆起哈萨比斯在一个午饭会上向他展现自己所开发的机器学习系统，该机器能玩20世纪80年代流行的街机游戏《Breakout》。事实上，它不但会玩，而且非常精通，高效而无情，令塔里安感到震惊。“虽然作为技术人员的我对这1成绩感到惊奇，但另一方面的我想到，我正在见证一个开启人工智能灾害的玩具模型。一次突然的展现，让我看到了意想不到的智能潜力。”塔里安回想道。

在1975年的阿希洛马会议（Asilomar Conference）上，份子生物学家们就重组DNA的道德底线问题进行了讨论，终究在安全标准上取得了共鸣，签名保证不让人工基因改造的生物对公众造成威逼。相比波多黎各的这次人工智能会议，阿希洛马会议的结果明显更加具体。

在波多黎各的这次会议上，参会者的公开信概述了人工智能的研究重点，如人工智能的经济和法律效应，和人工智能系统的安全性。近日，埃隆·马斯克斥资一千万美元用于支持这项研究。这些都是避免机器人破坏世界经济，或避免它们向人类大开杀戒的重要一步。一些公司已走得更远。去年，加拿大机器人公司Clearpath Robotics许诺不研制用于军事的自主机器人。该公司首席技术官瑞恩·加里皮（Ryan Gariepy）在公司网页上写道：“致反对杀人机器人的人们：我们支持你。”

许诺不开发“终结者”仅仅是开始。像谷歌这样的人工智能公司必须斟酌他们的产品，如自动驾驶汽车的安全性和法律责任问题。不管机器人是不是会使人类失去工作，人工智能算法所致使的意想不到的后果，对人类来讲都显得不是很公平。举例来说，亚马逊公司在不同社区出售商品的价格不同，这是不是符合伦理？有没有甚么安全措施，来保障大宗商品市场不被某个交易算法破坏？在自动驾驶交通工具的时期，从事大巴司机这样职业的人将何去何从？

Binatix是一家从事股票市场交易的深度学习公司，其创始人伊塔马尔·阿雷尔（Itamar Arel）并没有参加波多黎各的会议，但他在读完公开信后马上签了名。对他来讲，智能算法领域的革命，和价格低廉的智能机器人需要被人们更好地理解。“是时候要花更多精力去理解人工智能系统取代蓝领工作所带来的社会影响了，”他说，“这是肯定的，社会没法跟上人工智能系统发展的速率。这绝对是个问题。”

伦敦帝国学院的认知机器人教授穆雷·沙纳汉（Murray Shanahan）称，对破坏性人工智能超级大脑的预测也许会登上头版头条，但在近几年，这些更加枯燥、平淡的耽忧意见才是更应当见诸媒体的。他说：“很难预测到底会产生甚么，但我们能肯定，它们一定会对社会造成影响。”