来源：大数据文摘

作者：宋欣仪

未来我们有可能爱上我们的机械人吗？应该选择用隐私换宁静照旧拒绝一切侵入生活的技术？未来会泛起大规模自主性的AI杀伤武器吗？

AI时代到来前，除了技术的进步，这些问题正被越来越多的提起。针对此，清华大学AI研究院张钹院士和清华大学唐杰教授联合提倡「AI Time」science debate，希望用辩说的形式，探讨人工智能和人类未来之间的矛盾，探索人工智能领域的未来。

2019年5月底，以宁静和伦理为主题的首次运动在清华科技园举办。运动邀请到了清华大学AI研究院张钹院士、菠菜平台高瓴AI学院院长文继荣和搜狐网产物技术总监杨田，他们对于上述这些问题给出了精彩的讨论。

爱上人工智能？

《Her》剧照

讨论从影戏《her》开始，影片讲述一小我私家与人工智能相爱的故事。男主角西奥多偶然接触到最新的人工智能系统OS1——萨曼莎，她拥有迷人的声线，温柔体贴而又诙谐滑稽。西奥多与萨曼莎逐渐从人机友谊生长出了一段不被世俗理解的奇异恋爱。

当人工智能越来越进步，它可能会发生出自己的意识，甚至与人类生长出情感吗？2018年，一副人工智能画出的肖像画拍卖出了43.25万美元的高价，机械算法背后是否有灵魂存在？AI是否已经能够自己创作美、欣赏美？

几位学者都认为，目前还不需要担忧这个问题，影戏只是科幻故事，人工智能发生情感与意志的未来距离我们还很遥远。科幻片将人工智能界说为可以资助乃至取代人类思考的工具，但事实上我们仍处在人工智能的低级阶段。“现在的人工智能还局限于完成指定任务，而要从情感上或者自我意识上做到《Her》那样，目前技术还很难实现。”文继荣教授解释。

人机相爱的故事探讨的本质照旧爱，什么叫做爱，什么叫做美，这其实是哲学问题。但探讨这些对于人工智能的生长无疑是有须要的，张钹院士提出，哲学应该走在科技的前面。如果我们对于自己的大脑了解都不够充实，怎么去模仿人类的大脑从而缔造人工智能呢？

杨田博士认为作为这些人工智能的训练者，我们自己其实也不知道情感究竟是怎样表达的，该如何通报，现在的人工智能应用实际上是在用一个最优化的问题去迫近一个个类似这样的问题的现实表达。

痴迷的追求

理想与现实的差距并不能阻挠我们的热情，虽然距离人工智能的成熟遥遥无期，但无数的研究者都在这条门路上孜孜不倦地向前攻进，时刻准备着敲响第四次工业革命的钟声。现在人工智能研究处于发作期，5月宣布的《中国新一代人工智能生长陈诉2019》显示各国人工智能战略结构进一步升级，人工智能正在从少数大国关注走向全球结构的新花样。

教会机械思考的想法让我们着迷，让我们为之求索，人工智能将会改变什么？它的未来在哪里？

张钹院士体现就目前来说，人工智能目前虽然生长迅速，但是只能做到在某个方面凌驾人，它全面凌驾人是不行能的。AI可以下象棋，可以打游戏，但是都是在特定的限制，大量的学习，重复的训练之下，它的背后照旧人在起作用。我们接纳哲学里的行为主义流派的界说，如果这个机械体现出来的行为跟人一样，我们就认为它就具有智能。所以我们现在做的照旧在努力让机械学会模仿人类行为。

文继荣教授提出我们今天所有的讨论都基于我们对于人工智能的理解，什么是人工智能，为什么他写的法式就叫做人工智能，我的就不算？文教授给的界说是，从输入和输出两方面来判断：如果法式的输出结果是确定可预测的，就不是人工智能；如果输出是模糊的，是带有不确定性的，可以由精度来权衡，好比人脸识别95%，就是人工智能。也就是说如果法式能够应付输入情况的多样性、变化性，同时输出结果还获得比力高的精度，就是人工智能。“不精确的工具、对结果有很强的容忍性的场所是未来人工智能会乐成的地方。”

杨田博士体现，就目前对人工智能的界说来说，它可以把许多工具都做得挺好，好比，对话、语音合成。但离通过图灵测试远得很。就现在来说，语音相关的技术以及自动驾驶方面的技术其实有许多离实际应用很近。

正如蒸汽机刚刚发现，听见轰隆巨响而不觉自己正在窥见一场伟大的革命的工业革命时代的人们一样，我们也许正在见证未来，正在开启一个伟大的新时代。

忧：隐私与宁静孰轻孰重

面对隐私与宁静的抉择，美国与中国各执一端。5月14日，美国旧金山监事会通过一条新禁令，决定禁止该市所有单元使用人脸识别技术，包罗警察局等政府部门，成为全球首个推出人脸识别禁令的都市。

与此同时，中国生长出完备的天眼系统，通过应用人工智能、视频图像处置惩罚等多种专业技术，能在第一时间对人脸信息进行捕捉和匹配。教室里有摄像头瞄准学生，时刻捕捉学生的一举一动；过马路不小心闯了红灯，你的照片会立即与身份信息匹配，泛起在路边的大屏幕上……

人脸识别可以被用于抓捕罪犯、保障宁静，在教室安装摄像头也可以掩护学生，制止红黄蓝幼儿园事件类似的悲剧。但这项技术也有极强的侵入性，有一双眼睛在时刻注视着你，获取你的信息，而你永远不知道这些信息会被用于做什么。

张钹院士谈到，差异的做法背后折射了中西方差异的价值观，在小我私家利益和公共利益冲突的时候，中国选择公共利益，西方强调小我私家利益。如何平衡公共利益和小我私家利益，是一个很是严肃、需要认真研究的问题。隐私与宁静我们都不能轻易割舍，就看谁能做到更好的平衡。

文继荣教授也认为中西方目前的做法都过于极端，目前有些数据的搜集是完全没有须要的。西方因为过于强调隐私掩护，对大数据人工智能工业的生长造成很大的影响，但是中国也不应该纯粹为了生长人工智能工业而忽略隐私掩护。

杨田博士认为，现在的社会我们或多或少都从个性化推荐获得了便利，这其实就是通过向系统出卖隐私而换来的。摄像头的存在确实起到改善治安情况的作用。中国有句古话“举头三尺有神明”，已往科学还没有那么发达的时候，各人相信自己的一举一动有神在上面看着，从而约束自己不做坏事。现在，我们不相信神了，发现自己没有约束，这其实给所有人带来损害。这种情况下，这些技术手段起到了威慑作用，技术成为了新时代的神。

现在的界限在于，如果选择宁静，我们要如何保证数据不会被滥用？许多事情容易越界，如何守住我们的界限，是很是值得慎重思考的。

惧：未来的AI武器

人工智能武器是具有指挥高效化，攻击精确化，操作自动化，行为智能化等特点的智能武器，它可以有意识地寻找、分辨需要攻击的目标，具有分辨自然语言的能力，是一种会思考的武器系统。

文继荣教授体现，我们对AI的恐惧主要来自于对它自主性的畏惧，对它可能脱离人控制的恐惧。

最近一段时间，许多知名人士都对人工智能武器体现了抵制，认为机械人有朝一日将会控制人类。但是这种说法其实并不合理，至少在短期内不合理。张钹教授说，人类的意志才是战争的基础，机械只是被操控的工具。战争不管生长到什么水平，最后都是凭据人类的意志进行的。危险在人，而不在机械。所谓无人机，背后也是有人在地上操控。

也许人工智能武器的问题，不在于它们将会控制世界，而在于它们很是容易被重新编程，因此任何人都能够以低得惊人的预算，制作出一台滥杀无辜的高效机械。机械的杀伤力是巨大的，杨田博士提问的，我们能够允许在没有经过人类审判的情况下让武器去消灭一小我私家吗？

无人机的分级尺度

文继荣教授认为，应该对AI武器进行分级，和自动驾驶类似。凭据智能体面对情况多样性或者变化性时的处置惩罚水平来定。分级是资助我们更好地理解现在的人工智能所处的阶段和接下来要做的事情的一个途径。