派智库

原标题：AI能否可知、可控、可用、可靠？

　　东方网9月19日消息：据《劳动报》报道，如果AI可以被误导，人类的未来将会怎样？针对人工智能可能暴露出的诸多风险，腾讯首席执行官马化腾在2018世界人工智能大会首日主论坛上，向从业者抛出了四个问题，未来人工智能是否能够做到“可知”、“可控”、“可用”、“可靠”？这同样是全社会、全人类需要面对的话题。

织梦内容管理系统

　　在昨日召开的人工智能安全论坛上，就发布了这样一份白皮书：为了应对人工智能安全挑战，守护智能时代人类未来，世界人工智能大会安全高端对话专家组，在充分吸纳国内外人工智能安全共识基础上，联合国内外人工智能安全领域的专家学者和产业界同仁，共同发起“人工智能安全发展上海倡议”。从多角度为人工智能的安全挑战提出了理论建议。

　　“可知”算法应清晰透明可解释 copyright dedecms

　　在人工智能技术圈内广泛流传着一个词叫“算法偏见”，这是指在看似没有恶意的程序设计中，设计者所采用的数据带着个人偏见。结果当然带来了各种问题：例如，聊天机器人发布不当言论、合格的学生却无法登进入学系统、搜索引擎被曲解等等。 copyright dedecms

　　试想一下，建立在算法模型基础上的人工智能给社会生活带来便利的同时，却时不时“出其不意”地破坏社会的规则、造成误会和混乱，这样的生活可不可怕？马化腾首当其冲提出的问题就是，未来人工智能是否能够做到“可知”，AI的算法是否能变得清晰透明，可以解释？ 内容来自dedecms

　　人工智能安全上海白皮书也指出，人工智能发展应避免由于算法设计对公众产生危害，须明确算法动机和可解释性，克服算法设计和数据收集引发的不公正影响。 dedecms.com

　　“可控”明确AI责任制和伦理规范 本文来自织梦

　　那么，如果人工智能在算法设计中存在“偏见”，造成公众人身安全受到威胁、破坏社会治安和谐？首当其冲的责任人该是谁？

织梦好，好织梦

　　这是当前的人工智能发展中最欠缺的一部分。如何避免人工智能危害个人或整体的利益？人工智能所做的决定，是否最终仍然需要由具体的人来承担责任？这是人工智能发展中对“可控”的挑战。

织梦内容管理系统

　　白皮书中同样提到，人工智能发展应当建立完备的安全责任框架，需要针对人工智能的应用场景，不断创新法律法规和伦理规范，明确人工智能安全责任认定和分担机制。

　　“无论是弱人工智能时代，还是强人工智能时代，这一技术与大数据对法学和法律时间所造成的变革都已是不争的事实。”论坛嘉宾复旦大学哲学学院教授表示。

　　事实上，在无人驾驶领域就已出现责任难题。美国一辆Uber今年初在开放道路做无人驾驶的测试时，就不幸撞倒一名过路人致死，这是全球首例自动驾驶撞死行人事故，这起事故也引发了人们对人工智能是否需要承担刑事责任的新思考，但目前这一事故仍未有最终审判结果。

内容来自dedecms

　　“可用”服务人类福祉是唯一方向

copyright dedecms

　　传统人工模式下，电销人员确定意向客户，平均每天拨打200通电话，可如今，利用人工智能技术每天可打800—1000通；银行大堂经理不再需要一天10个小时站在原地接待客户，重复回答相同的问题；工人不再需要忍受高温、噪音在车间里流汗流血……这些都是人工智能对人类生活和工作的改变，其中有对机械性体力岗位的“接力”，同样还有对人们服务、生活水平的提升。 copyright dedecms

　　人工智能是否能让尽可能多的人使用，共享技术红利，避免出现技术鸿沟，是AI向“可用”方向发展的本质。

　　马云说过，人工智能的正确翻译应该是机器智能，人类要尊重机器、敬畏机器，但同样，机器要服务人类，如果一项技术，不能推进社会持续发展，让人类的生活更加健康，那么这样的技术毫无疑义。

织梦好，好织梦

　　“以人为本”是白皮书中强调的一点，书中指出，国际社会应一道科学规划人工智能的发展路径，确保人工智能按照人类预期并服务人类福祉方向发展，机器自主进化和自我复制等关键进程须进行风险评估和安全监督。

copyright dedecms

　　“可靠”AI要守住用户隐私底线 织梦内容管理系统

　　智能家居是近两年来最流行的人工智能设备之一，人们可以通过语音的方式与它进行交互，从而控制家里电器的开关、查询和安全日程、购物、播放歌曲等。然而，由于智能家居具备”听“的能力，因此其背后的安全性也令用户担心。

织梦内容管理系统

　　“现在，越来越多的厂商建立了漏洞响应和修复机制。安全团队要做的不再仅仅是传统的设置防火墙、加密文件、安全监控，而是需要从攻击者的角度出发检视自身存在的漏洞，并且及时修复。”上海市社科院互联网研究中心执行主任惠志斌表示。就如马化腾四个问题中的最后一问，人工智能是否能够足够快地修复自身漏洞，真正实现安全、稳定与可靠？这是发展中需要正视和研究的方向。

织梦好，好织梦

　　人工智能安全上海白皮书中也指出，人工智能发展首先需要保障用户的数据安全，不得已牺牲用户隐私为代价。需要加强数据保护立法，丰富人工智能的技术路线，强化应用中的用户隐私保护。 copyright dedecms

　　惠志斌指出，这份白皮书不能光是理论，下一步，全行业都应该深化理论，特别是提供技术支撑和解决方案。“我们期待社会各界能够共同努力，守护人工智能，畅行未来。” copyright dedecms