网站地图  登录 注册

栏目

频道

当前位置: > 首页 > 网络家电 > 数码 >

应给智能机器嵌入“道德”算法

2018-09-06 11:14  本文来源:中国消费者报·中国消费网 作者:喻思南

  前不久,包括特斯拉首席执行官马斯克在内的多位全球人工智能顶尖专家签署承诺书,呼吁不要开发“人工智能自主武器”。这已经不是业界第一次警告人工智能的潜在风险了。尽管当前处理单项任务、完成人类指令的“弱人工智能”自主性还很低,人们却不能因此忽视新技术应用的潜在隐患。

  高效、聪明的人工智能并不完美,比如人工智能存在算法缺陷。这种缺陷往往源于机器学习过程的不可解释和不可理解,它的判断有时就像在一个黑箱中完成,缺少透明性。无人驾驶汽车决定向左或右转时,人们并不完全清楚它做出转向的过程。除了传感器故障,人们甚至无法准确找到问题原因,这就给有针对性地调整系统、判定责任带来了障碍。正因为如此,不久前生效的欧盟《通用数据保护条例》专门规定,人工智能公司必须让人来审查某些算法决策。

  不仅有近忧,更有远虑。放眼未来,人工智能的应用正在模糊虚拟世界和物理世界的界限,可能重塑人类的生存环境和认知形态,并由此衍生出一系列棘手的伦理、法律和安全难题。与历史上其他技术创新相比,人工智能的伦理法律等问题受到如此大的关注,一个重要原因就在于它在理念上有望实现可计算的感知、认知和行为,从而在功能上模拟人的智能和行动,进而使得机器具有了一种准人格或拟主体的特性。人类现有的法律规范、概念框架及知识储备能否应对人工智能发展引发的新问题,是人们不得不正视的挑战。

  针对人工智能应用的潜在风险,国际社会在标准设计、伦理道德等方面提出了一系列试图控制智能机器系统的方案,逐渐形成一个共识原则:通过算法给智能机器嵌入人类的价值观和规范,以此让它们具有和人类一样的同情心、责任心、羞耻感等伦理道德。人们希望人工智能的算法遵循“善法”,在完成人类难以完成的任务时,吸取人类道德规范“善”的一面,从而达到控制机器风险的目的。毕竟,任何算法都只是实现目的的工具或手段,“善”的结果才是人类的追求目标。

  人类对人工智能发展的远虑或许来得早了点,但未雨绸缪体现的正是人类的智慧和洞见,我们不能等到人工智能深度介入人类生活后才思考如何与之相处的问题。与机器相处的和谐度,应是人类开发利用人工智能的重要标尺。毕竟,人工智能的应用,不仅仅是一场科技创新,也可能是影响深远的社会伦理试验。

责任编辑:王峰

相关阅读:

网站介绍 城市消费维权网 全国打假网 记者名单 报纸广告 网站广告 新媒体广告 版权声明

 

中国消费网新闻热线:010 - 88315472 010 - 88315473
违法和不良信息举报电话:010 - 88315476 010 - 88315479

违法和不良信息举报邮箱:info@ccn.com.cn
地址:北京市海淀区阜成路北三街8号 邮 编:100048

中国消费网 互联网新闻信息服务许可证:1012006031 京ICP备09107225号-1 京公网安备 11010802026600号
中文域名(中国消费网.中国,中国消费网.cn)
Copyright © 2014-2019中国消费网 版权所有 网站统计