您现在的位置:新闻首页>科技
可控的人工智能 才有未来
8月29日,2019世界人工智能大会在上海开幕。世界一些国家的著名科技公司和学界、产业界著名人士参加了此次大会,对人工智能的发展进行展望分析和献计献策。中国腾讯董事会主席兼首席执行官马化腾在演讲时表示,人工智能(AI)治理的紧迫性越来越高,应以“科技向善”引领AI全方位治理,确保AI“可知”“可控”“可用”“可靠”。
尽管并非所有人都认同AI的这几个“可”,但这提出了AI的一种方向,即AI产品的研发和使用必须同时具有几个维度,而不能只发展一个方面。AI或其他科技产品无论如何新颖和实用,也需要在可控的状态下才能受到人们的欢迎,并且在获得极大效益的同时,防止和减少对人类社会可能造成的麻烦和灾难。这或许是反思世界各国经济发展与环境保护曾犯下的错误后得出的经验。
确保AI的“知、控、用、靠”也是总结了科技史上的先研发、后管理的传统思路和做法的教训。在科技史上,汽车的发明把人类社会带入了工业文明时代,但是,在汽车的使用过程中,人们却较难控制其带来的交通事故和伤害,安全带的发明和使用就是控制汽车伤害事件的一个要素,但是,汽车发明之后80年才研发出安全带。
基于这样的认知,微软提出了其人工智能发展的一项原则每一项AI产品都要经过AI伦理道德审查。AI的迅猛发展也让人类认识到,如果AI在可用的同时不可控的话,人类将付出更大的代价。因此,对每一种AI产品进行伦理审查和立规也成为AI研发必须同时完成的任务。2016年微软的CEO萨提亚纳德拉(Satya Nadella)提出了人工智能的十大伦理:AI必须用来辅助人类;AI必须是透明的;AI必须实现效能最大化,同时又不能伤害人的尊严;AI必须保护人的隐私;AI必须承担算法责任以便人类可以撤销非故意的伤害;AI必须防止偏见。
以上6项是对AI产品提出的,但同时也提出了使用AI产品的人类应该拥有的4个伦理原则,包括人要有同理心,这在人与AI共存的世界里非常有价值;教育,为研发和管理AI提供基础;保持人的创造力,机器也会继续丰富和增强人们的创造力;裁决和责任,最终由人来对AI的判决或诊断,或对AI产生的所有结果负责。
如果能实施,这些原则当然能对AI进行有效的控制。但实际上,由于种种原因,很多机构和研发者设计的AI产品并非可控,也因此会在应用时出现种种问题。目前最大的问题就是侵犯人们的隐私,难以保证安全,也因此受到人们的批评和反对。
最近一个比较大的教训是苹果产品的语音助手西瑞(Siri)。2019年7月,媒体报道,西瑞会偷录用户的隐私语音,如就诊时的医疗信息等,并转化为声音档案,发送给苹果公司在不同国家的承包商。声音档案同时也记录用户的位置、使用数据与通讯内容。在经过一番解释和拉锯之后,苹果公司于8月28日就西瑞秘密录下与用户的交流,并将文件泄露给外包商正式道歉。由于隐私不保,用户提出了批评,而且如果这些情况不能改善,就会让苹果失去大量的用户,甚至被市场抛弃。
不过这种情况也表明,人工智能的发展最终还是取决于是否能受人控制,因为离开了人的控制,AI就无法进化和升级。正是在人与AI的互动情况之下,才有可能让AI的伦理审查和监控失灵或失范,并造成安全漏洞。
因此,不只是可知可用,可控和可靠也要同时得到保证和保障,AI才会有未来。其他产品同样如此。
- 凡本网注明"来源:的所有作品,版权均属于中,转载请必须注明中,http://www.fj.zawww.cn。违反者本网将追究相关法律责任。
- 本网转载并注明自其它来源的作品,目的在于传递更多信息,并不代表本网赞同其观点或证实其内容的真实性,不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时,必须保留本网注明的作品来源,并自负版权等法律责任。
- 如涉及作品内容、版权等问题,请在作品发表之日起一周内与本网联系,否则视为放弃相关权利。
- 01通信技术试验卫星五号发射成功
1月7日23时20分,我国在西昌卫星发射中心用长征三号乙运载火箭,成功将通信技术试验卫[详细]
- 02任正非:互联网时代讲科技脱钩根本不现实
新浪科技讯 9月26日下午消息,任正非和华为公司战略部总裁张文林在深圳对话美国著名计[详细]
- 03达摩院发布2020年十大科技趋势
近日,阿里巴巴集团前沿科技研究机构达摩院发布了2020十大科技趋势,涵盖了人工智能、[详细]
- 04中国南极考察队完成宇航员海采集水样作业
中国第36次南极考察队7日顺利完成宇航员海综合科考的最后一次CTD(温盐深剖面仪)采水[详细]
- 05德国电信在柏林等5城市开通5G服务 明年覆盖
新浪美股讯 北京时间9月5日下午消息,德国电信公司周四宣布,已在柏林等5座城市启动了[详细]
- 06微软称AI麻将系统实力已不输人类顶级选手
8月29日,微软在2019世界人工智能大会上宣布一项最新研究突破,微软亚洲研究院研发的[详细]
- 07用航天器撞偏小行星轨道计划可行吗?
来源:科技日报 科技日报北京9月4日电(记者刘霞)据美国太空网近日报道,来自美国、[详细]
- 08阿里钉钉首家“数字示范城市” 落户绥化
东北地区首家“钉钉数字示范城市”落户黑龙江省绥化市。近日,绥化市人民政府与阿里巴[详细]
- 09人工智能来了,职教界传递新共识
从工业时代到人工智能时代,从训练人配合机器到把机器变成人,从模仿到创新。如何应对[详细]
- 01新型中子半导体探测器能装入口袋
美国研究人员15日在《自然》杂志上发表研究报告称,他们使用一种富含锂的新型半导体材[详细]
- 02为实现高端制造,他跟着齿轮“转”了20年
你可能不知道,齿轮,这一悄声转动、无处不在的工业关键基础零部件,决定着汽车自动变[详细]
- 03OPPO开始在日本市场采用“新策略”
OPPO开始在日本市场采用“新策略” 参考消息网10月10日报道日媒关注到,中国智能手机[详细]
- 04篮球世界杯:首次实现“5G 8K”技术示范应
“图像超清晰,运动员脸上表情的细微之处都看得一清二楚,信号很流畅,首秀竟然有这么[详细]
- 05胡清华:用AI给“不确定性”找规律
走进胡清华的办公室,立刻被他满屋子的书所吸引。这些书的种类既有专业类书,也有哲学[详细]
- 06谷歌电商项目Google Shopping中国招商已经
来源:亿邦动力 原标题:Google Shopping中国招商已经启动 【亿邦动力讯】7月16日消息[详细]
- 07SpaceX载人龙飞船首飞前重要测试成功
SpaceX的“Mark 3”降落伞系统。图源:美国太空网 波音公司的下一代载人飞船“星际客[详细]
- 08全球AI初创公司 2019年创融资纪录
近日,据MIT科技评论报道,创投研究机构CB Insights发布的《全球人工智能投资趋势年度[详细]
- 09海信赞助美国EG电竞战队 体育营销套餐再添
中新网5月25日电 近日,海信正式成为美国电竞巨头EG战队官方赞助商,继世界杯赞助商之[详细]
- 01盘点一年IT圈 几多欢喜几多愁
随着新一轮科技革命和产业变革的到来,这几年,技术更新迭代的步伐越走越快。即将过去[详细]
- 02人类可以呼吸液体吗?事实上已经实现了!
新浪科技讯 北京时间8月28日消息,据国外媒体报道,空气约含有78%的氮气、21%的氧气和[详细]
- 03头像也要实名,像像社交率先推出“头像实名
中新网5月24日电 亲,我手机快要欠费停机啦,再不帮我充点钱,咱就没法接着聊啦!帅哥[详细]
- 04人工智能助力影视剧“经典永流传”
“我现在非常爱看老剧、老电影,因为经典永远不会过时。”“90后”小伙儿董强是一个资[详细]
- 05大数据开路 战“疫”物资空运畅通
信息不对称问题,被认为是阻碍抗疫物质精准投递的“最后一公里”。 在对抗新冠肺炎疫[详细]
- 06人工智能可提前一年半预测厄尔尼诺
科技日报北京9月18日电(记者张梦然)目前厄尔尼诺事件被认为无法准确预测,但据英国[详细]
- 07美欧贸易紧张升级:美上调欧盟进口飞机关税
中新网2月15日电 据外媒报道,当地时间14日晚间,美国政府宣布,将于2020年3月将欧盟[详细]
- 08“长五”复出背后的 强大精神力量
似一条喷火的巨龙, 长征五号运载火箭(以下简称“长五”)腾空而起,冲向浩瀚的太空[详细]
- 09乐创文娱董事长张昭离职 别融创入复星再起
乐视网的风波还未停歇。6月24日午间,乐创文娱董事长、CEO张昭宣布辞职,据《证券日报[详细]