您现在的位置:新闻首页>科技
发展人工智能技术规矩不可少
近日,两件与人工智能技术应用有关事件引发社会广泛关注。第一件是一款视频编辑软件在社交媒体刷屏。该软件可以方便、快速地将视频中人物换为用户上传的任意人的脸。实际上,这种视频换脸很早以前利用专业视频编辑软件也可以实现,不过需要使用者有相应的技术,过程复杂。现在人工智能技术将这一复杂的技术过程简单化、快速化,普通人也可以轻松驾驭。第二件是一张学生课堂行为分析的图片,人工智能技术将学生抬头、看手机、低头、记笔记、打瞌睡等行为进行统计标明。
换脸应用有两点需要我们警惕:一是这种技术对社会信息传播秩序带来的冲击。惯常来说,视频对信息的保真度是高于文字和图片的,视频能够相对准确传播信息,是社会信息传播系统重要的媒介符号。这种易得、简单的换脸应用程序,如果被滥用势必引发传播秩序的混乱。二是这类应用软件收集人脸信息的合法性、安全性、可靠性存疑。人的面部、虹膜、指纹等生物特征识别信息,是重要的个人隐私信息。这类信息的重要性远大于地址、密码等类型信息。地址、密码可以修改,面部特征、指纹等生物信息终身唯一,无法更改,泄露后果的严重性,怎么说都不为过。如果这类信息一旦泄露,无可挽回,技术的开发者也无能为力,不论是技术开发者主观滥用,还是遭到黑客攻击、无意泄露,都难以挽回。现在刷脸在金融支付、交通出行、公共安全等领域已经广泛应用。面部生物信息的泄露,给整个社会体系带来的影响难以估量。
人工智能将学生课堂行为量化分析的问题在于,一是这种技术对学生行为分析的准确性、可靠性与可信度存疑。人工智能终究是一种算法,其当下能做到的是对个体行动轨迹的捕捉,不具备对人类丰富复杂的社会行为及其发生的场景准确判断和识别。同样是一个动作其意义可能差别很大。技术可以检测到学生低头写字,但到底写的是上课内容还是无关信息,显然再高级的人工智能也无法判断。人工智能可以准确识别学生是否出勤,但将课堂这么复杂丰富的人类行为场景,进行绝对量化的分析,不可靠。其次,即使技术上是可靠的,那么这种将学生课堂学习的行为如此量化来管理的道德正当性存疑。我们讲教育以人为本,因材施教,人不是机器,不能将学生行为进行彻底的数字化管理,技术不能奴役人。
这两件事反映出人工智能技术在快速发展和广泛应用,然而我们整个社会似乎对这种技术的认识还有待深化,对其带来的风险和挑战还没有做好治理准备。
在认识方面,人工智能技术可以高效、有效解决很多领域的问题,但要避免所有问题都由人工智能解决。人工智能对解决那些机械、枯燥、数据量庞大的、简单重复问题有效,但其缺少人情味、人性,所以在需要体现人的精神、情趣、想象、体现人性的工作,一定要人来做,不能一味追求技术解决。技术不是万能的。
人工智能技术治理关键是抓住三个核心关键问题:算法、数据和算力。政府要在涉及算法和数据两方面来立法和监督。要确保算法公开透明、可监督。数据方面对相关技术产品使用数据的种类、规模方面强化监管。在涉及人面部特征信息、指纹、血液等人体生物特征信息要设立严格的标准,从采集、传输、存储等环节规制,确保涉及个人安全和国家安全信息不被滥用和安全可控。数据应用的用户规模要与企业的安全保障能力匹配。此外,在涉及重要领域和广泛人群的技术应用要建立人工智能使用的伦理与安全评估机制,类似于医学研究的伦理评估环节,确保技术发展的正确方向和合理使用。建立第三方专业组织监督人工智能技术应用的安全性、可靠性与可控性。
企业要落实主体责任。在技术开发环节,遵循人工智能开发的基本原则:公平、可靠与安全、隐私与保障、包容、透明和负责,确保技术的可靠性、合法性和符合人类伦理规范。企业要有底线意识,不触犯相关的法律法规,要遵循基本的社会价值规范和公共道德,承担相应的社会责任。在各个软件分发平台,要严格检验应用的权限,确保用户下载应用的安全可靠性。
- 凡本网注明"来源:的所有作品,版权均属于中,转载请必须注明中,http://www.fj.zawww.cn。违反者本网将追究相关法律责任。
- 本网转载并注明自其它来源的作品,目的在于传递更多信息,并不代表本网赞同其观点或证实其内容的真实性,不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时,必须保留本网注明的作品来源,并自负版权等法律责任。
- 如涉及作品内容、版权等问题,请在作品发表之日起一周内与本网联系,否则视为放弃相关权利。
- 01我国最大潮流能发电机组研制成功
科技日报哈尔滨1月13日电 (记者李丽云 通讯员王学善)记者13日从哈电集团获悉,新年[详细]
- 02刷脸支付智能导航 你想要的便捷这条地铁都
不用带手机、不用带钱、不用带卡,刷脸就可以过闸坐地铁;走过一体化智能安检闸机,就[详细]
- 035G 工业互联网 释放乘数效应
5G是新一代信息通信技术升级的重要方向,工业互联网是制造业转型升级的发展趋势。当技[详细]
- 04我首次完成太阳帆在轨关键技术试验
记者从中科院沈阳自动化所获悉,由该所研制的“天帆一号”(SIASAIL-I)太阳帆,搭载[详细]
- 05北斗快速辅助定位系统用户已突破3亿
记者从中国兵器工业集团有限公司(以下简称兵器工业集团)11日召开的2019年科技工作会[详细]
- 06美欧贸易紧张升级:美上调欧盟进口飞机关税
中新网2月15日电 据外媒报道,当地时间14日晚间,美国政府宣布,将于2020年3月将欧盟[详细]
- 07黑洞吸积物理图像“最后一块拼图”完成
科技日报讯(记者吴长锋付毅飞)记者从中国科学技术大学获悉,该校团队与中国极地研究[详细]
- 08英特尔20亿美元收购以色列人工智能芯片制造
美国芯片制造商英特尔公司16日宣布,以约20亿美元收购以色列人工智能芯片制造商哈巴纳[详细]
- 09机器人图书馆上岗 海量图书各就各位
在图书馆借书时,有没有遇到这样的尴尬,明明数据库显示要借的书就在某书架上,但就是[详细]
- 01共享停车亟待破坎前行
这段时间,全国不少地方频频探索共享停车的实招、妙招,随着共享停车市场扩大,一些深[详细]
- 02中兴通讯与奇瑞汽车签合作协议 打造5G行业
近日,中兴通讯与奇瑞汽车在安徽芜湖签署战略合作协议,双方将共同研究基于5G的车联网[详细]
- 039月1日起北京公交可刷码乘车
北京公交刷码乘车服务将于9月1日起公开测试。北京青年报记者昨日从北京公交集团了解到[详细]
- 049月推出面向高中生的人工智能教材
1月7日,由图灵奖得主、中国科学院院士、清华大学交叉信息研究院院长姚期智领衔主编的[详细]
- 05生命化学分子如何起源于太空?碳分子形成环
我们已知道太空中遍布多环芳烃物质,事实上,银河系大约20%的碳都锁定在多环芳烃。 新[详细]
- 06应用场景不断拓展 市场需求倒逼机器人产业
我国机器人产业经过多年发展水平如何?近日,由中国机器人产业联盟主办的2019年中国机[详细]
- 07智能分类回收机 投递全程不超过30秒
新华社讯(记者程迪李嘉盈)清早,南昌青山湖高新技术产业园区丹石社区居民万辉鹏拎着[详细]
- 08科普:什么是人工智能? 会干啥?真能取代
中新网5月25日电(吴涛)随着柯洁对战AlphaGo两局失利,人工智能(AI)又引发大众关注。那[详细]
- 09支付宝:近700万人从事40余种新职业 最高月
新浪科技讯 12月6日上午消息,支付宝首次公布在其平台上诞生的新职业。自支付宝2004年[详细]
- 01打破国外技术垄断!磁基板给信号开“VIP通
打破国外技术垄断 降低手机生产成本 磁基板给信号开个“VIP通道” 坐公交、地铁,无需[详细]
- 02报告显示:我国大数据智能化及5G应用走向深
新华社重庆8月27日电(记者黄兴)中国信息通信研究院在此间举行的中国国际智能产业博览[详细]
- 031毫升唾液检测DNA 将3.4万个家谱数据化意味
将3.4万个家谱数据化意味着什么 23魔方开发基因检测新应用场景 陶玉祥 本报记者 盛 利[详细]
- 04人工智能继续迭代 类脑计算悄然走红
深度学习正遍地开花,但它可能并非人工智能的终极方案。无论是学术界还是产业界,都在[详细]
- 05美“火星2020”拟于明年夏季升空
据美国太空网12日报道,美国国家航空航天局(NASA)的“火星2020”火星车拟于明年夏季[详细]
- 06地球可能并非最宜居星球 系外行星或拥有更
TRAPPIST-1行星系统的艺术图,其中有3颗行星处于宜居带内。图片来源:物理学家组织网 [详细]
- 07OPPO开始在日本市场采用“新策略”
OPPO开始在日本市场采用“新策略” 参考消息网10月10日报道日媒关注到,中国智能手机[详细]
- 08地球首次生物大灭绝持续时间仅20万年
进入显生宙以来,地球一共发生过5次全球性大规模集群灭绝事件。其中,发生在4亿多年前[详细]
- 09工信部:从未要求运营商降速 4G将与5G长期
从未要求运营商降速4G将与5G长期并存 工信部回应网传4G降速 本报北京8月22日讯 记者侯[详细]