新闻 热门评论
张田勘:声音也能被深度伪造,我们还安全吗
华夏经纬网   2019-09-12 13:27:51   
字号:
近期热词
                

  作者:张田勘

  伴随信息技术和人工智能(AI)的突飞猛进,借助于AI的深度造假(Deepfakes)也进入人们的生活,并激起巨大涟渏,冲击着人们的神经。在换脸造假之后,语音合成的深度造假也出笼了,这项技术可以模拟任何人的声音。据央视财经报道,彭博社记者万斯使用电脑合成语音给他母亲打了个电话,他的母亲并没有识别出这是真儿子还是语音合成的假儿子。

  在万斯告诉母亲是电脑合成他的语音在与她通话后问母亲,“你觉得吓人还是觉得不错?”母亲的回答是,“如果涉及到非常重要的事情,真的挺吓人的。”

  不只是万斯的母亲会认为深度造假的语音吓人,天下的母亲都会感到吓人。无论是相貌还是语音的深度造假,都涉及技术的两面性。在谈到技术的两面性时,人们都会引用刘易斯·芒福德的《技术与文明》,认为人类发明技术本来是为了便利和舒适,但最终自己的生活却被技术无情地改变甚至主宰了。

  网络、IT和AI当然是人类智慧的结晶,向善和向着有利于人和社会的方向发展,将把人类社会带入新的文明。但是,如果这些技术被不法者利用,而且管控不当,受到伤害的将会是每一个人。

  今天的信息技术的发展早就超出了《技术与文明》所描述的特征和人们拘泥的认识,即每项科技手段和成果只有在应用之后才会发现其问题,才能有时间和精力来监管。但是,信息技术的正反两方面问题正如其特点一样,一旦出现,就没有时间差,会随着其网络传播的速度,迅速传遍人类社会的每一个角落,只要有网络、WIFI布局的地方。

  对于信息技术和AI产品,全球有社会责任感的研发人员和公司早就深有同感,如果只是把新产品的研发和新技术的应用当作赚钱的工具,势必造成社会的混乱、失序。因此,微软提出了人工智能的一些伦理,包括公平、可靠和安全、隐私和保障、包容、透明和责任等。而且,这些准则已形成共识。

  但是,仅有这些准则远远不够。深度造假在语音和人脸、相貌上的多种产品就是如此。在中国有ZAO,在美国有FakeApp(2018年1月上线),都可以“一键换脸”。现在又有了“一键换音”的软件和APP。而这些产品在上市上线之前,显然并没有经过伦理审查和法律评估。因此,它们一上线,其负面效应就和正面效应同时出现,不只是BUG太多,还出现“技术行恶”的种种可能,如欺诈、制造外交纠纷、煽动政治暴力、破坏选举、危及国家安全等。

  这也意味着,信息技术和AI产品并不等同于一般的产品,如汽车,只有出现交通事故之后,才会想到用交通规则来管理,而是需要有一个提前量。而且,信息技术和AI产品还有一个特点是,覆水难收。例如,一键换脸的FakeApp在Reddit网站和其他网站已明令禁止,但仍有超过9万名用户在Reddit上传播换脸视频和图片。因此,在每一件AI产品和APP发布和投放市场之前,必须进行伦理和法律评估。

  同步甚至是前置监管信息技术产品,已成一种强烈的现实需求。国际上已有法律和伦理依据——欧盟欧盟2018年5月25日颁布实施的通用数据保护条例(GDPR),把个人数据置于现行欧盟法律保护之下。目前,其已对某些产品可能引发的个人隐私泄露的严重关切作出了反应,例如GOOGLE MAP、FACEBOOK等。未来,GDPR还将通过进一步确立“数据保护法案”来补充。同时,人工智能和信息技术伦理委员会也将对有技术公司在出台和发布AI产品进行审查,该委员应有工程师、科学家、律师、社会学家、公众代表、科技公司法人或领导组成。

  对信息科技产品尤其是AI产品进行科技伦理和法律审查,不是阻碍和桎梏科技发展,而是要为科技创新划定正确航道和必须遵守的价值底线,唯其如此才能加速科技发展。只有制度能保障科技向善之时,才会有人类社会的未来,才会提升社会文明。(张田勘)

 

来源:光明网

 

责任编辑:徐亚旻

共1页
  网友评论
  网友: 密码:   
 
 
 
  已有( ) 条评论 剩余 字 验证码:    
 
相关文章
   
·王石川:强行给学生卸妆:教师也该有教师的样子
·然玉:“绿化带停车罚三千”反映出执法经验与缺陷
·陈广江:从郑荣权到王香君,盲人的教师梦何时能圆
·兜售17万条“人脸数据”:我的“脸”岂能成你的“商品”?
·国内泡面销量回暖 无关消费降级
·西安交大新校区“无围墙”:该喊一声好
·传统手工月饼古法革新 老底子工艺唱响“复兴”新篇章
·49岁大学宿管阿姨考上研究生:未来计划去支教
·上海迪士尼乐园新规:包检以目视和外部触摸为主
·北京23家公园推66项文化活动过中秋 延长开放时间
·新版高中语文教材古诗文占近一半,跟谁学提醒学好古诗文要素
·优贝乐:想要做一份常青事业,这些事你必须知道!
·北京部分中小学普及垃圾分类 鼓励学生主动回收分类
·比博物馆有趣 五个容易被忽略的京城游学好去处
热门点击
  更多
11月5日至10日,第二届中国国际进口博览会在上海举行。国家主席习近平出席开幕
11月27日至12月5日,习近平访问西班牙、阿根廷、巴拿马和葡萄牙并出席G20
精彩时评
 
·襄阳为郭靖立像,考验主办方出发点及艺术修养
·互联网时代,过度依赖算法是种“机器官僚主义”
·阿里在港IPO,AT为何青睐港交所
·舒圣祥:高空抛物入刑是一顶法治“安全帽”
·默城:精装修变“惊装修”,开发商请出来走
·“办卡易退卡难”应该谁来管
·万字评语背后是师者仁心
新闻推荐
  更多
·第五届海峡两岸书画名家交流展在北京举行
·台湾戏曲专家:“26条措施”增加台青就业机会
·北京再取消24项证明 基层证明精简比例达92%
·北京市卫健委:无新增鼠疫病例 患者已解除隔离
·金砖国家领导人第十一次会晤发表巴西利亚宣言
·美国又发校园枪击惨剧:致3死2伤
·土耳其在叙北部兴建新军事基地 并继续发动进攻
精彩博文
 
·[]
·[]
·[]
·[]
·[]
·[]
·
华夏周刊
  更多
新闻排行
   
  图片新闻   更多
  精彩视频   更多
新闻中心
大陆新闻 | 台湾新闻 | 港澳新闻 | 国际新闻 | 综合新闻 | 图片新闻 | 热门点击 | 重大新闻 | 滚动新闻 | 国台办新闻发布会 | 热门评论 | 新闻说吧
媒体时评 | 看 世 界 | 国际热点 | 港澳风情 | 大陆人看台湾 | 社会广角 | 酷文辣评 | 星闻情报站
---华夏经纬网版权所有---