咨询热线

400-007-6266

010-86223221

AI模仿高管声音成功诈骗24万美元 换脸 “ZAO”一夜爆红隐私安全引争议

 
图片来源:Markus Spiske;pexels

       华尔街日报称,欺诈犯利用AI仿造了某英国能源公司的母公司CEO声音成功诱骗高管在一小时内通过匈牙利供应商向其转账24万美元。该名高管表示自己甚至听到了老板轻微的德国口音,因此完全没有怀疑,直到被要求再次转账才发现异样。警方调查发现这笔钱最终转移到了墨西哥等地,但目前无法确定嫌犯身份,损失将全部由保险公司承担。

       AI仿真语音生成软件早已在美国普及。谷歌旗下的加拿大初创公司Lyrebird,只需一分钟的音频即可生成与用户语音特征高度相似的数字语音。

       制作完成数字语音只需要一分钟,它能读出你输入的所有字,包括提交音频中没有的信息,比如被骗高管说甚至听到了老板的德国口音。

       网络安全专家预测,未来利用AI进行网络犯罪的数量将大幅增长,建议在转移钱时先进行身份验证。

       8月30日zao一夜走红后,引来过度收集用户信息,隐私安全担忧等质疑。

 

图片来源:APP手机截图

       只需一张照片,就能秒变“戏精”,甚至还能与偶像同台飙戏,保证“连亲妈都看不出来”。从8月30日晚开始,一款叫做“ZAO”的换脸软件在社交网络疯狂刷屏。截至8月31日下午16时,ZAO App仍居iOS应用商店免费App下载量第二位。不过,随着ZAO火爆网络,针对此类换脸应用版权、伦理、隐私安全等问题的质疑声音也越来越大。迅速蹿红的ZAO瞬间站在了舆论的风口浪尖上。

       ZAO设定仅可验证手机号登陆,在登陆页面也没有提示用户需阅读并同意《用户协议》和《隐私协议》,且两协议均处于“默认同意”状态。进一步阅读《用户协议》可以发现,ZAO可以通过一键获取用户授权,轻松实现平台责任转移、自动获得素材的肖像权授权,还顺带获得了自由修改协议条款的“能力”。

       ZAO在版权声明中提到,产品上存在的短视频和表情等素材,除了特别声明是ZAO跟合作方进行版权合作的之外,均来源于ZAO用户自发的上传,ZAO不享有素材的商业版权。

       中国政法大学知识产权中心特约研究员赵占领对中新经纬客户端表示,平台要求用户对其上传的内容进行授权,实际上是希望用户对于获取平台服务支付一定对价。ZAO作为提供格式条款的一方,对于免除或者限制自己责任的格式条款,应采取显著、醒目的方式提醒用户注意。但该授权淹没在用户协议中,绝大多数用户根本注意不到。

       另有业内人士表示,这种让用户保证上传内容不侵害他人权利的做法,是平台在推卸自己的法律责任。对明显是侵犯著作权的作品,比如一些知名影视剧等,如果平台知道无授权却装作视而不见,应该和侵权人承担连带责任。

       相关报告参考《2019年中国AI芯片市场分析报告-行业调研与投资战略研究

资料来源:观研天下整理,转载请注明出处

       更多好文每日分享,欢迎关注公众号
更多好文每日分享,欢迎关注公众号

【版权提示】观研报告网倡导尊重与保护知识产权。未经许可,任何人不得复制、转载、或以其他方式使用本网站的内容。如发现本站文章存在版权问题,烦请提供版权疑问、身份证明、版权证明、联系方式等发邮件至kf@chinabaogao.com,我们将及时沟通与处理。

人工智能需求爆发 存储器产业迎来“超级周期”与国产化双重机遇

人工智能需求爆发 存储器产业迎来“超级周期”与国产化双重机遇

12月10日,在数字经济高速发展背景下,存储能力(存力)与计算能力(算力)已成为驱动数据价值释放的“双引擎”。当前,我国存力基础设施建设成效显著,产业链自主创新能力持续增强,存储产业生态正迈向更高水平发展。

2025年12月11日
中国正式启动卫星物联网业务商用试验 助推商业航天与低空经济发展

中国正式启动卫星物联网业务商用试验 助推商业航天与低空经济发展

11月22日,在武汉举行的“2025中国5G+工业互联网大会”上,中国工业和信息化部正式宣布启动卫星物联网业务的商用试验。此举旨在进一步丰富卫星通信市场供给,支撑商业航天、低空经济等新兴产业的安全与健康发展,标志着中国卫星通信应用进入新的发展阶段。

2025年11月25日
我国人工智能产业实现跨越式发展 实力已稳居全球第一梯队!

我国人工智能产业实现跨越式发展 实力已稳居全球第一梯队!

11月3日,工业和信息化部党组书记、部长李乐成在最新出版的《党建》杂志发表署名文章《加快推进人工智能赋能新型工业化》,系统阐述了我国人工智能产业发展现状及未来战略布局。文章指出,我国人工智能产业实力已稳居全球第一梯队,将成为推动新型工业化的重要引擎。

2025年11月08日
云计算标准化新蓝图出炉 到2027年制定逾30项新国标行标

云计算标准化新蓝图出炉 到2027年制定逾30项新国标行标

10月9日,中国工业和信息化部与国家标准化管理委员会联合发布《云计算综合标准化体系建设指南(2025版)》(以下简称《指南》),为未来几年云计算产业的标准化发展绘制了清晰路径。《指南》明确提出,到2027年,将新制定云计算领域的国家标准和行业标准30项以上,以持续健全产业标准体系,赋能企业数字化转型。

2025年10月13日
国家数据局力推“数据要素×”行动 多地深化实践激活数据价值

国家数据局力推“数据要素×”行动 多地深化实践激活数据价值

9月28日,国家数据局举办第三场“数据要素×”系列新闻发布会,新闻发言人栾婕在会上系统介绍了行动计划启动以来的进展与成效,并明确了下一步工作重点。她强调,国家数据局将继续支持地方先行先试、大胆探索,通过印发数据要素场景指引、深化数据与实体经济融合(实数融合),充分激活数据要素价值,释放其乘数效应,加快形成以数据要素为引

2025年09月30日
首个标准发布! 我国脑机接口行业政策态度支持明确 多家企业已布局

首个标准发布! 我国脑机接口行业政策态度支持明确 多家企业已布局

2025年9月16日,从国家药监局获悉,最新批准发布了《采用脑机接口技术的医疗器械术语》医疗器械行业标准。这是我国第一项脑机接口医疗器械标准,为脑机接口医疗器械产业高质量发展奠定基础。该标准将于2026年1月1日正式实施,界定了采用脑机接口技术的医疗器械(简称脑机接口医疗器械)的术语和定义。

2025年09月17日
微信客服
微信客服二维码
微信扫码咨询客服
QQ客服
电话客服

咨询热线

400-007-6266
010-86223221
返回顶部