咨询热线

400-007-6266

010-86223221

AI模仿高管声音成功诈骗24万美元 换脸 “ZAO”一夜爆红隐私安全引争议

 
图片来源:Markus Spiske;pexels

       华尔街日报称,欺诈犯利用AI仿造了某英国能源公司的母公司CEO声音成功诱骗高管在一小时内通过匈牙利供应商向其转账24万美元。该名高管表示自己甚至听到了老板轻微的德国口音,因此完全没有怀疑,直到被要求再次转账才发现异样。警方调查发现这笔钱最终转移到了墨西哥等地,但目前无法确定嫌犯身份,损失将全部由保险公司承担。

       AI仿真语音生成软件早已在美国普及。谷歌旗下的加拿大初创公司Lyrebird,只需一分钟的音频即可生成与用户语音特征高度相似的数字语音。

       制作完成数字语音只需要一分钟,它能读出你输入的所有字,包括提交音频中没有的信息,比如被骗高管说甚至听到了老板的德国口音。

       网络安全专家预测,未来利用AI进行网络犯罪的数量将大幅增长,建议在转移钱时先进行身份验证。

       8月30日zao一夜走红后,引来过度收集用户信息,隐私安全担忧等质疑。

 

图片来源:APP手机截图

       只需一张照片,就能秒变“戏精”,甚至还能与偶像同台飙戏,保证“连亲妈都看不出来”。从8月30日晚开始,一款叫做“ZAO”的换脸软件在社交网络疯狂刷屏。截至8月31日下午16时,ZAO App仍居iOS应用商店免费App下载量第二位。不过,随着ZAO火爆网络,针对此类换脸应用版权、伦理、隐私安全等问题的质疑声音也越来越大。迅速蹿红的ZAO瞬间站在了舆论的风口浪尖上。

       ZAO设定仅可验证手机号登陆,在登陆页面也没有提示用户需阅读并同意《用户协议》和《隐私协议》,且两协议均处于“默认同意”状态。进一步阅读《用户协议》可以发现,ZAO可以通过一键获取用户授权,轻松实现平台责任转移、自动获得素材的肖像权授权,还顺带获得了自由修改协议条款的“能力”。

       ZAO在版权声明中提到,产品上存在的短视频和表情等素材,除了特别声明是ZAO跟合作方进行版权合作的之外,均来源于ZAO用户自发的上传,ZAO不享有素材的商业版权。

       中国政法大学知识产权中心特约研究员赵占领对中新经纬客户端表示,平台要求用户对其上传的内容进行授权,实际上是希望用户对于获取平台服务支付一定对价。ZAO作为提供格式条款的一方,对于免除或者限制自己责任的格式条款,应采取显著、醒目的方式提醒用户注意。但该授权淹没在用户协议中,绝大多数用户根本注意不到。

       另有业内人士表示,这种让用户保证上传内容不侵害他人权利的做法,是平台在推卸自己的法律责任。对明显是侵犯著作权的作品,比如一些知名影视剧等,如果平台知道无授权却装作视而不见,应该和侵权人承担连带责任。

       相关报告参考《2019年中国AI芯片市场分析报告-行业调研与投资战略研究

资料来源:观研天下整理,转载请注明出处

       更多好文每日分享,欢迎关注公众号
更多好文每日分享,欢迎关注公众号

【版权提示】观研报告网倡导尊重与保护知识产权。未经许可,任何人不得复制、转载、或以其他方式使用本网站的内容。如发现本站文章存在版权问题,烦请提供版权疑问、身份证明、版权证明、联系方式等发邮件至kf@chinabaogao.com,我们将及时沟通与处理。

首部AI纲领性文件发布 我国人工智能发展将进入系统推进、全面赋能新阶段

首部AI纲领性文件发布 我国人工智能发展将进入系统推进、全面赋能新阶段

8月26日,国务院日前印发《关于深入实施“人工智能+”行动的意见》(以下简称《意见》),旨在系统性推动人工智能与经济社会深度融合,加快培育新质生产力。

2025年08月30日
中国数字基础设施建设领跑全球 算力总规模位居全球第二

中国数字基础设施建设领跑全球 算力总规模位居全球第二

8月14日,中国国家数据局局长刘烈宏在国务院新闻办公室举行的新闻发布会上介绍了“十四五”时期数字中国建设的发展成就。他表示,中国数字基础设施在规模和技术等方面已处于世界领先地位,算力总规模位居全球第二,为经济社会发展提供了强劲动力。

2025年08月15日
《实施意见》明确我国脑机接口产业两步走发展目标 行业迎来重大机遇

《实施意见》明确我国脑机接口产业两步走发展目标 行业迎来重大机遇

8月7日,工业和信息化部、国家发展改革委、教育部等七部门联合印发《关于推动脑机接口产业创新发展的实施意见》(以下简称《实施意见》),明确了2027年和2030年两步走发展目标,并提出五大重点任务,旨在加快脑机接口技术创新和产业应用,推动我国在该领域实现全球领先。

2025年08月09日
2025年上半年中国电子竞技产业总收入破127亿元 自研赛事海外表现亮眼 国际化进程加速

2025年上半年中国电子竞技产业总收入破127亿元 自研赛事海外表现亮眼 国际化进程加速

8月1日,中国音像与数字出版协会第一副理事长张毅君在2025全球电竞大会上发布了《2025年1-6月中国电子竞技产业报告》。报告显示,中国电竞产业在市场收入、新品研发、赛事出海等方面均呈现增长趋势,产业链日趋完善,正朝着规范化、主流化、国际化方向稳步发展。

2025年08月04日
中国游戏产业持续升温!市场实际销售收入及用户规模均创历史新高

中国游戏产业持续升温!市场实际销售收入及用户规模均创历史新高

7月31日,在2025中国国际数字娱乐产业大会(CDEC)上,中国音像与数字出版协会第一副理事长、游戏工委主任委员张毅君发布《2025年1-6月中国游戏产业报告》。报告显示,2025年上半年国内游戏市场实际销售收入达1680亿元,同比增长14.08%;游戏用户规模近6.79亿,同比增长0.72%,均创历史新高。

2025年08月02日
我国生成式人工智能蓬勃发展:490余款大模型完成备案 个人用户注册总数超31亿

我国生成式人工智能蓬勃发展:490余款大模型完成备案 个人用户注册总数超31亿

7月30日,在国家网信办举办的《国家信息化发展报告(2024)》发布会上,国家网信办网络技术管理局副局长张光耀介绍了我国生成式人工智能的发展现状与管理举措。当前,我国生成式人工智能呈现四大特点:

2025年08月01日
微信客服
微信客服二维码
微信扫码咨询客服
QQ客服
电话客服

咨询热线

400-007-6266
010-86223221
返回顶部