咨询热线

400-007-6266

010-86223221

AI模仿高管声音成功诈骗24万美元 换脸 “ZAO”一夜爆红隐私安全引争议

 
图片来源:Markus Spiske;pexels

       华尔街日报称,欺诈犯利用AI仿造了某英国能源公司的母公司CEO声音成功诱骗高管在一小时内通过匈牙利供应商向其转账24万美元。该名高管表示自己甚至听到了老板轻微的德国口音,因此完全没有怀疑,直到被要求再次转账才发现异样。警方调查发现这笔钱最终转移到了墨西哥等地,但目前无法确定嫌犯身份,损失将全部由保险公司承担。

       AI仿真语音生成软件早已在美国普及。谷歌旗下的加拿大初创公司Lyrebird,只需一分钟的音频即可生成与用户语音特征高度相似的数字语音。

       制作完成数字语音只需要一分钟,它能读出你输入的所有字,包括提交音频中没有的信息,比如被骗高管说甚至听到了老板的德国口音。

       网络安全专家预测,未来利用AI进行网络犯罪的数量将大幅增长,建议在转移钱时先进行身份验证。

       8月30日zao一夜走红后,引来过度收集用户信息,隐私安全担忧等质疑。

 

图片来源:APP手机截图

       只需一张照片,就能秒变“戏精”,甚至还能与偶像同台飙戏,保证“连亲妈都看不出来”。从8月30日晚开始,一款叫做“ZAO”的换脸软件在社交网络疯狂刷屏。截至8月31日下午16时,ZAO App仍居iOS应用商店免费App下载量第二位。不过,随着ZAO火爆网络,针对此类换脸应用版权、伦理、隐私安全等问题的质疑声音也越来越大。迅速蹿红的ZAO瞬间站在了舆论的风口浪尖上。

       ZAO设定仅可验证手机号登陆,在登陆页面也没有提示用户需阅读并同意《用户协议》和《隐私协议》,且两协议均处于“默认同意”状态。进一步阅读《用户协议》可以发现,ZAO可以通过一键获取用户授权,轻松实现平台责任转移、自动获得素材的肖像权授权,还顺带获得了自由修改协议条款的“能力”。

       ZAO在版权声明中提到,产品上存在的短视频和表情等素材,除了特别声明是ZAO跟合作方进行版权合作的之外,均来源于ZAO用户自发的上传,ZAO不享有素材的商业版权。

       中国政法大学知识产权中心特约研究员赵占领对中新经纬客户端表示,平台要求用户对其上传的内容进行授权,实际上是希望用户对于获取平台服务支付一定对价。ZAO作为提供格式条款的一方,对于免除或者限制自己责任的格式条款,应采取显著、醒目的方式提醒用户注意。但该授权淹没在用户协议中,绝大多数用户根本注意不到。

       另有业内人士表示,这种让用户保证上传内容不侵害他人权利的做法,是平台在推卸自己的法律责任。对明显是侵犯著作权的作品,比如一些知名影视剧等,如果平台知道无授权却装作视而不见,应该和侵权人承担连带责任。

       相关报告参考《2019年中国AI芯片市场分析报告-行业调研与投资战略研究

资料来源:观研天下整理,转载请注明出处

       更多好文每日分享,欢迎关注公众号
更多好文每日分享,欢迎关注公众号

【版权提示】观研报告网倡导尊重与保护知识产权。未经许可,任何人不得复制、转载、或以其他方式使用本网站的内容。如发现本站文章存在版权问题,烦请提供版权疑问、身份证明、版权证明、联系方式等发邮件至kf@chinabaogao.com,我们将及时沟通与处理。

我国云智算安全标准体系持续完善 云计算风险管理标准已成为ITU-T国际标准

我国云智算安全标准体系持续完善 云计算风险管理标准已成为ITU-T国际标准

7月4日,全球数字经济大会—云智算安全论坛暨第三届“SecGo论坛”7月3日在北京召开。本次论坛由全球数字经济大会组委会主办,中国信息通信研究院和中国通信标准化协会联合承办,来自政府、产业界、学术界的专家学者齐聚一堂,共同探讨云智算安全领域的最新发展。

2025年07月07日
工信部推动算力互联互通:2026年建成三级算力平台 2028年形成算力互联网

工信部推动算力互联互通:2026年建成三级算力平台 2028年形成算力互联网

5月30日,中国工业和信息化部正式发布《算力互联互通行动计划》(以下简称《行动计划》),提出到2028年基本实现全国公共算力标准化互联,构建数字经济发展新底座。该计划旨在充分发挥中国超大规模市场优势,以算力互联互通为主线,推动算力资源高效协同,助力数字经济增长。

2025年06月06日
2025年一季度我国互联网行业运行平稳 研发投入持续增加 未来有望进一步提质增效

2025年一季度我国互联网行业运行平稳 研发投入持续增加 未来有望进一步提质增效

5月6日,工业和信息化部通过官方微信公众号“工信微报”发布了2025年一季度互联网和相关服务业运行情况。数据显示,我国互联网业务收入实现小幅增长,研发经费投入增速加快,区域发展呈现分化态势。

2025年05月07日
智能数据标注产业加速转型 大模型驱动新业态发展

智能数据标注产业加速转型 大模型驱动新业态发展

5月1日,清华大学数字政府与治理研究院在第二届数字政府40人论坛上发布《智能数据标注产业发展观察报告》,指出在大模型技术快速发展的背景下,传统人力密集型数据标注模式正加速向智能驱动型、平台化的新业态转型。

2025年05月07日
中国AI创新领跑全球!2024年中国新公开生成式人工智能专利占比超六成

中国AI创新领跑全球!2024年中国新公开生成式人工智能专利占比超六成

4月29日,第八届数字中国建设峰会在福州开幕。会上,国家数据局发布了《数字中国发展报告(2024年)》(以下简称《报告》),全面展示了我国在数字技术、人工智能、数据要素市场等方面的快速发展,并指出中国正为全球贡献“中国智慧”。

2025年05月01日
冲刺全球首个!中国植入式脑机接口医疗器械即将上市

冲刺全球首个!中国植入式脑机接口医疗器械即将上市

3月31日,2025中关村论坛“科技助残平行论坛”上,清华大学洪波教授团队宣布,其研发的无线微创脑机接口技术成功帮助三位高位截瘫患者实现自主抓握、喝水、操控轮椅等运动功能。这项突破性进展标志着我国在植入式脑机接口医疗领域已走在全球前列。

2025年04月02日
微信客服
微信客服二维码
微信扫码咨询客服
QQ客服
电话客服

咨询热线

400-007-6266
010-86223221
返回顶部