咨询热线

400-007-6266

010-86223221

AI模仿高管声音成功诈骗24万美元 换脸 “ZAO”一夜爆红隐私安全引争议

 
图片来源:Markus Spiske;pexels

       华尔街日报称,欺诈犯利用AI仿造了某英国能源公司的母公司CEO声音成功诱骗高管在一小时内通过匈牙利供应商向其转账24万美元。该名高管表示自己甚至听到了老板轻微的德国口音,因此完全没有怀疑,直到被要求再次转账才发现异样。警方调查发现这笔钱最终转移到了墨西哥等地,但目前无法确定嫌犯身份,损失将全部由保险公司承担。

       AI仿真语音生成软件早已在美国普及。谷歌旗下的加拿大初创公司Lyrebird,只需一分钟的音频即可生成与用户语音特征高度相似的数字语音。

       制作完成数字语音只需要一分钟,它能读出你输入的所有字,包括提交音频中没有的信息,比如被骗高管说甚至听到了老板的德国口音。

       网络安全专家预测,未来利用AI进行网络犯罪的数量将大幅增长,建议在转移钱时先进行身份验证。

       8月30日zao一夜走红后,引来过度收集用户信息,隐私安全担忧等质疑。

 

图片来源:APP手机截图

       只需一张照片,就能秒变“戏精”,甚至还能与偶像同台飙戏,保证“连亲妈都看不出来”。从8月30日晚开始,一款叫做“ZAO”的换脸软件在社交网络疯狂刷屏。截至8月31日下午16时,ZAO App仍居iOS应用商店免费App下载量第二位。不过,随着ZAO火爆网络,针对此类换脸应用版权、伦理、隐私安全等问题的质疑声音也越来越大。迅速蹿红的ZAO瞬间站在了舆论的风口浪尖上。

       ZAO设定仅可验证手机号登陆,在登陆页面也没有提示用户需阅读并同意《用户协议》和《隐私协议》,且两协议均处于“默认同意”状态。进一步阅读《用户协议》可以发现,ZAO可以通过一键获取用户授权,轻松实现平台责任转移、自动获得素材的肖像权授权,还顺带获得了自由修改协议条款的“能力”。

       ZAO在版权声明中提到,产品上存在的短视频和表情等素材,除了特别声明是ZAO跟合作方进行版权合作的之外,均来源于ZAO用户自发的上传,ZAO不享有素材的商业版权。

       中国政法大学知识产权中心特约研究员赵占领对中新经纬客户端表示,平台要求用户对其上传的内容进行授权,实际上是希望用户对于获取平台服务支付一定对价。ZAO作为提供格式条款的一方,对于免除或者限制自己责任的格式条款,应采取显著、醒目的方式提醒用户注意。但该授权淹没在用户协议中,绝大多数用户根本注意不到。

       另有业内人士表示,这种让用户保证上传内容不侵害他人权利的做法,是平台在推卸自己的法律责任。对明显是侵犯著作权的作品,比如一些知名影视剧等,如果平台知道无授权却装作视而不见,应该和侵权人承担连带责任。

       相关报告参考《2019年中国AI芯片市场分析报告-行业调研与投资战略研究

资料来源:观研天下整理,转载请注明出处

       更多好文每日分享,欢迎关注公众号
更多好文每日分享,欢迎关注公众号

【版权提示】观研报告网倡导尊重与保护知识产权。未经许可,任何人不得复制、转载、或以其他方式使用本网站的内容。如发现本站文章存在版权问题,烦请提供版权疑问、身份证明、版权证明、联系方式等发邮件至kf@chinabaogao.com,我们将及时沟通与处理。

冲刺全球首个!中国植入式脑机接口医疗器械即将上市

冲刺全球首个!中国植入式脑机接口医疗器械即将上市

3月31日,2025中关村论坛“科技助残平行论坛”上,清华大学洪波教授团队宣布,其研发的无线微创脑机接口技术成功帮助三位高位截瘫患者实现自主抓握、喝水、操控轮椅等运动功能。这项突破性进展标志着我国在植入式脑机接口医疗领域已走在全球前列。

2025年04月02日
AI大模型行业:地方政府积极推进 东莞市计划2025年打造50个以上AI+先进制造示范应用场景

AI大模型行业:地方政府积极推进 东莞市计划2025年打造50个以上AI+先进制造示范应用场景

3月19日,中国制造业强市东莞宣布该市人工智能大模型中心(下称“大模型中心”)上线,是中国首个面向制造领域的城市级大模型中心。

2025年03月21日
AI行业监管升级 9月1日起正式施行! 《人工智能生成合成内容标识办法》公布

AI行业监管升级 9月1日起正式施行! 《人工智能生成合成内容标识办法》公布

2024年3月14日,中国国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局近日联合发布《人工智能生成合成内容标识办法》(以下简称《标识办法》),自2025年9月1日起施行。

2025年03月18日
2025年1月中国游戏市场收入及自研游戏海外销售收入均同比增近3成

2025年1月中国游戏市场收入及自研游戏海外销售收入均同比增近3成

2月21日,中国音数协游戏工委和伽马数据联合发布的《2025年1月中国游戏产业月度报告》显示,受到春节前期活动的影响和带动,今年1月,移动、客户端、主机等多个终端市场均贡献增量,游戏市场收入环比同比均增长。

2025年02月24日
大数据行业市场化的关键一跃:国家公共数据资源登记平台将于3月1日上线

大数据行业市场化的关键一跃:国家公共数据资源登记平台将于3月1日上线

2025年2月18日,国家数据局举行新闻发布会,介绍公共数据开发利用最新情况。相关负责人介绍,国家公共数据资源登记平台将于3月1日上线试运行。相关负责人表示,即将上线的国家公共数据资源登记平台,不仅是数据资源管理系统,也是信息披露和资源发现的窗口,全社会都可以来这里找数据、找产品。

2025年02月19日
2025年全球人工智能服务器市场规模将增至1587亿美元

2025年全球人工智能服务器市场规模将增至1587亿美元

2月13日,国际数据公司IDC和浪潮信息联合推出的《2025年中国人工智能计算力发展评估报告》(下称“报告”)显示,2024年全球市场规模为1251亿美元,2025年将增至1587亿美元,2028年有望达到2227亿美元。其中,生成式人工智能服务器占比将从2025年的29.6%提升至2028年的37.7%。

2025年02月15日
脑机接口行业:《行动方案》来临 到2030年北京市脑机接口产业生态初步形成!

脑机接口行业:《行动方案》来临 到2030年北京市脑机接口产业生态初步形成!

2025年1月,北京市科学技术委员会、中关村科技园区管理委员会、北京市经济和信息化局印发《加快北京市脑机接口创新发展行动方案(2025-2030年)》,提出加强多元资金支持,鼓励和引导各级政府资金、投资基金强化早期投入。

2025年01月14日
2024年我国人工智能行业相关融资金额已超1099亿元 到2030年市场需求将达5.6万亿元

2024年我国人工智能行业相关融资金额已超1099亿元 到2030年市场需求将达5.6万亿元

2024年以来,人工智能浪潮席卷全球,我国人工智能领域投融资活动持续火爆,带动大量企业涌入AI行业。数据显示,截至2024年12月18日,年内AI领域共发生696起投融资事件,超过2023年全年(687起);投融资金额为1099.7亿元,2023年投融资金额为853.74亿元。

2024年12月19日
微信客服
微信客服二维码
微信扫码咨询客服
QQ客服
电话客服

咨询热线

400-007-6266
010-86223221
返回顶部