“AI换脸”诈骗频发
9秒钟被骗245万元、10分钟被骗430万元......近期警方密集发布AI诈骗案例。安徽、上海、福建等地均受害者收到“亲友”的视频通话,以各种理由要求转账。然而,视频通话竟是诈骗分子利用AI合成的视频,受害者因视频“确认”对方身份被骗。
网络上有人感叹,生成式AI技术最先落地应用的场景竟是电信诈骗。记者采访熟悉电信诈骗案件的律师了解到,电信网络诈骗基本上都具有非常完整的上下游犯罪链条,而在涉及AI诈骗的案件中,若存在AI侵权情况,技术平台也有可能要承担行政责任。律师建议,技术平台可以在公安机关的指导下,成立反诈部门,共同防范这类AI诈骗的发生。
多地警方密集发布AI诈骗案情
【资料图】
近日,安徽警方发布了4月发生在安庆经开区的一起AI诈骗案件。4月27日,何先生的微信“好友”突然向其发起视频通话,电话接通后,何先生看到“好友”正在一间会议室内,就在他准备进一步询问时,“好友”直接挂断了电话,并表示在会议中有重要事情交代,需要何先生添加QQ沟通。
随后,“好友”在QQ上告诉何先生,目前有一个项目招标需要周转资金,希望何先生先行帮忙垫付。“因为打了视频电话又是熟人”,“我就没多想,就转账了”,基于对“熟人”的信任,何先生没有犹豫,立刻让家人将245万元转到对方指定的账号上,直到事后拨打对方电话才得知被骗。
经安庆经开公安分局全力追查,5月22日,民警将先行追回的132万元被骗款返还给何先生。目前,该案件正在进一步侦办中。
5月24日,上海市公安局浦东分局孙桥派出所也发布一起及时得到拦截的AI诈骗案件。前不久,当事人钱某上班期间,接到其嫂子视频电话,视频中称其购买的机票定金已付,还有49800元尾款尚未付清,让钱某帮忙转账支付。
钱某转账前,民警接到其同事报警赶到现场。民警通过查看相关聊天记录,结合日常诈骗分子常用话语进行分析,觉得事情另有蹊跷。经询问当事人视频时对方表情及神态不是很自然,且视频时间较短,简单交流后便让其进行转账付款。现场民警要求当事人与其嫂子取得联系,经确认其嫂子未与其视频聊天,也未要求其帮忙购买机票。
此前,在内蒙古包头警方发布的典型案例中,来自福建的当事人郭先生损失惨重。郭先生是一家科技公司的法人代表。今年4月,他的好友突然通过微信视频联系他,称自己的朋友在外地竞标,需要430万元保证金,想借用郭先生公司的账户走账。郭先生在10分钟内,先后分两笔把430万元转到了对方的银行账户上。事后,郭先生拨打好友电话才得知被骗。
合力打击“AI换脸”诈骗
诈骗分子之所以能够进行AI换脸、合成声音,就在于他们掌握了一定的受骗人信息,比如受骗人的照片、视频、语音等。上海德禾翰通律师事务所律师郑晨接受记者采访表示,目前个人信息泄露的风险较高,渠道也非常多样化。举例来说,目前很多门禁都是人脸识别,这些供应商都存在信息泄露风险,而信息泄露的渠道往往难以溯源。
还有分析称,受骗人对外公开的社交帐号如微博上,只要不是博主主动设置自己发布的内容仅在一定范围内可见,那么理论上任何人都是可以搜索查看,甚至还可以看到博主和好友的互动。另外,受骗人的个人信息可能被有意泄露甚至售卖。
郑晨分析说,不论是AI诈骗还是传统的电信网络诈骗,基本上都具有非常完整的上下游犯罪链条。“上游平台主要负责筛选群体、做技术维护、提供财务支持;中游负责具体实施诈骗行为,主要是训练话术,也就是普通人会接触到的打电话、发短信的行为人;下游主要负责洗钱,将诈骗犯罪所得进行转化。”
值得注意的是,在生成式AI技术浪潮席卷全球的过程中,主流监管框架认为技术提供方、服务方应承担主要风险防范责任。郑晨认为,AI诈骗中利用AI技术实施的违法犯罪行为,技术平台方在不具有主观故意的情况下可以阻却刑事责任。不过,在利用AI实施的侵权行为中,若平台方存在过错,可能会因违反相关规定而承担行政责任。
“我建议技术平台可以在公安机关的指导下,成立反诈部门,共同防范这类AI诈骗的发生。”郑晨说。
“AI诈骗是近期刚刚出现的诈骗新形式,虽然目前国内还是以传统电信网络诈骗如以固定话术发短信、打电话和加微信等为主,但不排除AI诈骗今后在国内也会逐渐增多。尤其是这种诈骗的成功率会有所提高,对于普通人来说防范难度更大。”郑晨提醒说。
近期多地警方也发布提示,针对花样翻新的智能AI诈骗,公众要提高防范意识,不轻易提供人脸、指纹等个人生物信息给他人,不过度公开或分享动图、视频等;网络转账前要通过电话等多种沟通渠道核验对方身份,一旦发现风险,及时报警求助。如果有人自称“熟人”、“领导”通过社交软件、短信以各种理由诱导你汇款,务必通过电话、见面等途径核实确认,不要未经核实随意转账汇款,不要轻易透露自己的身份证、银行卡、验证码等信息。如不慎被骗或遇可疑情形,请注意保护证据立即拨打96110报警。
(文章来源:上海证券报)
-
“AI换脸”诈骗频发
上海证券报 2023-05-27
-
爵士乐的特点描述_爵士乐的特点是什么-速看
互联网 2023-05-27
-
天天快看点丨这个双休日,北京先雨后晴,气温先降后升
新京报 2023-05-27
-
全球动态:醴陵:点亮“平安灯” 当好“守夜人”
时刻新闻 2023-05-27
-
美股盘初,热门中概股多数上涨,拼多多涨约14%
云财经 2023-05-27
-
房产股惊现“地天板”,控股股东以涨停价大举买入,暂未摆脱1元“生死线”!下周62股将解禁,6股解禁比例超50%
数据宝 2023-05-27
-
校园内外一盘棋:未成年工作站、家长课堂落户社区
凯迪网 2023-05-27
-
cf总是网络异常与服务器断开连接_cf老是网络出现异常与服务器断开连接_全球今日报
互联网 2023-05-27
-
瓷砖磨花了可以用什么修复(地砖花了怎么处理方法)
互联网 2023-05-27
-
收废品如何盈利(收废品怎么经营)
互联网 2023-05-27
-
“AI换脸”诈骗频发
上海证券报 2023-05-27
-
爵士乐的特点描述_爵士乐的特点是什么-速看
互联网 2023-05-27
-
天天快看点丨这个双休日,北京先雨后晴,气温先降后升
新京报 2023-05-27
-
全球动态:醴陵:点亮“平安灯” 当好“守夜人”
时刻新闻 2023-05-27
-
美股盘初,热门中概股多数上涨,拼多多涨约14%
云财经 2023-05-27
-
房产股惊现“地天板”,控股股东以涨停价大举买入,暂未摆脱1元“生死线”!下周62股将解禁,6股解禁比例超50%
数据宝 2023-05-27
-
校园内外一盘棋:未成年工作站、家长课堂落户社区
凯迪网 2023-05-27
-
cf总是网络异常与服务器断开连接_cf老是网络出现异常与服务器断开连接_全球今日报
互联网 2023-05-27
-
瓷砖磨花了可以用什么修复(地砖花了怎么处理方法)
互联网 2023-05-27
-
收废品如何盈利(收废品怎么经营)
互联网 2023-05-27
-
盈趣科技:联合设立的厦门脑机接口与智慧健康创新研究院已于4月完成注册登记工作
财联社 2023-05-27
-
证监会核准设立摩根士丹利期货(中国)有限公司
南财快讯 2023-05-27
-
本周盘点(5.22-5.26):锦盛新材周涨2.38%,主力资金合计净流出17.42万元
证券之星 2023-05-27
-
全球消息!梦幻西游哪个职业赚钱快点_梦幻西游哪个职业赚钱快
互联网 2023-05-27
-
【世界速看料】宝骏悦也:树A00级越野独特标签 但网友呼吁电改油
搜狐科技 2023-05-26
-
琼海市会展产业园揭牌成立 世界最新
琼海市融媒体中心 2023-05-26
-
5月26日人民币兑美元中间价报7.0760,下调231个基点-世界焦点
中国发展网 2023-05-26
-
5月26日东明石化石油焦价格平稳
生意社 2023-05-26
-
下月起,青岛这10条公交线路实行季节性延时
爱青岛 2023-05-26
-
环球看点!无锡贝来石油专用管有限公司(关于无锡贝来石油专用管有限公司的简介)
互联网 2023-05-26
-
资讯推荐:海南一季度新增减税降费及退税缓费37.2亿元
中国新闻网 2023-05-26
-
焦点速读:荣耀618超值福利来袭,多款爆款单品限时最高优惠500元
TechWeb 2023-05-26
-
三亚一小区楼道口垃圾屡清不止 居民困扰不堪
南海网 2023-05-26
-
国际油气巨头迎来开门红
中国能源报 2023-05-26
-
天津:走访调研力促党建和“产改”双提升
中工网 2023-05-26
-
2023鱼台契税返还消费券领取时间|环球视讯
本地宝 2023-05-26
-
“二阳”风波起,叮当快药24小时为用户再筑健康防线_焦点热门
互联网 2023-05-26
-
夯实产业链现代化关键支撑点
中经网 2023-05-26
-
讯息:“BAT”取代“蔚小理”意味着什么
中国经济网-《经济日报》 2023-05-26
-
2023年5月24日国内ios手游氪金榜|今日报
哔哩哔哩 2023-05-26