• 科学人
2376
需用时 04:45
“崩老头”屹立在 AI 风口之上

一个好久没联系的亲友突然管你借钱,你怎么判断是不是本人?

通话?视频?以前也许行,但如今,最保险应对只有拒绝。

图源:EJTech

2500 美元的致富之路

来自 404media 的 Joseph Cox 花了几个星期,混进了一个销售电诈工具的 Telegram 群。卖家称,这款叫“昊天 AI”的软件可以在WhatsApp、Microsoft Teams、Zoom、TikTok、Instagram 和 YouTube 等视频软件里实时换脸。

来买脸的人可以选现成的,也可以花钱定制。

游戏捏人界面+PS UI 的结合体|昊天 AI

Cox 第一次和技术人员打视频,就被吓了一跳。电话接通,屏幕那边出现的是“华仔”。那张脸不只长得像,还能说话、眨眼、切换表情。“假华仔”用手捂住嘴、盖住眼睛、又摸了摸下巴,脸部一点儿没错位散架。

AI 刘德华邀请您激情开麦|昊天 AI

过了一会儿,对方又把自己换脸成了一个美女。

“付费!立马付费!”,然后 Cox 把自拍发给了对面,当天他的脸就做好了。Cox 拨通视频,屏幕对面的的“Cox”挑起一边眉毛,笑着挥了挥手,接着又是捏脸、捂鼻子、摸下巴。“Cox”甚至还原了他本人的胡茬和眼袋。

Cox 这才意识到,任何人都可以在电话另一端顶着他的脸,招摇撞骗。他对着屏幕连喊两遍,“Oh My God!(你吓到我啦~)”。

左真右假,“老鼠老虎傻傻分不清楚”|404 Media

甚至,识别准确率能达 89.1%的深度伪造检测模型 Xception,判定这套 AI 模型生成的视频时,将几乎所有样本都判为“真实视频”。

不过,这套模型仍然存在目前多模态上的一些问题,比如局部变化引发整体崩坏,模型缺乏对三维空间嵌套关系的显式理解,所以人物手指一张开,五官就可能跟着变形,眼球甚至会突然鼓起来。(所以下次你怀疑网恋对象是 AI 换脸的,就让他把手举到脸前,和你剪刀石头布。)

今年 4 月,这家公司推出了一项新服务,帮骗子客户绕过刷脸验证。把头型相似的人换脸后,就能通过眨眼、点头、转头的刷脸认证——这套下来,连银行都吃不消。

昊天 AI 接的“照片定制单”|TikTok

东南亚的电诈园区光听着就让人瑟瑟发抖。有些园区为了冒充公务机关,会专门搭出一间假办公室,墙上挂国旗,穿制服的骗子正襟危坐。现在,这些拙劣表演直接省去。这套换脸系统实现让骗子在 WhatsApp 里冒充警察。

这可以说是从电诈园区走出来的技术流代表。上述这家公司总部就设在柬埔寨,生意做得相当完整,安装有人远程操作,要求电脑性能足够,至少 RTX 4080 及以上的显卡,版本跟着 AI 模型更新。在柬埔寨部分地区,客户甚至可以预约上门安装。

软件(脸库调用)年费 1998 美元,专门定制人脸额外 498 美元,而且只支持加密货币 TRON 付款。

从 2023 年 10 月开始,这家公司的加密货币钱包已经入账超过 400 万美元,相当于有近 2000 人购买了服务。

安全人员拆包了软件,发现里面有大量的开源工具。有技术含量的事情就是将各种开源工具整合成一个平台,帮客户调试和安装。年费里最贵的那部分,其实是服务和信息差——搞诈骗的也风风火火地拥抱了 AI。

根据联合国毒品和犯罪问题的办公室统计,在东南亚的 Telegram 灰产市场里,专门向电诈团伙卖深度伪造软件的供应商已经超过了 10 家。

昊天 AI 的相关群组,用户数已破万|Telegram

一类换脸软件要求屏幕背后必须有一个人,而且这个人的“大模样”不能和目标差太远。

更为先进的一类 AI 实时视频模型,连人都省了。给它一张照片,屏幕里就能出现一个完整的 AI 角色。视频接通后,这个人会看着你说话,表情、眼神、语气和手势跟着聊天变化。甚至还能实时生成场景。

假如你问,“提了什么新车,给我看看实力。”AI 骗子一边和你聊天,一边走到车旁,拉开车门。

今年,OpenAI 检测到一个位于柬埔寨波贝的诈骗网络,这个网络用 ChatGPT 生成过假护照、法律通知、股票购买确认单、博彩平台页面和加密货币交易界面。

骗子用 ChatGPT 生成的交易图|OpenAI

视频里的金融骗子,西装革履,言之有据,豪车傍身,拿得出履历证明。

几经挣扎,你终会彻底上钩。

精挑细选的受害者

当你要求开视频验人,还庆幸自己很警惕的时候,杀猪盘通常已经进行到后半段了。

在此之前,骗子筛选并定位目标,花上几天几个月通过各种方式建立起信任。这工作量可比换个脸多太多了。

一名叫 Safeer 的印度男子被贩运到缅甸的一座电诈园区。园区给他安排的新身份,是一名28岁的新加坡女性,名叫 Ella。

任务十分艰巨。四天之内让接触对象爱上自己,而且对象不止一个。

一个月内,Safeer 接触了大约 5 万名目标,来自至少 17 个国家。里面有德国的油漆工、土耳其的糕点师、俄罗斯的工程师,还有库尔德地区一名丧偶的裁缝。

Safeer 并不懂 17 国语言,也记不住上百个目标的喜好,他每个班次要同时操作几十个账号,和一百多人聊天,完全是靠一套叫“控天智能拓客(简称 KT)”的软件。

图源:KT 智能拓客

KT 接入十几种主流社交平台,同时管理多个账号和聊天对象,聊过什么也会留下记录。

利用内置的 GPT、Gemini 等模型,将“新加坡 28 岁女性 Ella”的职业、语气、经历和性格等等人设在聊天中发挥到极致。

Safeer 需要做的就是在消息和 AI 生成的回复之间粘贴和发送。

另一名被困在缅甸 KK 园区的肯尼亚男子,靠着 ChatGPT 冒充德州的牧场主和阿拉巴马州的大豆种植户。这个人从没在美国种过一天地,照样能陪人聊牲畜、收成和农场生活。OpenAI 发现,诈骗网络还会专门输入指令,要求模型回复时,不要用破折号这种“一眼 AI”的写法。(真是不怕骗子说假话,就怕骗子有文化。)

针对如此繁琐的“获客”流程,也有贴心的“上游”公司开发了“电诈套装”,名叫 007TG(太地狱了)。

打开 007TG 的官网,第一眼可能会以为这是一家服务跨境电商的正常公司。网站上有 Slack、Trello、AWS,也收录了代理 IP、批量社交账号、虚拟手机号、短信接码、浏览器指纹检测、USDT 地址查询和虚拟支付卡。

这很很讽刺了|007TG

用一名前诈骗人员的话来说,007TG 就是工业化诈骗的“一站式商店”,园区需要什么,就从里面挑什么。

比如园区开工前,要先准备一大批能用的号码和社交账号。

007TG 里有工具可以生成二百多个国家的电话号码。号码准备好以后,另一款工具可以把多个社交账号分开运行,每个账号使用不同的 IP,尽量避免一封封一大片。

账号多了,又容易被平台发现“集中 IP 登录”,所以还有一款工具可以给不同账号,安排不同的代理 IP,让它们看起来像是从不同地方登录。

接下来,007TG 还可以把这些账号放进后台,一键群发消息。只要有人回复,就算对接成功,再交给 Safeer 们往下聊。

就算账号被封了,还有工具能转移原来的聊天记录和客户资料,换个账号接着聊。

手把手教你学会诈骗|007TG

这家公司甚至开发了一款组织管理软件(叫 Cloud007),连园区内部怎么管人,也一并 AI 化。

这款工具不盯受害者,专门看守 Safeer 们。统计工时、随机截屏、再用 AI 生成工作报告,看今天聊了多少人,发了多少消息,推进到哪一步了。

“员工”们除了线上被记考勤,时不时还要担心被拿着电棍巡视的主管电击一杵子。

还有一款工具叫 SCRM Champion,会记录员工和目标之间的对话,分析对方回复中的情绪变化,再生成绩效报告。同时盯着员工和受害者。

007TG 的“办公套装”|c4ad

听起来很可怕吧!

你能想到的每一个流程都被“AI 化”了,每一个工具都是为成熟的骗局流程精心设计的。而且,购买电诈工具就跟企业购买办公软件一样便捷。

以前,骗子不敢开视频,只好骗对面说摄像头坏了。

现在,摄像头终于被 AI“修好”了。

参考文献

[1] https://c4ads.org/wp-content/uploads/2026/02/DeceptiveByDesign-C4ADS.pdf

[2] https://www.404media.co/hello-boss-inside-the-chinese-realtime-deepfake-software-powering-scams-around-the-world/?ref=daily-stories-newsletter

[3] https://www.gm7.org/archives/99555

作者:Sandy

编辑:马文

封面图来源:ChatGPT

点个“小爱心”吧
The End

发布于2026-09-09, 本文版权属于果壳网(guokr.com),禁止转载。如有需要,请联系果壳

举报这篇文章

果壳

果壳网官方帐号

pic