他们在用 AI 寻找下一个王星，警惕这些给你度身定制的「完美骗局」（微信文章未删减版）

正文

历时一周，被骗到缅甸电诈区的演员王星，终于安全回国。为他操心了一路，并且通过网络求助解救他的嘉嘉、也就是王星的女朋友，也可以放下心来。

1 月 5 日，微博上出现一条引人注目的求助帖：王星的女朋友嘉嘉发帖称，王星赴泰国进组拍戏，于北京时间 1 月 3 日中午 12 时在泰缅边境失联，并贴出了详细的经过。

这不是简单的失联。王星碰到的是人口贩卖，被骗到了缅甸北部的电诈区，是一场针对演员群体精心编织的诈骗。

这起案件带来极大的震动：王星是年轻人，受过良好的教育，是典型的专业人士。他出发前向同行询问过，一路也算有警惕意识，进入泰国之后，一路都跟女朋友保持联络、发定位，这为后来的救援提供了巨大的帮助。

但他还是陷入了极其危险的境地，反映出来如今诈骗打的都是「高端局」：自以为不会被骗，其实只是没有碰到为你量身打造的骗局。

关注 AI 第一新媒体，率先获取 AI 前沿资讯和洞察

「眼见为实」的骗局

应该有不少人知道，去年年初时，香港爆出过一起 Deepfake 诈骗案，涉案金额高达 1.95 亿港元。

Arup 是英国知名的工程建筑公司，参与过悉尼歌剧院合北京鸟巢的建设。去年一月时，Arup 在香港分公司的一名财务人员收到邮件，随后参与了一场线上会议。同时参会的，不仅有 Arup 的公司首席财务官，还有多位其他高管。

这场会议开了摄像头，每个人都露了脸。看到这么多位高管出现在屏幕上，这位财务没有多疑，遵照指示，先后 15 次转账给了 5 个银行账户，合计 1.95 亿港元。

这是一种典型的「CEO骗局」。骗子用各种合成式工具，伪装出公司高管的声音乃至面容，向员工下达指令转账。

「CEO 骗局」是专门围绕公司高管的展开的诈骗类型。相比于普通员工，公司的高管权限更大。无论是对资金的调配，还是某些文件的签署，都有超出基层员工的权限。

不过，他们作为职场人和社会人的经验，带来的警惕意识也很高。这跟一般诈骗所面对的老年人、务工人员很不一样。

于是就有了两种路线：一是大量收集高管的信息，用数字人生成工具或者语音合成工具，制造出高管本人的「分身」。在 AI 工具如此高级的今天，合成影像可以做得难辨真假，很难让人有所怀疑。

当亲眼看到自己的老板出现在屏幕上，又或者听见对方的声音从语音里传来，作为打工人一时半会很难会产生质疑。

还有另一种「CEO 骗局」更刺激，不是伪装成高管骗员工，而是直接就想骗高管。

全球五大广告集团之一的 WPP，市值 113 亿美元，旗下有奥美、群邑等老牌广告公关公司。在全球 110 个国家有分公司或办事处，总部位于英国。

去年五月，一个自称是 WPP 首席执行官 Mark Read 的账号，向多个员工发起了线上会议。除了 CEO，还有另一位 WPP 高管，在会议上他们要求一位 WPP 旗下代理机构的领导人员，开设一家新公司。

WPP 首席执行官 Mark Read

很显然，会议上的声音都是用 AI 工具合成的，所幸骗局没有成功。Mark Read 在事后向公司发邮件强调，即便有照片、有声音，也不一定代表就是他本人。

「对我们同事的网络攻击越来越复杂，尤其是针对高层领导的攻击。」

除了骗子，还有其他别有用心的用途。

2021 年时，高盛计划推进一笔 4000 万美元的投资，对象是创立于 2013 年的数字媒体公司 Ozy。

Ozy.com 首席执行官 Carlos Watson

老实说，这家公司发展的还不错，有自己的网站、社媒账号和视频平台账号。CEO 强调他们在 Youtube 上表现很好，跟 Youtube 也有深度合作。

高盛想多了解一点，就提议了一场线上会议，Ozy 的 CEO 拉来了 Youtube 的一位部门负责人，可是临到要开始时，负责人说自己登录不了，只能打电话。

电话就电话吧。在电话里这位负责人大大表扬了 Ozy 账号的表现，播放量非常好。只是听着听着，高盛的人觉得传过来的声音非常奇怪，好像被数字信号处理过一样。

会议一结束，高盛找了其他途径，想办法联系到了这位 Youtube 的负责人，对方表示根本不知道有什么会议。两方联手的调查后，Ozy 的 CEO 只能承认，这是让另一位公司联创使用语音软件合成的。

「富贵险中求」，难度越大收益越大，总有骗子愿意剑走偏锋。更况且现在有了工具，简直如有神助。如果当时 Deepfake 已经面世，高盛这笔 4000 万的投资，搞不好就真的投出去了。

而 Ozy 这家公司，不久后因为不正当执业，以关门收场。

金融时报访问了英国的从事信息安全的专家，他们认为人工智能的用处，首先是用来抓取有关公司和高管的信息和数据，分析当中的风格特征。然后在生成过程中，再现这些特征，制作出最接近本人的内容。

同时，AI 还可以用来了解受害者，通过分析他们在社交媒体上所关注的内容，判断哪些话题容易得手，量身定做出「专属诈骗」。

最后再通过模仿出公司内部邮件地址，打造出一个接近完美的陷阱，任谁都很难抵抗。德勤公司统计，由 Deepfake 和人工智能制作的骗局，一年内就在美国造成了 120 亿美元的损失，到 2027 年可能会达到 400 亿元。

「现在诈骗的个性化和定制化程度，简直到了让真正的营销人员羡慕的地步。」Visa 信用卡的反欺诈团队负责人对金融时报说。

反诈只有一条路：严防死守

不幸的是，一旦落入陷阱，大部分骗局很难被妥善解决。

普通人面对诈骗时，很少有像王星这样，有一个反应迅速的女朋友，并且最大化利用他的演员身份，在最短的时间内引起大量的关注，让国家出面交涉。绝大多数的电诈只能依靠个人的警惕性。

对于「CEO 骗局」来说，涉案金额之大，更加是没有哪方愿意负责。

现在的电信诈骗，许多是由社交媒体网站开始、途径各种会议软件、语音通话软件，最后通过银行的在线转账方式，完成整个骗局。如果涉及到公司资金转移，也会有内部批审流程。

运营这些网站的科技公司应该负责吗？动辄千万级的用户，科技公司根本管不了具体的账号。

怪银行的流程还是不够严密吗？银行大喊冤枉，对于已经进入个人账户的钱，他们也管不了太多。况且电诈案件的金额越来越大，如果由银行来兜底的话，肯定要倒闭。

至于生成式工具的开发公司，更加是要高举那句经典的「宣言」：工具没有善恶之分，是只是被人用来作恶而已。

工具本身可能是中性的，但其设计、存在和使用方式都会对生活造成影响。这也是为什么在今天，电诈的管控非常棘手。

一旦发生后果会非常严重，而且发生之后再介入难度非常大。钱财的损失还是小事，碰到王星这样的人口贩卖局，命都得搭进去。

一切都要仰仗防范，直接在源头上消灭。当然，防范的难度也越来越高了，即便是在职场雷厉风行、见多识广的企业高管，也会成为被诈骗围猎的对象。

谁都不要过于自信，笃定自己不会受骗，很可能，你只是还没遇到那个度身定制的「完美骗局」。