一个假CFO骗走公司18个亿一家跨国公司香港分公司的财务人员，按照“CFO”的指令，给对方指定账户共计转账2亿港币（约合1.8亿人民币）。

　　谁曾想，这个刚刚在视频会议里跟自己“面对面”聊过的人，完全是Deepfake出来的！

　　先别着急骂这大兄弟警惕性太低，Ta也不是没有过一丝丝怀疑，但是，这可不是什么诈骗界常见的一对一视频通话——

　　参与会议的有好几个熟面孔，无论是脸还是声音，当事人描述“每个人看起来都很真实啊”。

　　冲锋在AI批评一线的马库斯就*时间拉着网友们吃起了瓜：好家伙，这是《黑镜》降临了。

　　最初，小帅收到了一封远在英国总部的“CFO”发来的邮件。由于内容提到需要执行一项秘密交易，小帅一开始有些疑虑，并怀疑这是网络钓鱼信息。

　　小帅进入视频会议后彻底被眼前的一幕唬住了：不仅公司CFO在，小帅的一些同事也在，还有一些外部人员。

　　关键是，这些假同事和小帅认识的真同事无论是模样长相还是声音，都别无二致。

　　如此接连下套，小帅最终中了骗子的诡计，按照会议中的指示，分别向5个香港银行账户进行了15次转账，总计2亿港元，也就是约2560万美元，约合RMB1.8个亿。

　　从骗子联系小帅开始，整个事件大概持续了一个周，直到小帅之后向公司总部核实情况，才惊觉整个事件不过是一场精心策划的诈骗。

　　之后他们报了警。警方立即展开调查，发现会议中除小帅外的所有参与者，都是骗子使用公开的个人视频和音频片段重建的数字人。

　　视频中让小帅自我介绍并不是真的在和他互动，而只是单纯的用虚拟形象下达指令。

　　警方还透露，不法分子曾使用相同的多人视频通话策略，试图诈骗该公司分部的另外一名员工，总共接触了两到三名员工。但警方未提供有关他们遭遇的完整信息。

　　后续在新闻发布会上，香港警方表示已逮捕6名与此类诈骗有关的人员，且类似案件还有很多：

　　去年7-9月，有8张被盗的香港身份证被用于申请了90份贷款、登记了54个银行账户；

　　至少有20次，AI Deepfake被用来模仿身份证上的人像，以骗过面部识别程序。

　　可以看到，整个案件中，最终让小帅放下戒备的一大关键点就在于视频会议中的假人过于真实。

　　AI语音合成方面，最近比较火的是一家叫做11Labs（ElevenLabs）的初创公司。

　　11Labs不仅能实现29个语种的语音生成，而且仅需短至1分钟的音频素材，就能很好地“克隆”任何一个人的声音，语调、情绪变化都能模仿到位的那种。

　　或许是受到这一事件和前段时间的影响，上述这个实时换脸项目再获关注，还新鲜冲上了GitHub趋势榜。

　　但正如许多网友提到的那样，技术没有善恶之分。并且更现实的问题在于，开弓没有回头箭。

　　除了更多规范和政策的制定，从技术的角度来说，Nature就在“2024最值得关注的七项技术”一文中提到：

　　而从个人的角度来说，提高警惕，已经成为AIGC技术爆发时代不得不面对的命题。

　　香港警方也在这次事件中表示，将扩大警报系统，以提前警告、阻止用户向诈骗相关账户转移资金。

　　不过，Deepfake假CFO骗走公司1.8个亿这种事儿，多少还是有点过于离谱。

　　【本文由投资界合作伙伴微信公众号：量子位授权发布，本平台仅提供信息存储服务。】如有任何疑问，请联系（投资界处理。

　　美图CFO颜劲良：影像与设计产品业务收入创新高，推动美图2023上半年净利润大涨320.4％

　　特斯拉功勋CFO突然裸辞！加盟13年，一度与朱晓彤一起被视为马斯克接班人

　　投资界24h  京东CEO徐雷退休，CFO许冉接任；高盛宣布一位女掌门；软银愿景基金创纪录亏损320亿美元