2023年11月，诈骗分子伪装成某科技公司郭先生的好友，骗取430万元；2024年1月，香港一19家跨国公司员工遭遇钓鱼诈骗损失2亿港元；2023年12月，一名留学生父母收到孩子“被绑架”的勒索视频，被索要500万元赎金 ......
随着AI的广泛应用，其带来的安全威胁也日益引起人们的关注，并迅速成为一种新的威胁手段，给企业和个人用户带来前所未有的风险。相关统计显示，2023年，基于“AI换脸”的欺诈事件增长3000%，基于AI的网络钓鱼邮件数量增长1000%。
顶象防御云业务安全情报中心发布的《“AI换脸”威胁研究与安全策略》 情报专刊，详细介绍了攻击者利用AI制作的各类威胁手段。根据情报介绍，基于AI技术，攻击者能够伪造文本、图片、视频、声音，可以制作仿真的人脸照片、人脸视频、身份证件、金融账户、统计数据，更可以生成新型的木马病毒，发起自动化的网络攻击。将AI伪造虚假内容与真实信息的元素拼凑在一起，就可以造谣传谣、冒充熟人进行电信网络诈骗、冒名申请银行贷款、冒充他人面试入职、仿冒登录盗走银行余额、进行网络钓鱼欺诈等等。
AI威胁带来的危险不仅在于生成仿真的信息，还在于其所促成的整个诈骗生态系统：一个由机器人、虚假账户和匿名服务组成的错综复杂的网络运作，所有这些都旨在制作、放大和分发捏造的信息和内容，具有识别难、检测难和追溯难的问题。在这个欺诈体系中，攻击者看不见且难以捉摸，他们不仅制作信息，还操纵每个参与者感知的现实结构。
传统的安全工具和措施已无法有效防御基于AI带来的欺诈威胁，这是整个行业面临的新挑战。所以，要防范打击AI欺诈，一方面需要有效识别检测出AI伪造的内容，另一方面防范AI欺诈的利用和扩散。这不仅需要技术对策，更需要复杂的心理战和公众安全意识的提升。
2024年4月2日，最新一期“业务安全大讲堂”将围绕当前备受关注的AI威胁与安全防御，分享针对AI威胁的最新反欺诈技术与安全产品。本期直播将在视频号\钉钉\B站\CSDN等平台同步直播，欢迎提前锁定。
日期：2024年4月2日（星期二）
时间：下午15:00
主题：AIGC的风险与防控
嘉宾：顶象数据科学家翼龙、顶象资深解决方案专家师鳯羽
Tips：本期直播将在顶象视频号&钉钉&B站顶象直播间&CSDN顶象技术直播间多平台同步直播，感兴趣的同学记得一定要提前锁定直播间哦！
业务安全大讲堂免费直播：立即报名
业务安全产品：免费试用
业务安全交流群：加入畅聊
标签：威胁,顶象,欺诈,AI,安全,换脸 From： https://www.cnblogs.com/dingxiang-inc/p/18099912