遭遇“AI换脸”诈骗该怎么办?遇到校园欺凌该如何处理?3月27日,在第十个全民国家安全教育日来临之际,广州番禺万博派出所、广州市百果园网络科技有限公司走进广州市番禺区南村镇侨联中学、广州南方学院番禺附属中学,为近千名师生揭秘“AI换脸”诈骗套路,以案说法,送上“安全锦囊”。
该活动得到广州公安局网警支队、番禺区委网信办、广州市公安局番禺区分局等单位的大力支持和指导,“政警企”联合推进未成年人网络保护工作,共筑未成年人保护“防火墙”。
图说:荣警官宣讲反诈知识
眼见≠真相 揭秘 “AI换脸”诈骗
“只要采集到原声样本,最快只要几秒就能克隆你的声音;上传一张自拍照,1分钟就能生成换脸视频。”在AI变脸反诈宣讲中,AI从业者刘军老师通过AI软件实操演示,直观地揭秘了“AI换脸”“AI变声”的诈骗手段。“哪吒”声音被采集后,通过声音训练模型,“哪吒”用中日英法四种语言说“反诈”。
图说:林同学体验AI换脸 秒变“彭于晏”
课堂上,同学们亲自体验了实时视频“AI换脸”。“现在我要把林同学的脸换成彭于晏!”在广州南方学院番禺附属中学礼堂,林同学站在手机摄像头前,随着技术人员点击鼠标,大屏幕的他五官1秒切换成了“彭于晏”,相似度超80%。“这也太帅了吧!”现场尖叫声不断。紧接着,男生还变成刘德华、徐志胜……当男生的脸变成迪丽热巴时,现场学生惊叹不已。
让学生意想不到的是,这“魔法”视频实时换脸,只是技术人员在网上下载了明星的照片,导入“AI变脸”软件,一键实现实时“变脸”。“AI时代眼见未必为实,万一你的照片被不法分子窃取,可能就会遭遇诈骗。”刘军提醒同学们,视频通话时,如发现异常,可让对方转脸大于90度,骗子的“马甲”就掉了。同时,要保护好自己的个人信息,转账需谨慎。
拒绝校园欺凌 警察阿姨现身说“法”
“接到96110电话,说明你或者你的家人可能正在遭受诈骗,公安机关正在来电进行劝阻,务必耐心接听。”番禺区公安分局万博派出所荣警官以案说法,向在场的师生分析介绍当前校园师生群体高发、易发的电信网络诈骗典型案例及惯用手段和反诈知识、技巧,让师生提高反诈骗知识。
图说:警察阿姨现身说“法”,拒绝校园欺凌
“面对校园欺凌,要敢于说‘不’!”荣警官还通过真实案例和通俗易懂的语言,深入浅出地向学生们讲解校园欺凌的形式与危害,并引导同学们思考如何预防和应对校园欺凌,鼓励同学们勇敢地向老师和家长举报身边的欺凌行为。荣警官表示,每位学生都应尽最大力量保护好自己和他人不受欺凌,警察叔叔阿姨永远是大家的坚强后盾。
活动现场设置了互动问答,同学们通过问答的形式,加深了对网络安全知识的了解。
图说:提问互动,巩固网络安全知识
牢筑未成年人网络保护“防火墙”
南村镇侨联中学德育处老师朱开翔表示,本次活动,让全校师生直观形象地学习了防诈反诈知识,这场科技与教育的跨界碰撞,为守护未成年人网络安全提供了“硬核又有温度”的创新方案。
“这样的反诈科普太有趣了!”南村镇侨联中学七年五班的陈同学也体验了AI换脸,“我学到了如何识别AI诈骗等专业知识,而且我会加强警惕,通过多个渠道核实信息,防止受骗。”
主办方Hello语音相关负责人表示:“通过这堂课,我们希望能教会孩子们如何识别、应对AI时代的网络陷阱,练就自我防护的‘金钟罩’。未来我们计划将此类活动推广至更多学校,希望通过这种‘沉浸式’的科技演示与互动体验,让网络安全教育变得更接地气、更有生气。”