文章目录[+]
9月26日
美国《福布斯》杂志网站刊登文章称
在社交平台“电报”上的诈骗论坛中
充斥着AI生成的深度伪造视频
AI能把人脸照片制作成视频
可以骗过金融科技公司和银行
Sora可根据文本内容生成逼真视频 图源：Sora/OpenAI
“令人头疼”的AI深度伪造视频
根据英国网络安全公司iProov发布的
《2024年威胁情报报告》显示
AI换脸技术
已成为广泛使用的深度伪造工具
数据表明
2023年下半年
“换脸攻击”比上半年增加704%
Xpression Camera等便利程序
以及AI换脸功能与模拟器等
让犯罪分子变得更难对付
先进的深度伪造技术
甚至可以在活体检测过程中
实时作出反应
例如
在一些安全验证流程中
会要求用户眨眼或向上下左右看
深度伪造技术
现已可以执行这些命令
一家公司正在演示“换脸术”吸引观众驻足围观 图源：科技日报
事实上
这些只是AI技术被滥用的一个缩影
在此之前
AI“换脸”、AI“拟声”
AI技术合成虚假新闻等乱象层出不穷
这些都表明
AI技术是一把“双刃剑”
既可能成为人类的帮手
也可能成为不法分子的帮凶
全球协力加强人工智能治理
人工智能全球治理
攸关全人类命运
是各国面临的共同课题
面对技术的“狂飙突进”
风险、隐患的陡然上升
国际社会亟需携手合作
共同推进全球人工智能治理
在欧洲
通过了《人工智能法》
这是世界上第一部
人工智能全面监管法律
对谷歌、OpenAI和其他
开发人工智能系统的公司
产生重大影响
在美国
发布了《美国人工智能倡议》
《人工智能教育战略》
《2020年国家人工智能倡议法案》等
释放人工智能数据和模型等资源
在中国
先后推出了
《中国关于加强人工智能伦理治理的立场文件》
《全球人工智能治理倡议》
《人工智能安全治理框架》等文件
为推进人工智能的全球治理
提供中国方案
AI展演解锁花式反诈骗宣传教育 图源：人民网
《2024年人工智能指数报告》显示
在2023年的全球立法程序中
2175次提及人工智能
几乎是上一年的两倍
业内人士表示
面对与日俱增的人工智能犯罪问题
国际社会要同心协力
确保人工智能安全、可靠、可控
不断完善全球治理体系
撰文：赵鹏超、孙新武编辑：李飞排版：雷渺鑫统筹：李政葳
参考｜新华网、央广网、参考消息、科技日报、法治日报、解放日报
光明网出品
来源： 世界互联网大会
