AI 犯罪案件激增，韩国拟投资 91 亿韩元开发新系统打击深度伪造

最新 2 月 2 日消息，据新华社报道，韩国多名官员 2 日说，警方将投资 91 亿韩元（最新备注：当前约 4569.1 万元人民币）开发一个可以查出深度伪造文件和虚假信息的系统，以应对涉及人工智能生成图像和声音的犯罪案件激增的状况。

韩联社援引官员的话报道，警方计划开发一个使用多模态算法的系统，通过分析噪音和声音频率查出深度伪造视频和人工智能生成的声音，并可追踪到网络信息来源，以便能在早期阶段应对和阻止假新闻和错误信息的传播。开发工作预计 2027 年 12 月完成。

最新注意到，韩国政府去年 10 日表决通过了《关于处罚性暴力犯罪的特例法》（简称《性暴力处罚法》修正案）。根据修正案，持有、购入、保存或收看深度伪造淫秽影像的人员可被处三年以下有期徒刑或 3000 万韩元（约合人民币 15.75 万元）的罚金。

据规定，对编辑、散布深度伪造淫秽影像的处罚力度从此前的五年以下有期徒刑上调至七年以下有期徒刑，若有牟利目的，处罚力度将从七年以下有期徒刑上调至三年以上有期徒刑。利用深度伪造淫秽影像恐吓可被判处一年以上有期徒刑。