滥用生成式AI等技术，利用现实中的儿童等照片制作色情图像的“性深度伪造”危害正在蔓延。根据警察厅汇总的数据，在今年18岁以下学生或儿童照片被滥用的案件中，超过半数是由同班同学或同校学生制作的。

据警察厅统计，涉及18岁以下学生或儿童照片被滥用的“性深度伪造”相关警方咨询或报案，在2025年仅截至9月就已达到79件，正以超过2024年的速度增长。

具体来看：
▽ 高中生：25件
▽ 初中生：41件
▽ 小学生：4件
其中已确认存在根据图像进行威胁并索要金钱的案例。

此外，在调查制作此类图像的加害者时发现，与受害学生或儿童为同班同学或就读于同一学校的案件合计达42件，占总数的一半以上。

围绕“性深度伪造”，女艺人等受害案例也接连不断。警察厅警告称，此类行为可能导致犯罪或严重侵犯人权，正通过官网等途径呼吁公众提高警惕。