日本IT巨头CyberAgent公司运营的社交网站(SNS)将引入新系统,由人工智能(AI)分析浏览记录,发现可能进行诱拐儿童等犯罪行为的危险人物并提前进行警告。对于性质恶劣的情况,将暂停使用。未成年人通过SNS被卷入犯罪的案件激增,此举旨在防患于未然。
引入警告系统的是SNS“PIGG PARTY”。会员约有400万人,其中大部分年龄在十几岁。今后将更改协议,在获得用户同意后从今年夏天开始实施。在SNS上诱拐儿童的言语越来越巧妙,将利用AI迅速对危险人物进行警告。
据警察厅透露,2019年通过SNS受害的未满18岁青少年达到创纪录的2082人。该公司负责人解释称:“希望协助完善能使未成年人安全使用服务的健全环境。”
该系统由东京大学研究生院副教授鸟海不二夫(计算社会科学)研发。着眼于SNS中被称为“log”的浏览记录,通过AI对曾在其他SNS服务等作出交换手机号码或联系方式等禁止行为的违规用户的历史记录进行分析。
普通用户存在与特定人物频繁交流的倾向,而违规用户的特点是大量浏览多名人物的年龄及性别等信息,像在“物色”对象一样。另一方面,据悉容易被诱拐的用户也具有特定倾向。
CyberAgent称,虽然该SNS是任何人都可以浏览的服务,内容与浏览记录的分析并不属于《宪法》规定的“通信秘密”,但仍将更改协议并获得用户同意。