总务省计划开发一套用于评估生成式AI所生成回答等风险的新基础系统。该系统旨在帮助用户在选择使用何种生成式AI时作出判断。

由总务省主管的NICT（信息通信研究机构）计划开发的，是一套用于评估生成式AI所生成回答等风险的新基础系统。

该系统将结合多种AI，对生成内容是否包含歧视与偏见、是否侵犯隐私、以及是否存在错误信息等方面进行检查，并标示风险程度。

NICT已通过其掌握的大量日语数据进行学习，开发了一款擅长日本文化与历史的生成式AI。在风险评估中，通过活用该AI，可对外国制造的生成式AI等给出的回答进行更高精度的评估。

该系统的目标是于下一财年内开始供行政机关及部分企业使用。

此外，总务省计划到2030年，进一步开发一套能评估AI是否存在违背用户意图擅自改写文件等风险的新基础系统。

总务省计划与相关专家共同推进具体评估标准的研讨工作，并希望该系统能在用户选择使用何种生成式AI时提供参考。

NICT研究员：“希望能以第三方立场评估生成式AI”
NICT研究员鸟泽健太郎指出：“生成式AI是一项前所未有的突破性技术，我认为它将成为日本众多产业中不可或缺的要素。但另一方面，它也存在输出仇恨言论或错误信息的情况，其内容有时也可能与日本文化不相容。”

他进一步阐述了开发意图：“商业逻辑与安全逻辑有时会相互矛盾，我们希望构建一个能以第三方立场评估生成式AI的机制。通过对多种生成式AI进行评估，明确其潜在问题，甚至能在一定程度上识别不应使用的生成式AI。”