随着人工智能的迅速普及，日本政府针对人工智能企业提出了新的指南草案。鉴于技术进步可能带来人工智能擅自执行人类非意图操作等风险，指南要求企业建立人类参与系统决策的机制。

目前，企业间正在开发和引进即使没有人类详细指令也能自主执行业务的"AI智能体"，以及根据周围环境自主控制机器人或汽车的"物理AI"。在此背景下，日本总务省和经济产业省于12日公布了面向人工智能企业及研究机构的新指南草案。

草案指出，AI智能体和物理AI虽具有提高业务效率、弥补劳动力不足等优点，但也存在人工智能擅自删除文件等非人类意图操作，以及因网络攻击导致人工智能行为被非法操控、机密信息外泄等风险。基于此，草案要求企业在使用人工智能开展业务时，不得将判断完全交由系统，而应引入人类参与的机制，并尽量减少人工智能读取的数据量，严格管理数据。

日本政府计划于本月内正式制定该指南。