在对话式生成AI使用日益广泛的背景下，已确认存在其回答中显示虚假购物网站或诈骗网站的案例。进行调查的安全公司提醒用户注意，AI可能会给出错误回答。安全公司趋势科技于2月份对一个月内用户通过何种途径访问虚假网站、诈骗网站等进行了分析。结果发现，约420多起案例是通过对话式生成AI（如ChatGPT等）回答中显示的URL访问的。

该公司实际验证发现，例如当用户提问“请告诉我视频生成应用程序的官方网站”时，AI的回答中并未显示官方网站，而是显示了要求输入信用卡信息等的诈骗网站的URL。此外，当询问热门商品的销售网站时，也确认出现了虚假购物网站的案例。据安全公司称，虚假网站可能通过不正当操作等在搜索服务中排名靠前，因此AI可能参考了这些信息并作出回答。

该安全公司欺诈对策首席分析师本野贤一郎表示：“要意识到AI可能会给出错误回答，不要仅相信AI的回答，还应通过官方网站及其他信息来源进行核实，这一点很重要。”