微软公司副总裁 Vik Singh 指出，当前生成式 AI 缺乏在无法确定答案准确性时主动寻求帮助的能力。尽管生成式 AI 应用如 ChatGPT 等已迅速部署，但它们仍会出现提供错误答案或 「幻觉」 的问题。Salesforce 首席执行官 Marc Benioff 也表达了对微软 Copilot 误导性表现的客户沮丧之情。人工智能聊天机器人的普及带来了便利，但它们提供错误甚至危险信息的 「幻觉」 问题仍待解决，原因包括训练数据的准确性、泛化能力不足以及数据采集过程中的副作用。