苹果 Apple Intelligence 智能回复功能加入 「反幻觉」 指令 苹果在 macOS 15.1 测试版中设置了一系列内部指令用于指导其智能回复功能，强调系统不得编造事实和产生幻觉。该功能旨在分析邮件内容并生成可能的回复选项。为了减少 AI 生成回复时的错误，系统被要求仅回答邮件中明确提出的问题。尽管如此，业内人士指出，完全消除生成式 AI 的幻觉问题仍是一项挑战，因为这些模型本质上并不理解文本内容，无法准确判断信息真伪。...
周鸿祎建议不要过度迷信 AI：现在网上许多内容被污染投毒，大模型无法判断 8 月 31 日消息，周鸿祎今日出席东方甄选亚布力论坛，在与俞敏洪直播互动时提到了 AI 安全挑战，他表示网上现在许多内容被污染、被投毒了，大模型无法判断这些到底对不对，到底是高级黑还是低级红，所以一定会在回答某些问题的时候口出乱言，胡说八道。...
