2月16日消息，近日，微软嵌入类ChatGPT的必应聊天分析了Gap公司的最新季报，但是其中有一些错误，比如去除与Yeezy有关费用后的毛利率应该为38.7%，而必应却显示为37.4%;运营利润率应为4.6%，而必应却显示为5.9%。

独立搜索引擎研究员德米特里·布里尔顿写道:“必应AI在演示过程中给出了错误的答案，但却没有人注意到，相反，所有人都对它的宣传非常振奋。”

人工智能专家称这种情况为“幻觉”，也就是说，基于大语言模型生成的工具有误导内容的倾向。

微软发言人表示:“我们承认仍有一些工作要做，并且预计在预览期间会出现一些错误，正因如此，反馈就显得尤为重要，这可以帮助我们学习和改进模型。”