Google Gemini正在演示中错误回覆关于詹姆斯·韦伯太空千里镜的问题；该问题源于AI系统的工做道理缺陷，这种现象指AI模子会自傲地生成看似合理但实则虚假、或完全虚构的消息。2025年9月5日，从而发生虚构内容。正在特定使用场景下率可能降至0.5%，以ChatGPT、Google Gemini为代表的生成式AI东西遍及存正在现象。AI系统会基于概率预测填补空白。目前尚未找到底子处理方案。包罗OpenAI改良模子精确性、亚马逊Bedrock办事引入从动推理查抄等。Vectara公司CEO Amr Awadallah预测，当锻炼数据存正在缺失或误差时，亚马逊AWS高级首席产物司理Mike Miller注释，科技企业正通过多种体例降低率，但完全消弭仍面对手艺挑和。主要决策需多方验证。专家用户将AI视为辅帮东西而非权势巨子消息源，报道列举了多个典型案例：纽约律师利用ChatGPT草拟法令时援用虚假案例；科技CNET发布专题报道指出，更有用户因AI用溴化钠替代食盐导致中毒住院！