医学期刊「内科医学年鉴」(Annals of Internal Medicine)5日刊登案例研究报告指出，一名60岁男子听从聊天机器人ChatGPT饮食建议，完全断绝盐分摄取，结果却因此中毒，还出现偏执型妄想(paranoid delusions)被紧急送医，住院数周接受治疗。
艾钦柏格(Audrey Eichenberger)、瑟尔克(Stephen Thielke)、范柏斯克(Adam Van Buskirk)共同撰写的研究报告指出，这名男子询问ChatGPT食盐的替代品有哪些，人工智能(AI)聊天机器人提供答案是溴化钠(sodium bromide)。溴化钠是通常用于制药、制造业的化合物。医师无法查看ChatGPT对话纪录，但推测聊天机器人可能根据清洁目的做出回答。
这名男子购买溴化钠，在三个月期间放在桌上，用来替代食盐。从来没有精神疾病的这名男子，后来出现偏执型妄想而被紧急送医。他认为邻居企图下毒，在医院里甚至在极度口渴的情况下，也不愿喝医护人员提供的水。到院之后，男子偏执病情加重，开始产生听觉幻觉、视觉幻觉，后来因此试图逃跑而被处以精神疾病强制留置观察(involuntary psychiatric hold)。
根据医师诊段，男子患有溴中毒(bromism)，导致神经系统问题与精神状况，其他症状还包括痤疮、樱桃血管瘤(cherry angiomas)、疲惫、失眠、轻微运动失调(ataxia)、多渴症(polydipsia)。
研究报告指出，男子住院三周接受治疗之后状况好转。参与个案研究的医师表示，这名男性患者可能使用ChatGPT的3.5版本或4.0版本，研究人员以3.5版本测试输入男子的发问，确实获得以溴化钠替代食盐的回答。
推出ChatGPT的OpenAI并未答复今日美国报13日的采访要求，但对福斯数字新闻(Fox News Digital)发表声明表示，使用条款明言ChatGPT不应用于任何健康状况的治疗，也不能取代专业建议，「我们有安全团队致力于降低风险，训练AI系统鼓励用户寻求专业咨询」。
