被指含不实健康信息 谷歌移除一些AI概览-[AI健康信息引争议]

# 被指含不实健康信息 谷歌移除一些AI概览-[AI健康信息引争议]

近日,谷歌公司因旗下AI搜索功能”AI概览”被曝提供多项不实健康信息而陷入舆论风波。对此,谷歌迅速采取措施,移除了部分存在问题的AI概览内容,引发了人们对AI在健康信息传播中准确性和责任的广泛讨论。

被指含不实健康信息 谷歌移除一些AI概览

据悉,用户在使用谷歌搜索时,AI概览功能会在搜索结果顶部自动生成一段总结性内容,旨在提供快速答案。然而近期有用户发现,该功能在回答某些健康相关问题时提供了不准确甚至危险的建议。例如,有用户搜索”如何治疗耳痛”时,AI概览建议将未点燃的火柴放入耳中;搜索”如何降低胆固醇”时,则建议”每天吃至少一打石头”明显荒谬的建议。这些不实健康信息引发了医疗专家和公众的强烈担忧。

面对舆论压力,谷歌发言人承认确实存在问题,并表示已采取措施移除相关不当内容。公司在一份声明中解释称:”AI概览旨在提供有用的信息摘要,但有时会提供不准确、误导性或不符合共识的内容。我们正在积极改进系统,以减少此类错误的发生。”

此次事件也暴露了AI技术在健康信息传播领域的潜在风险。医疗专家指出,健康信息直接关系到人们的生命安全,任何不实内容都可能造成严重后果。相比一般信息,健康类内容需要更加严格的专业审核和事实核查。而目前的AI系统在理解复杂医疗常识、识别伪科学信息方面仍有明显不足。

业内人士分析,谷歌此次事件反映出AI技术在追求效率和便捷性的同时,对内容准确性的把控仍存在短板。随着AI技术在各领域的广泛应用,如何平衡创新与安全、如何建立有效的内容审核机制,已成为行业亟待解决的问题。

对于用户而言,此次事件也敲响了警钟。专家建议,在使用AI获取健康信息时,应始终保持批判性思维,重要健康决策务必咨询专业医生,切勿完全依赖AI生成的内容。

谷歌表示,将借此机会进一步完善AI概览系统,加强健康相关内容的审核机制,并与医疗专家合作,提高AI在健康领域的回答准确性。随着AI技术的不断发展,如何在保证创新的同时确保信息安全,将是所有科技公司面临的重要课题。

被指含不实健康信息 谷歌移除一些AI概览