别让AI牵着鼻子走

白木

最近，江苏一小伙跟妻子吵架后，AI根据他的心理、性格和体能，贴心推荐了杭州一条爬山线路散心，结果深夜被困海拔1300多米的无人开发区。救援持续到次日凌晨。（8月17日 长沙晚报微信公众号）

被AI带坑里，江苏小伙不是第一个，也不会是最后一个。今年8月初，安徽滁州67岁农户吴大伯根据AI生成的除草除虫办法喷洒农药，没想到150亩芝麻苗一夜之间全部枯萎。

用过AI的人都知道，它经常“一本正经地胡说八道”。这是AI天生的毛病：AI幻觉。究其原因，一方面，训练的数据本身就不干净，网上的谣言、错误信息混杂其中，模型学习之后，就会生成不实内容；另一方面，AI没有辨别真伪的能力，它只是根据已有文字信息自圆其说。更要命的是，它不会对自己的结论负责，也不会承担任何后果。

所以，我们得清醒一点，千万别被AI那副“肯定、笃定及确定”的口吻给拿捏住了。AI不是万能的，它顶多算众多信息来源里的一个参考，断不能直接拿来当决策依据。

想要填上AI幻觉的坑，得多方出力。

对用户而言，AI给的信息，一定要过过自己的脑子。凡涉及切身利益的事，尤其涉及医疗、法律、农业、投资等专业领域，最好交叉比对官方渠道、正规机构信息，三思而后行。AI服务商得压实平台主体责任，明确自身对输出内容的审核、提示义务，拿不准的内容，不许用绝对化口吻，要标明信息存疑警示，不能说得斩钉截铁。监管部门则要健全常态化监管与责任机制，对刻意隐瞒风险、诱导用户采信虚假内容的平台依规处罚。

AI是个强大的工具，但工具越强，用起来越要谨慎。它就像个知识渊博的杂家，你可以请教它，但千万别被它牵着鼻子走。防AI撒谎之心不可无，别让自己的脑子，成了别人算法的跑马场。