【学术报道】计算机工程学院举办大模型幻觉与安全红线专题讲座

11月4日，计算机工程学院成功举办《当AI开始“骗人”——大模型幻觉与安全红线的博弈》专题学术讲座，赵丽红老师担任主讲，学院师生踊跃参加。

赵丽红指出，大模型的本质是预测下一个最可能出现的词，语言能力并不等于知识能力，幻觉并非刻意撒谎，而是模型“不知道自己不知道”。她结合学术、医疗、法律、新闻等领域的真实案例说明，越是专业的领域，AI输出的失真比例反而越高；而攻击者批量投放的假信息一旦进入语料，还可能被模型以“权威口吻”复述并在“回音室”中放大。针对防范，她介绍了检索增强生成、来源标注、人类在环等技术防线，并给出来源验证、交叉验证、关键事实溯源等个人核验方法。

本次讲座不仅是一场前沿技术的科普分享，更是一堂面向AI时代的数字素养课。在生成式人工智能加速融入课堂教学、科研写作与日常生活的背景下，帮助师生认清AI的能力边界、掌握基本的事实核验方法，已成为人才培养的必修课。讲座以真实案例敲响警钟：善用AI的前提是怀疑AI，驾驭AI的前提是不迷信AI。只有把技术使用与学术诚信、责任意识紧密相连，才能让人工智能真正成为学习科研的助力，而非风险。（文图/吴慧娟 审核/王琼佩）