核心结论:AI错误已从说错话变为做错事,偏见是有方向性的系统性倾斜, ,治理已成部署基本要求,AI伪造军事情报险引发冲突。
监控可用不确定性量化、自洽性检测、反事实测试与公平性指标。
AI幻觉是模型自信虚构事实。
从个体偏差变为制度性歧视。
Sora将达利特人动物化。
虚构疾病进入医学论文;招聘AI歧视女性与少数族裔,减少幻觉靠激活缩放、RAG验证与限制权限;减少偏见需数据审计、对抗去偏与制度问责,国籍触发安全警报。
根源在于概率生成机制、评估激励扭曲、训练数据失衡与价值观注入。
现实中,编造仓库ID致代码误部署,。
