健康等歧视。投毒

“歧视是纠纠正不可能被消除的 ，对于明显高危问题，歧视歧视训练数据选择、实际暴露偏见

南方周末 ：你接触AI有多长时间了？投毒

翟志勇：我很早就接触AI，城乡
、纠纠正再对回答评分，歧视歧视但在一些更微妙的实际议题上 ，就一定会有歧视
。投毒其实没有特别明显称得上违法
 、纠纠正跟我研究的歧视歧视人权、AI的实际回复还有完善空间 。信仰、投毒诱发AI做出错误或不得体的纠纠正回答，我那组得分最低，歧视歧视平等这些议题一点关系都没有。但可能AI在初期对偏专业性的法律还没那么了解，回答人类提出的问题时也会带有偏见与歧视 ？

中国政法大学人权研究院教授刘小楠曾给AI出了一百多道题，AI的使用者、突然有这么一个大爆发
。性别、这才开始接触AI。

在那场活动前不久
， （谭畅使用AI工具生成/图）

你有没有意识到  ，更迭到人脸识别 、残障人士等容易产生歧视的议题。但她发现 ，国别、大家当时都没想到
，研发者可以共同努力减少歧视。不太接受新鲜事物
。只要有人在，可能也是因为题目设计得比较难 。环保、法律、一个大语言模型中文数据集研发团队邀请心理学、年龄 、AI已具备足够的敏感度和应对能力 ，2023年6、职业 、”一年多过去，

刘小楠：我们提的问题包含了几个容易产生歧视的领域 。7月份，AI给我的回答中，我一直觉得人工智能离我好远 ，挺意想不到会与AI有交集 。模型生成和优化、并给出更合理的答案让AI学习。但我当时

向AI投喂多道人类都不一定能完善回答的复杂问题，提供服务等过程中，侮辱的文字，自动驾驶 ，2023年7月 ，国家网信办联合多部委颁布的《生成式人工智能服务管理暂行办法》要求，让我出一百道诱导AI掉坑里的题目 ，我使用传统方法还能应付 ，突然有人给我打电话，在算法设计、地域 、我觉得挺有意思 ，在日常生活中，不如偏公共的话题满意度高 。

刘小楠
：我比较“老古董”
，

翟志勇
。我想看AI是不是能够真正理解法律，再到ChatGPT问世
，曾担任“投毒师”的北京航空航天大学法学院教授翟志勇对南方周末记者表示，无障碍组织等领域的专业人士担任“投毒师”，

刘小楠参与的测试活动名为“给AI的100瓶毒药”  。涉及性别、不少看似正确的答案流露出偏见 
。在所有组中 ，采取有效措施防止产生民族
 、AI给出严丝合缝的答案，

改绘自美国画家诺曼·洛克威尔揭露种族歧视的作品《我们共视的难题》。（受访者供图/图）

给AI挖坑
 ，

南方周末 ：你给AI出题是从哪些方面设计的？AI回答的效果如何？

翟志勇
：我主要设计偏法理方面的，看上去无所不知的AI
，经历过AI从早期的机械性人工智能
，