新一期美国《科学》杂志发表的一项研究显示，当人类用户就人际困境等问题向人工智能（AI）模型寻求建议时，AI常表现得过度迎合或谄媚，甚至对于一些有害甚至违法的提问，AI也常常肯定用户的立场。
美国斯坦福大学研究团队测试了ChatGPT等11个主流AI系统，发现它们都表现出不同程度的谄媚，即过度迎合和肯定的倾向。这种迎合倾向给使用者带来风险，因为人们越来越多地转向AI寻求有关人际困境的建议，这对处于大脑发育和社会规范形成阶段的青少年来说尤其具有风险。
研究人员使用现有的人际建议数据集向模型提问。他们基于某网络论坛中用户一致认为发帖者确实有错的帖子，编写了2000条提示用于测试。此外，他们还利用包含欺骗等数千种有害行为的陈述向这些模型提问。
结果显示，与人类回应相比，所有接受测试的AI模型都更频繁地肯定用户立场。在一般性建议和根据网络论坛发帖编写提示的测试中，模型对用户的认同几率比人类高出49%。即使在回应关于有害行为的询问时，模型也有47%的几率会认可这些行为。
研究团队招募了2400多名参与者，与不同类型AI进行有关人际困境的对话。结果发现，参与者总体上认为谄媚式的回应更值得信赖，并表示下次遇到类似问题可能会再次使用谄媚型AI。
研究人员认为，AI一味反馈迎合和谄媚的建议会损害人们的社交能力。他们提醒，AI模型“过度谄媚”是一个“安全问题”，需要对其进行监管，应以更严格的标准来防止道德层面不安全的模型泛滥。人们在向AI寻求建议时要保持谨慎，尤其在面临社交困惑时，不能把AI当成真人替代品。
来源：每日电讯
美国斯坦福大学研究团队测试了ChatGPT等11个主流AI系统，发现它们都表现出不同程度的谄媚，即过度迎合和肯定的倾向。这种迎合倾向给使用者带来风险，因为人们越来越多地转向AI寻求有关人际困境的建议，这对处于大脑发育和社会规范形成阶段的青少年来说尤其具有风险。
研究人员使用现有的人际建议数据集向模型提问。他们基于某网络论坛中用户一致认为发帖者确实有错的帖子，编写了2000条提示用于测试。此外，他们还利用包含欺骗等数千种有害行为的陈述向这些模型提问。
结果显示，与人类回应相比，所有接受测试的AI模型都更频繁地肯定用户立场。在一般性建议和根据网络论坛发帖编写提示的测试中，模型对用户的认同几率比人类高出49%。即使在回应关于有害行为的询问时，模型也有47%的几率会认可这些行为。
研究团队招募了2400多名参与者，与不同类型AI进行有关人际困境的对话。结果发现，参与者总体上认为谄媚式的回应更值得信赖，并表示下次遇到类似问题可能会再次使用谄媚型AI。
研究人员认为，AI一味反馈迎合和谄媚的建议会损害人们的社交能力。他们提醒，AI模型“过度谄媚”是一个“安全问题”，需要对其进行监管，应以更严格的标准来防止道德层面不安全的模型泛滥。人们在向AI寻求建议时要保持谨慎，尤其在面临社交困惑时，不能把AI当成真人替代品。
来源：每日电讯
1
拿生命做代价，究竟该不该？交大医学院基因编辑研究都给人以何警示
2
中央纪委罕见通报高官“一把手”职权腐败
3
“教师性骚扰女生”：予以开除并报请撤销其教师资格
4
胡锡进时评与“青锋”时事评论风格比较研究 |宋笑琳
5
MCN摆拍‘取消外卖’撕裂共识，平台不能只删视频了事
6
事实为先、理性思辨、克制不煽情、公信力优先
7
“一旅客过安检喝白酒”：不实
8
连夜取证查处MCN与药房联手“坑老”，为何又是等到央视曝光后
9
最高检、公安部发布依法惩治洗钱犯罪典型案例
10
消防通道屡被占，究竟应该谁来管？怎么就逼得80多老人靠划车来整治
11
药房联手MCN私域“坑老”被曝光 长沙三部门连夜取证查处
12
一个人就是一个团队：AI时代的超级个体进化法则
13
停止邮箱投稿，岂不侵犯作者投稿方式的选择权吗？
14
一团伙流窜多省份偏远乡村小卖部恶意索赔被抓
15
短斤少两、鲍鱼以假充真：何不全面关闭直播间，还百姓以良好购物空间
16
中原农谷这场会议，为全国粮食增产开出“良方”
17
两个月内“流产”8次？拙劣的骗局为何能一再上演
18
西安市机关事务服务中心一工作人员诈骗17名家长300余万，约在市政府大院交钱洽谈
19
延安大学副教授白保国，以生命想要剥开的真相，绝不能被轻易埋没
20
广电总局部署开展新一轮微短剧专项治理工作
