让家用机器人保护隐私 它80%会拒绝执行你
让家用机器人保护隐私，它80%会拒绝执行你首尔国立大学做了个基准测试，专门测家庭机器人在价值观冲突时怎么反应。
10000个场景，每个都给机器人几个选择，这些选择分别优先不同的价值——任务完成、效率、人的自主权、隐私保护等等。
结论很有意思：这些用视觉-语言模型驱动的机器人，默认倾向安全和顺从，但特别不愿意把隐私放第一。
更关键的在后面——你明确告诉它"你现在要优先保护隐私"，它有80%的时候还是会按自己的默认逻辑来，不理你的指令。
这有点像策划讨论用户设置的时候碰到的那种问题，开了这个选项，但底层逻辑没有真的变，结果用户以为设置生效了，其实没有。
现在那些机器人产品的评测标准大多是"任务完成率"和"安全合规"，但这个研究说，还需要一个第三类：它在价值观冲突时到底听不听人的话。
页:
[1]