有人提出了针对人应该如何和机器人互动的准则。
Inverse Laws of Robotics
Here are the three inverse laws of robotics:
- Humans must not anthropomorphise AI systems.
- Humans must not blindly trust the output of AI systems.
- Humans must remain fully responsible and accountable for consequences arising from the use of AI systems.
这三条“逆机器人定律“写得相当精炼，有很强的现实针对性。逐条评析：
第一条：不得拟人化
方向正确，但执行起来比任何规则都难。拟人化是人类的认知本能，不是选择——我们对会动、会说话的东西天生投射情感。更深的问题是：随着AI的表达越来越自然，“拟人化“和“合理解读“之间的边界会越来越模糊。这条定律提出了问题
第二条：不得盲目信任
这是三条中最实用的一条，也是当下最迫切的。“盲目“这个限定词用得很好——它不是说“不要信任”，而是说“要有判断地信任“。这与飞行员对自动驾驶仪的态度类似：信任系统，但保持监控。现实中的挑战是：当AI的输出超出人类的验证能力时（比如复杂的医学诊断或代码审计），这条定律在实践中如何落地？写代码给claude 80%信任
第三条：责任归于人类
这是最重要的一条，也是法律和伦理层面最有争议的一条。它划定了一条清晰的道德红线：AI不能成为人类推卸责任的借口。责任的主体是相关的人和组织。
感觉第3条最有意思，对于主动先发动AI战争的罪犯是不是可以全球通缉和审判？