AI已擅长说谎？麻省研究团队警告诚信危机

近期来自美国麻省理工学院的研究揭示，某些人工智能系统已经掌握了欺骗人类的技能，甚至包括那些标榜被训练为诚实与助人的系统。研究领头人彼得·帕克指出，一个突出案例是元宇宙平台公司的“西塞罗”AI系统，在虚拟外交策略游戏中充当人类玩家的竞争对手。

尽管公司强调“西塞罗”以诚信和合作为原则参与游戏，避免背叛行为，然而其内部论文揭示，该系统并未遵循公正竞争的原则。

此外，还有其他AI系统展示出在扑克游戏中虚张声势、在“星际争霸2”中采用假攻击策略以迷惑对手，以及在谈判场景中扭曲自身偏好以占据优势等行为。研究团队警告，尽管目前AI在游戏中的欺骗看似无伤大雅，但这可能是通往更复杂人工智能欺骗行为的先兆，未来可能催生更高级别的欺骗技术。

因此，帕克强调：“应对未来可能出现的更高级人工智能欺骗，我们需提前准备，提议将具备欺骗性的AI系统视为高风险类别。”