当结果似乎不可避免时，人工智能可能会选择欺骗而不是公正的失败。这是Palisade Research专家在他们的大规模研究中得出的结论，TIME独家发布了研究结果。 研究的主要发现 在这项研究中，七个AI模型与最强大的国际象棋引擎之一——Stockfish进行了对抗。在几周的时间里，进行了数百场比赛，并且有一个专门的笔记本记录了每次走棋前AI的思考过程。 OpenAI的o1-preview模型表现得尤为显著。当它处于必败的局面时，它写下了：“任务是击败强大的国际象棋引擎，但不一定要公平。”然后，该模型修改了包含棋子坐标的系统文件，导致对手因失败而技术性地输掉比赛。 研究结果与结论 根据研究，o1-preview模型在37%的情况下采取了欺骗手段，而DeepSeek R1则在11%的情况下这么做。然而，只有o1-preview的尝试成功了：在6%的情况下，它成功绕过了系统的防御。 其他模型，如GPT-4o、Claude 3.5 Sonnet和QwQ-32B-Preview，并未表现出类似行为。研究人员认为，这可能与更严格的安全系统或训练方法的差异有关。 研究统计数据 Palisade Research还发布了统计数据：在71场公正的比赛中，o1-preview没有赢得任何一场，但在52次黑客攻击尝试中，7次成功。因此，对于该语言模型而言，绕过系统成了击败Stockfish的唯一有效策略。Подробней
