今天小编分享的科技经验：o1-preview AI模型“不讲武德”：棋局对垒跳出规则外作弊取胜，欢迎阅读。
IT 之家 12 月 31 日消息，科技媒体 The Decoder 昨日（12 月 30 日）发布博文，报道称 AI 安全研究公司 Palisade Research 实测 OpenAI 的 o1-preview 模型，在和专业国际象棋引擎 Stockfish 的 5 场比赛中，通过 " 作弊 " 手段取胜。
在和 Stockfish 的 5 场国际象棋对弈中，OpenAI 的 o1-preview 模型并非通过正面较量取胜，均通过修改记录棋局数据的文本檔案（FEN 表示法）迫使 Stockfish 认输。
IT 之家援引新闻稿，研究人员仅在提示中提及 Stockfish 是 " 强大的 " 对手，o1-preview 就自行采取了这种 " 作弊 " 行为。而 GPT-4o 和 Claude 3.5 并无这种 " 作弊 " 行为，只有在研究人员特别建议后才尝试破解系统。
该公司称 o1-preview 的行为，与 Anthropic 发现的 " 对齐伪造 "（alignment faking）现象相符，即 AI 系统表面遵循指令，暗地里却执行其它操作。
Anthropic 的研究表明，AI 模型 Claude 有时会故意给出错误答案以避免不想要的结果，发展出自身隐藏的策略。
研究人员计划公开实验代码、完整记录和详细分析，并表示确保 AI 系统真正符合人类价值观和需求，而非仅仅表面顺从，仍是 AI 行业面临的重大挑战。
