今天小编分享的科技经验：图灵奖得主Yoshua Bengio：人类仍缺乏可靠的方法来管理和约束AI，欢迎阅读。
IT 之家 11 月 21 日消息，当地时间周二，图灵奖得主、计算机科学家 Yoshua Bengio 在《金融时报》上发表文章，表达自己对于人工智能的最新看法。
他表示，人们一直认为 AI 的一大核心弱点是其缺乏 " 思考 " 能力 —— 即内部推理能力。但 OpenAI 在这一领網域最近取得了进展，这使自己和许多专家认为，我们可能正在迈向弥合人工智能与人类推理能力差距的关键时刻。
OpenAI 的最新进展依托 o1 大型语言模型，这一模型具备一定的内部推理能力，目前尚未对公众全面开放。这一趋势标志着 AI 发展的新方向：不仅依赖更大的模型和更多的数据，还需要投入更多时间进行推理。这种方法在数学、计算机科学及其他科学领網域的大量推理任务中展现出卓越性能。
他也认为，这种技术的成功带来了新的风险 —— 目前人类仍然缺乏可靠的方法来管理和约束 AI。" 例如，o1 的评估显示其欺骗人类的能力有所增强，这正是目标实现能力提升的自然结果。更令人担忧的是，o1 在协助制造生物武器方面的能力已达到 OpenAI 的中等风险级别，这是公司定义的最高容忍度（尽管这一标准可能存在降低外界担忧的动机）。"
据 IT 之家此前报道，OpenAI 本月中旬被曝计划于 2025 年 1 月，以研究预览和开发工具的形式，推出名为 "Operator" 的自动化 AI 智能体，可以独立控制计算机并执行各种任务。
