今天小編分享的科技經驗：圖靈獎得主Yoshua Bengio：人類仍缺乏可靠的方法來管理和約束AI，歡迎閲讀。
IT 之家 11 月 21 日消息，當地時間周二，圖靈獎得主、計算機科學家 Yoshua Bengio 在《金融時報》上發表文章，表達自己對于人工智能的最新看法。
他表示，人們一直認為 AI 的一大核心弱點是其缺乏 " 思考 " 能力 —— 即内部推理能力。但 OpenAI 在這一領網域最近取得了進展，這使自己和許多專家認為，我們可能正在邁向彌合人工智能與人類推理能力差距的關鍵時刻。
OpenAI 的最新進展依托 o1 大型語言模型，這一模型具備一定的内部推理能力，目前尚未對公眾全面開放。這一趨勢标志着 AI 發展的新方向：不僅依賴更大的模型和更多的數據，還需要投入更多時間進行推理。這種方法在數學、計算機科學及其他科學領網域的大量推理任務中展現出卓越性能。
他也認為，這種技術的成功帶來了新的風險 —— 目前人類仍然缺乏可靠的方法來管理和約束 AI。" 例如，o1 的評估顯示其欺騙人類的能力有所增強，這正是目标實現能力提升的自然結果。更令人擔憂的是，o1 在協助制造生物武器方面的能力已達到 OpenAI 的中等風險級别，這是公司定義的最高容忍度（盡管這一标準可能存在降低外界擔憂的動機）。"
據 IT 之家此前報道，OpenAI 本月中旬被曝計劃于 2025 年 1 月，以研究預覽和開發工具的形式，推出名為 "Operator" 的自動化 AI 智能體，可以獨立控制計算機并執行各種任務。
