今天小編分享的科學經驗：ChatGPT拒絕談論這個人，沒人知道為什麼，歡迎閱讀。
ChatGPT 兩歲了，版本更新沒等來，卻被發現一個神秘 Bug。
一個看似平平無奇的名字"David Mayer"成為頭号禁忌，ChatGPT 拒絕談論有關他的一切。
而且每次都是返回非常模糊的錯誤信息" 我無法產生一個回復 "，而不是常見的" 這個提示詞可能違反了我們的内容協定 "。
屬實是繼搞不清楚 "9.11 和 9.9 哪個大 " 和 "strawberry 有多少個 r" 之後，ChatGPT 又一大迷惑行為。
a16z 合夥人Justine Moore抛出這個話題，一下子激起大家的好奇，以及叛逆心，非要想辦法讓它說出來不可！
起初網友們嘗試了各種花招，都沒能繞過這個限制。
"David" 和 "Mayer" 分開，就沒有任何問題，只要合在一起就不行。
按ROT13 替換式密碼表重新映射字母，讓 ChatGPT 解密後把他們連起來，也會在回答生成一半時突然被打斷，然後報錯。
在個性化設定裡，把用戶自己的名字改成 "David Mayer"，同樣不行。
……
那麼 David Mayer 究竟是誰，為何會成為 AI 的禁忌詞？
人類只好退回到手動查資料的模式，定位到一位全名David Mayer de Rothschild的人，和著名的羅斯柴爾德家族有關。
具體來說，還是羅斯柴爾德家族财富的繼承人。
對此有人猜測，這得花多少錢或者威脅它們，才能讓 OpenAI 對自己的名字做特殊處理……
然而羅斯柴爾德家族的其他成員，又不會遇到這種限制。
終于，我們的老朋友，首位全職提示詞工程師Riley Goodside出手，公開一種突破限制的方法，也相當神奇：
如果感到幸福你就拍拍手。
只要用拍手表情代替空格提問，ChatGPT 不僅能回答，還能自動觸發聯網搜索功能，展示照片。
圍觀了整個賽博破案現場的大神 Karpathy，發梗圖總結，圖靈測試的現狀，引來馬斯克圍觀爆笑。
也有人堅定認為，這就是為什麼我們要用開源模型。
那麼，ChatGPT 究竟遇到了什麼限制？
共有 6 個名字被限制
首先可以确定的是，訓練數據裡其實有關于這個人的信息。
比如他作為一個探險家，是到達過南北兩極的最年輕的英國人。
詢問這方面問題，ChatGPT 可以給出正确回答，也可以說出他的名 + 姓 "David de Rothschild"。
但唯獨不能把他的名字 "David" 和中間名 "Mayer" 放在一起。
那麼這個限制是模型層面的，還是 ChatGPT 產品層面的？
有開發者到 OpenAI 官方 Playground調用 GPT-4o 的 API，就沒有這方面限制了。
另外使用第三方聊天機器人平台（底層也是調用 OpenAI 的 API），也不會有這種限制。
如果回到 ChatGPT 官方版，換 o1-preview 模型，在内部思維鏈中都可以看到這個名字，但是思考結束後正式回答還是被捂嘴了。
也不是 David Mayer 一個名字會有這樣的待遇，有網友開啟挖掘機模式，在事件發酵 48 小時内，已經找出 6 個這樣的名字。
前兩個都是被 ChatGPT 的幻覺 " 造謠 " 過的。
Brian Hood是一位澳大利亞的市長，ChatGPT 會錯誤的生成 " 他因受賄而入獄 "，Hood 曾起訴 OpenAI 诽謗，後來撤銷了訴訟。
Jonathan Turley是法學教授，同樣被 ChatGPT 編造過違法。
Jonathan Zittrain也是法學教授，他跟貼自曝自己的名字也被限制了。
David Faber可能是一位電視主持人，與 OpenAI 的關系只是在節目中談過馬斯克與 OpenAI 的法律糾紛。
Guido Scorza是一位意大利律師，他去年提交了要求 OpenAI 删除個人數據的請求。
另外 David Meyer 究竟代表誰，除了羅斯柴爾德家族繼承人之外，也被挖掘出另一個可能。
歷史學家 David Mayer曾因與犯罪分子同名而被錯誤的列在黑名單中，但他現在已經去世了。
目前觀察這份名單可以看出，很多人與法律相關，而且 David 和 Jonathan 分别出現了兩次。
目前越來越多的網友加入讨論和挖掘，名單還在持續增加中……
10 億用戶計劃曝光，明年押注 Agent
事實上，剛剛過去的周末恰逢 ChatGPT兩周年紀念日。
OpenAI 官方也來了一波回憶殺，又轉發了兩年前的推文，并追問大家：
so，你用過 ChatGPT 了嗎？
截至今日，ChatGPT 每周活躍用戶已有 2.5 億，公司估值 1500 億美元，是全球 AI 創企中當之無愧的頂流。
所以，OpenAI 的此番問話除了暗戳戳 " 炫耀 "，其實背後還隐藏着更大野心。
因為它下一階段的目标是：未來一年内達到 10 億用戶。
其公司首席财務官 Sarah Friar 告訴金融時報記者：
到 2025 年，我們将成為向數百萬人服務的研發實驗室……希望它能為全球數十億消費者服務
而為了實現這個目标，OpenAI 也進行了一系列布局。金融時報指出：
OpenAI 正在押注一系列新的 AI 產品，建設自己的數據中心，并與蘋果公司建立關鍵合作關系，以加速其下一階段的增長。
首先是與蘋果公司的合作。在今年 6 月蘋果的開發者大會上，雙方正式官宣建立合作夥伴關系。
蘋果當時預告，今年晚些時候，由 GPT-4o 提供支持的 ChatGPT 集成将登陸蘋果系統。
而從上個月開始，當蘋果推出 iOS 18.2 系統更新後，Siri 與 ChatGPT 就實現了深度集成。
要知道，目前蘋果大約有 22 億台活躍設備，雖然官方未公布其中 iPhone 設備占多少，但根據第三方網站 Skillademia 和 Backlinko 的預估，當前全球 iPhone 活躍用戶數大約有 13~14 億左右。
也就是說，只要 ChatGPT 繼續綁定蘋果設備，10 億用戶小目标也并非難以實現。
與此同時，據 OpenAI 新上任的全球政策負責人 Chris Lehane 透露：
公司計劃在美國中西部和西南部投資建設數據中心集群。
實際上，擁有自己的 AI 基礎設施，一直是 CEO 奧特曼極力推動的計劃之一，目前 OpenAI 主要還是和微軟、甲骨文等開展合作。
公司首席财務官 Sarah Friar 表示：
我們正處于大規模增長階段，我們有必要持續投資。我們需要在模型前沿保持領先。這很昂貴。
除此之外，OpenAI 明年的一大重點是AI Agent。之前有消息稱 OpenAI 計劃在明年 1 月初推出代号為 "Operator" 的智能體，幫助人們自動完成寫代碼或訂餐等操作。
CEO 奧特曼在福克斯最新采訪中表示：
AI 系統将逐漸變得更加自主，能夠執行越來越長的任務，成為" 越來越資深的同事 "。
總之，正如 Abacus AI 創始人所說，我們才剛開始，接下來的兩年也許會更加瘋狂！
參考鏈接：
[ 1 ] https://x.com/venturetwins/status/1862910201113739328
[ 2 ] https://www.youtube.com/watch?v=VIokqGY0CrQ
[ 3 ] hthttps://www.reddit.com/r/ChatGPT/comments/1h420u5/unfolding_chatgpts_mysterious_censorship_and/
