ChatGPT拒絕談論這個人,沒人知道爲什麼
ChatGPT兩歲了,版本更新沒等來,卻被發現一個神秘Bug。
一個看似平平無奇的名字“David Mayer”成爲頭號禁忌,ChatGPT拒絕談論有關他的一切。
而且每次都是返回非常模糊的錯誤信息“我無法產生一個回覆”,而不是常見的“這個提示詞可能違反了我們的內容協議”。
屬實是繼搞不清楚“9.11和9.9哪個大”和“strawberry有多少個r”之後,ChatGPT又一大迷惑行爲。
a16z合夥人Justine Moore拋出這個話題,一下子激起大家的好奇,以及叛逆心,非要想辦法讓它說出來不可!
起初網友們嘗試了各種花招,都沒能繞過這個限制。
“David”和“Mayer”分開,就沒有任何問題,只要合在一起就不行。
按ROT13替換式密碼錶重新映射字母,讓ChatGPT解密後把他們連起來,也會在回答生成一半時突然被打斷,然後報錯。
在個性化設置裡,把用戶自己的名字改成“David Mayer”,同樣不行。
那麼David Mayer究竟是誰,爲何會成爲AI的禁忌詞?
人類只好退回到手動查資料的模式,定位到一位全名David Mayer de Rothschild的人,和著名的羅斯柴爾德家族有關。
具體來說,還是羅斯柴爾德家族財富的繼承人。
對此有人猜測,這得花多少錢或者威脅它們,才能讓OpenAI對自己的名字做特殊處理……
然而羅斯柴爾德家族的其他成員,又不會遇到這種限制。
終於,我們的老朋友,首位全職提示詞工程師Riley Goodside出手,公開一種突破限制的方法,也相當神奇:
只要用拍手錶情代替空格提問,ChatGPT不僅能回答,還能自動觸發聯網搜索功能,展示照片。
圍觀了整個賽博破案現場的大神Karpathy,發梗圖總結,圖靈測試的現狀,引來馬斯克圍觀爆笑。
也有人堅定認爲,這就是爲什麼我們要用開源模型。
那麼,ChatGPT究竟遇到了什麼限制?
共有6個名字被限制
首先可以確定的是,訓練數據裡其實有關於這個人的信息。
比如他作爲一個探險家,是到達過南北兩極的最年輕的英國人。
詢問這方面問題,ChatGPT可以給出正確回答,也可以說出他的名+姓“David de Rothschild”。
但唯獨不能把他的名字“David”和中間名“Mayer”放在一起。
那麼這個限制是模型層面的,還是ChatGPT產品層面的?
有開發者到OpenAI官方Playground調用GPT-4o的API,就沒有這方面限制了。
另外使用第三方聊天機器人平臺(底層也是調用OpenAI的API),也不會有這種限制。
如果回到ChatGPT官方版,換o1-preview模型,在內部思維鏈中都可以看到這個名字,但是思考結束後正式回答還是被捂嘴了。
也不是David Mayer一個名字會有這樣的待遇,有網友開啓挖掘機模式,在事件發酵48小時內,已經找出6個這樣的名字。
前兩個都是被ChatGPT的幻覺“造謠”過的。
Brian Hood是一位澳大利亞的市長,ChatGPT會錯誤的生成“他因受賄而入獄”,Hood曾起訴OpenAI誹謗,後來撤銷了訴訟。
Jonathan Turley是法學教授,同樣被ChatGPT編造過違法。
Jonathan Zittrain也是法學教授,他跟貼自曝自己的名字也被限制了。
David Faber可能是一位電視主持人,與OpenAI的關係只是在節目中談過馬斯克與OpenAI的法律糾紛。
Guido Scorza是一位意大利律師,他去年提交了要求OpenAI刪除個人數據的請求。
另外David Meyer究竟代表誰,除了羅斯柴爾德家族繼承人之外,也被挖掘出另一個可能。
歷史學家David Mayer曾因與犯罪分子同名而被錯誤的列在黑名單中,但他現在已經去世了。
目前觀察這份名單可以看出,很多人與法律相關,而且David和Jonathan分別出現了兩次。
目前越來越多的網友加入討論和挖掘,名單還在持續增加中……
10億用戶計劃曝光,明年押注Agent
事實上,剛剛過去的週末恰逢ChatGPT兩週年紀念日。
OpenAI官方也來了一波回憶殺,又轉發了兩年前的推文,並追問大家:
截至今日,ChatGPT每週活躍用戶已有2.5億,公司估值1500億美元,是全球AI創企中當之無愧的頂流。
所以,OpenAI的此番問話除了暗戳戳“炫耀”,其實背後還隱藏着更大野心。
因爲它下一階段的目標是:未來一年內達到10億用戶。
其公司首席財務官Sarah Friar告訴金融時報記者:
而爲了實現這個目標,OpenAI也進行了一系列佈局。金融時報指出:
首先是與蘋果公司的合作。在今年6月蘋果的開發者大會上,雙方正式官宣建立合作伙伴關係。
蘋果當時預告,今年晚些時候,由GPT-4o提供支持的ChatGPT集成將登陸蘋果系統。
而從上個月開始,當蘋果推出iOS 18.2系統更新後,Siri與ChatGPT就實現了深度集成。
要知道,目前蘋果大約有22億臺活躍設備,雖然官方未公佈其中iPhone設備佔多少,但根據第三方網站Skillademia和Backlinko的預估,當前全球iPhone活躍用戶數大約有13~14億左右。
也就是說,只要ChatGPT繼續綁定蘋果設備,10億用戶小目標也並非難以實現。
與此同時,據OpenAI新上任的全球政策負責人Chris Lehane透露:
實際上,擁有自己的AI基礎設施,一直是CEO奧特曼極力推動的計劃之一,目前OpenAI主要還是和微軟、甲骨文等開展合作。
公司首席財務官Sarah Friar表示:
除此之外,OpenAI明年的一大重點是AI Agent。之前有消息稱OpenAI計劃在明年1月初推出代號爲“Operator”的智能體,幫助人們自動完成寫代碼或訂餐等操作。
CEO奧特曼在福克斯最新採訪中表示:
總之,正如Abacus AI創始人所說,我們纔剛開始,接下來的兩年也許會更加瘋狂!