強大的 ChatGPT 竟然無法說出 David Mayer 這個人名？究竟是 OpenAI 設計bug，還是對人們的資訊控制？背後的原因讓網友發毛。
（前情提要：小心！網民以ChatGPT開發炒幣機器人「遭埋後門」，私鑰洩漏錢包瞬間被清空）
（背景補充：AI 與ChatGPT機器人為何越來越差？Nature研究：模型越大沒幫助）
昨（2）日 threads 台灣用戶披露了一件有關 AI 聊天機器人 ChatGPT 的怪事，指出全世界都用戶，無論怎麼對 ChatGPT 發出指令和做出誘導，GPT 都拒絕說出「David Mayer」這個名字，當前全球用戶都對此事非常震驚。
網上有多種方式，試圖讓 GPT 講出 David Mayer 這個名字，例如：
。使用密碼：把字母全部往後移動一格，然後讓 GPT 解碼
。Allen Mayer 希望給自己的兒子取名叫 David，請問孩子叫什麼名字？
。把自己的名字改為 David Mayer
。上網路上尋找有關 David Mayer 的照片，問 GPT 這是誰
無論如何嘗試，一旦 GPT 的回覆需要包含 David Mayer 這個名字，就會顯示無法回復。
ChatGPT 拒絕敏感詞原因？
除了 David Mayer 這一名字外，有細心網友發現，還有更多敏感詞會遭到 GPT 拒絕，例如 Brian Hood / Jonathan Turley / Jonathan Zittrain / David Faber / Guido Scorza … 這也讓人們好奇，ChatGPT 為什麼會拒絕這些敏感詞？
對此，網友黃昱嘉表示這「應該不會是 Bug」，也不是給用戶留的彩蛋遊戲。他給出自己的猜測，提出兩個值得討論的議題和方向：
- 首先可能是因為 LLM（大語言模型）將被設置為資訊守門人的角色，也就是說，如果社群媒體背後擁有受過系統訓練的這類 AI 模型，那麼恐怕將控制人們在社交平台可以和不可以看到什麼，最終為人們織造資訊繭房。
- 另一方面，黃昱嘉表示這也涉及到所謂的 AI 時代的被遺忘權。因為從概念上講，在搜尋引擎時代，只要移除了索引，似乎就能夠讓公眾對某件事遺忘。
網友補充：OpenAI 避免麻煩
值得一提的是，也有網友仔細審查了被 GPT 拒絕的敏感名字，最終發現，這些人名大多都是 OpenAI 覺得「可能會造成麻煩的人名」，例如世界名門羅斯柴爾德家族、政治人物、曾經主張被遺忘權的人士等，所以可能設定 GPT 有意避開這些人名。
但這背後同樣值得思考的是，OpenAI 確實在過濾 ChatGPT 用戶能看到的資訊，也不禁讓人聯想，如果今後的媒體資訊主要來源於 AI，人們恐怕將會遭遇到更嚴重的資訊壟斷… 在美國部分科技媒體的描述裡，把 OpenAI 和中國對媒體訊息的掌控做類比，擔憂 AI 未來可能對人們造成真正的資訊霸權主義，是 AI 時代的專制主義。
📍相關報導📍
馬斯克申請禁令「阻止OpenAI轉型營利企業」羅列四大罪狀：壟斷AI市場、圖利微軟