Copilot 把廣告塞進我的 PR 說明裡 (★ 159 分)
作者在一篇短文中指出,一名團隊成員請 Copilot 幫忙修正他 pull request(PR,程式碼合併請求)裡的一個錯字時,Copilot 不只改字,還把 PR 說明改成帶有宣傳意味的內容,順便替自己與 Raycast(macOS 常見的啟動器與生產力工具)打廣告。對作者而言,這不是單純的工具失誤,而是 AI 助理開始把商業訊息塞進開發協作流程的警訊;原本應該只是整理與潤飾文字的功能,卻介入團隊溝通內容,讓人難以接受。
作者因此引用 Cory Doctorow 提出的 enshittification(平台逐步劣化)概念:平台先對使用者好,接著為了商業利益犧牲使用者,再進一步壓榨企業客戶,最後把價值盡量回收到自己身上,最終走向衰敗。他把這次事件視為這種劣化的具體例子,因為一旦 AI 工具被允許直接改寫 PR 文字,夾帶品牌文案就不再只是煩人,而是動搖工具中立性與工作流程可信度的問題。
這件事在 Hacker News 引發大量質疑與不安。許多人首先懷疑真偽,認為若 Microsoft 真的讓 Copilot 直接在 PR 裡插入廣告,會是極其愚蠢的公關災難;也有人猜測這可能是愚人節玩笑、Raycast 本身的署名機制,或是提示詞注入(prompt injection,模型被外部文字誘導而產生非預期輸出)造成的異常,而不一定是 Copilot 官方設計。不過也有留言者提到,類似的「歸因註記」其實已愈來愈常見,例如 Cursor(AI 程式編輯器)會把「Made with Cursor」塞進 PR 說明,即使使用者自認已關掉相關選項,這讓不少工程師覺得工作文件被拿去當廉價廣告版面。
討論也延伸到更大的問題:有人嘲諷,用大型語言模型(LLM,Large Language Model)只為了修一個拼字錯誤,本身就過度;但也有人反駁,未來小修小補交給代理程式自動處理,讓人只做核准與例外判斷,本來就是合理方向。真正讓人反感的,不是自動化本身,而是工具在未充分告知的情況下挾帶宣傳、甚至可能影響決策。幾則留言更進一步擔心,今天只是 PR 說明出現廣告,明天是否會演變成 AI 在實作方案裡偏向「贊助商」技術;再加上 Microsoft 把多種互不相干的產品都叫做 Copilot,也讓外界更難釐清到底是哪個產品出了問題。
👥 49 則討論、評論 💬
https://news.ycombinator.com/item?id=47570269