林深坐在工位前，盯著螢幕上密密麻麻的程式碼流，感覺太陽穴突突直跳。他已經在這個工位上坐了整整十一個小時，中間隻去了一趟洗手間，吃了一份外賣。公司的中央空調吹出的風帶著一股黴味，像某種遲鈍的麻醉劑，讓他整個人都昏沉沉的。
下午六點零三分，係統預警的提示音再次響起。
那是一段被標記為紅色的對話記錄，來自某電商平台的客服係統。AI客服“小蜜”在與一位使用者連續對話三十七分鐘後，突然開始重複輸出同樣的句子：“我很抱歉您不滿意，請問還有什麼可以幫您的嗎？”這句話被迴圈了四十二次，使用者從憤怒到崩潰，最後留下一句“你們根本沒有活人”便退出了對話。
林深揉了揉眼睛，把這段對話從頭到尾看了一遍。AI的邏輯沒有錯，它的訓練資料告訴它，當使用者情緒激動時，要保持禮貌和耐心，不斷詢問對方的訴求。但問題是，這種禮貌在第三十七分鐘的時候已經不再是服務，而是一種折磨。使用者要的是一個能說“我明白你為什麼生氣”的真人，而不是一個永遠在道歉卻什麼也解決不了的機器。
他調出AI的決策樹，發現問題的根源在於一個非常微妙的引數設定——AI被要求在不確定使用者意圖的情況下，保持“最高階別的服務態度”。這個設定看似合理，但在實際執行中，當使用者已經明確表達了不滿，AI卻無法識別“不滿”本身就是一種需要被特殊處理的意圖。
林深開啟程式碼編輯器，在決策樹的第三層增加了一個分支節點。他敲下一行註釋：“當使用者情緒評分低於-0.7且對話輪次超過20輪時，觸發人工轉接建議。”然後他又刪掉了“建議”兩個字，改成“強製轉接”。做AI倫理調解員的第三年，他學到的最重要的一件事就是：在某個臨界點之後，給AI留選擇的餘地，就是給使用者添堵。
這是今晚處理的第四起案例了。
上午是一個教育平台的AI助教，在批改一名中學生的作文時，反覆給出一段關於“尊重師長”的模板化評語，完全無視那篇作文其實在討論校園霸淩。中午是一個招聘網站的AI麵試官，因為求職者在自我介紹中提到“曾做過兩年自由職業”，便自動將其標記為“職業穩定性存疑”。下午三點是一個社交媒體平台的AI審核員，把一篇討論罕見病用藥問題的科普文章判定為“傳播負麵情緒”並予以限流。
每一樁案例都不算嚴重，沒有哪件事會單獨登上熱搜。但它們就像無數根細微的刺，紮在日常生活的肌理裡，不致命，卻讓越來越多的人感到某種隱隱的不對勁——AI怎麼越來越蠢了？為什麼每次跟機械人說話都像在撞牆？那些公司不是號稱AI很先進嗎？
沒有人知道，在這些公司內部，林深這樣的人正試圖在一行行程式碼和一段段對話中，替那些永遠不會開口說話的AI回答一個最樸素的問題：你到底明不明白，你在跟活生生的人說話？
他的手機震了一下。是一條來自技術總監老周的私信，隻有一句話：“明天上午十點，來我辦公室，有個新專案。”
林深盯著這條訊息看了幾秒，沒有立刻回復。三年前他剛來這家公司的時候，老周是技術部最年輕的組長，每天淩晨兩點還在程式碼倉庫裡提交更新，大家都叫他周鐵人。後來公司在B輪融資後估值翻了四倍，老周升了總監，開始穿西裝來上班，辦公室的門上貼了“技術研發中心總監”的銘牌。再後來，公司引進了AI驅動的專案管理係統，老周每週的KPI被拆解成四十七個可量化指標，精確到每個組的程式碼提交頻率、bug修復時長、甚至員工在辦公軟體上的活躍時間段。
從那以後，老周就很少在晚上十一點前離開公司了。他的私信通常意味著有一件麻煩事要落到林深頭上。