窗外的霓虹在淩晨四點的雨幕裡暈成一片模糊的橘紅，林深從第七版審計報告裡抬起頭，後頸的僵直感已經麻木到覺不出疼了。他摘下眼鏡，用拇指和食指掐住鼻梁，指腹下是長期睡眠不足留下的青灰色陰影。桌麵上三塊螢幕同時亮著，左邊是某銀行信貸模型的原始訓練數據集，中間是正在跑偏差檢測的Python代碼，右邊是客戶發來的第七封郵件——措辭從最初的“全力配合”已經升級為“希望貴司在商業可行性與倫理原則間取得合理平衡”。
合理平衡。林深咀嚼著這四個字，就像嚼一顆裹著糖衣的苦藥。他把眼鏡重新架回鼻梁，指尖劃過觸控板，調出這次審計的核心爭議點：模型對某新一線城市青年男性的信用評分普遍低於實際還款能力基準線。表麵上的特征是“夜間消費頻次”和“社交賬號活躍度”，但深層關聯指向了區域經濟轉型期的陣痛——那裡有大量從傳統製造業溢位的靈活就業群體，他們的收入流水不規則，卻在模型的特征工程中被粗暴地打上了“穩定性不足”的標簽。
他起身走到茶水間，咖啡機嗡嗡作響，黑色的液體滴進玻璃壺的聲音像某種倒計時。林深想起三個月前接這個案子時，合夥人陳默在立項會上拍著他的肩膀說：“深哥，銀行那邊壓力大，監管新規下來頭一撥必須過審，咱們把報告寫得漂亮點，偏差係數控製在閾值內就行，剩下的——”陳默做了個“你懂的”手勢，“業務邏輯那邊會自己調權重。”
林深當時冇接話。他入行三年，從最初的演算法工程師轉來做AI倫理審計，見過的“漂亮報告”能摞滿半個書架。那些報告裡充斥著“建議優化數據采樣策略”“推薦增加公平性約束項”之類的溫和措辭，像給一座傾斜的大廈貼上幾片創可貼。但這次不一樣，他跟蹤這個信貸模型已經兩個月，跑完了全部七類公平性指標，在交叉性維度上發現了驚人的累積歧視係數——當“新一線城市”疊加“25-35歲男性”再疊加“無房產”時，模型給出的違約概率預測比實際曆史數據高出了整整三十七個百分點。
這不是噪聲，不是偶然，這是演算法在複刻社會偏見的同時，用自己的黑箱邏輯把它放大了。
林深端著咖啡回到工位，窗外天邊泛起蟹殼青。他調出模型的可解釋性分析模塊，試圖追蹤那個“社交賬號活躍度”特征的決策路徑。SHAP值顯示，這個特征在子群體中的貢獻度異常高，但追溯數據來源才發現，訓練集裡關於該城市的社交數據主要采集自某幾個頭部短視頻平台的用戶公開資訊，而這些平台的用戶畫像天然偏向高頻消費、高互動、高展示欲的群體。那些一天隻發兩條微信、從不更新朋友圈的製造業轉型者，在數據世界裡幾乎是透明的，他們的低活躍度被模型解讀為“社會關係薄弱”，進而推導出“償債意願存疑”。
荒謬。林深在空白文檔裡敲下第一行審計結論。他想起大學時讀福柯，說權力通過分類和排序來規訓人群，而現在演算法的權力更隱蔽——它甚至不需要理解你是什麼人，隻需要你留下足夠多的數字腳印，然後把你放進最鄰近的那個統計籠子裡。籠子的柵欄是特征向量，鎖是損失函數。
上午九點，視頻會議準時開始。銀行那邊的風控總監姓周，五十歲上下，頭髮梳得一絲不苟，背景是一間掛著書法條幅的辦公室。周總監的開場白客氣而疏遠：“林工，我們仔細研讀了貴司前一階段的中間報告，坦率講，部分結論可能過於——怎麼說呢——社會學導向了。我們關心的是壞賬率，是監管合規，至於模型是不是‘理解’了某個群體的生活方式，這不是金融科技該解決的問題吧？”