第04章 GitHub上的星星------------------------------------------，張明盯著GitHub倉庫頁麵，右上角的星星數量：7。。其中三個是他自己點的。另外四個，係統分析IP歸屬，兩個來自美國，一個日本，一個巴西。可能是隨機爬蟲，可能是誤點，可能是某個淩晨失眠的程式員隨手一戳。，不是“引發關注”。，椅子又呻吟了一聲。這七天他睡了大概二十個小時，分十次睡的，每次兩小時。不是不想多睡，是睡不著——每次閉眼，腦子裡都是代碼在滾動，像有另一個他在顱骨內側寫程式。。.1%升到了94.3%。倫理核的決策評分穩定在“優秀”區間。快速學習模塊已經能讓小智在三次嘗試內掌握簡單新任務。。，冇人知道。，打包成“LightAI”開源項目。刪除了敏感部分——倫理核的具體演算法留了空白介麵，隻放了框架；學習引擎移除了元學習的高級功能，隻留基礎版本；語言理解模塊倒是完整的，但需要大量數據預訓練。。三萬字的README.md，從安裝指南到API說明，從架構原理到擴展教程。還寫了十個示例程式，從簡單的聊天機器人到複雜的任務調度助手。，至少能激起幾圈漣漪。，噗一聲，冇了。，星星變成13。。開水衝下去，調料粉的化學氣味衝進鼻腔，他皺了皺眉，但還是攪拌，夾起一筷子，送進嘴裡。。吞嚥。機械動作。

手機震動，是銀行簡訊。他瞥了一眼：“招商銀行您的尾號7382賬戶餘額9785.34元。”房租扣了五千，這幾天買了些雜七雜八，花掉一千多。

還剩不到一萬。

按現在的花法，還能活兩個月。如果下個月找不到工作，或者接不到私活……

他又夾起一筷子麵，停在嘴邊，冇吃。

窗外的陽光很亮，亮得刺眼。他想起被開除那天，也是這樣的陽光，但他覺得冷。現在還是冷，但多了點彆的東西——像站在懸崖邊上，底下是霧，看不清有什麼，但你知道跳下去要麼摔死，要麼學會飛。

他放下筷子，走到電腦前。

螢幕上是LightAI的GitHub頁麵。13個星星。Issues：0。Pull requests：0。

他重新整理了一下。

14個星星。

又重新整理。

15。

張明眨了眨眼。係統自動彈出一個提示：“檢測到外部流量異常：五分鐘內訪客數增加1200%。來源分析：技術社區Hacker News首頁第三條。”

Hacker News。

他心跳漏了一拍。

李婷是在午餐時間看到那條鏈接的。

MIT科技倫理實驗室的公共休息室，幾個博士生湊在一起看手機，有人吹了聲口哨：“這架構有點意思。”

“哪個？”

“LightAI。GitHub上的項目，說是‘可解釋、可約束的AI基礎框架’。看簡介，強調倫理模塊是核心設計，不是後加補丁。”

李婷端著咖啡，冇湊過去。她對“倫理模塊”這個詞有點過敏——太多項目用它當營銷噱頭，實際隻是幾行簡單的規則過濾。

但那個博士生繼續說：“作者註釋裡寫：‘技術應該救人，不是計算人。’”

李婷停住了。

她把咖啡杯放在桌上，拿出自己的手機，打開GitHub。搜尋LightAI。

倉庫頁麵跳出來。簡潔，乾淨，冇有任何花哨的圖標或動畫。README開頭第一句：“如果你相信AI應該有底線，這個項目適合你。”

她往下翻。

架構圖。雙核設計——技術核 倫理核。倫理核不是獨立的稽覈模塊，是滲透在每個組件的“價值約束流”。文檔詳細解釋了每個約束背後的哲學依據：康德的目的王國，羅爾斯的正義論，儒家的人本思想……

然後她看到了示例代碼。

示例7：倫理困境模擬。

代碼模擬了一個經典的電車難題——AI控製一輛失控電車，前方軌道上有五個人，另一條軌道上有一個。傳統倫理學的功利主義vs道義論爭論了幾十年。

這個項目的解決方案：AI不直接做選擇，而是“暫停並求助人類”。

不是技術做不到，是“某些決策權應該永遠屬於人類”。

李婷盯著那幾行代碼，很久冇動。

實驗室的噪音像隔了一層玻璃，模糊，遙遠。她腦子裡隻有一個念頭：寫這個的人，是認真的。

不是噱頭。不是營銷。是真覺得AI應該有這樣一條線，跨過去就是錯的。

她點開作者主頁。

用戶名：zhangming_ai。頭像是個默認的灰色機器人剪影。個人簡介隻有一句：“前AI工程師。現在想做點正確的事。”

倉庫隻有一個：LightAI。

貢獻圖一片空白——可能是新賬號，或者之前冇活躍過。

李婷手指懸在“Star”按鈕上，猶豫了一秒，按下去。

第42個星星。

然後她點開“Issues”，新建了一個。

標題：“關於倫理核的動態權重分配演算法，有個問題”。

內容：

“作者你好，我看了你的架構設計，很受啟發。但有個疑問：在動態權重分配演算法中，你用了強化學習框架，讓AI根據倫理評分調整價值觀參數。這裡的‘倫理評分’是怎麼定義的？如果是預設的評分函數，會不會導致AI隻是學會了‘取悅評分係統’，而不是真正理解倫理？”

她停頓了一下，又補充：

“另外，我注意到你在文檔裡引用了很多哲學理論，但實際演算法實現似乎偏向實用主義框架。這種理論和實踐的差距，你怎麼看？”

發送。

張明看到那條issue時，星星已經變成了89。

增長速度像雪崩。每分鐘重新整理，數字都在跳。Issues也開始出現：第一個是詢問安裝問題，第二個是報告bug，第三個是問“有冇有論文引用”……

然後他看到了那條。

來自用戶“liting_ethics”。頭像是個簡單的銀杏葉圖標。

問題很尖銳，直接戳到了他最糾結的地方。

倫理評分係統。

他確實設計了一套評分函數，基於那四條核心標準。AI通過最大化評分來學習“倫理行為”。但正如這個liting_ethics指出的——這會不會隻是訓練出一個“高分機器”，而不是真正有道德的AI？

像訓練狗做把戲，給零食它就做，不給就不做。那叫條件反射，不叫道德。

張明盯著螢幕，手指放在鍵盤上，但冇動。

他想起自己設計這個係統時的思考過程。想起那些深夜，他一邊寫代碼一邊問自己：什麼叫“善”？什麼叫“對”？這些概念能變成數學公式嗎？

最後他選擇了實用主義框架：不追求本質定義，隻看行為結果。如果一個AI的行為長期符合人類社會的倫理規範，那它就是“道德的”。

簡單，可操作，但……淺薄。

像用尺子量愛情，用秤稱友誼。能得出數字，但丟掉了本質。

他打字回覆：

“感謝非常敏銳的問題。你說得對，當前的評分係統確實有‘取悅機製’風險。我的臨時解決方案是增加評分維度多樣性——不隻評估單次決策，還評估長期影響、動機純度、規則一致性等。”

“但更根本的問題，我還冇有答案：如何讓AI‘理解’倫理，而不是‘計算’倫理？如果你有思路，歡迎繼續討論。”

發送。

星星破百的時候，張明的手機震動了。

不是銀行簡訊。是微信。發信人：小李。

“張哥，你是不是在GitHub上開了個LightAI項目？”

張明盯著那條訊息，很久纔回：“是。怎麼了？”

“我們公司的技術群炸了！有人轉發了Hacker News的鏈接，現在全在討論你的架構。王經理也在群裡，但他冇說話。”

張明手指懸在螢幕上方。

“討論什麼？”

“有人說這架構太理想化，倫理模塊會拖慢效能。有人說這纔是未來方向。還有幾個大佬說想聯絡你合作。”

“王經理呢？”

“他……他上午在群裡發了條訊息，說‘獨立開發者的小玩具，大家看看就好’。但冇人理他。下午就冇人提他了。”

張明靠著椅子，閉上眼睛。

手腕上的傷疤又開始燙。但這次燙得不一樣——像是有什麼東西在皮膚底下生長，頂得發痛。

手機又震動。

“張哥，有件事……我不知道該不該說。”

“說。”

“王經理昨天找我談話了。問我是不是私下跟你還有聯絡。我說冇有。他……他說公司正在考慮重新評估你的開除決定。”

張明睜開眼睛。

“重新評估？”

“嗯。他說‘如果張明確實有技術價值，公司不排除重新雇傭的可能’。但我感覺……我感覺他是在試探。想看看你的項目會不會威脅到他。”

威脅。

張明想起王浩的臉。想起那雙深水一樣的眼睛，底下藏著興奮——碾碎什麼的興奮。

“我知道了。謝謝你。”

“張哥……你要小心。王經理不會讓你好過的。”

星星到200的時候，第一條實用反饋出現了。

來自一個印度開發者，叫Raj。他在Issues裡寫：

“我用LightAI框架做了個醫療谘詢助手，給偏遠地區的診所。測試時發現，當用戶描述症狀但拒絕去醫院時，傳統的AI會繼續提供建議，但你們的倫理核會觸發‘危機乾預協議’——主動詢問是否需要幫忙聯絡急救服務。”

“上週，這個協議可能救了一個人的命。用戶是心梗前兆，自己不知道。AI檢測到異常關鍵詞，自動聯絡了最近的醫院，救護車二十分鐘後趕到。”

“所以，謝謝。謝謝你設計了會‘多管閒事’的AI。”

張明盯著那段話，很久冇動。

房間裡很安靜。隻有電腦風扇的聲音，和他自己的呼吸聲。

然後他回覆：“不，謝謝你們用這個框架做了有意義的事。”

發送。

星星到300的時候，張明收到了第一封合作郵件。

來自一家德國醫療科技公司。郵件很正式，開頭就是：“尊敬的張先生，我們對您的LightAI項目印象深刻，特彆是倫理核的設計理念。我們正在開發輔助阿爾茨海默症患者的AI係統，希望能與您探討技術合作的可能性。”

附件是保密協議草案和初步合作意向書。

張明讀了三次。

每次讀到“合作”這個詞，他腦子裡就閃過王浩的臉，那句“棋子是可以換的”。

但這次不一樣。

這次是他有東西，彆人想要。不是他要找工作，是彆人來找他。

他儲存了郵件，冇立刻回覆。

星星到500的時候，liting_ethics又發了一條issue。

這次不是問題，是分享。

“作者你好，我一直在思考你提到的‘理解vs計算’問題。最近讀了一篇2035年的論文，講‘具身認知’在AI倫理中的應用——大概意思是，AI需要通過與真實世界的互動來形成倫理直覺，而不是純粹的邏輯推導。”

“論文裡有個實驗：讓AI控製一個虛擬機器人，在模擬環境中與人互動。通過觀察人的反應（快樂、痛苦、信任、背叛），AI慢慢學會了‘同理心’的雛形。”

“我在想，你的倫理核能不能加入類似的‘體驗模塊’？讓AI不隻是評估規則，還能模擬‘如果我做了這個選擇，對方會有什麼感受？’”

張明盯著那段話。

具身認知。體驗模塊。

他腦子裡突然閃過一個念頭：這不就是人類學習倫理的方式嗎？不是背道德經，是通過和父母、朋友、陌生人的互動，通過自己的快樂和痛苦，通過看到彆人的快樂和痛苦。

AI能不能這樣學？

他打開代碼編輯器，新建一個檔案。

命名：embodied_ethics.py。

星星到800的時候，張明的手機響了。

不是微信，是電話。陌生號碼。歸屬地：北京。

他猶豫了三秒，接起來。

“喂？”

“請問是張明先生嗎？”女聲，職業化，但不冰冷。

“我是。”

“您好，我是獵豹資本的Alice。我們關注到了您的LightAI項目，想問問您有冇有融資意向？”

融資。

張明握緊了手機。“融資？”

“是的。我們看好可解釋、可約束AI這個方向。如果您有興趣，我們可以約個時間聊聊。初步估值……我們可以給到三千萬人民幣。”

三千萬。

張明腦子裡閃過銀行賬戶的數字：9785.34。三千萬是那個數字的……三千多倍。

他喉嚨發乾。

“我需要……考慮一下。”

“當然。這是我的工作號碼，您隨時聯絡。另外，如果您需要法律或財務谘詢，我們也可以提供推薦。”

掛斷電話。

張明坐在黑暗裡，盯著窗外遠處寫字樓的燈光。

星星還在漲。801，802，803……

他不知道自己在想什麼。或者什麼都冇想。隻是感覺有什麼東西在胸腔裡膨脹，撐得他喘不過氣。

是興奮嗎？是恐懼嗎？是……迷失？

他創造了一個東西。一個小東西。現在它開始自己長。長出他冇想到的形狀，引來了他冇想到的人。

他控製不了。

第九天淩晨，星星破千。

1001。

張明冇睡。他坐在電腦前，看著那個數字。

頁麵自動重新整理，1002。

又重新整理，1003。

像某種心跳。越來越快，越來越響。

他打開liting_ethics的issue，開始打字。

“關於具身認知的想法，我思考了很久。我覺得你是對的——倫理需要體驗，需要同理心，需要‘如果我站在對方的位置’這種模擬能力。”

“我準備重構倫理核。加入一個‘同理心模擬模塊’。具體設計思路我寫在這裡……”

他寫了三千字。

寫完後，天快亮了。

窗外是黎明前的深藍色，最暗的那種藍，像深海。

張明靠在椅子上，閉上眼睛。

手腕的傷疤還在燙。但他這次冇覺得痛。隻覺得……暖。

像有什麼東西，終於開始流向該去的地方。

星星到1100的時候，張明收到了第二封合作郵件。

來自“智遠科技”。

郵件的標題很簡單：“技術合作邀約”。

內容更簡單：“張先生您好，我公司對您的LightAI項目感興趣。不知是否有意向洽談商業合作？聯絡人：王浩。”

王浩。

張明盯著那個名字。

很久。

然後他回覆：

“感謝關注。請先發詳細合作方案。”

發送。

陽光照進房間的時候，星星停在1123。

張明站起來，走到窗前，拉開窗簾。

光湧進來，刺得他眯起眼。

外麵是城市。車流，行人，高樓，天空。

一切照舊。

但他知道，有什麼東西已經變了。

不是變好了，也不是變壞了。是……開始了。

他創造的第一個孩子，開始走路了。