李俠
2025年12月初的時候，劉兵教授來電話，說想找我和杜嚴勇教授一起合寫一本對話體的小書，內容是關於人工智慧倫理與社會影響方面的話題，目標群體是面對大眾讀者的通俗讀物，以此和學術文本區別開來，並告知已經和山東科學技術出版社聯繫好了。對話體是一種非常有彈性的寫作文體，我以前沒有經歷過，對此充滿好奇並欣然答應，然後根據擬定好的寫作提綱，三位對談人、責任編輯陳昕老師以及在場的幾位博士生，在初冬的閔行的賓館裡的無數次對談與討論中，這本《AI倫理十日談》在2026年春節前終於塵埃落定，那些曾經的香煙、茶水與咖啡的味道仍然縈繞在我們每次談話的記憶中。
人工智慧代表了當今時代的最前沿科技產品，它蘊含的巨大現實可能與潛在功能將直接影響社會生活的方方面面，因此，在人工智慧發展初期對其進行倫理治理是保證科技向善的必要措施。然而，由於人工智慧向各領域的擴散與滲透的能力是無法事先完全預料到的，這就意味著無論我們多麼小心謹慎人工智慧在其發展過程中都不可避免地會帶來意料之外的後果，因此未雨綢繆地規劃人工智慧的發展並將其風險最小化事關人類整體的福祉，然而科學史上的無數案例證明，人類的倫理規制總是呈現出滯後的特徵，這是人類有限理性與認知局限性決定的，拋開這種先天短板不談，已有的成熟倫理規則在規範科技發展的時候經常會出現規範失靈的現象，究其原因在於在倫理規範運行的鏈條上長期存在一個缺口，即公眾的參與，導致倫理規範的功能無法真正落地，這才是倫理規範在實踐層面失靈的真實原因。就如同交通信號燈之所以能有效調控交通運行秩序，就在於無數接受此規範的公眾在實踐中踐行這套規範才導致的結果。
倫理治理的成功同樣需要公眾的深度介入。以往的倫理治理失靈在於僅從倫理鏈條的上游推動倫理規範運行，而在倫理鏈條下游的功能則存在被有意或無意忽視的現象。這與人們長期形成的錯誤認知有關，人們通常認為倫理規範的實現主要依託於倫理鏈條的上游發揮作用，即政策制定者、生產廠商與設計者擔起責任，在人們的心目中，那些位於上位的倫理主體才是實現倫理治理的決定性力量（垂直型社會的典型認知），我們從來不否認這些上位者在倫理治理中的作用，但是在權力日益分散與資訊流通如此快速便捷的今天，整個社會開始從垂直型社會向扁平型社會過渡，這就導致位於倫理鏈條下游的公眾（消費者、旁觀者）開始具有決定性的治理力量，試想今日網路上的一些來自民間的力量所具有的影響力早已超過傳統社會裡的管理者與專家所具有的影響力，更有無數社會上的熱點事件不是靠專家學者而是靠無數公眾輿論的力挺而最終得到妥善解決的，這就是規範下沉帶來變化的最好說明。AI倫理的治理同樣需要遵循這個規律。公眾的介入給倫理治理帶來三個深刻變化：首先，公眾的介入使倫理治理鏈條形成閉環，彌補了長期存在的倫理主體缺口；其次，公眾的介入有助於完成認識論領域的試錯，從而加速人類對新事物本質的瞭解；第三，公眾的介入能夠形成一種可持續的良性倫理治理生態環境。
目前學術界流行的分散式倫理治理也體現了這種倫理規範下沉與倫理分工的發展趨勢。所謂的分散式倫理治理就是基於分工原則，把倫理治理責任細分到每個環節，從而讓更多的倫理治理主體參與到倫理治理的實踐中來，筆者認為這也是近十年來在倫理治理領域最具現實操作性的倫理治理理念。如何讓那些長期被遮蔽的潛在倫理主體（消費者與旁觀者）參與到倫理治理的實踐中來，就需要把消費者與旁觀者拉入到科技產品的倫理監督框架內，使之成為他們的一種份內責任，這樣倫理治理下沉才能真正落地。基於這種考慮，這本《AI倫理十日談》裡選擇的十個主題儘量與每個人的日常生活息息相關，使他們無法事不關己高高掛起，不論喜歡與否，AI帶來的變革他們都無法切割也無法回避，由於被綁定的命運他們不得不對AI引發的後果進行道德判斷，這是他們必須保衛自己未來的責任所在。
如關於無人駕駛的倫理問題，這就是發生在我們身邊的日常事務，沒有人可以繞過去，即便你不買自動駕駛汽車，也免不了遇到無人駕駛帶來的交通事故問題，對此你還能袖手旁觀嗎？再比如，我們的社會已經進入到深度老齡化社會，據民政部最新資料，截至2025年末，全國60周歲及以上老年人口32338萬人，占總人口的23.0%；全國65周歲及以上老年人口22365萬人，占總人口的15.9%。面對這種人口快速老齡化的緊迫局面，傳統的養老模式顯然已經無力維持如此龐大的老人照護問題，在AI加持下養老機器人的上場是大勢所趨，那麼養老機器人會給我們的社會帶來哪些問題呢？這個現實至少會讓3.2億老年人參與到對這個問題的思考中來，連帶他們的親人也會加入進來，即便他們出於私利的考慮也會倒逼養老機器人廠商與設計者完善相關的倫理設計，這就相當於無形中增加了倫理治理的隊伍規模。再比如情侶機器人，這也是有著廣泛市場需求的一個領域，資本與人工智慧會深度介入這個“藍海”領域，那些無數的匿名消費者的積極介入，一方面直接保證了產品品質的提升，另一方面，消費者與旁觀者甚至會思考它對傳統家庭模式與生活方式帶來的變化。由於AI憑藉其演算法、算力以及大資料的大力出奇跡的獨特運行模式，在人工智慧時代隱私問題就成為全民性問題，AI時代所帶來的高度透明化社會是否意味著我們已經進入了後隱私時代，它會給我們的生活與存在方式帶來哪些影響？再比如AI對教育、醫療、戰爭等的影響，這些話題離我們的生活並不遙遠，沒有人可以完全避開，這就意味著公眾主體介入倫理治理鏈條是有著現實基礎的。通過對十個AI嵌入生活場景的分析，倫理治理下沉的路徑已經清晰展示出來，倫理治理主體鏈條上缺少的那個公眾環節得以補上，從而形成完美的倫理治理閉環結構。本書採用對話模式，以生活場景切入AI的灰暗地帶，最終得以展現分散式倫理治理閉環結構的運作機制。
AI的發展速度太快，它的本質以及其所具有的潛在不確定性也是難以完全揭示與預料的，傳統的個別精英知識顯然已經無法滿足對於當下的需要，而群體知識則是去蔽與消解不確定性的最佳策略，因為公眾的深度參與完成了認識論領域的寶貴試錯功能。對於人工智慧本質的認識而言，公眾參與就是升級版的“盲人摸象”，我歷來認為盲人摸象不是貶義詞，而是人類在認識新事物時的必經之路，正是由於一個個具有不同知識與經驗的人的不同認知與偏好，才能為我們全面理解新事物提供豐富的細節材料，然後才可能有人在這個基礎上形成對事物的大綜合與整體性認知，在這種新的整體認知的基礎上，人類再重複盲人摸象的認知進路，經過無數次反覆運算，最終我們對事物的本質認知就是在這個看似粗粗的過程中實現了質的飛躍。由於人類認知的有限性與局限性，對於作為一種革命性新生事物的人工智慧而言，它的無限潛能與後果都不可能由一個天才式的人物獨自完成，它需要無數人從無數個側面揭示其內在的局部本質，整合這些片面的認知，最後完成對人工智慧的整體性認知。這裡的無數人就是那些散佈於社會各個角落的公眾，沒有他們的深度介入，我們對於人工智慧本質的認識的進程將會被嚴重遏制，抛磚引玉，這也就是我們為什麼做這個專題的初衷之一。
由於AI對未來社會的衝擊是全方位的，甚至是第四次產業革命的引擎，因此，我們每個人都要問一下自己我們真的準備好了嗎？從這個意義上說，積極參與AI治理就是保衛社會也是保衛我們自己。為了讓AI行穩致遠而不出現失控，喚醒公眾參與AI的倫理治理，不僅僅為了彌補缺口，更是為了營造一種使科技向善具有可持性的倫理治理生態環境，而非一時熱鬧。就如同不闖紅燈，不隨地吐痰，不是靠監督實現的，而是通過規範下沉內化為公眾的一種認知，由此文明的生態環境通過正回饋機制得以持續加強，而且是低成本的。同理，公眾的積極介入正是形成良好倫理治理生態環境的基礎性工作，文化生態環境的建設歷來是緩慢的，一旦形成，到那時所有的人在面對AI產品時都會下意識地問一聲：它符合倫理嗎？