■本報記者 溫才妃

打破理工科學生對倫理道德的偏見，還得從認識上轉變技術價值中立的思想。高校、科研院所凡是涉及科技工程的單位，均要開設一門科技工程倫理學課程。課程不能簡單地等同于知識課，要讓學生在科技活動中有倫理體驗，感受到新技術應用對民眾可能產生的影響，建立同情心和社會責任感。

一個普通家庭的小男孩馬丁重病住院，他的父母領養了機器人大衛來緩解自己的傷痛。后來，馬丁蘇醒過來，大衛逐漸失寵。出廠程序使得大衛的一生始終追尋著讓媽媽愛他的愿望，他躲過機器屠宰場的追殺，經歷了一系列吉兇難料的旅程后，終于擁有了在千萬年后被創造出來的獨屬于他的媽媽。

科幻電影《人工智能》講述了一個機器人的情感故事，電影引發了關于新技術帶來的一系列倫理問題的思考——應否把機器人當作人類看待？如果機器人越來越像人，又該怎么處理……

近日，中央全面深化改革委員會第九次會議提出要組建國家科技倫理委員會，并強調科技倫理是科技活動必須遵守的價值準則。

作為科技倫理審查不可或缺的基礎，高校科技倫理教育也越來越受到人們關注。然而，目前的情況并不樂觀。

據大連理工大學2017年的一項調研結果顯示，我國理工科學生在科技倫理意識的不同方面存在不均衡現象，相比較生命倫理、環境倫理而言，學術道德和工程倫理方面的意識缺失比較突出。其中，50%左右的理工科學生對技術設計活動中的倫理要素缺少足夠的考慮。

該項目來自中國科協，涉及全國幾十所高校。

科技倫理教育相對缺失

“如果某項還存在缺陷的產品被廠家推向市場，您作為該廠的產品設計者，是否會向公眾說明？”

“工程師如果檢舉揭發不合格工程的內幕，輕則丟飯碗，重則生命受到威脅。假如您是一名工程師，并且您知道某些工程不合格，您會檢舉揭發嗎？”

……

在上述調研中，受訪者回答“不會”“偶爾會”，“沒有責任”“小部分責任”的均占20%左右。較之于回答生命倫理和環境倫理問題時的堅定，學生們對于工程倫理原則性問題的回答表現出明顯的不確定性，在一定程度上也反映著我國科技倫理教育的現狀。

記者了解到，目前我國高校設置倫理委員會的僅為17.6%，且多為醫科類院校。即便建有倫理委員會的高校，不少也缺乏標準化的操作規程，在指導倫理教育上發揮的作用有限。

此前，科技倫理課程曾經陸續在西南交通大學等20多所高校開設，由清華大學、大連理工大學、東北大學等8校組成的科技倫理研究聯盟也在共同推進相關科技倫理課程的建設。但總體而言，開設比例偏低。

2018年3月，全國工程專業學位研究生教學指導委員會頒布的《關于制定工程碩士專業學位研究生培養方案的指導意見》，首次將《工程倫理》課程納入必修課。但僅限于專業學位研究生，從整體而言和現實的需求相距甚遠。

對于工程倫理教育，更多時候來自于教師在專業課中的零星提及，以及指導研究生過程中的自發行為。

是否會對人造成傷害，是重慶大學汽車學院教授褚志剛作科技倫理判斷的標準之一。但他認為，這一理解還未完全到位，“直接的倫理判斷容易，但隨著技術發展，更多倫理問題間接產生”。

比如，自動汽車閃避使得大卡車剎車不及，由此引發一連串交通事故。事故責任應追究到大卡車上，還是自動汽車上？應追究技術本身，還是制作者？類似的問題，目前尚未有明確的認定標準。

中國社會科學院哲學研究所研究員邱仁宗指出，科技倫理涉及面甚廣，應重點關注新技術帶來的倫理問題，在教育領域也是如此，而這方面教育的缺失應引起重視。

缺失在于研究不到位

高校科技倫理教育長期缺失，或許可以從某些細節發現端倪。

褚志剛告訴《中國科學報》，向國外期刊投稿必須要有科技倫理聲明，交代清楚不會對人、動物等產生傷害，然而，向國內雜志投稿卻未見這樣的規定。

中國醫學科學院生命倫理學研究中心執行主任翟曉梅指出，長期以來，我國學界對倫理的認知存在諸多誤區，如把科學與倫理對立，認為發展科技不受批判是最理想的狀態；談及專業倫理時，又把倫理的概念泛化，所言非所指，由此導致倫理與科技漸行漸遠。

學界尚且如此，教育自然也跟不上。即便人們心中認可科技倫理教育的重要性，但在操作層面上缺少科學的方法。

“有些高校一度將科技倫理教育劃入‘兩課’范疇，且所占內容并不多，如職業倫理、學術道德、社會責任感等并沒有及時納入到課程教學內容之中。”大連理工大學人文與社會科學學部教授王前說。

在邱仁宗看來，教育上的缺位還要從研究上溯源。生命科學已研究了50年，有了一定學科積累。由于問題的敏感性，相關的倫理認知逐漸成為共識。而像人工智能、自動汽車等新技術的研究才剛剛開始，與之對應的倫理認知尚存較大爭議。

算法歧視就是人工智能引發的典型倫理案例。

2015年，“谷歌”曾錯誤地將黑人程序員上傳的自拍照標注為“大猩猩”。2016年，微軟公司的AI聊天機器人，在和網民聊天時被“教壞”，被灌輸許多臟話及種族歧視思想，成為“不良少女”，后被緊急叫停。在“谷歌”的廣告服務中，男性會比女性有更多的機會獲得高薪招聘信息……

邱仁宗表示，提前構建技術公平規則、在設計環節注入倫理觀念，遠遠落后于技術開發。

而更大范圍的工程倫理發展相對緩慢。實際上，“技術哲學早就存在，但技術倫理學發展相對緩慢，所達成的共識不多、差異較大。改善這一切并不是開一個會、搞幾個課題就能輕易解決的，需要專業倫理的介入、研究。”邱仁宗說。

他希望，借此次國家組建科技倫理委員會的契機，起草科技倫理的一般原則，在每個領域倫理問題研究的基礎上制定倫理準則，作為科技工作者決策和行動的普遍標準。只有如此，與專業結合的科技倫理教育才有理論與標準的依據。

首要的是開設必修課

在對待“科學研究無禁區”的態度上，前述調研中持贊同傾向的人占到60%以上。因此，打破理工科學生對倫理道德的偏見，還得從認識上轉變技術價值中立的思想。

課堂成為大學生接受科技倫理教育最理想的場所。

目前兩類開課模式在一些先行高校中進行：一是單獨設課，納入通識教育范疇；二是結合專業課，在專業課中滲透倫理知識。

2016年，我國工程教育正式加入《華盛頓協議》，根據協議規定，理工科院校專業必須開設倫理類課程。目前，國內高校本科評估也將開設倫理課程列為一檔指標。

“高校、科研院所凡是涉及科技工程的單位，均要開設一門科技工程倫理學課程。”邱仁宗說。

不只是工程類專業碩士必修，必修的范圍還應拓展到博士生、學術型碩士生，乃至本科生，成為本次受訪者的共識。

培養一批既懂科學技術，又懂倫理教育，具備跨學科特征的師資，是當下倫理教育的急需。

邱仁宗表示，應大力進行能力建設，培養一大批科學技術倫理學的博士和碩士。

王前認為，培訓專門的師資很有必要。有一定理工背景的教師可以經過培訓上崗，相關專業如自然辯證法的教師也可以經過培訓開設科技倫理課程。“不能淺顯地理解專業倫理，必須深刻鉆研。”有條件的情況下，也可以采取多人授課模式。

在課堂教學之外，王前提醒，“科技倫理教育還要打破一個誤區——基本上只依靠學校教育，忽視社會文化環境與終身教育的重要性”。

前述調研發現，在高校理工科學生科技倫理意識養成方面，媒體作用最大，其次是課堂教育，再次是導師的言傳身教，最后是課外讀物。

王前表示，學校教育具有短時性，學生們總歸要走出校門，踏入現實的復雜社會之中。如果沒有一個好的社會倫理環境，他們以前接受的科技倫理教育將會被逐漸淡忘。

另外，學校教育面對的主要對象是未來的科技人員，對于科技倫理意識養成作用具有一定認識局限性。在現實社會生活中，科技倫理問題并不是單獨存在的，而是與法律、社會和政治等聯系在一起的，在不同的領域表現不同。

知行合一的科技倫理課

什么才是行之有效的科技倫理教育？多年來，王前一直在琢磨這一問題。

“人工智能的應用是否越廣越好？如果過分依賴人工智能，人的智能就可能退化，造成工具理性過強，人文理性偏弱，人類的想象、靈感、創造力就會削弱。”

“給兒童設計玩具，僅考慮經濟效益，自然希望孩子不停地看下去，這就會對兒童的視力、聽力產生傷害。因此在玩具設計中，需要設置定時關閉功能或提醒家長不能長時間給孩子觀看。”

“同學們，在技術設計環節，就要把倫理意識放進去。”在王前主講的網易視頻公開課“科學技術與工程倫理”和大連理工大學“工程倫理”數字課程中，這樣的例子不勝枚舉。

中國古代講求知行合一。在王前看來，科技倫理課程不能簡單地等同于知識課——上完之后有成績就可以，還要落實到具體行動中。“要讓學生在科技活動中有倫理體驗，感受到新技術應用對民眾可能產生的影響，建立同情心和社會責任感。”

在國外一些大學，科技倫理教育形成了相對成熟的模式和方法。如美國的價值敏感設計教育、加拿大的角色扮演和情景模擬、荷蘭的負責任創新教育、日本的案例教學等。

在醫學教育上，我國課堂也會采用角色扮演，師生通過扮演醫生和患者的角色，將課本知識轉化為臨床實踐，使得學生掌握臨床辨證施治的方法,提高醫生與病人的溝通技巧。

相比西方，我國的科技倫理教育起步晚、科技倫理意識不足。在王前看來，有必要開展適合我國特點的科技倫理教育，聯系我國科學研究和工程實踐活動的具體情況，通過開放式討論，領會學術道德和科學技術職業的倫理精神。

他在科技倫理教學中增加案例教學、體驗式教學的成分，讓學生在具體情境中，知道哪些事該做，哪些事不該做。

“如果將來你所在的某工廠廠長讓你偷排污水，你干還是不干？如果干了肯定不對，不干違背命令就可能失業。你應該怎么辦？”在討論課上，學生的回答五花八門，最后往往在“頭腦風暴”和教師引導下，不僅找到正確的應對方式，還強化了批判性思維。

“教師要傳授給學生合理又巧妙的實踐智慧。”王前以舉報“偷排”為例指出，通過討論要讓學生知道應該到哪里舉報，找什么人控制偷排行為，如何借助媒體、機構的力量達到阻止偷排的目的，這樣才能讓學生將來在具體的情境中靈活處理，真正達到科技倫理教育的目的。