【社科院訊】
隨著人工智能技術（下稱「AI」）的進步，無論是生產作業、接待服務等，皆能看見AI進入人類生活。然而生產與服務不同之處在於，取代人類的服務，終將與社會互動，進入公共領域，AI自駕車就是顯例。「AI類人駕駛遇見危機時究竟該如何處？」背後是倫理學的大哉問。本次社科院人文領袖榮譽學分學程（PPESA）跨域對談講座，邀請到東海大學哲學系助理教授甘偵蓉分享其研究成果，對談人則請到近年以AI治理議題著稱的本校公共行政學系副教授兼系主任蕭乃沂；講座由PPESA召集人、副教授翁燕菁主持。

甘偵蓉首先介紹曾參與的一項跨域研究計畫：AI面對哲學界著名的「電車難題」，如何判斷？她笑稱，跨域研究團隊中的工程師當初的反應很直接：「我們無論如何一定會讓AI把車停下來。」果真如此？研究計畫必須考量的是例如煞車失靈這樣的極端案例，將經典倫理議題導入AI判斷。甘偵蓉強調，選擇自駕車這樣的微觀倫理研究取徑，是為了在開發過程中將利害關係人甚至公眾的倫理納入演算法。人類在電車兩難中的選擇總是因人而異，難符眾人期待，然而是否如工程師的戲稱般：「不要對AI這麼嚴厲？」

在甘偵蓉今年甫出版的著作中，她主張凡是應用在公共場域的AI系統，其開發過程必然涉及倫理權衡 (trade-off)。自駕車的決策模型，必須是社會契約的一環。都市計畫與道路設計下，其實是不同人類群體的權力角力，降低事故、最小傷亡，如同社會所追求的目標。甘偵蓉以美國自駕車來臺無法辨識工程車為例，說明重視自駕車決策所依據資料的關鍵。所以，AI如何決策，又應該如何決策？前者要搜集的是描述性的倫理資料、後者則是規範性的倫理資料。倫理決策確實很複雜，例如效益論是否可行？如何衡量？如果自駕車選擇犧牲的是乘客，乘客是否還會選購這臺車？她引述研究指出，人類駕駛對用路人年齡、性別、階級、以及是否守法等判斷，甚至出現東西方與南北半球的差異。然而正是如此，應用於公共領域的AI，於開發中納入利害關係人與公眾參與，至為必要。

對談人蕭乃沂呼應甘偵蓉舉出的例子，客運司機以乘客安全優先不得不肇事，可能不到三秒鐘的思考時間很殘酷，但正是如此，在政策面還有時間思考時，就更需要詳加斟酌。歐盟的人工智慧法案已經有相當的政策回應，AI倫理兩難變成政府政策的時候就不容許模糊的空間，必須跟現實有所妥協。所謂的AI治理框架（AI Governance Framework）只是指導性的框架，雖然有意義地界定各層次的原則，但是實際上發生的狀態不一而足，還需要許多特別法的補強。例如甘偵蓉引述的調查研究，都限於意圖（intention），而不及於實際行為。蕭乃沂邀請大家回到公共決策的基本概念思考，原則仍是不變的。其中內部外部的多元利害關係人參與不可或缺。AI應用不只考量效益，還有風險，而為獲得效益的風險管理則需付出成本。AI應用的風險管理廣義成本若能適當分攤，搭配效益的實現或可期，始有利於其接受程度。

雖然討論時間有限，然而參與者彷彿按捺已久，紛紛提出反饋。眾人圍繞著下列命題提出看法：AI自駕車在面對電車難題時，是否能以現有之工具理性以及價值理性去決策？難道兩難問題不能提前預設，並由使用者命令AI在事件發生時做出判斷？人類在要求AI做出「正確選擇」之前，自身難道已經具備如此能力？更進一步，自駕車肇事，AI是否應負刑事責任？甘偵蓉樂觀回應，「正確答案」誠不可得，對AI如此要求也有過苛之嫌，然而她也重申，積極展開多元討論、凝聚共識以訓練AI，當屬關鍵。蕭乃沂亦支持以公共決策的模式思考AI開發應用中的「參與」。積極參與AI倫理的討論，或許正是不完美的人類所能實現的趨近完美。