美首席大法官:AI對司法好壞參半

美最高法官憂AI恐虛構事實、侵犯隱私,使法律不再有人性。圖爲在天津第七屆世界智能大會時拍攝的仿真機器人。(新華社)

美國聯邦最高法院首席大法官羅伯茲(John Roberts)警告說,人工智慧(AI)科技對於法律領域「好壞參半」,敦促任何AI的使用都「需要審慎和謙遜」,因爲不斷髮展的科技正改變法官與律師的工作方式。他強調,AI可能虛構事實,也無法複製人類法官的自由裁量權。

羅伯茲在去年12月31日發佈年終報告指出,AI可能增加貧窮訴訟當事人訴諸法律的機會,並協助法院更快、更便宜地審理與解決案件,「消除法院系統中可用資源與迫切需求之間的任何不匹配」。他承認,AI顯然具有巨大的潛力,讓人們更易獲取關鍵訊息,「但同樣明顯的是,它有可能侵犯隱私利益,使法律失去人性。」

羅伯茲表示,AI可能虛構事實,也無法複製人類法官的自由裁量權。他說,法律判決往往涉及灰色地帶,需要人工判斷,「機器無法完全取代法庭上的關鍵角色」。羅伯茲寫道:「我預測人類法官仍會存在好一段時間。但我同樣有信心預測,司法工作(尤其是審判層面)將會受到AI的顯著影響。」

羅伯茲也強調,「任何AI的使用都需要審慎和謙遜」。他並提到所謂「AI幻覺」(AI hallucinations)導致律師在法院文件中,引用並不存在的案例。

「AI幻覺」指的是,AI生成誤導性訊息,並以實際存在的事實出現。

上個月,紐奧良的美國第五巡迴上訴法院公佈一份擬議中的規則,旨在規範出庭律師對OpenAI的ChatGPT等生成式AI(Generative AI)的使用。它將要求律師證明他們在起草文件時未依賴AI程式,或所有AI生成法律文件皆須有人審查其準確性。

美媒去年12月29日才報導,美國前總統川普的前律師柯恩(Michael Cohen)承認在提交給聯邦法官的法律文件中,引用了AI生成的虛假法庭案例。據稱,柯恩將谷歌(Google)Bard誤認爲「超級搜索引擎」而非AI聊天機器人,用它進行了研究。去年5月,一名紐約州律師也坦承,他用ChatGPT寫訴狀,其中竟有6則不存在的法律案例。