原標題：生成式AI司法應用引爭議
今年5月11日，美國亞利桑那州高級法院的刑事量刑聽證會上，出現(xiàn)了震撼人心的一幕：2021年一起案件中的遇害者克里斯·佩爾基，竟通過視頻向法官作出了感人至深的陳述。這段視頻并非佩爾基本人生前錄制，而是其家人運用生成式人工智能（GenAI）技術(shù)，根據(jù)他生前的語音記錄、影像資料“重塑”出的數(shù)字影像，讓他得以“親口”道出心聲。最終，法官采納了這段特殊證詞，開創(chuàng)了AI生成內(nèi)容作為法庭證據(jù)的司法先例。
事實上，這不是生成式AI技術(shù)首次涉足司法領(lǐng)域。據(jù)物理學家組織網(wǎng)6月19日報道，這項能夠創(chuàng)造文本、圖像、音頻、視頻等內(nèi)容的AI技術(shù)，正悄然改變著法庭的運作方式：法官借助它厘清復雜案情，律師用它高效撰寫法律文書，普通訴訟當事人也能通過它獲得辯護支持。然而，這項技術(shù)猶如一柄雙刃劍，在提升司法效率的同時，其準確性與公平性也受到質(zhì)疑，它能否成為司法公正的助推器仍需觀察。
GenAI或影響司法格局
美國西北大學普利茲克法學院丹尼爾·林納教授指出，GenAI在美國司法體系中的應用廣度已遠超公眾認知，佩爾基案就是最佳例證。
在這起標志性案件中，佩爾基的妹妹斯泰西·威爾斯借助GenAI技術(shù)，創(chuàng)造出了其數(shù)字代理人。當這個虛擬形象在法庭上動情地說出“我相信寬恕”時，主審法官不僅采納了這份特殊的數(shù)字證言，更對其展現(xiàn)的人性光輝表示贊賞。
威爾斯坦言，GenAI強大的情感表現(xiàn)力，能讓法官更真切地感受到當事人的情感世界。
自佩爾基案以來，GenAI在美國司法實踐中的應用呈現(xiàn)指數(shù)級增長。美國緬因州執(zhí)業(yè)律師斯蒂芬·施瓦茨評價道，在確保準確性的前提下，GenAI不僅是提升效率的利器，更是推動司法進步的重要力量。
林納進一步闡釋，GenAI有望讓司法正義更觸手可及。當下法律服務資源分配不均，GenAI有望讓更多人更有效地在法庭上尋求正義。據(jù)悉，已有聯(lián)邦法官在判決書中明確標注使用了ChatGPT輔助辦案。
可靠性問題頻亮紅燈
盡管GenAI為法律界帶來革新，但其可靠性問題也頻頻亮起紅燈。這項技術(shù)正成為虛假判例、牽強論證甚至完全虛構(gòu)法律依據(jù)的“始作俑者”。人們既見證著效率革命，也面臨著如何平衡技術(shù)創(chuàng)新與司法倫理的新課題。
今年5月初，美國洛杉磯聯(lián)邦法院對兩家律所開出31100美元的罰單，原因令人啼笑皆非——他們提交的AI輔助起草的請愿書漏洞百出，被法官痛批為“集體性專業(yè)失守”。這并非孤例，2023年6月22日，紐約聯(lián)邦法院同樣對依賴ChatGPT編造虛假判例的律所處以5000美元罰款。
更令人擔憂的是，普通民眾也開始跳過專業(yè)律師，直接使用AI進行自我辯護，導致法庭上的法律錯誤層出不窮。
佩爾基案的數(shù)字代理人更是在Reddit、X等社交平臺引發(fā)輿論海嘯。卡內(nèi)基梅隆大學商業(yè)倫理學教授德里克·萊本指出，這些GenAI生成的“遺言”，真能代表逝者的真實意愿嗎？這究竟是司法創(chuàng)新，還是對亡者的二次傷害？
據(jù)美國全國公共廣播電臺報道，以加拿大滑鐵盧大學毛拉·格羅斯曼教授為代表的法律專家們認為，雖然GenAI在法律系統(tǒng)的滲透勢不可擋，但必須建立嚴格標準來確保其輸出的準確性。當GenAI大幅降低訴訟門檻，本就超負荷運轉(zhuǎn)的法院可能面臨案件激增的窘境，司法系統(tǒng)需要未雨綢繆。
專業(yè)人士仍是“定海神針”
盡管GenAI帶來效率革命與司法普惠的美好圖景，但經(jīng)驗豐富的法律人才依然是不可替代的“司法守門人”。從文件起草到判例解讀，法律實踐的復雜性遠超想象。事實核查、情理論證、價值權(quán)衡這些人類獨有的專業(yè)智慧，始終是司法公正的核心支柱。
林納認為法官群體必須與技術(shù)共進，但絕不能淪為AI的提線木偶。確實，當GenAI能夠提供更全面的法律分析時，司法判決的穩(wěn)定性和準確性將獲得提升，但這永遠離不開人類法官的最終裁量。
施瓦茨也警告，AI會“無中生有”的故事在業(yè)界廣為流傳。他建議同行必須對AI提供的每個案例進行“三重驗證”：查來源、核內(nèi)容、辨邏輯，只有經(jīng)過嚴格的檢查，才能確保GenAI輔助的可靠性。
這場人機協(xié)作的司法變革必須守住一個鐵律：GenAI的分析建議可作為“導航儀”，但法律人士才是“掌舵者”。唯有如此，才能在提升司法效率的同時，讓公平正義的天平始終不偏不倚。
（劉霞）
