印度法官使用由AI生成的判決書，引起巨大爭議

本文共計(jì)：1555字，4圖

閱讀預(yù)計(jì)：3分鐘

使用人工智能(AI)可以幫助人們高效便捷地完成任務(wù)，但隨著AI的推廣和普及，人類對(duì)其依賴也愈發(fā)嚴(yán)重，以至于近期在印度發(fā)生了一起匪夷所思的事件：法官借助AI生成判決書，還以無中生有的判例為依據(jù)，引發(fā)了人類智慧和人工智能孰為主宰的爭論。

AI法官的爭論

根據(jù)《印度斯坦報(bào)》3月報(bào)道，該案件始于2025年8月，安得拉邦的維杰亞瓦達(dá)市一名初級(jí)民事法官就一起存有爭議的房產(chǎn)案件做出了裁決。

此前，法院已指派工作人員對(duì)該存在爭議的房產(chǎn)進(jìn)行勘測并提交報(bào)告，但本案被告對(duì)此表示反對(duì)。

法官駁回了被告的反對(duì)意見，并引用了四項(xiàng)“舊判例”——這些判例后來被證明是AI生成的、不曾存在過的判例。

被告在邦高等法院對(duì)該裁決提出質(zhì)疑，指出所引用的四個(gè)判例是編造的（AI臆想的）。

高等法院證實(shí)了包括所謂2013年的蘇布拉瑪尼（Subramani）訴納塔拉真（Natarajan）等案件并不存在，并接受了初級(jí)民事法官是“出于善意”犯下錯(cuò)誤的說法。

然而，被告不滿這一裁決，將案件上訴至印度最高法院后得到了不同的結(jié)論，此事也在全國范圍內(nèi)引起廣泛爭議，焦點(diǎn)聚焦于人類對(duì)人工智能的正確使用。

涉案法官在向高等法院提交的報(bào)告中辯解說，這是她第一次使用AI工具，當(dāng)時(shí)認(rèn)為判例是“真實(shí)的”。高等法院嚴(yán)厲地譴責(zé)了這名法官的行為。

安得拉邦涉事初級(jí)法官

《印度快報(bào)》報(bào)道，最高法院在2月27日的一項(xiàng)命令中表示：“我們必須聲明，基于這種不存在的虛假判決所作出的決定并非是決策錯(cuò)誤。這屬于不正當(dāng)行為，并將承擔(dān)法律后果。”同時(shí)高等法院警告說，使用人工智能進(jìn)行法律研究的人應(yīng)該嚴(yán)格審查其輸出結(jié)果。人工智能不受監(jiān)管的使用可能引發(fā)嚴(yán)重問題，包括侵犯隱私、損害公眾對(duì)司法判決的信心和信任。

人工智能系統(tǒng)以其“產(chǎn)生幻覺”、將虛假信息斷言為事實(shí)的特點(diǎn)而聞名，有時(shí)候甚至?xí)椴粶?zhǔn)確的信息捏造來源。該案件引發(fā)了人類對(duì)于人工智能的依賴質(zhì)疑和信任危機(jī)，也在印度社交媒體上掀起廣泛爭議。

在X平臺(tái)上，一名叫做pavanduggal的網(wǎng)友認(rèn)為：“印度做了很多國家沒有做的事情：在法律中正式定義了合成生成的信息，深度偽造、人工智能生成的視頻、克隆的聲音、超逼真的操縱內(nèi)容——所有這些現(xiàn)在都具有法律身份，并且?guī)砹朔珊蠊！?/p>

另一位網(wǎng)友提出立法要跟上AI的步伐：“法律的變革以數(shù)十年為單位，而人工智能的變革以月為單位。”

美國法院已經(jīng)宣布人工智能產(chǎn)生的藝術(shù)品不享受版權(quán)保護(hù)，印度呢？

也有一些網(wǎng)友認(rèn)為AI改變著我們的生活方式，一個(gè)復(fù)雜的案子交給AI分分鐘搞定，這樣的效率試問哪個(gè)人類能夠做到？

人類和AI

在國際范圍內(nèi)，這不是第一起在法庭場景中使用AI引發(fā)爭議的事件。去年10月，美國兩名聯(lián)邦法官因使用AI工具導(dǎo)致判決錯(cuò)誤。2025年6月，英格蘭及威爾士高等法院警告律師不要使用AI生成案例材料。

法官使用人工智能判案引起的社會(huì)爭議本質(zhì)上是傳統(tǒng)司法體系與前沿技術(shù)的一次激烈碰撞，爭議聚焦于借助AI提高效率和堅(jiān)守獨(dú)立思考的平衡，也引發(fā)了人類對(duì)于人工智能介入司法能否保持公正、責(zé)任和透明的質(zhì)疑。

AI風(fēng)險(xiǎn)管理提上日程

這一事件是必要且有價(jià)值的，因?yàn)樗l(fā)了印度司法界，乃至全球司法界的反省：在AI浪潮之中，人類的智慧和道德判斷是我們必須堅(jiān)守的。必須盡早校準(zhǔn)人工智能可能存在的威脅人權(quán)的重大風(fēng)險(xiǎn)，尤其是令人擔(dān)憂的算法歧視、大規(guī)模監(jiān)控和隱私侵蝕。

如果沒有強(qiáng)有力的、透明的和負(fù)責(zé)任的治理，人工智能可能會(huì)加劇不平等，損害邊緣群體利益。因此人權(quán)、包容性和問責(zé)制必須成為其發(fā)展的基礎(chǔ)。

本文為印度通原創(chuàng)作品，任何自媒體及個(gè)人均不可以以任何形式轉(zhuǎn)載（包括注明出處），免費(fèi)平臺(tái)欲獲得轉(zhuǎn)載許可必須獲得作者本人或者“印度通”平臺(tái)授權(quán)。任何將本文截取任何段落用于商業(yè)推廣或者宣傳的行徑均為嚴(yán)重的侵權(quán)違法行為，均按侵權(quán)處理，追究法律責(zé)任。

>> 熱文索引 <<