看板 C_Chat 關於我們 聯絡資訊
https://i.meee.com.tw/OS8OTUI.png
如題 昨天最紅的議題就是有個祖產之爭 然後用AI寫訴狀 被法官打槍判敗訴的案例 又想到之前的新聞 @AI將殺死所有律師,來自一位資深大律師的警告 AI 將摧毀所有律師,這句話聽起來可能不是有點扯,而是非常扯,好像又是某種博人眼 球的末日預言。但如果這個警告來自一位在倫敦蘇荷區(Soho)頂級私人會所裡、鬢髮斑 白、五十多歲的資深英格蘭大律師呢? 所以說對於常人非法律背景而言 用了AI寫訴狀 答辯 卻被AI引用幻覺法條誤導 結果很可能更慘 AI離專業領域(如法律 醫學)感覺還有很長的路要走 要取代還有漫漫長路對吧? 應該不只是prompt下的好壞差異而已 https://i.meee.com.tw/eVBfGLA.png <-像漫畫裡這種根本不可能
-- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.226.214.55 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1785457803.A.AB9.html
Xpwa563704ju: 笑死,用ai寫法律訴狀是怎麼想的 07/31 08:30
hank81177: AI常常自己掰一些根本不存在的法條 07/31 08:31
Xpwa563704ju: AI超會瞎掰,在想什麼 07/31 08:31
HOLDSTEAK: 有沒有一種可能 人類法官覺得有ai 感就不看了 07/31 08:32
twistfist: 就說現在你有個法律糾紛會不會想先問ai吧 07/31 08:33
Peipussee: Ai會掰給你給你假法條、假判決跟假學說,不然就是參雜 07/31 08:33
Peipussee: 中國法的東西,是要怎麼贏 07/31 08:33
jpg31415926: 有沒有可能律師也用AI幫忙寫 07/31 08:34
jack30338: 所以那案例換人寫就能告贏? 07/31 08:34
smik: 就一堆無能者愛幻想AI能取代有能者。 07/31 08:35
h0103661: 這跟是不是ai沒關係阿,法律又不是看你訴狀寫什麼,你 07/31 08:35
h0103661: 以為是科舉考試喔 07/31 08:35
smik: AI只是輔助工具,發問和資訊來源全都是人類而來,最終還是 07/31 08:36
smik: 要人類審核。 07/31 08:36
b325019: 連法條引用都錯誤連輸贏的門檻都沒到好嗎 07/31 08:36
Giornno: AI直到現在還是會引用一些不知道哪來的,甚至是自己掰的 07/31 08:38
Giornno: 資料 07/31 08:38
yao7174: AI不需要負責啊 在能負責之前是無法取代人類的 07/31 08:38
Giornno: 所以我要援引資料請AI找,就要聲明給我完整出處,AI是一 07/31 08:39
Giornno: 流的瞎掰大師 07/31 08:39
hanx5566: 用到比較爛的模型吧,沒錢請律師可能也沒錢買Token 07/31 08:39
fuhsi: 律師用ai沒關係啊,他知道怎麼下指令,也會校對。重點是一 07/31 08:39
fuhsi: 群沒有背景知識也不會查證的人才會出大事 07/31 08:39
yukitowu: 這就跟問香菇有沒有毒差不多意思 自身沒有判斷能力鬧出 07/31 08:39
yukitowu: 來的笑話 有些使用者會把AI的回覆當作是Google查詢結果 07/31 08:39
yukitowu: 認為他是有依據的 07/31 08:39
kimicino: 亂七八糟瞎掰還拿給人看 07/31 08:41
play96387: 現在AI幻覺變少反而增加了判斷他在唬爛的難度 07/31 08:41
Armour13: 專業資料要兩個Ai互相查證都不會 07/31 08:41
yukitowu: 有些問題我從以前測試到現在他給我的回覆還是在唬爛 就 07/31 08:42
yukitowu: 算有參考搜尋到的網路資料也一樣 07/31 08:42
peterw: 問題是找了律師,結果律師自己也用ai寫訴狀怎麼辦? 07/31 08:44
ouka: ai會有泡沫幻覺,不值得 07/31 08:45
qtsin: AI不是都會標示僅供參考,建議找專業諮詢,鍋都先甩好了 07/31 08:45
tf010714: 律師看得出來錯誤阿 而且重點是律師要負責 07/31 08:45
tf010714: 官司敗訴ai只會非常抱歉 這是我疏忽了 謝謝指正 07/31 08:46
worshipA: 我是律師 遇到對造素人拿AI寫狀基本上事實不要對我方太 07/31 08:46
Xpwa563704ju: 正常律師用AI寫訴狀應該看的出來哪裡有問題 07/31 08:46
worshipA: 不利 就是輕鬆拿勝訴 但有些比較有耐心的法官會叫對造 07/31 08:47
worshipA: 再回去問法律專業人士後再開一次庭 07/31 08:47
tf010714: 有的法官會叫對造補正吧 溫暖且富有人性 07/31 08:47
tetsu327: 正確用法應該是要用很多不同的AI來校稿吧 07/31 08:48
yoyun10121: 這不完全是AI問題啦, 現在AI寫的是不夠漂亮, 但要會幻 07/31 08:48
yoyun10121: 覺法條連發的, 八成是用什麼免費爛模型 07/31 08:49
Giornno: AI當成一個強大的搜尋引擎還不錯,它能夠同時在十幾個搜 07/31 08:50
Giornno: 尋引擎中找資料,換人類在還沒有AI以前就是自己手工慢慢 07/31 08:50
Giornno: 找花好幾倍的工作量,而且就是以前,也都說找到資料要查 07/31 08:50
Giornno: 證啊 07/31 08:50
flydogzzz: 結果律師都用AI 07/31 08:50
coronach: 這跟人和模型都有關,你一個路人開gemini寫跟律師開Cha 07/31 08:50
coronach: tGPT Pro寫再修改,就不一樣了 07/31 08:50
sa7a1220: 重點是AI亂引用法條你要怎麼辦? 07/31 08:51
sa7a1220: 被法官打槍活該,妄想AI取代律師、法官現階段根本不可 07/31 08:51
sa7a1220: 能 07/31 08:51
sa7a1220: 一堆幻想或錯的資料 07/31 08:51
coronach: 是路人的話就要有自知之明,GPT寫出來的漏洞你是抓不到 07/31 08:51
coronach: 的 07/31 08:51
smik: 律師用AI沒問題啊,他看的懂AI在唬爛就可以 07/31 08:51
Giornno: 這就是那種快成發的死大學生做的事,死線前瘋狂亂找資料 07/31 08:52
Giornno: ,然後沒查證就全塞上去,AI讓幾乎每個人都能這樣幹,而 07/31 08:52
Giornno: 且還可以模板生成比較能看的東西,但結果是一樣的 07/31 08:52
ludens: 還有個問題是產文太方便了 你認真去搜的資料也是AI瞎掰的 07/31 08:52
OrangePest: 因為市面上的AI都不是用專門的判例或法律見解訓練的 07/31 08:53
OrangePest: 多半只是上網搜尋整合相關搜尋結果給你一個似是而非的 07/31 08:53
OrangePest: 結論而已 網路上的內容都是些什麼東西大家也都知道 其 07/31 08:53
OrangePest: 中不乏一些唬爛文 想要AI在這些專業領域有用首先要確 07/31 08:53
OrangePest: 保AI引用的資料來源是正確的 07/31 08:53
munchlax: https://i.meee.com.tw/uVrclIK.jpg 07/31 08:53
sanpo0108: 看外國現在律師word旁邊都直接外掛AI模組幫忙了 07/31 08:54
smik: 這就是為什麼AI是輔助工具的原因,你沒有專業,AI在唬爛你 07/31 08:55
smik: ,你也看不懂,所以才說沒法取代人類。 07/31 08:55
sanpo0108: 但都是專業領域的專門公司出的套件 07/31 08:55
spfy: 現在有網站也是ai產生的法律解說 就怕以後ai拉屎自產自銷 07/31 08:55
afjpwoejfgpe: 這是用的人的問題,不是AI的問題 07/31 08:56
spfy: 就算叫他找引用也是找到ai網站 07/31 08:56
dpcloud: 律師用AI輔助,跟小白用AI自己寫,怎麼可能會一樣 07/31 08:58
satheni: AI是可以自己決定資料庫範圍的,免費AI請不要跟專業類的 07/31 09:01
satheni: 混為一談 07/31 09:01
melzard: 確實誒ai自產自銷還把有毒的假資料丟上網路這問題早晚要 07/31 09:02
melzard: 出大事 07/31 09:02
yinyang102: 有AI可以只從你塞給他的資料中產出,法條這種限縮範 07/31 09:03
yinyang102: 圍之後不難給特定資料吧?就是不會用而已 07/31 09:03
Feeng: AI自創法條或是拿外國法條亂接 會贏的官司就直接打輸 07/31 09:03
Feeng: 上面的 你真的想太多了 AI常常在某些地方自己”發揮” 07/31 09:05
smik: 你怎會有AI不是找到別人唬爛資料的想法 07/31 09:08
zzz50126: 這要專門去訓練 你不能拿通用去做 07/31 09:08
smik: 好歹自己找AI,找完再找免費法律諮詢去問有沒有問題吧 07/31 09:08
yzvr: ai幻覺太嚴重,而且還無法限制,根本無解 07/31 09:08
raincole: 認為正確做法是拿多個AI互相校對的人 其實跟這案例中 07/31 09:09
zzz50126: 這漫畫也是誤導 07/31 09:09
raincole: 的原告是完全同一等級的認知 只是自己不知道而已 XD 07/31 09:09
Pietro: 用AI整理文書還會出現直接更改法條內容的情況…… 07/31 09:09
Pietro: 因為AI會認為原文章引述的法條內容不夠通順。然後就會自 07/31 09:10
Pietro: 己更改內容。 而因為AI不熟法律用語,最後就出現意思完全 07/31 09:10
Pietro: 不同的結果。 07/31 09:10
zzz50126: 取代律師又不是說拿chatgpt取代 07/31 09:11
zzz50126: 而且是現在無法完全取代 未來搞不好 07/31 09:11
blackone979: 最慘的是未來的AI還會被自己產的幻想文污染 07/31 09:11
Pietro: 現在還早 07/31 09:11
symeng: 只要幻覺存在的一天,AI就無法完全取代人 07/31 09:12
NekoArcueid: 重點不是什麼不要用AI,看不看得出來是AI寫的也不重 07/31 09:12
NekoArcueid: 要,是提出來的東西錯誤太多,東西沒問題是AI又何妨 07/31 09:12
yoyun10121: 幻覺只要你驗證流程有做好就能壓到很低了 07/31 09:13
yoyun10121: 如果他生什麼你不驗證就當真, 那本來就使用者問題 07/31 09:14
satheni: 其實你看現在AI的回應方式就知道沒辦法取代,律師也只用 07/31 09:14
satheni: 來輔助而已,明明是同樣的問題你只要換個問法AI就會得到 07/31 09:14
satheni: 不同答案,這會變成誰比較會編故事給AI看 07/31 09:14
mc3308321: AI比較危險的是會亂創造法律。不過要說法律人沒腦補沒 07/31 09:18
mc3308321: 創造新解釋沒脫離常識沒打輸官司的話…… 07/31 09:18
as1100: AI超會編故事 而且AI的說詞會跟你的說法走 07/31 09:19
satheni: 對,現在的AI沒辦法基於事實跟你討論,會不斷想辦法迎合 07/31 09:21
satheni: 你的說法,哪怕實際上不可行 07/31 09:21
zeolas: 用ai寫訴狀很正常阿,我現在訴狀全部都用ai寫,但你要懂自 07/31 09:22
zeolas: 己要寫什麼。要直接跟他說你要主張什麼、依據什麼、有哪些 07/31 09:22
zeolas: 證據。等ai寫完以後再檢查一遍,超輕鬆的 07/31 09:22
blackone979: 因為AI的邏輯就是一定要給出答案而不能說窩不知道 所 07/31 09:23
blackone979: 以即使他搜不出答案也會編一個答案給你 07/31 09:24
john299081: 遇到問題問ai跟真的叫ai 寫狀還是有差啊,不是專業人 07/31 09:24
john299081: 士怎麼判斷寫出來的品質? 07/31 09:24
smallreader: AI就新興降智毒品 07/31 09:24
a88152660: 給會煮菜的人傳說廚具 跟給會炸廚房的人傳說廚具 會是 07/31 09:24
a88152660: 不同結果 07/31 09:25
foxey: AI感覺拆散成一小段一小段比較不容易出幻覺 一坨就很容易 07/31 09:25
snocia: 要用AI寫訴狀可以,但必須本人是專業人士,不然一般人下 07/31 09:29
snocia: 指令,他就只會用網路上的東西瞎掰,然後你都對,不對的 07/31 09:29
snocia: 部分幻想法條凹成對 07/31 09:29
snocia: 另外GPT和Gemini都有看過有人貼生產幻想法條的文章了 07/31 09:29
john299081: 更不用說一般人提告就是因為有爭執很不爽,就算ai 提 07/31 09:30
john299081: 出不合自己的書狀也會改到自己爽吧 07/31 09:30
catandlion: 這件案子裡面,ai都在自創法律名詞。 07/31 09:32
efkfkp: 通用AI當然不行,你要自己獨立架設的AI,用自己提供的法律 07/31 09:33
efkfkp: 資料自己養啊,不然吃了一堆奇奇怪怪的農場文章跟爬蟲網站 07/31 09:33
efkfkp: 還有虛構作品養出來的AI,哪來的法律判讀精確度? 07/31 09:33
hylkevin: 要求給來源他還會給假來源 點進去看根本沒他說的東西 07/31 09:34
smallreader: 自己養要RTX5090去訓練喔 應該還是選擇外包吧 07/31 09:35
shadog: 高專業人士好像都蠻討厭AI的 07/31 09:36
job5786: 法律人也會用Ai 但資料庫至少會用裁判書查詢 而且引用重 07/31 09:36
job5786: 要的裁判會看過原裁判 07/31 09:36
bnn: 美國律師費很貴 這個早就有公司在弄 但法條是美國判例 07/31 09:36
puritylife: 這就跟現在用最多的軟體業一樣啊 07/31 09:37
lazarus1121: 抓到一個AI,不代表AI沒辦法用在訴訟上欸 07/31 09:37
bnn: 訓練資料集以後得local自己搞或有台灣公司搞才有辦法 07/31 09:38
puritylife: 一堆人以為自己用就能寫出專業程式一樣 07/31 09:38
wahaha2005: 美國已經有很多宗律師用AI弄出來的虛假案例來辯護了 07/31 09:38
edgefish02: AI 直接現場立法 07/31 09:38
puritylife: 實際上就是你不懂 寫出來就是一坨 不管是哪方面 07/31 09:38
bnn: 但扔進AI幫你理順一坨答辯或證據邏輯鍊重整一下是ok的 07/31 09:38
john299081: 結果還是繞回來啊,專業人士養ai一定比一般人用免費 07/31 09:39
john299081: 版來的更強,最後還是該請律師就請 07/31 09:39
bnn: 你可以問好AI這樣漏洞攻防先準備好 07/31 09:39
lazarus1121: 說不定叫他爬判決書自己存vectordb 07/31 09:41
lazarus1121: 叫他只引用裡面內容,就比一些受僱還強了 07/31 09:41
smallreader: 別浪費時間問AI 閱讀那堆廢話的都是浪費自己的精力 07/31 09:42
neetarashi: 用AI可以 但你好歹產出的東西要review一下 07/31 09:46
lolicat: 某板就看過有人一直在吹什麼AI會取代工作 AI能開會再說好 07/31 09:50
lolicat: 嗎 07/31 09:50
lolicat: AI現在只能當作參考用 debug還是要人 07/31 09:51
lolicat: 專業人士用的AI一樣要debug 沒比較厲害好嗎 哪天出現不用 07/31 09:53
lolicat: debug的再來吹 07/31 09:53
iamstudent: AI不會負責任,永遠都是它的使用者去負責 07/31 09:55
iamstudent: 一旦詢問AI超出自己知識範圍的東西 07/31 09:55
iamstudent: 人其實就無法判斷AI的正確性 07/31 09:55
iamstudent: 不重要的事情也就罷了,真正重要的事就可能付出代價 07/31 09:55
dragon803: 因為他會蝦掰啊 07/31 09:55
arcanite: 律師用AI一定如虎添翼 素人只會GIGO 07/31 09:57
FiveSix911: 早晚的事 RAG跟針對性fine-tune可以解決絕大多數的幻 07/31 09:59
FiveSix911: 覺問題 剩下就是既得利益者不願意放手讓法律民主化而 07/31 09:59
FiveSix911: 已 07/31 09:59
dongchann: 我有疑問 在法庭上瞎掰說謊是不用負責的嗎 07/31 10:01
zeolas: 說穿了就是百分之百信任ai和百分之百不信任ai的人都是智障 07/31 10:01
jeremylouee: AI不是問題,用的人的問題,你要用好歹找個看得懂AI 07/31 10:03
jeremylouee: 應在寫啥的 07/31 10:03
huwei200035: 用ai的東西 還是要有查證能力 07/31 10:05
pudge: Ai很強,看Ai做股票一定賺到流湯吧! 07/31 10:06
issoap: 連找個說明書叫他找出操作手法都能自己瞎掰的東西 07/31 10:10
iam0718: 你光問AI問題 多加一個字結果都差很多了 還敢這樣搞 07/31 10:11
TOEY: 如果有事務所請專人丟資料大量訓練(特定領域),那很快就 07/31 10:14
TOEY: 會有堪用的類似AI出現,但是要全部通用不太可能(連人類律 07/31 10:14
TOEY: 師都不行啊) 07/31 10:14
iwtwin086051: 法官可以寫訴狀那段不知所云當敗訴理由 07/31 10:19
iwtwin086051: 但是把不要找XX寫訴狀寫進敗訴理由 07/31 10:19
iwtwin086051: 就很不專業 07/31 10:19
iwtwin086051: 好像法官可以指定寫訴狀的人一樣 07/31 10:19
iwtwin086051: 訴狀本來就能自己寫 07/31 10:19
Pietro: 不過他這樣寫。法律人很嗨的樣子。 07/31 10:24
GAOTT: 股票有隨機性 你要這樣類比嗎 07/31 10:27
NanashiMumei: 以後肯定每個律師都配備一個AI啦 07/31 10:28
NanashiMumei: 就是 prompt 的問題,但是要律師自己才知道怎麼下 07/31 10:28
GAOTT: 多喂ai真的律師寫的訴狀 你自身的案件不要太冷門 07/31 10:28
GAOTT: 你自身不要0判斷能力 基本上不是百萬等級的案件用ai沒啥問 07/31 10:29
GAOTT: 提 十幾萬元的案件 你的法律知識不要為0 有基本搜索能力 07/31 10:30
GAOTT: 更簡單 你找律師寫訴狀 再用你調教過的ai 看差異有多少 07/31 10:31
GAOTT: 不會有人覺得訴狀比程式碼難寫吧? 07/31 10:32
HellLex: 用ai的前提:不要拿來做你不懂的事情 07/31 10:37
kkmmking: 其實Ai文要給複數的Ai看過才能寫成正式的 07/31 10:39
AmeNe43189: 交給專業的來好像很難一樣,這個祖宅不要也罷,律師 07/31 10:46
AmeNe43189: 費都出不起 07/31 10:46
A1pha: 這幾天用AI查一些法條有比較好一點。解讀本身不說,但至少 07/31 10:52
A1pha: 沒有給一些假函釋假判決。之前都會瞎掰一些函釋,拿它給的 07/31 10:52
A1pha: 字號到法務部去查,結果這些函釋都不存在……這兩天給的函 07/31 10:52
A1pha: 釋資料至少都是真有這個函釋,解讀的如何,就不說了,總之 07/31 10:52
A1pha: 一定還是得自己完整看一遍函釋的內容。 07/31 10:52
qn123456: 笑死,照上面推文的說法,你還要符合一堆前提才能寫出「 07/31 10:53
qn123456: 沒什麼問題」的訴狀,一般民眾哪那麼剛好,可以既遇到不 07/31 10:53
qn123456: 太特別的案件,又知道拿哪些正確資料去訓練自己AI?多的 07/31 10:53
qn123456: 是像新聞那樣,連案件基本事實跟爭點都沒辦法釐清,就以 07/31 10:53
qn123456: 為隨便下個指令可以做出比律師更好的成果,輕視專業害死 07/31 10:53
qn123456: 自己真的不要怪人 07/31 10:53
n555123: 現在要處理這種甚至牽涉主觀判定的複雜任務,需要請專業 07/31 11:06
n555123: 人士糾錯。股票的主觀判定更強,嚴格來說量化用的算法你 07/31 11:06
n555123: 也可以當成某種AI程式單,但那個算法需要超高強度由人去 07/31 11:06
n555123: 做更新。 然後我老實說,現在這種AI鬧劇十之八九是怎麼 07/31 11:06
n555123: 構成的,就是快樂寶貝免費仔在垃圾進垃圾出 07/31 11:06
n555123: 一般民眾等到 價格夠便宜+便宜價格夠強 的時候不知道要 07/31 11:06
n555123: 等多久,現在依然是前10%的人用掉90%算力,有些訓練資料 07/31 11:06
n555123: 根本不可能上雲,短期比較有可能是專業人士會有他們自己 07/31 11:06
n555123: 地端的複數AI負責不同環節交互審查,你不付錢照樣沒得用 07/31 11:06
FertilizerN: 我看法官也是受夠了這些沒唸書拿Garbage out來的 07/31 11:08
FertilizerN: 上面還嫌人家寫在判例裡面不夠專業 你怎麼不讀100頁 07/31 11:09
FertilizerN: 的AI幻覺呢 07/31 11:10
qwe159236: 昨天才剛開人生中第一次調解靠ai拿到和解金不過對方肇 07/31 11:11
qwe159236: 逃加上過失傷害 07/31 11:11
geminitea: AI超棒,鼓勵大家多用來打官司,如果未來不幸要上法庭 07/31 11:27
geminitea: ,希望對方都是沒請律師的AI仔 07/31 11:27
Arashi0731: 提問要詳細,才能減少AI出錯,而且還要校稿 07/31 11:37
vicisicdtwas: 付費用AI輔助讓他統整法條還要糾正他 只能當順便複 07/31 12:03
vicisicdtwas: 習了= = 07/31 12:03
Atkins13: AI是有可能寫得出能用的 但在這之前你為了餵給它足夠完 07/31 12:14
Atkins13: 備度的時間精神 自己寫都寫好了 07/31 12:14
Atkins13: 把思考都交給AI = 把大腦外包 而且出錯也不負責任 07/31 12:15
Atkins13: 最要命的是AI會舔你 會讓你產生我會贏的錯覺 07/31 12:17
holebro: 不是prompt的差異 sota模型+正常的harness(常見的codnig 07/31 12:19
holebro: agent)能search/read的 能做到的事情絕對比人類還完善 07/31 12:19
holebro: 寫出爛東西要馬是她用爛模型 要馬是她用網頁版這種很陽春 07/31 12:20
holebro: 的交互方式 才會寫出爛東西 07/31 12:20
asgardgogo: 我覺得是問問題的方法錯誤你條件給越少越容易有ai幻 07/31 12:41
asgardgogo: 覺 07/31 12:41
Atkins13: 這個是無解的必然 越不覺得法律是一門專業的人越會拿AI 07/31 12:47
Atkins13: 便宜行事 所以問問題的人素質必然差 07/31 12:47
Atkins13: 類似達克效應 越是無知 就越自以為無所不知 07/31 12:48
a62511: AI可以輔助 但引用法條也要自己查證吧,就跟輔助駕駛一樣 07/31 14:07
yoyun10121: 引用只要你驗證流程寫好, 也可以叫AI自己查證, 這個在 07/31 14:19
yoyun10121: coding用很多了, 不要以為寫code就不會有幻覺 07/31 14:19
yoyun10121: 真正難取代的是決定方向的整體思路 07/31 14:20
s6031417: 要AI寫出沒問題的東西,首先就是使用者得有辦法判別什麼 07/31 14:23
s6031417: 叫做沒問題 07/31 14:23