Re: [問卦] Gemini錯誤太多？還有幻覺？

[HuangJC (吹笛牧童)]

: 標題: [問卦] Gemini錯誤太多？還有幻覺？

: 朋友推薦我用Gemini，我大概用了三小時，發現錯誤很多。我要問某醫生的評價，但我記
: 錯名字，打了一個不存在的醫生，結果Gemini說這個醫生是某醫院的權威,專長是.......
: .
:
: 後來發現是我打錯字，質疑他為何去描述這個不存在的醫生，
: Gemini說他產生幻覺，很抱歉......

人類的邏輯也很多幻覺，其中很常發生的是滑坡謬誤

: 好,醫生名字搞定，假設醫生叫做“林甲乙”，討論一段時間之後，Gemini說：根據“林
: 丙丁”的診斷....
: 等一下！我是給林甲乙看啊，怎麼變成林丙丁？
: Gemini再次道歉，說他犯了低級錯誤
:
: 還有一個數學是他自己列出算式
: 10/10億，答案很明顯是1億分之一，結果Gemini說是 千萬分之一，
: 我指出之後，Gemini再次抱歉......

1+1=? 你以為是 2？那這得調用數學模組
但如果調用的是統計模組，大家都算錯，它就會錯

本來數學就不該用統計或大數據啊
不然考數學時是大部份人滿分嗎？


: Gemini會不會太誇張了？？

也還好吧，就是記憶體不足，存放不了所有結果
然後漸漸有累加性錯誤

舉 八個皇后 這個經典命題來說
如果你有邏輯，可能解得很快
但如果你沒邏輯，只能用 for loop 去掃遍所有可能
那要耗用的時間，或要準備的記憶體，不就很大？


其實我認為，讀書時老師就會在黑板上算錯了
然後會對大家說：我是看你們有沒有用心聽課

雖然大家常會噓啦，說老師是找藉口，明明就是自己錯還凹說測試我們有沒有認真聽課

好啦，所以我不怕
因為我學生時就是會認真聽課那個
老師在黑板上一寫錯，我就會知道了

你不是這種人，所以你會怕

: 推 probsk: 他的道歉每次都很真誠                      49.218.89.167 01/24 22:03

抄固定的語言模型咩。。

: → AoWsL: 現在聽說要準確是問兩次 你學廢了嗎？       220.129.11.186 01/24 22:08

N 年前我寫程式就會這樣了，當時可還沒有 AI
唉，沒招了，竟然要求重算

: → AoWsL: 不要太信真的 因為以前一些長文本生圖我丟   220.129.11.186 01/24 22:22
: → AoWsL: 給它做 然後拿去問其它一堆幻覺             220.129.11.186 01/24 22:22

有時它會把生成的指令直接丟出來 XDDD
我會笑說：現在幹麻？叫我執行嗎？我是看得懂逆？

: → li72716: 不可以問太久 他會忘記你之前說過的話     49.215.223.223 01/25 01:38

啊。。那沒法子，因為記憶體有限，我曾對 gemini 說：那你用迴旋積分/摺積 來做好了
唉，不用我說，好像本來就在用

: → li72716: 然後反過來說 一般人不會問這麼久  問到   49.215.223.223 01/25 01:38
: → li72716: 答案就走了 不會延伸一直問 是你問太久    49.215.223.223 01/25 01:39
: → li72716: 還有他們會突然變笨 我懷疑是趕客         49.215.223.223 01/25 01:41

沒必要趕，以軟體工程來說，程式要執行一定要準備堆疊
堆疊爆了自然就是爆了，不用特別趕，程式已經不能穩定執行了

: 推 backbatd: 上次用g pro找番號，條件指令都對，還   223.141.123.101 01/25 13:04
: → backbatd: 設定信心校準，結果一直給我不同番號的  223.141.123.101 01/25 13:04
: → backbatd: 片子，最後自己找正確番號，還是我凹成  223.141.123.101 01/25 13:05
: → backbatd: 幻覺，有兩種之類的，真的很哭          223.141.123.101 01/25 13:05

missav 自己會找出我愛看什麼，不必叫 gemini 找

--
找不著我的曼陀鈴  再也唱不出快樂的心情  愛你那緩緩搖曳的身影  和如沙流洩的輕吟
獨唱的歌聲太難聽  感動不了過路人的心  今夜的風沙似在伴舞  也止不住我哭泣的眼睛

因為我  找不著我的曼陀鈴

by 吟遊詩人

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 116.241.135.87 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1769368535.A.4AF.html
推 ispy03532003: 原來是記憶體滿了，所以之前設定的
→ ispy03532003: 東西被洗掉了
推 GKKR: 所以你愛看什麼？
我抓回來有幾個分類：美，溼，翻，嫩，甜

推 jojoStar: 快推 不然會沒人理這篇
推 kingofsdtw: gemini pro版記憶體還剩下99%就有幻
→ kingofsdtw: 覺了
→ kingofsdtw: 餵一堆絕對資料還是產出垃圾
你知道堆疊的用法，是壓入返回位址，相對變數，解完副程式則返回堆疊吧！
也就是會不斷的使用，返回，使用，返回，而何時偵測堆疊剩餘？
若是使用後偵測，那就顯示剩得不多
若是返回後偵測，就顯示剩得多；但不代表沒有用光的危險，這樣明白沒？

這就好像你現金流不夠，每次都花掉很多，又賺回來
在賺回來之後查帳，說你投資很正確，都有賺回來
但不代表花掉時你沒爆掉現金流的危險；這得看你何時查帳

你所問的問題也不曉得是水準很夠，或者是問法很糟
總之接近爆炸了，或已經爆炸了


推 G8PIG: 我可以預言，發展AI是人類最蠢的決定
→ qqsheepu: 拿來問結構化的問題很方便
→ qqsheepu: 就不知為什麼有人想找AI的碴一直問那種
推 s0914714: 希望AI全能也是很怪 就是個預測機器罷了
和希望對方全能，可以解鎖所有姿勢，咳，知識一樣
雖然是不切實際的願望，但大家都有這願望

推 gibson72: 我會先設定準則 不要合理化主人的問題
→ gibson72: 然後得到一個蠻會吐槽我的AI
但目前 AI 最會的就是舔..不是吐
大概商業化上，等身體完成，會舔的還是比較好賣

→ iPadProPlus: GPT好一點 但還是有

※ 編輯: HuangJC (116.241.135.87 臺灣), 01/26/2026 11:30:38