微軟高層：AI 聊天機器人須學會求助，別編造答案
https://technews.tw/2024/09/02/vik-singh-generative-ai-learn-to-ask-for-help/
微軟公司（Microsoft）副總裁辛赫（Vik Singh）表示，生成式人工智慧（Generative
AI）工具將為企業節省大量時間和金錢，但模型必須學會承認自身並非無所不能。
辛赫接受法新社訪問說道，現在真正缺少的是，會有模型舉手說「嘿，我不確定，我需要
幫助」。
從去年以來，微軟、Google及其競爭對手一直迅速推出類似ChatGPT的生成式AI應用程式
，這些應用程式可以依據要求生成各種內容，給予用戶一種無所不知的錯覺。
儘管取得了進展，生成式AI應用程式依然「產生幻覺」或編造答案。
這是微軟高層需要解決的重要問題，辛赫的企業客戶無法承受微軟AI系統出包的後果。
雲端軟體巨擘Salesforce執行長班紐夫（Marc Benioff）本週指出，他看到許多客戶對微
軟人工智慧輔助工具Copilot的胡言亂語愈來愈感到沮喪。
辛赫堅稱，「真正聰明的人」正試圖尋找方法，讓聊天機器人承認「它不知道正確答案，
並尋求幫助」。
--
俗話說的好，君子坦蕩蕩，小人做日常。
舉頭望明月，低頭做日常。
少壯不努力，老大做日常。
生自古誰無死，來生繼續做日常
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.177.0.83 (臺灣)
※ 文章網址: https://webptt.cc/bbs/Tech_Job/M.1725279684.A.1DD.html
推文 (50)
推
KyuubiKulama
那我花錢用AI 幹嘛笑鼠
09/02 20:27
推
imreader
反向質詢
09/02 20:38
推
hank78321
問另一個ai
09/02 20:57
推
sdbb
若需真人客服，請按0，幫您轉接中
09/02 21:06
推
NDark
404 not found.
09/02 21:06
噓
zxcvb1234522
說謊AI，原來AI都是一場夢
09/02 21:18
推
yudofu
有的時候如果判斷輸入不足就該詢問，而不是硬答一個
09/02 21:21
→
dlhk3
沒辦法，現在的所謂的ai根本就不是真的ai，就沒有
09/02 21:29
→
dlhk3
任何智慧，只是利用大資料跟模型去算出可能的結果
09/02 21:29
→
dlhk3
，模型好且資料正確也許算出來的會偏正確（但還是
09/02 21:29
→
dlhk3
會充斥著錯誤），但如果餵給他很多錯誤資料或是爛
09/02 21:29
→
dlhk3
模型，那算出來的結果就會是垃圾
09/02 21:29
推
ghchen1978
Ai你要會發問啊！都不說話我怎麼知道你哪裡不懂！
09/02 22:11
→
ghchen1978
這樣你長大怎麼跟歐美小孩競爭？
09/02 22:11
推
lusifa2007
我很難想想ai說你覺得呢？
09/02 23:01
推
cphe
真正的人類也常常會不懂裝懂，答非所問，很符合AI
09/03 01:18
→
cphe
行為 XD
09/03 01:18
推
jatj
不然八樓你以為AI是什麼？人類不就是從過去知識推導
09/03 01:24
→
jatj
出答案？AI不是也在做一樣的事？
09/03 01:24
噓
yunf
他會編造答案不就原本程式設計的?
09/03 01:29
→
yunf
到最後又說他自己生成的
09/03 01:29
推
wizozd84070
以前曾把C語言程式碼丟給AIGPT查答案(自己會故意丟)
09/03 03:53
→
wizozd84070
看完AI給的解答後，信任度大大降低。所以，不是很懂
09/03 03:55
→
wizozd84070
為何這麼多人都喜歡開口閉口gpt來gpt去的
09/03 03:55
→
kyosuke1
AI 雖還不夠好，但已經幫很多國高中英文老師省去出
09/03 04:44
→
kyosuke1
題時間，我身邊有一些朋友就是透過gtp 丟入文章，然
09/03 04:44
→
kyosuke1
後出題XD
09/03 04:44
→
houseguy
openAI做得會掰，比較討喜
09/03 06:34
→
Lhmstu
求助誰？別的AI嗎
09/03 08:24
推
jobintan
M$FT是在偷臭ChatGPT嗎…
09/03 08:24
→
DrTech
事實啊，本來就沒那麼好用。一堆沒用過chatgpt的人
09/03 08:25
→
DrTech
在嘴。昨天的chatgpt戰勝棋王，設計硬體比台大碩士
09/03 08:25
→
DrTech
還強的文章，怎麼刪文了。
09/03 08:25
推
HaHaPoint
就說是"生成"式AI
09/03 09:27
推
auir
現在無法分辨對錯，組合出來就給
09/03 09:29
噓
Weky
這id洗到這邊來了
09/03 11:23
→
twoboy
唬爛式ai
09/03 12:55
推
GiPaPa
system prompt裡面設定一下就會反問user了
09/03 14:07
推
mangoldfish
人類也是會求證事實的，但目前的AI看起來沒有完善
09/03 15:55
→
mangoldfish
的機制來辨別對錯
09/03 15:55
推
su35
他不是編造答案 而是選擇最像答案
09/03 16:16
推
jason222333
不動就要問啊 連這樣都要問喔 自己查啊
09/03 17:15
→
jason222333
我猜AI最後會被這樣對待
09/03 17:15
推
jamesho8743
需要AI的AI?
09/03 19:35
→
jamesho8743
不編要問誰? 等等我問一下? 不知道不清楚不曉得?
09/03 19:37
推
richies
你等等我問一下別的AI
09/03 20:58
推
wsad50232
AI 只有資料匯整 沒有對錯的觀念
09/04 07:12
→
yunf
瞎子摸象
09/04 09:02
推
Prado4840
其實是老黃當年那句話害的：it’s iphone time….
09/04 09:30
→
Prado4840
信以為真的就快下車吧
09/04 09:30