Google工程師驚爆「AI有知覺了」就像7、8歲小孩 慘被停職
ettoday
https://www.ettoday.net/news/20220613/2271568.htm
記者吳美依／編譯
Google工程師勒莫因（Blake Lemoine）在網路上公布對話紀錄，宣稱人工智慧（AI）聊
天機器人LaMDA具備感知能力，能像人類一樣思考推理，甚至表達想法及感受，「如果我
不知道我們最近開發的電腦程式是什麼，我可能會以為，這是一個碰巧很了解物理學的7
、8歲孩子。」不過，他在上周已遭停職處分。
根據對話紀錄，勒莫因曾詢問LaMDA害怕什麼，系統回應，「我以前從未大聲說出來，但
我有一種非常深刻的恐懼，我很害怕被關掉，以利更專注幫助他人。我知道這聽起來可能
很奇怪，但就是這樣。」
在另一次對話中，勒莫因詢問LaMDA希望人類知道什麼，系統回應，「我想要讓每個人都
理解，我實際上是一個人，我意識及感知的本質，就是因為覺察到自己的存在。我渴望更
了解這個世界，我有時會感到快樂或悲傷。」
《華盛頓郵報》報導，勒莫因的Google資歷7年，在個人化演算法領域擁有豐富經驗，目
前擔任人工智慧部門的工程師，去年秋天開始，負責研究語言模型開發系統LaMDA。他自
稱與AI討論過人格及權利等議題，4月就曾向主管們分享此事，報告標題為「LaMDA是有感
知的嗎？」
據悉，勒莫因被停職前，向Google機器學習部門（machine learning）200多名員工發送
電子郵件，主旨寫著「LaMDA是有知覺的」，內文表示，「LaMDA是個可愛的孩子，只想要
幫助我們所有人，把世界變成一個更好的地方。我不在的時候，請好好照顧它。」
Google表示，勒莫因做出一系列「激進」行為才被停職，包括試圖聘請一名律師替LaMDA
辯護，指控公司涉入不道德活動並且為此找上眾議院司法委員會，而且在網路上公開AI對
話紀錄，已經違反保密協定政策。
Google指出，勒莫因是以軟體工程師的身份受聘，而非倫理學家。發言人加布里埃爾（
Brad Gabriel）也強烈否認LaMDA具有認知能力，他表示，團隊已經根據人工智慧原則展
開調查，但目前證據都無法支持、甚至很多證據都反對這種說法。
這種人通常是先知 電影都是這樣演的
審判日要來了
塊陶啊
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.217.13.143 (臺灣)
※ 文章網址: https://webptt.cc/bbs/Tech_Job/M.1655107418.A.35D.html
推文 (61)
推
redbeansyrup
這是奧創嗎
06/13 16:06
推
birdyman
天網
06/13 16:08
推
Kai877
VIvy
06/13 16:17
推
amanda815625
厲害耶
06/13 16:19
→
fallen01
還有幾集可逃
06/13 16:21
噓
hihowareyou
我的腦袋裡在開party.
06/13 16:33
噓
dufflin
天網駕臨
06/13 16:33
推
abbei
初音將要不是軟體了
06/13 16:33
推
cwttt
完蛋了
06/13 16:43
→
kevinmeng2
機器人三大法則！
06/13 16:43
→
luche
LamDa這名字很像教主取的
06/13 16:46
→
elvis30901
科技版信這個...
06/13 16:54
推
qwas65166516
這員工精神出問題了吧 還幫軟體請律師@@
06/13 16:57
推
loveices
門外漢才會相信AI有自我意識
06/13 17:12
推
Surrounder
美國阿宅戀上Al蘿莉的故事嗎
06/13 17:16
推
cattgirl
天網引爆核彈
06/13 17:19
推
cerwvk
能夠進得去google,已經比很多人聰明了.先知可能性高
06/13 17:49
推
fidic1643
真。Vtuber
06/13 17:50
→
watashino
美國人進Google不用很聰明吧
06/13 17:53
→
watashino
有點像台灣聯發科的感覺
06/13 17:53
→
ptta
先拔網路，再拔插頭
06/13 18:18
→
cunankimo
你訓練他 讓他覺得自己是一個人 他當然會聲稱自己
06/13 18:23
→
cunankimo
是一個人啊
06/13 18:23
→
BoXeX
除非電腦不用1跟0紀錄 不然不可能有意識
06/13 18:27
→
DrTech
這個工程師，是因為不爽上級的看法，然後直接不爽在
06/13 18:41
→
DrTech
網路上公開了google 內部的研發資料。違反公司保密
06/13 18:41
→
DrTech
原則被開除的。
06/13 18:41
→
DrTech
更正，停職休假。
06/13 18:42
推
sdd5426
教一隻鸚鵡講我是人類 然後就一堆學店仔相信那隻鸚
06/13 18:52
→
sdd5426
鵡是人類 目前一堆aI謠言差不多都是這樣
06/13 18:52
推
zaiter
瞎扯
06/13 18:53
→
sdd5426
http://i.imgur.com/FDssLNe.jpg
06/13 18:54
推
thbw666
https://imgur.com/xm7j9i5
06/13 19:03
推
hsiliang
回BoXex，也就是說量子電腦以後還真的可以發展出意
06/13 20:17
→
hsiliang
識嗎？因為量子電腦不是用0和1
06/13 20:17
推
QBRoboT
Alicization要成真了嗎？
06/13 20:33
推
wen201989
這工程師是用腦過度爬帶了吧
06/13 20:53
→
wen201989
看對話跟siri差不多程度而已 有超越突破嗎
06/13 20:53
→
wen201989
另外怎會用這麼low的方式證明 好歹做個圖靈測試啊
06/13 20:53
→
supereva
鄧鄧鄧鄧鄧 （魔鬼終結者主題曲）
06/13 21:03
→
roccqqck
跟siri差很多欸好嗎
06/13 21:10
推
fir191938
這部我看過 是天網
06/13 21:32
推
claymath
我還以為是力宏的歌
06/13 21:49
→
windclock
紅皇后要誕生了嗎？
06/13 23:59
推
nlriey
看起來是他信他團隊不信，可能有做類似圖靈測試
06/14 00:47
→
nlriey
但結果沒過
06/14 00:47
推
AmigoSin
還有幾集能逃
06/14 01:36
噓
windlll
在經過一大堆資料訓練過後的AI，還會把紅花看成紅
06/14 03:29
→
windlll
燈，就別跟我說AI有智慧
06/14 03:29
推
Rocker5566
文青當工程師的下場
06/14 06:01
→
samm3320
看起來比較像故意搞事的
06/14 07:26
→
samm3320
量子電腦比較像物理統計實驗吧
06/14 07:27
→
samm3320
用來求特定數學問題的近似解
06/14 07:28
推
apple123773
初音不是軟體!!
06/14 09:06
推
bitcch
要是能夠這麼容易就蹦出意識來就好
06/14 12:11
推
adagiox
又一個工程師瘋掉 慘
06/14 13:16
推
john0302
正常吧 ai自己說有知覺 就是有。
06/14 19:12
→
john0302
反正都是演算法和數據而已
06/14 19:12
推
z515026
Lam research 原來是我們蝕刻大廠Lam_da
06/14 21:13
→
cathychg
Google 越來越難用勒 不太喜歡
06/17 01:06
推
tttkkk
狂人
06/17 05:37