Re: [新聞] 五角大廈將Anthropic列入黑名單,標記為供

作者jacknavarra (阿姆羅)

標題Re: [新聞] 五角大廈將Anthropic列入黑名單,標記為供

時間Fri Mar 13 01:03:20 2026

事後回朔來看, 只能說Anthropic的執行長Dario Amodei真有先見之明 https://abmedia.io/anthropics-ceo-explains-why-he-took-on-the-pentagon Anthropic執行長：Claude不足應用於軍事，期待簽署更明確條款 === 這次美國攻打伊朗也是大量運用AI 上一次攻打委瑞內拉的軍事行動上, AI帶來極好的成效 (這也成為Dario Amodei與美國國防部鬧翻的導火線) 而這次美國攻打伊朗更是運用AI輔助去做情報識別判斷 https://x.com/AndrewCurran_/status/2030367080336470208 華爾街日報節錄：美國陸軍第18空降軍在一系列名為「猩紅之龍」的持續演習中，使用資料分析公司帕蘭提爾科技的軟體。喬治城大學「安全與新興技術中心」資深研究員艾蜜莉亞・普羅巴斯科表示，這次行動的效率追平了美軍在伊拉克戰爭時創下的紀錄——那是軍方歷來效率最高的目標鎖定行動之一。她指出，得益於人工智慧技術，第18空降軍僅用20名人員就完成了這項工作；相比之下，在伊拉克戰爭時期，執行同樣任務需要超過2,000名人員。 === 看來AI輔助節省了人力與時間成本, 而讓美軍得以快速辨別作戰目標甚至有可能輔助進行作戰計畫安排(推測) 然而，美軍這次轟炸目標發生了誤判把伊朗女子小學判斷為軍事目標, 進而用戰斧飛彈轟炸了小學導致上百名小學生身亡, 一開始川普極力否認是美軍炸的把責任歸咎於伊朗自己炸的但是伴隨越來越多證據出來, 證明就是美軍炸的接著媒體開始質疑這是因為AI判讀發生誤判之後判讀結果交給那20名人類做最終確認的時候, 卻又沒有把關到這一層, 於是放行了判讀結果, 准許轟炸目標最終導致悲劇發生然後這時候要問, 雖然是軍規AI系統抑制了幻覺發生的可能但是就算是那低於1%的誤判機率, 但最終導致悲劇發生的時候誰要負責擔起政治與軍事責任?? -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.166.205.73 (臺灣) ※ 文章網址: https://webptt.cc/bbs/Stock/M.1773335003.A.D40.html

推文 (202)

推 A0908 這篇正解，Anthropic執行長是對的，AI判斷的準確性 03/13 01:06

→ A0908 早晚，甚至已經超越人類，但人類存在的價值就是拿 03/13 01:06

→ A0908 來扛責任的 03/13 01:06

推 HiuAnOP 挑釁戰爭的那一方QQ 03/13 01:07

推 necrophagist 沒先聲明搞不好川普還順勢把這一坨都怪它模型身上 03/13 01:15

噓 hidalgo22976 戰爭，伊朗自己都殺了5萬個上街的年輕人，沒什麼好 03/13 01:16

→ hidalgo22976 負責的 03/13 01:16

→ Jameshunter 越洗越高1W>2.5W>5W 03/13 01:19

噓 uyrmb47 媒體猜測 ??? 03/13 01:22

推 shadow0326 Anthropic交接期是半年，現在依然是Anthropic供應戰 03/13 01:22

→ shadow0326 爭部的AI使用，你如果說是AI的錯，那一樣是A社弄得 03/13 01:22

推 dayuer 哪天ai判斷白宮是敵方基地，炸下去就有解了 03/13 01:23

→ matlab1106 半張照片都沒有就5萬人了厲害吧 03/13 01:23

噓 keyofdejavu 這跟AI什麼關係，如果人類判斷要炸炸錯了，說法差哪 03/13 01:31

→ keyofdejavu "誰要負責擔起政治與軍事責任??"，你這句一樣能用 03/13 01:31

→ hidalgo22976 共產黨的回答方式跟川寶一摸一樣，厲害了 03/13 01:38

推 SiFox 用上AI，就是拿來卸責的呀！軍方、政客，狡猾得很 03/13 01:43

→ SiFox 唉呀，程式出錯，我們無意炸死上百位國小女學生 03/13 01:45

噓 strlen 又一個軟弱的奧本海默滾吧 03/13 01:55

→ strlen 賣菜刀的害怕菜刀做出來被殺人犯拿去殺人喔 03/13 01:56

→ strlen IGRC40年來強姦殺害多少未成年伊朗女性你要不要算算 03/13 01:57

→ ch410773 樓上介意算出來我們看看嗎？ 03/13 02:01

→ jacknavarra 病人MRI掃描數據醫院交給AI判讀，說病人罹患睪丸癌 03/13 02:04

→ jacknavarra 應該要儘速切除，於是醫院火速切除，事後發現誤判 03/13 02:04

→ jacknavarra ，病人只是疝氣，根本沒有癌細胞，那麼病人應該要 03/13 02:04

→ jacknavarra 告醫院還是告AI公司？ 03/13 02:04

推 stlinman AI會出錯，人就不會出錯？重點是機制！ 03/13 02:04

噓 madeinheaven 誤炸是美國情報問題吧跟AI沒啥關係 03/13 02:10

推 BILLBADY 所以打了學校會怎麼樣嗎？哪件事俄羅斯沒幹過，誰 03/13 02:26

→ BILLBADY 處理了俄羅斯？ 03/13 02:26

→ nakayamayyt 反正也不是第一次炸到平民小孩 03/13 02:40

→ Jameshunter 一次幹死165個小學生的這倒是在俄烏戰場沒見過 03/13 02:41

噓 yunf 少在那屁 03/13 02:51

→ yunf 故意把錯推給ai來增加執行力 03/13 02:52

→ yunf 你以為ai是誤判其實他只是在背鍋而且不會反駁 03/13 02:54

→ yunf 他會讓你調資料嗎？ 03/13 02:54

→ yunf 你導入就要負全責 03/13 02:56

→ yunf 推給一個程式錯誤也太好騙 03/13 02:57

噓 strlen https://www.amnesty.tw/node/18079 03/13 02:58

噓 strlen https://www.thenewslens.com/article/182629 03/13 03:00

→ strlen https://tinyurl.com/sm9je2yw 03/13 03:01

→ strlen https://tinyurl.com/mtd6mz37 03/13 03:01

→ strlen 去年那波隨便也殺了兩百多個支持伊朗的都是人渣 03/13 03:02

→ strlen 革命衛隊魚肉鄉民時你們在哪裡 03/13 03:03

→ ferb 我們在哪？ 03/13 03:05

→ ferb 到底是想講什麼？革命衛隊是屠殺？美國誤殺是必要 03/13 03:07

→ ferb 之惡？ 03/13 03:07

→ ferb 還是國小女生等於革命衛隊？ 03/13 03:11

→ ferb 還是你就是認為不起而反抗革命衛隊，本來就是另一 03/13 03:15

→ ferb 種姑息支持，所以被另一個想推翻的勢力炸死剛好？ 03/13 03:15

→ ferb 屠城時的下令者說不是不脫這麽想法？ 03/13 03:17

→ tinybunny 狗勾沒睪丸癌醫生也是建議切除沒差惹 03/13 05:10

→ tinybunny 會有人想還狗勾公道嗎? 03/13 05:11

推 rxsmalllove 省省吧戰爭開打還要講仁義道德 03/13 06:53

→ jjjj222 打仗誤傷還要人負責, 我真的受不了這些沒腦的.. 03/13 07:05

→ jjjj222 對誰負什麼責? 03/13 07:06

推 dog41125 有些人腦子已經被洗爛了，要求俄國不能炸學校但是 03/13 07:09

→ dog41125 美國可以，要求俄國要仁義道德打仗美國不用 03/13 07:09

→ jjjj222 還是以後上戰場, 一人抱一個嬰兒, 誰打到誰輸? 03/13 07:09

→ jjjj222 要求俄羅斯不能炸學校的也是沒腦, 都是 03/13 07:10

→ jjjj222 打仗就打仗, 懷疑有敵人就是處理, 就這麼簡單 03/13 07:11

→ jorden AI判讀人類監督這關出問題 03/13 07:13

→ jjjj222 要求俄羅斯仁義道德的八成也是同一群左膠白痴 03/13 07:14

推 LoveSports #1fiKW2lG (Military) #1fiWu1GY (Military) 03/13 07:20

→ LoveSports #1fiYuN4V (Military) 03/13 07:20

→ LoveSports 有興趣的板友可以看這三篇戰爭部在戰爭前就砍了監 03/13 07:20

→ LoveSports 督機制，包括保護平民的單位跟三軍司法官。 03/13 07:20

推 qaz27966 情報落後導致的悲劇幹嘛硬要套在AI身上？你收到一 03/13 07:20

→ qaz27966 份清單跟你說下一道菜是龍蝦，然後你餵給AI，AI也 03/13 07:20

→ qaz27966 會跟你說下一道是龍蝦，所以你就閉眼吃，結果上來 03/13 07:20

→ qaz27966 的是陀XX，也是AI的錯嗎 03/13 07:20

→ LoveSports 陸海空"軍法官"高層都被整頓過了，甚至安插私人律師 03/13 07:21

→ LoveSports 在海軍當軍法官。 03/13 07:21

→ jjjj222 AI告訴我某個地方99%是敵人, 我一定往死裡打 03/13 07:21

→ LoveSports 軍法官的功能是，情報官或AI提供的打擊目標，軍法官 03/13 07:21

→ jjjj222 那1%不是的, 抱歉你就是倒霉被誤傷 03/13 07:22

→ LoveSports 做是否違反戰爭法的審核，過了才給指揮官批准發射。 03/13 07:22

→ LoveSports 記者會說前24小時靠AI打了一千多個目標，人類決策 03/13 07:22

→ LoveSports 時間明顯不足，上述人類審查迴圈可能會失效。 03/13 07:22

→ LoveSports 簡言之幾乎"接近"自主攻擊 03/13 07:23

→ LoveSports 另一方面報導也指出人類餵給AI的資訊可能有誤 03/13 07:23

→ LoveSports 基地設施已經改成學校卻沒更新目標定義 03/13 07:23

推 qaz27966 問題根源在於情報一開始就有錯誤，不是因為用了AI, 03/13 07:23

→ qaz27966 反而應該是以後針對攻擊目標是不是要利用AI搭配衛 03/13 07:23

→ qaz27966 星影像之類的，加強辨識，避免誤擊才是正確的吧。 03/13 07:23

→ qaz27966 難道你有辦法要求敵人不要這樣運用AI? 03/13 07:23

→ LoveSports 這部分還在查，但如果屬實就是"垃圾進垃圾出" 03/13 07:24

→ LoveSports 給AI錯誤資訊當然誤判那是值得打擊的目標 03/13 07:24

推 qaz27966 怎麼會把這場悲劇跟因為缺乏監督畫上等號，然後簡 03/13 07:26

→ qaz27966 化成都是因為沒人監督就用AI打仗造成的。目標、手 03/13 07:26

→ qaz27966 段與結論之間似乎像是拼裝車一般南轅北轍 03/13 07:26

→ jjjj222 不要說99%了, 就算只有80%, 1/5機會誤傷, 我也照打 03/13 07:26

→ qaz27966 我贊成任何攻擊都應該要強化監督，但這種悲劇問題 03/13 07:27

→ qaz27966 不在於工具，在於怎麼用好工具去避免類似的情況。 03/13 07:27

→ qaz27966 這種一步到位的結論看似精闢其實根本經不起推敲 03/13 07:27

推 yeay 回MRI錯誤負責的問題，現在就算是醫師判斷錯了誰負 03/13 07:28

→ yeay 責？MRI機器本身剛好有問題誰負責？甚至檔案錯置誰 03/13 07:28

→ yeay 負責？現在一樣有類似的問題。 03/13 07:28

→ yeay AI輔助判斷就是最後確認者的責任，除非AI全程判斷加 03/13 07:28

→ yeay 開刀都不經人手。病患找醫院負責，醫院找AI公司求償 03/13 07:28

→ yeay 。 03/13 07:28

→ LoveSports 戰爭部長討厭軍法官認為綁手綁腳，還罵軍法官是白癡 03/13 07:29

→ LoveSports 相關新聞昨天外媒也有報導，有興趣的人可以找來看 03/13 07:30

推 qaz27966 再者，伊朗打海灣國家，他們難道也是用AI決定打誰 03/13 07:30

→ qaz27966 嗎？他們八成是有類似軍法官的監督機制，那為什麼 03/13 07:30

→ qaz27966 老是在打民用設施？這樣攤開看，其實你就知道問題 03/13 07:30

→ qaz27966 並不是在AI身上 03/13 07:30

推 yeay 再來，建議原po如果真的要開刀，盡量還是尋求第二意 03/13 07:31

→ yeay 見，再做個檢查二次確認之類的。 03/13 07:31

→ LoveSports 短短數十秒要辦到:情報官/AI=>軍法官=>指揮官 03/13 07:31

→ LoveSports 這樣飛彈發射審查環節根本是不可能的 03/13 07:31

→ LoveSports 中間一定有省略才能辦到前24小時打一千多個目標 03/13 07:31

→ LoveSports 講白點射飛彈變成在打電動，這是很嚴重的問題 03/13 07:31

→ jjjj222 有軍法官是白痴這件事, 我完全認同, 笑死 03/13 07:32

→ LoveSports AI基建還是會持續，這些課題是AI時代下大家得面對的 03/13 07:32

推 qaz27966 說真的，Anthropic這波只想要佔據道德高地，最好是 03/13 07:32

→ qaz27966 以後其他國家都不會用自家AI應用打仗，說白一點就 03/13 07:32

→ qaz27966 是矯情 03/13 07:32

→ jjjj222 到底是在打仗還是玩家家酒 03/13 07:33

→ LoveSports 剛才貼那三篇代碼可以看一下濫殺平民更難贏得戰爭 03/13 07:34

→ LoveSports 那是軍方的人分析的 03/13 07:34

推 LoveSports 二戰各國用戰爭法教訓了日本定罪很多戰犯還丟原子彈 03/13 07:35

→ LoveSports 美國人不可能容許自己國家淪為像二戰日本那樣殘暴 03/13 07:36

→ LoveSports 否則就等於承認自己國家也值得被丟核彈教訓 03/13 07:36

推 NANJO1569 把那些無辜被炸死的平民說的跟遊戲npc被抹除一樣無 03/13 07:36

→ NANJO1569 關緊要也是很有趣，該恭喜跟那些無良掌權者一個思考 03/13 07:36

→ NANJO1569 模式的高度!^^ 03/13 07:37

→ qaz27966 你講太遠了，哪怕是一般公司都會有人覺得稽核很煩 03/13 07:39

→ qaz27966 ，軍法官會讓戰爭部長覺得很麻煩就代表人家有在做 03/13 07:39

→ qaz27966 事 03/13 07:39

推 LoveSports 有一篇國外記者測試，24小時打一千多個目標，決策時 03/13 07:40

→ LoveSports 間大概20~45秒 03/13 07:40

→ LoveSports 情報官、軍法官、指揮官都得審查，時間明顯不夠 03/13 07:41

推 LoveSports 補充一件事 2/23 Anthropic的公告有提到對岸蒸餾了 03/13 07:43

→ LoveSports Claude的推理邏輯 03/13 07:44

→ LoveSports 如果以後有的國家拿"接近"AI自主攻擊的軍用系統對付 03/13 07:44

→ LoveSports 台灣與盟國我個人是會覺得很可怕 03/13 07:44

→ NANJO1569 所以Anthropic才主張有效的human in the loop，並認 03/13 07:47

→ NANJO1569 為現在的AI還沒有好的不會出錯，而化身為自動武器 03/13 07:47

→ NANJO1569 一旦出錯就會是致命的! 03/13 07:48

推 direct 說美國不可能的，那現在發生了，誰負責 03/13 07:54

→ water6 你不用別人也會用，a公司的問題是出自他是有什麼資 03/13 07:54

→ water6 格來評斷什麼是合法什麼是非法，民選嗎？就完全是 03/13 07:54

→ water6 公司高層的意志而已 03/13 07:54

→ jacknavarra 講到醫療都知道要去徵求第二意見判讀了，那麽攸關 03/13 08:01

→ jacknavarra 人命的軍事情報判讀有沒有徵求第二次意見判讀？還 03/13 08:01

→ jacknavarra 是說軍方就全然信任AI，一千多個目標就全部快速給 03/13 08:01

→ jacknavarra 過，人類不需要仔細的參與第二次判斷過程，能夠全 03/13 08:01

→ jacknavarra 然信任AI提供的判斷，這不危險嗎？人會出錯，每個 03/13 08:01

→ jacknavarra 環節都有可能會出錯，不用設定除錯檢查機制嗎？ 03/13 08:01

→ jacknavarra 執行長就是擔心這個環節問題而抗議，寧願被列入黑 03/13 08:03

→ jacknavarra 名單 03/13 08:03

推 LoveSports A公司可能是發現現行法律下能"接近"AI自主攻擊 03/13 08:08

→ LoveSports "依法行事"萬一出事了社會還是會檢視科學家的道德 03/13 08:10

噓 pikoto 忍不住 03/13 08:10

→ LoveSports 責任他們有能力比政府官員與百姓更超前看到問題 03/13 08:10

→ LoveSports 也有不揹鍋的權利戰爭部在這場戰開打後還在動監督 03/13 08:11

→ behappy0422 伊朗人民被政府殺完還要被所謂來拯救他們的外國炸 03/13 08:11

→ behappy0422 ，完全被雙巴，有夠慘 03/13 08:11

→ LoveSports 方面的人事喔 03/13 08:11

→ jjjj222 anthropic做不做任何事都是他的自由 03/13 08:13

→ jjjj222 在戰場上晚一秒出手的就是死, 白痴才在那邊講道德 03/13 08:14

→ jjjj222 拿醫療來比到底是在想啥, 你晚一秒醫病人就會死? 03/13 08:14

→ jjjj222 用點腦好不好 03/13 08:15

推 LoveSports 對平民顧慮不夠，現在沒有百姓要蜂起站出來了 03/13 08:19

噓 catboost 八卦支這都能扯 03/13 08:19

→ LoveSports 革命衛隊從第一天那小學被炸之後就拿來號召 03/13 08:19

→ LoveSports 昨天新領導人就職聲明也提到Minab的事情(小學所在) 03/13 08:19

→ LoveSports 說要為了Minab的人復仇 03/13 08:20

→ LoveSports 現在底層誰敢出來反抗就是背叛那些被殺的孩子 03/13 08:20

→ LoveSports 還有以美有在轟炸監獄喔被關的美國人受訪證言 03/13 08:20

→ catboost 沒有股點 03/13 08:20

→ LoveSports 之前那些上街抗議的也受傷菁英都在那裡面喔 03/13 08:21

→ LoveSports 不顧平民的下場就是現在這樣戰爭不知何時能收尾 03/13 08:21

→ LoveSports 連帶影響到股民QQ 03/13 08:21

推 laba5566 川粉大概無視川普強姦更多未成年ㄎㄎ 03/13 08:25

噓 pigpeachegg 某樓說伊朗殺自己人沒照片的就跟去新疆說沒看到集中 03/13 08:25

→ pigpeachegg 營一樣 03/13 08:25

推 jeff22aa22 電腦分析百分之78是A 百分之20是四百分之5是十 03/13 08:29

→ jeff22aa22 開張六給他讓他贏莊家100塊 03/13 08:29

→ qaz27966 human in loop是一件事，使用AI在戰事中，是另一件 03/13 08:33

→ qaz27966 事。我贊成human in loop，但你要AI不在戰事中基本 03/13 08:33

→ qaz27966 上是在把手腳綁起來等人家揍你 03/13 08:33

推 skying85 鷹眼演過了 03/13 08:34

推 LoveSports 使用AI的配套措施還有相關法律要改初期有些人會成 03/13 08:37

→ LoveSports 為犧牲品 03/13 08:37

→ LoveSports 希望這波不會燒太大換我們被軍用AI當成瞄準目標 03/13 08:39

推 ohlong 關鍵報告都是真der 03/13 08:40

推 jackgn 有些人就是愛槓，革命衛隊殺了幾萬人，然後有些人 03/13 08:48

→ jackgn 抓著幾百人猛打，不把革命衛隊清掉，以後還會死更多 03/13 08:48

→ pov 判AI死刑 03/13 09:12

推 gooddogleg 就是過時情報..是人一樣誤會炸下去啊 03/13 09:18

推 atpx 從商業來說沒錯、你無法保證100%正確的情況下、會 03/13 09:25

→ atpx 造成高度損失（人命），本來就要有另一層保護機制 03/13 09:25

→ atpx 。沒有那就不要做這筆、不然被告到倒 03/13 09:25

→ s800525 以戰果來說，AI還是超好用的 03/13 09:38

推 maniaque 根據實際的情況,就像企業把鍋甩給離職員工一樣 03/13 13:04

推 LoveSports 白宮在X上釋出宣傳影片把伊朗當電動打 03/13 13:10

→ LoveSports "講白點射飛彈變成在打電動，這是很嚴重的問題" 03/13 13:11

→ LoveSports 這句是我早上七點半在這裡回的 03/13 13:11

→ maniaque 用按鈕一案,殺了一堆人,會麻木的,就跟當打電動一樣 03/13 14:06

→ maniaque 就像當年按下按鈕,毒氣室就開始灌毒氣一樣 03/13 14:06