話說現在有人開始想要對抗AI了
對抗的方式是什麼?不是打砸機器，而是投毒
https://www.bnext.com.tw/article/84742/anthropic-data-poisoning
資料中毒攻擊是什麼？Anthropic研究揭：只要250份惡意文件，就能讓AI模型胡言亂語
當然你也可以透過審查把有毒資料剃除，但成本就增加了
在不久的未來，大概還會有用AI來對其他AI投毒的互捅大戰
這就是使用網路資料來訓練AI的必然缺點
https://youtu.be/rv9vhv8AGuc?si=5YtIJVTwOiu1bYtK
圖靈獎得主對現在的大語言模型的批評
現在知名的AI是從網路上學了一堆文字，然後學習要怎麼回答比較符合你的期待
至於現實是什麼模樣，他一無所知
圖靈獎得主認為AI學習的出發點應該是現實世界
先去觸碰 去觀察現實世界
就像一個幼兒，先去認識什麼是蘋果，然後才從與人的溝通中理解蘋果叫APPLE
--
“Two dribble shot, three dribble shot, four or five dribble shot, 10 dribble
shot. 24 second shot clock shot. No dribble shot. Shoot when I want to shoot
shot. He has every shot. Kobe is amazing.”
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.192.217.220 (臺灣)
※ 文章網址: https://webptt.cc/bbs/C_Chat/M.1776824774.A.239.html
推文 (14)
推
uranus013
我懂了 首先準備250張蘿莉巨乳圖
04/22 10:31
→
Nitricacid
現代人都該學防衛性編程
04/22 10:32
推
jupto
我記得語言模型第一件事就是把名詞跟一個向量參數做對應 這
04/22 10:33
→
jupto
個向來就是機械對於那東西的認知了吧
04/22 10:33
→
bheegrl
AI還有很長的路要走啊，人類不用惡意文件就能胡言亂語了
04/22 10:35
推
MARVELHERO
搞不好這反而加速AI發展
04/22 10:36
推
h0103661
別鬧了，網路上100份文章大概80份是垃圾還不是訓練出來
04/22 10:39
→
h0103661
了，投毒有什麼意義==
04/22 10:39
→
StillAtNight
同意樓上 網路上的垃圾文已經夠多了並沒有影響到AI
04/22 10:41
→
error405
現在已經有部分是轉向小參數精煉數據去做訓練了
04/22 10:45
→
error405
甚至是AI模擬出數據給AI訓練
04/22 10:46
推
zeolas
所以即使大模型好用，還是要定時更新自己的小模型庫
04/22 11:09
推
holybless
兩津病毒 ai都變成不良中年
04/22 11:49
→
peterturtle
圖靈獎得主說的沒錯，但便宜治百病 XD
04/22 17:11