史丹福大學AI團隊抄襲中國大模型 曝光後全網刪庫 終道歉收場 https://bit.ly/4c6lYd0 網傳史丹佛大學AI團隊抄襲、「套殼」中國國産大模型成果，引起業界高度關注和熱議。目 前，涉事的史丹佛學生已公開正式道歉。 史丹福大學的一個研究團隊在5月29日發布Llama3-V項目，宣稱僅需500美元就能訓練出一個 SOTA（State of the Art，即最先進的）多模態大模型，效果比肩GPT-4V、Gemini Ultra、 Claude Opus等，但模型小100倍。 公開信息顯示，Llama3-V團隊的其中兩位作者 Siddharth Sharma 與 Aksh Garg 是史丹福 大學計算機系的本科生，曾發表過數篇機器學習相關的論文。 名校背景，特斯拉、SpaceX等大廠經歷的成員，再加上號稱足以「改變現狀」的研究成果， Llama3-V受到了相當程度的關注。Llama3-V不僅在社交媒體上迅速躥紅，還一度沖上了Hugg ingFace趨勢榜（機器學習領域中較有影響力的平台，其趨勢榜一定程度反映出模型的流行 度）的首頁。 然而，沒過幾天，一位網民發現，Llama3-V的模型結構和代碼與出自清華系明星創業公司面 壁智能的MiniCPM-Llama3-V 2.5幾乎一模一樣，只是變量名有所變化。 網民在面壁智能GitHub的項目下放出了證據。這些證據包括：Llama3-V的模型架構和代碼與 MiniCPM-Llama3-V 2.5幾乎完全相同，僅有一些變量名和格式化的差异；Llama3-V使用了Mi niCPM-Llama3-V 2.5的分詞器（tokenizer），並且連同MiniCPM-Llama3-V 2.5定義的特殊 符號也出現在了Llama3-V中；將從HuggingFace下載的Llama3-V模型權重中的變量名改成Min iCPM-Llama3-V 2.5的，模型可以用MiniCPM-V代碼成功運行。 網民為什麽不直接質疑Llama3-V，而是在面壁智能GitHub的項目下進行爆料？事實上，網民 此前於6月2日在Llama3-V頁面上提出的質疑，不過很快便被Llama3-V的作者已經删除了。 為此，提出質疑的網民被激怒暴走，跑到了 MiniCPM-V 的 Github 頁面進行事件還原，提 醒面壁智能團隊關注此事。 在MiniCPM-Llama3-V 2.5團隊收到提醒後也迅速作出反應，於是一個新的證據出現。 面壁智能的MiniCPM-Llama3-V 2.5項目具有獨特的功能，如識別清華簡——一種罕見的中國 古代文字。 公開資料顯示，清華簡是清華大學於2008年7月收藏的一批戰國竹簡，為戰國中晚期文物。M iniCPM-Llama3-V 2.5團隊透露，識別清華簡是MiniCPM-Llama3-V 2.5的一項實驗功能，訓 練圖像是最近從出土文物中掃描並由MiniCPM-Llama3-V 2.5團隊標注，且尚未公開發布。 Llama3-V模型居然也可以識別「清華簡」。兩個模型在識別的表現上，正確的結果上基本一 致，錯誤的情况也頗為相似。 鑒於這些結果，MiniCPM-Llama3-V 2.5團隊表示，很難用巧合來解釋這種不尋常的相似性， 希望Llama3-V的作者能够對這個問題給出官方解釋。相信這對開源社區的共同利益很重要。 當網民拋出三大事實質疑後，Llama3-V的做法是——不回應直接删除網民評論。 目前，Llama3-V 的 GitHub 項目主頁已顯示為「404」，HuggingFace上Llama3-V項目也已 經不可見，在作者社交媒體賬號上也找不到此前宣傳 Llama3-V 的內容。 6月3日，Llama3-V團隊成員Aksh Garg在社交媒體上發文回應了質疑。但隨後不久這條回應 便被删除。 Llama3-V在未公開的實驗性特徵上與MiniCPM-Llama3-V 2.5表現出高度相似的行為，這些特 徵是根據MiniCPM-Llama3-V 2.5團隊內部數據訓練的。 面對抄襲的質疑，史丹福團隊最初辯稱，他們的工作早於面壁智能的MiniCPM，只是使用了 他們的tokenizer。 另據媒體消息，面壁智能聯合創始人兼CEO李大海在朋友圈回應說「深表遺憾」，這也是一 種「受到國際團隊認可的方式」，並呼籲大家共建開放、合作、有信任的社區環境。 面壁智能首席科學家、清華大學長聘副教授劉知遠表示，人工智能的飛速發展離不開全球算 法、數據與模型的開源共享，讓人們始終可以站在SOTA的肩上持續前進。面壁開源的MiniCP M-Llama3-V 2.5 就用了最新的Llama3作為語言模型基座。而開源共享的基石是對開源協議 的遵守，對其他貢獻者的信任，對前人成果的尊重和致敬，Llama3-V團隊無疑嚴重破壞了這 一點。他們在受到質疑後已在Huggingface删庫，該團隊三人中的兩位也只是史丹福大學本 科生，未來還有很長的路，如果知錯能改，善莫大焉。 北京面壁智能科技有限責任公司成立於2022年8月，今年4月，面壁智能完成新一輪數億元融 資，由華為哈勃領投，春華創投、北京市人工智能産業投資基金等跟投，知乎作為戰略股東 持續跟投支持。今年2月，面壁智能發布開源模型MiniCPM後，又推出MiniCPM 2系列端側模 型。李大海表示，推動大模型在端側的落地是面壁目前的重點工作之一。 據第一財經報道，在最新的進展中，史丹福Llama3-V團隊的兩位作者Siddharth Sharma和 A ksh Garg在社交平台上就這一學術不端行為向面壁MiniCPM團隊正式道歉，並表示會將Llama 3-V模型悉數撤下。 另外，史丹福人工智能實驗室主任Christopher David Manning也發文譴責這一抄襲行為， 並對MiniCPM這一中國開源模型表示贊揚。 Manning寫道，「怎能不為自己的錯誤買單！清華大學自然語言處理實驗室做出了很棒的開 源工作，有力推動科學發展。」 Manning還痛斥道：「所謂『真正做到之前，假裝你做到了』是矽谷的無耻産物。」Manning 引用的這句流行語「Fake it before you make it」，一度盛行於矽谷的初創圈和科技公司 ，被不少創業者奉為圭臬。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.204.25.200 (臺灣) ※ 文章網址: https://webptt.cc/bbs/Tech_Job/M.1717490752.A.100.html ※ 編輯: KotoriCute (123.204.25.200 臺灣), 06/04/2024 16:46:28 ※ Vanced:轉錄至看板 Gossiping 06/04 17:50