自ChatGPT問世以來,大模型的開源與閉源一直是業(yè)界熱議的話題。在近期舉行的SIGGRAPH?2024大會上,NVIDIA首席執(zhí)行官黃仁勛與Meta首席執(zhí)行官馬克·扎克伯格探討了開源模型的變革潛力。
合作是進步的關鍵
美國當?shù)貢r間7月23日,Meta正式發(fā)布最新的開源大模型Llama?3.1,提供8B、70B和405B三個參數(shù)版本,最大上下文提升到了128k。根據(jù)評測結果顯示,Llama?3.1追平甚至超越了GPT-4o、Claude?3.5?Sonnet等頂尖閉源大模型。
扎克伯格認為,合作是取得更多進步的關鍵。他在一篇博客文章中寫道,Llama?3.1有望成為采用開源AI的“轉折點”。據(jù)他介紹,Meta在開源方面的起步相對較晚。當Meta開始著手構建分布式計算基礎設施和數(shù)據(jù)中心時,已有其他科技公司涉足該領域,所以這并不能構成Meta的競爭優(yōu)勢。
鑒于此,Meta決定直接進行開源,并從圍繞其建立的生態(tài)系統(tǒng)中受益,其中最大的項目應該是開放計算。Meta公開了服務器、網(wǎng)絡和數(shù)據(jù)中心的設計,這些設計在成為行業(yè)標準后,所有的供應鏈基本上都按Meta的標準進行運作。因此,實際上開源為Meta節(jié)省了數(shù)十億美元。
開源將帶來不可估量的價值
在探討開源策略時,扎克伯格強調,Meta的產(chǎn)品面臨著一個現(xiàn)實,即通過競爭對手的移動平臺來分發(fā)自己的應用程序。在智能手機操作系統(tǒng)的競爭中,蘋果憑借其封閉的生態(tài)系統(tǒng)占據(jù)了市場的主導地位,游戲規(guī)則都是蘋果說了算。盡管Android手機在數(shù)量上占優(yōu)勢,但蘋果實質上控制了整個市場和大部分利潤,而Android則處于追隨地位。然而,回顧PC時代,盡管微軟并非完全開放的公司,但與蘋果相比,Windows系統(tǒng)能夠在各種OEM、不同的軟件和硬件上運行,構成了一個更為開放的生態(tài)系統(tǒng),并成為領先的生態(tài)系統(tǒng)。在PC時代,開放的生態(tài)系統(tǒng)占據(jù)主導地位。
因此,扎克伯格希望在下一代計算中,開放的生態(tài)系統(tǒng)能夠再次回歸并成為主導趨勢。“開源和閉源兩種模式各有其優(yōu)勢,我并不是非常狂熱的開源主義者,也并非所有Meta的產(chǎn)品都開源。然而,對于整個行業(yè)共同構建的計算平臺而言,開源具有重要意義?!痹瞬駡孕?,開源終將獲勝。
黃仁勛對此表示贊同,他認為,開源是一項偉大的事業(yè),世界上最杰出的人才致力于打造最好的人工智能系統(tǒng),并將其作為服務無私地提供給全世界。同時,開源還賦予了個人或組織構建自己的人工智能系統(tǒng)的能力?!熬拖裎也粫约鹤鑫疑砩线@件皮衣,而是買別人做的成品,這種服務的價值不可估量。”黃仁勛說道。
實際上,開源軟件的建設并非單憑一人或一家公司之力所能完成,它依賴于一個完整的生態(tài)系統(tǒng)作為支撐,本質上就需要開放和協(xié)作。黃仁勛以Pytorch生態(tài)系統(tǒng)為例,指出NVIDIA有數(shù)百名專業(yè)人員全心投入,致力于讓?Pytorch不斷進步,變得更強大、更可擴展、更高效。
寫在最后:
開源的重要性不言而喻。通過開源,企業(yè)和開發(fā)者可以共享他們的研究成果,加速技術迭代,并且降低進入門檻,讓更多的人可以參與到大模型的開發(fā)中來。在未來,我們有理由相信,開源將繼續(xù)在大模型領域發(fā)揮更加重要的作用。