国产特级毛片AAAAAA_国内大量揄拍人妻精品視頻_japanese@hd熟女_日本人与黑人VIDEOS系列

歡迎您訪問杏彩體育官方網站!
服務熱線:020-13658441256
  • 產品
  • 文章

NEWS CENTER

新聞中心

當前位置:首頁 > 產品中心

【杏彩彩票平臺注冊地址】Llama 3拿下“賽點”?大模型角力場,開源與閉源之爭仍在繼續 |大模界

來源:杏彩體育  更新時間:2024-04-24 06:59:17


每(mei)經(jing)記者(zhe) 可楊(yang)    每(mei)經(jing)編輯 董(dong)興生    

開源與(yu)閉源之爭延(yan)續到大模型時代。賽(sai)點在尋找“新大陸”的模型路上,開源與(yu)閉源的角力繼續界(jie)辯(bian)論,就像是場(chang)開一場(chang)關于AI未來(lai)的“航海策(ce)略”討論。

開源一派認為,源閉源開源能夠促進全球科研人員和開發者的爭仍杏彩彩票平臺注冊地址協作,加速AI技(ji)術(shu)的大模迭代(dai)與創新。同(tong)時(shi),賽點開源讓更(geng)多人(ren)參與到模型(xing)的模型(xing)改進和優化中,通過集體(ti)智慧(hui)解決復雜的角(jiao)力(li)繼續界技(ji)術(shu)難題。

閉源(yuan)的(de)場開倡導者則看重(zhong)其(qi)(qi)在商業(ye)(ye)化、技術保護和產品(pin)差異化方面的(de)源(yuan)閉源(yuan)優(you)(you)勢(shi)。閉源(yuan)模(mo)型使得企(qi)業(ye)(ye)能(neng)夠控制產品(pin)的(de)爭仍開發節奏和市場策略(lve),保護其(qi)(qi)商業(ye)(ye)利益。大模(mo)此外,賽點閉源(yuan)也(ye)有助于企(qi)業(ye)(ye)維護其(qi)(qi)技術優(you)(you)勢(shi),避免競爭對手模(mo)仿或(huo)超越。

Llama 3的發布(bu)讓(rang)開源(yuan)大模(mo)型在與閉源(yuan)的競爭中(zhong)再度“扳回(hui)一城”。從測試(shi)結果來看,Llama 3的成績大幅超越了(le)Llama 2,也勝過了(le)GPT-3.5。

在AI這場沒有硝煙的“航海競賽”中,大模型已然成為眼前的燈塔,未知的杏彩旗下平臺是,這座燈塔究竟是向所有航海(hai)者開放其光芒,還是僅(jin)為特定的船只(zhi)照亮(liang)前(qian)行的航道。

Meta繼續押寶開源

Meta正沿著開源路徑繼續前進(jin)。

近日,Meta推出(chu)開(kai)源(yuan)大(da)模型Llama 3系列,發布8B和70B兩個版本。Meta CEO扎克伯格(ge)在同一天宣布,基(ji)于(yu)Llama 3,Meta的AI助手現在已經覆(fu)蓋Instagram、WhatsApp、Facebook等全系應用,并單(dan)獨開(kai)啟了網(wang)站。

與Llama 2相比,Llama 3進行了幾項關鍵的改進:使用具128K token詞(ci)匯表(biao)的tokenizer,可以更有效(xiao)地編碼(ma)語言(yan),從而顯著提升模(mo)型(xing)(xing)性能;在8B和70B模(mo)型(xing)(xing)中都(dou)采用分組查詢注意(yi)力(GQA),以提高(gao)Llama 3模(mo)型(xing)(xing)的推理效(xiao)率(lv);在8192個token的序列上(shang)訓練模(mo)型(xing)(xing),使用掩碼(ma)來確保自注意(yi)力不會(hui)跨越文檔邊界。

據Meta介紹,Llama 3已經(jing)在多(duo)種行業基準測試上展現了最(zui)先進(jin)的性能(neng),提供(gong)了包(bao)括改進(jin)的推理能(neng)力在內(nei)的新功能(neng),是目前市場(chang)上最(zui)好的開源大模(mo)型。

此外,杏彩旗下平臺推薦Llama 3發布后,微(wei)軟Azure、谷歌云、百(bai)度(du)智能云等(deng)陸(lu)續宣布其平臺(tai)上線Llama 3。百(bai)度(du)方面此前對(dui)《每(mei)日(ri)經濟新聞》記者表(biao)示,百(bai)度(du)智能云千帆大模(mo)型平臺(tai)在國內(nei)首家推(tui)出針對(dui)Llama3全(quan)系列(lie)版(ban)本的訓練推(tui)理方案,便于開發者進行再訓練,搭建專屬大模(mo)型。

工(gong)業和(he)信(xin)息化(hua)部工(gong)業文化(hua)發展(zhan)中心AI應(ying)用(yong)(yong)工(gong)作(zuo)組執(zhi)行組長(chang)、行行AI董事長(chang)李明順在(zai)接受《每日(ri)經濟新聞》記者采訪(fang)時表(biao)示(shi),Meta的Llama3的發布可能會帶來更(geng)多(duo)AI應(ying)用(yong)(yong)落地機會和(he)場景,它通過提(ti)供更(geng)大詞匯量的Token詞典、更(geng)長(chang)的輸入上(shang)下文長(chang)度以及優化(hua)的模型結(jie)構,增強(qiang)了模型的編碼效率(lv)和(he)推(tui)理效率(lv)。“現在(zai),比起Llama 2,Llama3在(zai)代碼能力和(he)邏輯推(tui)理能力上(shang)有顯著提(ti)升,這(zhe)可能會促進相關AI應(ying)用(yong)(yong)的性能,尤其是在(zai)需要復雜邏輯和(he)代碼理解的場景中去落地。”

OpenAI在GPT-2之后(hou)調(diao)轉船(chuan)頭走向閉源(yuan),Meta則成為開(kai)源(yuan)界的引(yin)領者(zhe)。

圖片來(lai)源(yuan):視覺中(zhong)國-VCG31N2008743681

從2020年(nian)發布(bu)GPT-3,到引發轟(hong)動的GPT-3.5,以及2023年(nian)3月發布(bu)的GPT-4,都是(shi)閉源模型。此前,馬斯(si)克起(qi)訴OpenAI時曾直言:“如果(guo)OpenAI改名(ming)為ClosedAI,我(wo)就撤(che)銷訴訟(song)。”

李明順認為,OpenAI的轉(zhuan)變(bian)可(ke)能與(yu)其商(shang)業戰略和(he)(he)市場定位(wei)有關(guan)。“初期(qi)開源(yuan)(yuan)有助于快(kuai)速吸引關(guan)注和(he)(he)社區參與(yu),但隨著(zhu)公司(si)的發展,我估(gu)計奧特曼(man)的野心(xin)和(he)(he)商(shang)業夢想越(yue)來越(yue)膨脹了(le),閉(bi)源(yuan)(yuan)可(ke)以更好地讓(rang)它融資,包括和(he)(he)微(wei)軟的合作,保護領先的技(ji)術優勢。”他表(biao)示,從(cong)OpenAI的轉(zhuan)變(bian)中也可(ke)以看出(chu),開源(yuan)(yuan)與(yu)閉(bi)源(yuan)(yuan)的選(xuan)擇并非固(gu)定不變(bian),而是需要根據公司(si)戰略目標(biao)、市場環境和(he)(he)產品(pin)發展階段靈活調整。“天(tian)下沒什么事情是絕對的,很(hen)多開源(yuan)(yuan)公司(si)也是拿著(zhu)次優代(dai)碼開源(yuan)(yuan),獨(du)家秘方(fang)閉(bi)源(yuan)(yuan)。”

在追逐(zhu)AGI(人工通用智能)這(zhe)顆明珠的道(dao)路上,迄(qi)今為止,Meta依舊持續沿著開源的路徑前行(xing)。

2024年(nian)初,扎(zha)克伯(bo)格在(zai)Meta第四季度及2023全年(nian)財報(bao)電話會(hui)議(yi)上表示(shi):“長期(qi)以來,我們的策略是構建并開放源代碼通用基礎設施,同時保留我們的具體產品實現(xian)為專(zhuan)有技術(shu)。”

他認為(wei),開(kai)(kai)(kai)源帶(dai)來了(le)幾個戰略好處。首先,開(kai)(kai)(kai)源軟件(jian)通常更加安(an)全可靠,并(bing)且因為(wei)社區(qu)的持續反饋、審查和開(kai)(kai)(kai)發,更加高效。其次,開(kai)(kai)(kai)源軟件(jian)經(jing)常成(cheng)為(wei)行(xing)業(ye)標準,“當企(qi)業(ye)開(kai)(kai)(kai)始(shi)基于(yu)我(wo)們的技術棧建立標準時,這使得(de)將新創新融入我(wo)們的產品變得(de)更加容(rong)易。這種微妙的優(you)勢(shi),能(neng)夠迅(xun)速(su)學習和改進,是巨大的競爭優(you)勢(shi),而成(cheng)為(wei)行(xing)業(ye)標準正是這一能(neng)力的關鍵”。第三(san),開(kai)(kai)(kai)源在開(kai)(kai)(kai)發者(zhe)和研究(jiu)人員中極(ji)受(shou)歡迎。

開源與閉源并不矛盾

開源(yuan)還是閉源(yuan),也許是全球人工智(zhi)能信徒(tu)長久的辯(bian)(bian)題。在Llama 3誕生前幾天,國內同樣在進(jin)行一場“辯(bian)(bian)論(lun)”。

4月(yue)11日,百(bai)度董事(shi)長兼(jian)首席執行(xing)官李(li)彥宏在其內部講話中直言,大(da)(da)(da)模(mo)型(xing)開(kai)(kai)(kai)(kai)源(yuan)的(de)(de)(de)意義不大(da)(da)(da),閉源(yuan)模(mo)型(xing)在能(neng)力上(shang)會持續領(ling)先(xian),而不是一(yi)時領(ling)先(xian),做(zuo)(zuo)模(mo)型(xing)的(de)(de)(de)創業(ye)公司既做(zuo)(zuo)模(mo)型(xing)又做(zuo)(zuo)應用(yong)的(de)(de)(de)“雙輪驅動”不是一(yi)個好(hao)的(de)(de)(de)模(mo)式(shi)。在一(yi)周后的(de)(de)(de)Create 2024百(bai)度AI開(kai)(kai)(kai)(kai)發者大(da)(da)(da)會上(shang),李(li)彥宏再度提到,“大(da)(da)(da)家以前用(yong)開(kai)(kai)(kai)(kai)源(yuan)覺(jue)得開(kai)(kai)(kai)(kai)源(yuan)便宜(yi),其實(shi)在大(da)(da)(da)模(mo)型(xing)場景下,開(kai)(kai)(kai)(kai)源(yuan)是最貴的(de)(de)(de),所以開(kai)(kai)(kai)(kai)源(yuan)模(mo)型(xing)會越來越落后”。

圖片來源:企業供圖

360公司創始人周鴻祎則持不同的觀(guan)點。“網上有(you)些名(ming)人胡說(shuo)(shuo)八道,大家也別被他們忽悠,說(shuo)(shuo)開(kai)源(yuan)(yuan)不如閉源(yuan)(yuan)好。一(yi)句話,今天沒(mei)有(you)開(kai)源(yuan)(yuan)就沒(mei)有(you)Linux(

操作(zuo)系統內核),沒(mei)有(you)Linux就沒(mei)有(you)互聯網,就連說(shuo)這話的(de)公司自己都借助了開(kai)源的(de)力量(liang)才(cai)成長到今天。”

這段發言被解讀為(wei)對(dui)李(li)(li)彥宏(hong)(hong)觀點的回懟,周鴻祎(yi)隨后澄清道:“我(wo)一(yi)直是(shi)(shi)開(kai)源(yuan)的信徒,但是(shi)(shi)我(wo)說開(kai)源(yuan)好(hao),是(shi)(shi)(4月)13號在哈佛講的,李(li)(li)廠(chang)長(指(zhi)李(li)(li)彥宏(hong)(hong))說閉源(yuan)好(hao),是(shi)(shi)(4月)16號在北京講的。”

生(sheng)(sheng)(sheng)數科技(ji)聯合(he)創始人(ren)兼(jian)CEO唐(tang)家(jia)渝站在(zai)閉源(yuan)(yuan)(yuan)的(de)(de)一邊(bian)。在(zai)4月18日(ri)舉行的(de)(de)“2024中國生(sheng)(sheng)(sheng)成式AI大會(hui)”上,唐(tang)家(jia)渝談到,開(kai)(kai)源(yuan)(yuan)(yuan)帶來(lai)的(de)(de)最(zui)大價(jia)(jia)值(zhi)是生(sheng)(sheng)(sheng)態(tai)的(de)(de)價(jia)(jia)值(zhi),基(ji)于技(ji)術不斷突破(po),開(kai)(kai)源(yuan)(yuan)(yuan)界人(ren)人(ren)都(dou)(dou)可(ke)以去(qu)貢獻力(li)量。而大模(mo)(mo)型需要大規(gui)模(mo)(mo)數據、大規(gui)模(mo)(mo)的(de)(de)算力(li)去(qu)訓(xun)練、迭代,參數量越(yue)大效果越(yue)好(hao),是偏中心化的(de)(de)事情。“原(yuan)來(lai)開(kai)(kai)源(yuan)(yuan)(yuan)界非常有益的(de)(de)模(mo)(mo)式到這里割裂了。在(zai)我(wo)們看來(lai),開(kai)(kai)源(yuan)(yuan)(yuan)、閉源(yuan)(yuan)(yuan)商業生(sheng)(sheng)(sheng)態(tai)上都(dou)(dou)有各(ge)自可(ke)以做的(de)(de)商業生(sheng)(sheng)(sheng)態(tai),但(dan)是從(cong)模(mo)(mo)型能力(li)的(de)(de)提升來(lai)說,或者持續走到前列來(lai)說,閉源(yuan)(yuan)(yuan)還是會(hui)走到開(kai)(kai)源(yuan)(yuan)(yuan)的(de)(de)前面(mian)。”

昆侖萬維董(dong)事(shi)長方(fang)漢(han)的觀點(dian)是,開(kai)源(yuan)模(mo)型(xing)(xing)與(yu)閉(bi)源(yuan)模(mo)型(xing)(xing)之間的差(cha)距(ju)正在(zai)(zai)不斷縮(suo)小(xiao)。4月16日,方(fang)漢(han)在(zai)(zai)接(jie)受《每日經濟(ji)新聞》記(ji)者在(zai)(zai)內的媒體采(cai)訪(fang)時表示:“閉(bi)源(yuan)模(mo)型(xing)(xing)的確(que)(是)第一,但是開(kai)源(yuan)大(da)模(mo)型(xing)(xing)的接(jie)近程度在(zai)(zai)2023年到(dao)今年這一年間,從落后(hou)兩年以上(shang),已(yi)經進化到(dao)落后(hou)4—6個月以上(shang)。”

此外,方漢認為,在應用側,閉源對于(yu)產品特性和(he)長(chang)尾需(xu)求的(de)滿(man)足(zu)(zu)都落后于(yu)開(kai)源大模(mo)型(xing),開(kai)源大模(mo)型(xing)是(shi)一種(zhong)生(sheng)(sheng)態構建器,更(geng)利于(yu)滿(man)足(zu)(zu)用戶的(de)長(chang)尾需(xu)求。“我個人(ren)認為開(kai)源大模(mo)型(xing)和(he)商業大模(mo)型(xing)是(shi)一個生(sheng)(sheng)態的(de)組成部分,不是(shi)誰(shui)壓倒誰(shui),大家都有(you)(you)自己(ji)的(de)生(sheng)(sheng)存空間,也都有(you)(you)更(geng)好的(de)明天。”

不過,從商業(ye)化上(shang)來講,閉源(yuan)(yuan)和開(kai)源(yuan)(yuan)也(ye)許(xu)并不矛盾。啟明創投合伙人周志峰就認(ren)為(wei),“開(kai)源(yuan)(yuan)閉源(yuan)(yuan)在(zai)過去幾個大浪潮當(dang)中沒有很(hen)大的(de)沖突,我不太理解為(wei)什么很(hen)多人愿意把(ba)閉源(yuan)(yuan)、開(kai)源(yuan)(yuan)在(zai)AI時代看成對立(li)”。但(dan)他(ta)也(ye)提到,從技術角(jiao)度,開(kai)源(yuan)(yuan)模(mo)型及背(bei)后(hou)的(de)公司更容易(yi)統一資源(yuan)(yuan)訓練(lian)出符合“Scaling Laws”的(de)模(mo)型。

李明(ming)順的觀點則是,在(zai)當(dang)前強應用(yong)(yong)導(dao)向的背(bei)景下,開(kai)源(yuan)(yuan)(yuan)(yuan)模式具有顯著(zhu)優勢,能夠吸引全球范(fan)圍(wei)內最廣泛的人參與(yu),從而使其(qi)創新性保持在(zai)較(jiao)高(gao)水平(ping)。相(xiang)較(jiao)之下,盡管一些(xie)閉源(yuan)(yuan)(yuan)(yuan)大型(xing)模型(xing)在(zai)技(ji)術(shu)上具有領先地位,但(dan)其(qi)成本(ben)太(tai)高(gao)。不過(guo)他也強調,開(kai)源(yuan)(yuan)(yuan)(yuan)與(yu)閉源(yuan)(yuan)(yuan)(yuan)在(zai)不同公(gong)司和應用(yong)(yong)場景中可(ke)以相(xiang)互轉換(huan)。一些(xie)基于開(kai)源(yuan)(yuan)(yuan)(yuan)的產品在(zai)發掘到獨特優勢后,可(ke)能會(hui)通(tong)過(guo)閉源(yuan)(yuan)(yuan)(yuan)策(ce)略建立競爭壁壘。同時(shi),一些(xie)閉源(yuan)(yuan)(yuan)(yuan)公(gong)司也會(hui)不斷將其(qi)部分產品開(kai)源(yuan)(yuan)(yuan)(yuan)。“這兩個應該都是共存的,未來開(kai)源(yuan)(yuan)(yuan)(yuan)可(ke)能用(yong)(yong)戶量級上更大,但(dan)是行(xing)業內,商(shang)業化做(zuo)得(de)比較(jiao)好的公(gong)司,往(wang)(wang)往(wang)(wang)還是閉源(yuan)(yuan)(yuan)(yuan)的多一點。”

在開源與閉(bi)(bi)源的(de)(de)辯(bian)論中,也(ye)許答案并非(fei)非(fei)此(ci)即彼。AI的(de)(de)未來可能既不(bu)(bu)是(shi)完全開放的(de)(de)“自(zi)由(you)港”,也(ye)不(bu)(bu)是(shi)徹底(di)封(feng)閉(bi)(bi)的(de)(de)“孤島”,而是(shi)一(yi)個既包含(han)開放協(xie)作也(ye)包含(han)封(feng)閉(bi)(bi)競爭的(de)(de)“混合生(sheng)態(tai)”。在這個生(sheng)態(tai)系(xi)統中,開放與封(feng)閉(bi)(bi)不(bu)(bu)是(shi)對立的(de)(de)兩極,而是(shi)一(yi)枚(mei)硬幣的(de)(de)兩面(mian)。

 


相關文章