從ResNet的誕生講起:美公司在北京的AI研究所出了成果,中美究竟誰受益更多?:兩性共同心動

時間:2023-11-27 12:06:48 作者:兩性共同心動 熱度:兩性共同心動
兩性共同心動描述::從ResNet的誕生講起:美公司在北京的AI研究所出了成果,中美究竟誰受益更多? 大數據文摘出品 來源:macropolo 編譯:狗小白、Aileen 中美之間摩擦不斷,如今,AI競爭也成為了其中重要的組成部分。 讓我們假設這樣一個場景:美國AI公司設立在中國的實驗室取得了一些突破,誰從中受益更多? 五年前,這個問題也許根本不會出現,即使出現,答案也無外乎是:這是全球AI研究的共同成果。如今卻變了樣,機器學習領域大步發展,中國科技市場和相應的監管機制都有了相當大的發展革新,如今的AI競爭已經成了圍繞著中美關系的問題了。 對于美國科技公司的在華研究所,或者中國科技公司在美國的研究機構來說,這些變化意味著什么? 海外智庫Macropolo最新發布的一篇文章認為,對這一現象的研究對于中美關系以及相關科研成果都有重要作用。 讓我們跟隨這篇文章的作者,從一個特定的研究進展ResNet入手,仔細分析其中的觀點、機構和人員,并且記錄這些因素,或許可以更好地評價這些研究產生的效益的流向,以及政府政策和公司行為如何最有效地利用這個流向。 一起看看。 微軟亞研院北京小所里誕生的大突破:ResNet 先來看一篇近五年來在AI研究領域里被引用次數最多的論文:針對圖像捕捉的深度殘余學習(Deep Residual Learning for Image Recognition)。 據谷歌學術統計,這篇常被縮寫為ResNet的2015年的文章不僅是AI領域引用次數最多的,從2014年到2019年7月,它在任何學術領域里都是引用次數最多的一篇文章。 ResNet最重要的貢獻在于它的技術使一個神經網絡中堆疊多層成為可能,而這項技術是如今許多機器學習技術的引擎。堆疊多層(使他們更“深度”),應用于面部識別、自然語言處理、語音識別以及其他領域的神經網絡的性能有了重大提升。 這項技術非常成功,發表論文的研究團隊運用它摘得了2015年最有影響力的兩項全球圖像識別大賽桂冠。到2017年,這項技術作為最先進的技術之一運用在世界圍棋大賽上雙手互搏而大顯身手,也成就了標志性的深度學習系統——AlphaGo Zero。 ResNet是微軟亞洲研究所(MSRA),美國科技大佬的北京研究所里一個小研究團隊的產物。 MSRA成立于1998年,坐落于清華大學附近,這間不起眼的小研究所很快成為一個研究大戶,對學術研究和微軟的全球產品都作出了重大貢獻。 2004年,因其在機器學習領域,特別是自然語言處理、語音合成和圖像識別方面的研究突破,MIT科技評論稱之為“世界第一炫酷計算機研究所”。MSRA研究成果有些直接應用于Windows系統上的軟件革新,或是改進微軟Xbox圖像,以及極大地改進了類似于中文的基于字符型的語言輸入法。 然而與此同時,MSRA也在某種程度上成了過去20年內參與中國AI生態系統誕生和發展的最重要的機構。該研究所為中國胚胎期的AI生態系統培育了大量未來領軍人物,從中畢業的人員包括阿里巴巴阿里云之父王堅博士、百度總裁張亞勤、字節跳動的多位干將,以及其他一些AI獨角獸startup的創始人,以至于很多科技圈人士將其比喻成“AI圈黃埔軍校”。 人員:誰推動了技術的突破? 回到這篇ResNet的論文,署名有四位2015年在MSRA工作或實習的研究人員,按照國際出版物上名位于姓氏前的標識方式,分別為:Kaiming He, Xiangyu Zhang, Shaoqing Ren, and Jian Sun。 這四位作者均在中國獲得他們的學士學位和博士學位,目前也都在計算機視覺圈赫赫有名,除了Kaiming在中國香港拿下PhD學位之外,在發表ResNet之前,他們沒有一人在大陸之外生活或工作過。在ResNet之前和之后,這些作者們都在頂級刊會上那過最佳論文獎,并獲得過全球計算機視覺大賽上拿過第一名。 論文發表之后,四位作者后續都離開了MSRA。 首作何愷明(Kaiming He),也是團隊中知名度最高的一位,2016年加入了Facebook在加州的AI研究團隊;張祥雨(Xiangyu Zhang)和孫劍(Jian Sun)加入了曠視,孫劍如今是這家公司的首席科學家。任少卿(Shaoqing Ren)與MSRA的另外兩位畢業生,共同創建了總部在北京的自動駕駛初創公司Momenta,如今已成長成為一只獨角獸。 要澄清一下,ResNet被引用次數最多并不意味著它的四位作者是過去五年里最優秀或最重要的AI研究者。文獻被如此廣泛地引用的原因部分在于它給早前已有的方法加上了關鍵的一筆,使其在之后的工作里能夠相對簡便地復現結果。文獻背后地研究者們為AI領域做出了突出的貢獻,并且運用他們的能力繼續為中美企業努力工作。 誰獲益?誰失利? 回到我們最核心的問題:在類似于MSRA的機構里產生的研究成果,誰受益最多?上述詳情為我們提供了大量信息,但依然沒給出清晰的答案。 MSRA團隊的文章標志著整個AI領域的一個重大發展,即使其他領域的其他研究者最終會得出類似的發現,我們也不知道這一發現究竟會產生于何時。2015年后,全球的研究者開始運用ResNet技術于各種有害或有益的AI系統。 微軟自身也從該文獻中有所受益。撇開商譽等無形資產,只談有形資產,微軟在短時間內存在內部運用該技術的先手優勢,但研究團隊在2015年獲ImageNet競賽大獎后很快將ResNet論文在網絡上發表,之后該技術被各領域廣泛運用,其中也包括微軟的競爭對手。 對微軟來說,最顯著的受益在于該公司獲取研究人才能力的增強,雖然ResNet的作者們離開了MSRA,但他們當時的工作極大地提升了MSRA在新生代計算機科學畢業生中的信譽。 Facebook摘取了最好的果實,招納了ResNet的領銜作者;曠視招募兩名大將,獲益匪淺;中國的自動駕駛生態更是由于任少卿加入Momenta得到了極大的提升。 或被改寫的歷史以及可能的未來 任何對凈影響的優秀評估必須同時評估一些假設情況。 讓我們回到1998年,很明顯如果微軟從未設立MSRA,會極大地推遲中國AI生態系統的發展。 讓我們來假設一下,如果1998年的美國出于某些想法要求微軟,在2012年時關掉這個研究所。 當時,該文章的兩名作者(何愷明和孫劍)已經在該研究上合作三年了。很有可能兩位會因此轉去微軟在西雅圖附近的總部,并在那里發表論文。這種情境下,很可能孫劍就不會加入曠視,而是繼續在美國公司工作。 但也很有可能,兩位會出于對家鄉的感情留在一家中國研究機構繼續他們的工作。2013年,百度開設了深度學習研究所,也是中國第一家這樣的機構,對這些研究者來說這是一個潛在可選的工作地點。 那么,如果ResNet誕生于百度的深度學習研究所,或者某所中國大學研究所,這篇論文可能還是會公開,那么對整個人工智能或者計算機視覺生態來說,就又是另一個故事了。
站長聲明:以上關於【從ResNet的誕生講起:美公司在北京的AI研究所出了成果,中美究竟誰受益更多?-兩性共同心動】的內容是由各互聯網用戶貢獻並自行上傳的,我們新聞網站並不擁有所有權的故也不會承擔相關法律責任。如您發現具有涉嫌版權及其它版權的內容,歡迎發送至:1@qq.com 進行相關的舉報,本站人員會在2~3個工作日內親自聯繫您,一經查實我們將立刻刪除相關的涉嫌侵權內容。