第445章 生成對抗網絡
第445章 生成對抗網絡
「不著急,伊恩。」
許青山笑著輕拍了一下桌子,讓伊恩從自己提出來的神經網絡世界裡回過神來。
「我說的只是最基礎的一個思路。」
伊恩求知若渴的眼神,讓許青山很受用,他朝著伊恩說道。
「你現在跟著約書亞學到了什麼進度了?可以獨立掌控一個項目了嗎?」
許青山坦然的問道,伊恩有些拘束的看向了自己的導師,約書亞抿了抿嘴,沉吟片刻。
「如果只是他自己一個人的話,那我想他還有很長的路要走,可如果他是跟著你學習的話,我覺得或許足夠了。」
約書亞並不是那種喜歡約束自己手裡的學生的導師。
伊恩對於許青山的崇拜,約書亞心中十分清楚,否則他也不會帶著他來到華夏。
目前來看,許青山似乎對於自己這個新收的學生很感興趣,那以他作為一個起點進行合作的話,或許會是個不錯的開始。
他還是太謹慎了,對於和許青山的合作,其實算得上是無路可走,起碼現在來說,和許青山合作是他最好的選擇。
「那好,伊恩,你的工位暫時就不在這裡了。」
許青山覺得自己多少有點惡趣味,當著人家導師的面子搶人家的學生。
只不過剛剛和伊恩的一陣交流,許青山發現了這個學生似乎在創造性思維上很有特點。
等自己檢驗一下,如果在算法能力上沒有問題的話,那這個年輕的學生想來會比約書亞更容易被留在華夏。
一張白紙總要比一本豐富的書籍要容易修改。
或許是約書亞有些太過於惆悵,會議室里稍微有些低氣壓,坐著聊了一會兒之後,許青山就告辭了。
總歸是要給他一點適應的時間畢竟約書亞這麼多年也是第一次離開加拿大,來到這陌生的東方大國生活。
按照之前的聊天,許青山很清楚,約書亞覺得他自己像個逃避的失敗者。
所以許青山乾脆帶著一臉懵懂的伊恩離開了科創園,把空間留給約書亞團隊,自己整理心情。
「伊恩怎麼不和我們一起?」
看著許青山帶著伊恩離開,團隊裡有學生問約書亞。
「先讓伊恩去試試水吧,看看許能給我們帶來什麼。」
約書亞一臉憂愁看著許青山離開的背影嘆了口氣。
「哦」
其他學生對於許青山沒有約約那麼狂熱,畢竟他們多少還是隔著一個領域的。
當然他們也不清楚這一次的告別代表著什麼。
等到一年後,他們再回顧這一場平常午後的告別,他們會悔不當初。
如果當時跟著許青山離開的那個人是自己的話,而不是疑問,那是不是來年和許青山一起站上領獎台的也是自己?
當然如果之後有人問許青山這個問題,許青山一定會告訴他並不是這樣的。
雖然許青山對於機器學習里的這部分領域有些感觸和想法,可他並不會太過於投入。
他的思維開拓是需要有人給他先拋出一個問題或者點子來任由他去延伸,而伊恩做到了這一點。
似乎在離開了團隊之後,和許青山單獨相處,伊恩就變成了社恐。
剛剛在約書亞面前他還能高談闊論那麼多,現在卻只敢跟著許青山走,連左顧右盼都不敢。
「找個地方坐吧,我陪你聊一聊。」
許青山帶著伊恩到了自己的辦公室里,他打算把伊恩丟給張珂去拉一拉,反正信息實驗室那邊的設備也適合做這種類型的實驗研究。
「好好的。」
伊恩有些拘謹的坐了下來,目不斜視的盯著自己面前的茶几。
「老闆,你叫我過來嗎?」
張珂從門外進來,敲了敲房門。
伊恩有些古怪地看著張珂,明明辦公室的門根本沒有關,為什麼要敲門呢?華夏人真奇怪,看不懂。
「對,珂哥,沒在忙吧?」
許青山笑著說道,他把自己之前就準備好的一份合同拿了出來,起身坐到了茶几旁,張珂也跟著坐了下來。
「還好,最近能做的事情也不是很多。」
張珂不用人說,自己就動手接過了茶盤的事情。
許青山團隊裡的人都知道許青山喜歡喝茶,整個團隊也被帶得有了喝茶的風氣,像張珂他們這樣的研究員一個個的現在泡茶都是好手。
倒也不是他們都喜歡拍馬屁,而是大家有時候坐下來聊研究的時候,許青山就喜歡在那邊擺弄茶具。
一次兩次的,可以是老大老闆給你泡的茶。
但不能每一次開小會的時候都讓老大勞累吧?
一來二去,你來我往,每個人也就練就了一手好茶藝。
「伊恩,你把你的想法和張珂說一下,我給你們捋一捋思路。」
許青山翻看著手裡的合同,示意伊恩先和張珂交流一下。
張珂對於自己的忠心,許青山現在沒有任何好懷疑的。
而且有了他的表態之後,許青山對於青山高等研究院後續的發展心中也更有了思路。
在這種時候,一個優秀的團隊領導人會安排甜頭,讓自己手裡的得力大將嘗一嘗。
像這一份生成對抗網絡的學術成果就是許青山為張珂準備的禮物。
「我大致是明白了,我之前做的東西和這方面不太接近,不過老大需要的話,我可以馬上去學,我感覺整體難度沒有那麼大。」
張珂誠懇地說道。
他很清楚,自己的經驗式工作完成的很好,可是在創造性的工作上有所欠缺。許青山現在給自己這個機會,就是為了讓自己能夠獲得一份創新性的成就。
在這張茶桌上只有三個人。
伊恩的設想如果能夠付諸實踐的話,那這樣的功勞就算是許青山占了大頭,他們剩下的兩人也能因此受益良多。
就像是跟在許青山屁股後面完成的孿生素數猜想的幾個學生。
王隗和薛雪情現在都還沒有畢業呢,就已經收到過來自世界各大名校的邀約。
都是來邀請他們去當帶有科研啟動資金承諾的8年制助理教授的。
別看只是小小的助理教授。
實際上在國際範圍里,各大名校的助理教授崗位都是香餑餑。
想要成為助理教授,首先要具備有相關的學歷和學術背景,通常都要求申請人擁有名校的博士學位,並且要有出色的相關領域研究經驗和成果。
在這樣的前提下,還需要尋找到適合自己的機構,適合自己的課題組,並且準備申請材料,包括簡歷、論文、經驗書、推薦信等等,一般頂尖名校會要求申請者擁有3到5篇發表在本學科頂級期刊的論文展示出持續的研究潛力。
做好準備之後才能提交申請,申請通過後收到面試邀請,還要去試講,面議,過五關斬六將,最後才有被錄取的可能。
像在美國的頂尖名校,一個職位通常會吸引超過200多名申請者,而這些申請者是來自全球範圍內各大頂尖名校的博士畢業生和博士後研究人員,但最終只有5到10個人能進入最終面試。
到了這裡還不算完,科研啟動資金也是極為關鍵的競爭點。
特別是理工科的助理教授,在正式進入聘用期後還需要自行籌措50~100萬美元的實驗室建設經費。
一般都是用自己在博士期間做出來的各種成果,去進行各種青年科學家獎項的申請,或者是拿著有時間落地可能性的成果去找企業投資,從而拿到經費。
而財政經費的多少會直接影響到學校的續聘決策。
哪怕是在世界頂級名校里新聘的助理教授也常有三四成的人會面臨著研究經費不足的困境,從而失去了續聘資格。
像小王和小薛這樣的,就代表著他們未來十幾年的時間裡都不用擔心自己會失業。
大不了就去世界名校當個十幾年的助理教授,刷完資歷,當不下去了,再跑回來國內,穩穩的長聘副教授沒得跑。
就連只是在部分成果後面掛個名字的江浣溪,現在本科學業都還沒有結束,就經常收到各大名校的讀博邀請。
這就是一項世界級成果能夠帶來的好處。
而現在許青山擺明了就是要把這項成果給他和伊恩平分。
伊恩還好說,這個成果的源頭畢竟也算是伊恩的想法帶來的。
自己就完完全全是許青山塞進來分成果的。
要知道自己之前做的研究領域,可完全不是這方面。
所以張珂心裡很有數,他不會拒絕許青山給自己發的獎勵,他只會讓自己更加的忠於許青山。
大家都是成年人,有些事情不必放在嘴上。
張珂很是積極的和伊恩請教著關於這方面的各種細節,還有自己回去之後應該去看一看哪些專著或者是論文來增加自己在這方面的理解。
伊恩也稍微有一些惶恐,雖然黃種人顯年輕,但眼前這一位年紀,可以算得上是他叔叔的研究員這麼謙遜的跟他請教著各種問題,還是讓伊恩有些緊張。
好在,大家都是學計算機的,張珂深厚的功底和算法能力很快就得到了伊恩的推崇和認可。
兩人雖然差了十幾歲,但談起來卻十分融洽。
「很好,你們現在已經完成了基本的交流,我大致的講一下整體的流程和思路。」
許青山拍了拍手。
兩人也看向了他。
「我把這樣的深度學習框架命名為生成對抗網絡,Generative Adversarial Networks,你們也可以直接簡稱GANs。」
「基本原理,剛剛伊恩也已經和你交流好了。現在我簡單說一下訓練策略和優化方法。」
許青山剛一開口,伊恩就瞪大了雙眼,看了看張珂,又看了看許青山。
「Amazing!許!你簡直就是我心目中的學術上帝!」
或許是不再單獨相處,有第三個人的加入,伊恩稍微恢復了一些之前的那種社交牛雜狀態,用誇張的語氣說道。
「你不會要告訴我,剛剛我們在交流的時候,你坐在這裡喝著這個茶,腦袋裡就已經構想好了整個實驗的流程?」
哪怕在加拿大的時候聽過了許青山各種各樣傳奇的事情,也收集了不少許青山在媒體上公開的證明現場視頻。
可當許青山的神奇作用在了自己擅長的領域時,伊恩還是難免抑制不住心頭的激動和振奮。
「也許吧?」
雖然許青山有很多的迷弟,可是像伊恩這樣狂熱和勇於喜歡表達的也不算特別特別多。
許青山忍不住小裝了一下,淡定的拿起茶杯,抿了一口茶,繼續說道。
「GAN的訓練是一個非常典型的非合作雙玩家博弈的過程,雙玩家博弈也意味著正常,要以交替訓練的方式來進行,珂哥對於博弈論應該也有一定的了解和掌握吧?」
「嗯,學得應該還算挺紮實的。」
張珂點了點頭,又補充道。
「之前我們在突破黎曼猜想的時候,第六部分有涉及到博弈和拓撲的應用。」
「很好。」
許青山頷首道。
「思路很簡單,你們在制定訓練策略的時候主要注意兩點就行,第一是交替更新,控制變量,要先固定好生成器,指訓練辨別器,讓其能更好地區分真假樣本,然後再固定辨別器,去訓練生成器生成更逼真擬真的樣本。」
「在這個基礎上設計好損失函數,保證好概率最大化原則。」
「也就是生成器的損失函數通常要讓辨別器認為生成樣本是真實的概率最大。化而辨別器的損失函數則是讓其正確分類的概率最大化。」
伊恩搶答道。
「bingo,確定極限。」
許青山打了個響指。
「這是最基礎的路線,剩下的就是優化方法,你們要做好平衡訓練、保持生成器和辨別器的能力平衡發展,不會因為失衡而導致生辯失效。」
「維持平衡的時候可以用上各種正則化技術,例如標籤平滑。」
「其他的你們可以自己考慮一下,拿不定的找我,ok?」
許青山朝著伊恩和張珂挑了挑眉。
「沒問題,你這就差把飯餵到我們胃裡來了。」
張珂擺了擺手,滿臉燦爛。
許青山這和把一份榮譽直接戴在自己頭上有什麼區別?
「我,我也沒問題!」
伊恩舉起手來。
(本章完)
「不著急,伊恩。」
許青山笑著輕拍了一下桌子,讓伊恩從自己提出來的神經網絡世界裡回過神來。
「我說的只是最基礎的一個思路。」
伊恩求知若渴的眼神,讓許青山很受用,他朝著伊恩說道。
「你現在跟著約書亞學到了什麼進度了?可以獨立掌控一個項目了嗎?」
許青山坦然的問道,伊恩有些拘束的看向了自己的導師,約書亞抿了抿嘴,沉吟片刻。
「如果只是他自己一個人的話,那我想他還有很長的路要走,可如果他是跟著你學習的話,我覺得或許足夠了。」
約書亞並不是那種喜歡約束自己手裡的學生的導師。
伊恩對於許青山的崇拜,約書亞心中十分清楚,否則他也不會帶著他來到華夏。
目前來看,許青山似乎對於自己這個新收的學生很感興趣,那以他作為一個起點進行合作的話,或許會是個不錯的開始。
他還是太謹慎了,對於和許青山的合作,其實算得上是無路可走,起碼現在來說,和許青山合作是他最好的選擇。
「那好,伊恩,你的工位暫時就不在這裡了。」
許青山覺得自己多少有點惡趣味,當著人家導師的面子搶人家的學生。
只不過剛剛和伊恩的一陣交流,許青山發現了這個學生似乎在創造性思維上很有特點。
等自己檢驗一下,如果在算法能力上沒有問題的話,那這個年輕的學生想來會比約書亞更容易被留在華夏。
一張白紙總要比一本豐富的書籍要容易修改。
或許是約書亞有些太過於惆悵,會議室里稍微有些低氣壓,坐著聊了一會兒之後,許青山就告辭了。
總歸是要給他一點適應的時間畢竟約書亞這麼多年也是第一次離開加拿大,來到這陌生的東方大國生活。
按照之前的聊天,許青山很清楚,約書亞覺得他自己像個逃避的失敗者。
所以許青山乾脆帶著一臉懵懂的伊恩離開了科創園,把空間留給約書亞團隊,自己整理心情。
「伊恩怎麼不和我們一起?」
看著許青山帶著伊恩離開,團隊裡有學生問約書亞。
「先讓伊恩去試試水吧,看看許能給我們帶來什麼。」
約書亞一臉憂愁看著許青山離開的背影嘆了口氣。
「哦」
其他學生對於許青山沒有約約那麼狂熱,畢竟他們多少還是隔著一個領域的。
當然他們也不清楚這一次的告別代表著什麼。
等到一年後,他們再回顧這一場平常午後的告別,他們會悔不當初。
如果當時跟著許青山離開的那個人是自己的話,而不是疑問,那是不是來年和許青山一起站上領獎台的也是自己?
當然如果之後有人問許青山這個問題,許青山一定會告訴他並不是這樣的。
雖然許青山對於機器學習里的這部分領域有些感觸和想法,可他並不會太過於投入。
他的思維開拓是需要有人給他先拋出一個問題或者點子來任由他去延伸,而伊恩做到了這一點。
似乎在離開了團隊之後,和許青山單獨相處,伊恩就變成了社恐。
剛剛在約書亞面前他還能高談闊論那麼多,現在卻只敢跟著許青山走,連左顧右盼都不敢。
「找個地方坐吧,我陪你聊一聊。」
許青山帶著伊恩到了自己的辦公室里,他打算把伊恩丟給張珂去拉一拉,反正信息實驗室那邊的設備也適合做這種類型的實驗研究。
「好好的。」
伊恩有些拘謹的坐了下來,目不斜視的盯著自己面前的茶几。
「老闆,你叫我過來嗎?」
張珂從門外進來,敲了敲房門。
伊恩有些古怪地看著張珂,明明辦公室的門根本沒有關,為什麼要敲門呢?華夏人真奇怪,看不懂。
「對,珂哥,沒在忙吧?」
許青山笑著說道,他把自己之前就準備好的一份合同拿了出來,起身坐到了茶几旁,張珂也跟著坐了下來。
「還好,最近能做的事情也不是很多。」
張珂不用人說,自己就動手接過了茶盤的事情。
許青山團隊裡的人都知道許青山喜歡喝茶,整個團隊也被帶得有了喝茶的風氣,像張珂他們這樣的研究員一個個的現在泡茶都是好手。
倒也不是他們都喜歡拍馬屁,而是大家有時候坐下來聊研究的時候,許青山就喜歡在那邊擺弄茶具。
一次兩次的,可以是老大老闆給你泡的茶。
但不能每一次開小會的時候都讓老大勞累吧?
一來二去,你來我往,每個人也就練就了一手好茶藝。
「伊恩,你把你的想法和張珂說一下,我給你們捋一捋思路。」
許青山翻看著手裡的合同,示意伊恩先和張珂交流一下。
張珂對於自己的忠心,許青山現在沒有任何好懷疑的。
而且有了他的表態之後,許青山對於青山高等研究院後續的發展心中也更有了思路。
在這種時候,一個優秀的團隊領導人會安排甜頭,讓自己手裡的得力大將嘗一嘗。
像這一份生成對抗網絡的學術成果就是許青山為張珂準備的禮物。
「我大致是明白了,我之前做的東西和這方面不太接近,不過老大需要的話,我可以馬上去學,我感覺整體難度沒有那麼大。」
張珂誠懇地說道。
他很清楚,自己的經驗式工作完成的很好,可是在創造性的工作上有所欠缺。許青山現在給自己這個機會,就是為了讓自己能夠獲得一份創新性的成就。
在這張茶桌上只有三個人。
伊恩的設想如果能夠付諸實踐的話,那這樣的功勞就算是許青山占了大頭,他們剩下的兩人也能因此受益良多。
就像是跟在許青山屁股後面完成的孿生素數猜想的幾個學生。
王隗和薛雪情現在都還沒有畢業呢,就已經收到過來自世界各大名校的邀約。
都是來邀請他們去當帶有科研啟動資金承諾的8年制助理教授的。
別看只是小小的助理教授。
實際上在國際範圍里,各大名校的助理教授崗位都是香餑餑。
想要成為助理教授,首先要具備有相關的學歷和學術背景,通常都要求申請人擁有名校的博士學位,並且要有出色的相關領域研究經驗和成果。
在這樣的前提下,還需要尋找到適合自己的機構,適合自己的課題組,並且準備申請材料,包括簡歷、論文、經驗書、推薦信等等,一般頂尖名校會要求申請者擁有3到5篇發表在本學科頂級期刊的論文展示出持續的研究潛力。
做好準備之後才能提交申請,申請通過後收到面試邀請,還要去試講,面議,過五關斬六將,最後才有被錄取的可能。
像在美國的頂尖名校,一個職位通常會吸引超過200多名申請者,而這些申請者是來自全球範圍內各大頂尖名校的博士畢業生和博士後研究人員,但最終只有5到10個人能進入最終面試。
到了這裡還不算完,科研啟動資金也是極為關鍵的競爭點。
特別是理工科的助理教授,在正式進入聘用期後還需要自行籌措50~100萬美元的實驗室建設經費。
一般都是用自己在博士期間做出來的各種成果,去進行各種青年科學家獎項的申請,或者是拿著有時間落地可能性的成果去找企業投資,從而拿到經費。
而財政經費的多少會直接影響到學校的續聘決策。
哪怕是在世界頂級名校里新聘的助理教授也常有三四成的人會面臨著研究經費不足的困境,從而失去了續聘資格。
像小王和小薛這樣的,就代表著他們未來十幾年的時間裡都不用擔心自己會失業。
大不了就去世界名校當個十幾年的助理教授,刷完資歷,當不下去了,再跑回來國內,穩穩的長聘副教授沒得跑。
就連只是在部分成果後面掛個名字的江浣溪,現在本科學業都還沒有結束,就經常收到各大名校的讀博邀請。
這就是一項世界級成果能夠帶來的好處。
而現在許青山擺明了就是要把這項成果給他和伊恩平分。
伊恩還好說,這個成果的源頭畢竟也算是伊恩的想法帶來的。
自己就完完全全是許青山塞進來分成果的。
要知道自己之前做的研究領域,可完全不是這方面。
所以張珂心裡很有數,他不會拒絕許青山給自己發的獎勵,他只會讓自己更加的忠於許青山。
大家都是成年人,有些事情不必放在嘴上。
張珂很是積極的和伊恩請教著關於這方面的各種細節,還有自己回去之後應該去看一看哪些專著或者是論文來增加自己在這方面的理解。
伊恩也稍微有一些惶恐,雖然黃種人顯年輕,但眼前這一位年紀,可以算得上是他叔叔的研究員這麼謙遜的跟他請教著各種問題,還是讓伊恩有些緊張。
好在,大家都是學計算機的,張珂深厚的功底和算法能力很快就得到了伊恩的推崇和認可。
兩人雖然差了十幾歲,但談起來卻十分融洽。
「很好,你們現在已經完成了基本的交流,我大致的講一下整體的流程和思路。」
許青山拍了拍手。
兩人也看向了他。
「我把這樣的深度學習框架命名為生成對抗網絡,Generative Adversarial Networks,你們也可以直接簡稱GANs。」
「基本原理,剛剛伊恩也已經和你交流好了。現在我簡單說一下訓練策略和優化方法。」
許青山剛一開口,伊恩就瞪大了雙眼,看了看張珂,又看了看許青山。
「Amazing!許!你簡直就是我心目中的學術上帝!」
或許是不再單獨相處,有第三個人的加入,伊恩稍微恢復了一些之前的那種社交牛雜狀態,用誇張的語氣說道。
「你不會要告訴我,剛剛我們在交流的時候,你坐在這裡喝著這個茶,腦袋裡就已經構想好了整個實驗的流程?」
哪怕在加拿大的時候聽過了許青山各種各樣傳奇的事情,也收集了不少許青山在媒體上公開的證明現場視頻。
可當許青山的神奇作用在了自己擅長的領域時,伊恩還是難免抑制不住心頭的激動和振奮。
「也許吧?」
雖然許青山有很多的迷弟,可是像伊恩這樣狂熱和勇於喜歡表達的也不算特別特別多。
許青山忍不住小裝了一下,淡定的拿起茶杯,抿了一口茶,繼續說道。
「GAN的訓練是一個非常典型的非合作雙玩家博弈的過程,雙玩家博弈也意味著正常,要以交替訓練的方式來進行,珂哥對於博弈論應該也有一定的了解和掌握吧?」
「嗯,學得應該還算挺紮實的。」
張珂點了點頭,又補充道。
「之前我們在突破黎曼猜想的時候,第六部分有涉及到博弈和拓撲的應用。」
「很好。」
許青山頷首道。
「思路很簡單,你們在制定訓練策略的時候主要注意兩點就行,第一是交替更新,控制變量,要先固定好生成器,指訓練辨別器,讓其能更好地區分真假樣本,然後再固定辨別器,去訓練生成器生成更逼真擬真的樣本。」
「在這個基礎上設計好損失函數,保證好概率最大化原則。」
「也就是生成器的損失函數通常要讓辨別器認為生成樣本是真實的概率最大。化而辨別器的損失函數則是讓其正確分類的概率最大化。」
伊恩搶答道。
「bingo,確定極限。」
許青山打了個響指。
「這是最基礎的路線,剩下的就是優化方法,你們要做好平衡訓練、保持生成器和辨別器的能力平衡發展,不會因為失衡而導致生辯失效。」
「維持平衡的時候可以用上各種正則化技術,例如標籤平滑。」
「其他的你們可以自己考慮一下,拿不定的找我,ok?」
許青山朝著伊恩和張珂挑了挑眉。
「沒問題,你這就差把飯餵到我們胃裡來了。」
張珂擺了擺手,滿臉燦爛。
許青山這和把一份榮譽直接戴在自己頭上有什麼區別?
「我,我也沒問題!」
伊恩舉起手來。
(本章完)