第二十七章 可惡!又……
“把前一時(shí)間步的輸出和當(dāng)前時(shí)間步的狀態(tài)同時(shí)合并作為當(dāng)前輸入么?好像這樣確實(shí)可以保留時(shí)間信息……但會(huì)不會(huì)‘笨’了一點(diǎn)?”
周粥站在徐毅身后,看著桌子上老師畫(huà)的草圖,抿了抿嘴說(shuō)道:
“這樣的話我們必須儲(chǔ)存之前每一步的狀態(tài),對(duì)于計(jì)算速度和內(nèi)存都是不小的麻煩……”
“而且這個(gè)循環(huán)結(jié)構(gòu)中單個(gè)詞組對(duì)后文的影響似乎是隨距離而衰減的,我感覺(jué)在處理長(zhǎng)難句的時(shí)候會(huì)有不小的誤差吧?”
聽(tīng)到學(xué)生的分析,徐毅滿意地點(diǎn)了點(diǎn)頭,他給二人講的是最基礎(chǔ)的循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN),這個(gè)網(wǎng)絡(luò)其中一個(gè)最嚴(yán)重的問(wèn)題就是無(wú)法解決長(zhǎng)期依賴(lài)問(wèn)題。
例如一句“徐毅,帥氣十足的老師,正在搬桌子”,在經(jīng)過(guò)RNN后就會(huì)被理解成“徐毅帥氣十足”和“老師正在搬桌子”,與原意謬之千里。
他僅僅是在紙上畫(huà)出了這個(gè)網(wǎng)絡(luò)結(jié)構(gòu)的草圖,還沒(méi)有進(jìn)行任何實(shí)驗(yàn),周粥就能憑感覺(jué)一語(yǔ)道出其中的缺陷,這不禁讓徐毅對(duì)這位愛(ài)徒更加喜愛(ài)。
于是便把筆放到一旁,起身考校起女孩:“很好的想法!那你覺(jué)得該怎么改進(jìn)比較好?”
周粥皺眉思考了一下,猶豫道:“或許我們可以增加一個(gè)判斷步驟,來(lái)決定是否將本時(shí)間步的輸出傳遞給下一時(shí)間……”
想了想,干脆抓起筆,在徐毅之前的草圖上寫(xiě)寫(xiě)畫(huà)畫(huà)起來(lái):
“例如這樣,我們?cè)谙旅嬖僭黾右粋€(gè)通道,用1和0分別代表是否將信息傳入下一時(shí)間步,這樣只需要將上下兩個(gè)通道相乘即可……”
“不,不行,0和1是離散數(shù)據(jù),不能通過(guò)梯度下降學(xué)習(xí)……那我們干脆就用0到1之間的連續(xù)函數(shù),剛好可以表示傳入下一時(shí)間的百分比……”
“tanh函數(shù)變形,就可以完美的把全部實(shí)數(shù)映射到0到1之間!”
“……不,甚至可以用tanh函數(shù)本身!負(fù)值的存在或許更可以截?cái)嗖幌嚓P(guān)的相鄰信息!”
她不斷地提出想法又一個(gè)個(gè)否定并改進(jìn),徐毅原本的手稿早已被改得面目全非,隨著想法逐漸完善,周粥的眼睛也越來(lái)越亮。
終于,女孩把一團(tuán)亂麻的草圖丟到一邊,在新的白紙上完整地畫(huà)出了自己改進(jìn)后的神經(jīng)網(wǎng)絡(luò),興奮地展示給一旁的老師:
“徐老師,你看我畫(huà)的這個(gè)結(jié)構(gòu)怎么樣!”
怎么樣?棒極了!
眼前的網(wǎng)絡(luò)模型,已經(jīng)有了藍(lán)星上長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)(LSTM)的雛形,只要稍加打磨必然能取得遠(yuǎn)超RNN的效果,對(duì)這一點(diǎn)徐毅毫不懷疑。
但是姑娘,您有這智商,學(xué)數(shù)學(xué)去不好嗎?
干嘛要來(lái)計(jì)算機(jī)行業(yè)碾壓我們凡人?
可惡!蒼天何其不公!既生毅,何生粥!
徐毅直勾勾地盯著周粥思緒萬(wàn)千,全沒(méi)注意面前的少女被看紅了臉。
“老師……老師!”耳旁傳入學(xué)生含羞的嗔聲,將他的思緒拉回了現(xiàn)實(shí)。
他方才驚覺(jué),自己剛剛談話中走神的行為好像相當(dāng)不禮貌。
連忙掩飾起來(lái):“咳咳……嗯,這個(gè)想法其實(shí)挺好的,不過(guò)還可以再完善一下,例如我們可以把信息的傳遞通過(guò)輸入門(mén)、遺忘門(mén)和輸出門(mén)三個(gè)通道……”
“我建議你先把自己的想法直接實(shí)現(xiàn)一下,然后可以參考我提出的思路改進(jìn)——當(dāng)然,如果你有自己的思路也完全沒(méi)問(wèn)題,加油!”
這就是大佬間的惺惺相惜嗎?
師徒二人激烈討論的一旁,王浩中像一個(gè)透明人左看右看,在心底發(fā)出了積沉已久的吶喊:
“可惡!……真的好羨慕!”
似乎聽(tīng)到了小胖子的心聲,徐毅終于注意到了似乎學(xué)會(huì)隱身術(shù)的小徒弟:“王浩中,我們剛才討論的內(nèi)容你能跟上么?”
“嗯……差不多吧老師,不過(guò)可能需要回去再仔細(xì)理解一下……”
王浩中努力擺出“哦哦原來(lái)如此我完全懂了”的架勢(shì),殊不知迷茫的眼神早把他出賣(mài)的一干二凈。
一看就知道這小胖子完全沒(méi)懂……徐毅在心底微不可及的嘆了口氣,旋即猛然驚醒。
自己什么時(shí)候習(xí)慣了周粥的速度,產(chǎn)生了“學(xué)生一教就會(huì)很正?!边@種錯(cuò)誤認(rèn)知的?
明明王浩中這種情況才是常態(tài)!他甚至還是華東學(xué)生里面最優(yōu)秀的之一!
默默檢討自己的錯(cuò)誤心態(tài),徐毅重新鋪開(kāi)紙筆,準(zhǔn)備給前愛(ài)徒仔細(xì)講解一下剛剛的一些重點(diǎn)內(nèi)容,卻不防手機(jī)突然響起。
“喂,我是徐毅……吳院長(zhǎng)么?好……好的,我馬上過(guò)去?!?p> 掛斷電話,徐毅無(wú)奈地嘆了一聲,然后說(shuō)道:“吳院長(zhǎng)叫我過(guò)去一趟,時(shí)長(zhǎng)不確定,周粥你來(lái)給王浩中講一下吧,我得先走了?!?p> 看到徐老師雷厲風(fēng)行的披上外套走出門(mén)外,周粥叉起腰,一臉壞笑的看著發(fā)小:
“王小胖,我感覺(jué)好像不太用給你講呀,畢竟你連英文措辭都會(huì)改,還有‘差不多吧老師’~”
不就改了你一個(gè)單詞嘛?至于這么久還記仇么?
聽(tīng)到這熟悉的揶揄語(yǔ)氣,王小胖自知逃不過(guò)女魔頭的毒手,皺起了小臉哭喪道:“姐姐,我錯(cuò)了!當(dāng)時(shí)年紀(jì)小不懂事,您就饒弟弟這一回吧……”
“我給您買(mǎi)雪糕!種類(lèi)隨你挑!”
………………
不知道背后周粥已經(jīng)迫害小胖子簽下屈辱協(xié)議,徐毅風(fēng)風(fēng)火火走到院長(zhǎng)辦公室。
“砰砰砰——”
“請(qǐng)進(jìn)!”
一進(jìn)門(mén),徐毅便看到對(duì)面的沙發(fā)上坐了個(gè)人正與吳院長(zhǎng)談笑。
見(jiàn)到徐毅進(jìn)來(lái),二人同時(shí)起身,吳院長(zhǎng)笑呵呵地率先開(kāi)口介紹:“鄒市長(zhǎng),我給您介紹一下,這就是我院的徐毅老師;”
又轉(zhuǎn)頭向徐毅:“徐毅,這是鄒志明鄒市長(zhǎng),鄒市長(zhǎng)主管我們市的文化和教育方面工作,你之前在電視上應(yīng)該也見(jiàn)過(guò)。”
徐毅點(diǎn)了點(diǎn)頭,上前伸出手:“鄒市長(zhǎng)您好,很高興認(rèn)識(shí)您。”
面前的中年人向前一步抓住他的手,用力地晃了晃:“徐老師你好!好哇,百聞不如一見(jiàn)!徐老師果然青年才俊,一表人才!”
待兩人松開(kāi)手后,鄒志明才轉(zhuǎn)頭對(duì)吳臻說(shuō)道:“吳院長(zhǎng),這次舉辦國(guó)際交流會(huì),可以提升華東大學(xué)、魔都乃至華國(guó)的國(guó)際影響力,是一件大好事!我們市里一定無(wú)條件支持,無(wú)論會(huì)議是開(kāi)在華東校內(nèi),還是在校外!”
抬手看了看表,對(duì)二人道:“時(shí)間不早了,我就不叨煩吳院長(zhǎng)和徐老師了,我先走了!”
說(shuō)完又重重拍了拍徐毅肩膀,然后向外走去,似乎是為了見(jiàn)徐毅一面才等到現(xiàn)在。
待送走了鄒市長(zhǎng),二人轉(zhuǎn)身進(jìn)樓,吳臻嘴角含笑,開(kāi)口說(shuō)道:“怎么樣,見(jiàn)到咱們的副市長(zhǎng),驚喜不驚喜?意外不意外?”
“額,還好吧,”完全不知道魔都副市長(zhǎng)是什么概念,徐毅內(nèi)心自然毫無(wú)波動(dòng)。
看到徐毅的表情,吳臻失笑不已:“你老師說(shuō)的真沒(méi)錯(cuò)!唉,你啊……”
搖了搖頭,轉(zhuǎn)向正題:“你這次可真是驚天動(dòng)地了!報(bào)告結(jié)束之后,你知道今天學(xué)校收到了多少與會(huì)申請(qǐng)么?”
“58家!里面有三十多家世界名校,甚至還有MIT和芝加哥大學(xué)的兩名學(xué)者希望提前一周過(guò)來(lái)交流!這還只是一天的數(shù)據(jù),后面肯定會(huì)再增加……”
“要不然你以為鄒市長(zhǎng)這種大忙人為什么專(zhuān)門(mén)跑來(lái)咱們學(xué)院?這件事都驚動(dòng)咱們政府了!”
“你小子,倒真是給了我們一個(gè)好大的驚喜!”見(jiàn)徐毅依舊不為所動(dòng),吳臻失笑著拍了拍他肩膀:“說(shuō)點(diǎn)跟你有關(guān)的,學(xué)校已經(jīng)同意了我的申請(qǐng),破格把你提成副教授了?!?p> “你先別不滿意,現(xiàn)在提教授一是學(xué)院暫時(shí)沒(méi)有名額,二來(lái)你雖然成果很突出,但發(fā)表論文其實(shí)并未達(dá)標(biāo),容易被有心人抓住做文章,”
不等徐毅反應(yīng),吳院長(zhǎng)就接著說(shuō)道,“不過(guò)放心,今年年底的教授名額,絕對(duì)有你的一席之地!你安心做學(xué)術(shù)就夠了,其他事情有我和你王老師解決!”
額……其實(shí)教授還是副教對(duì)我都無(wú)所謂,我主要是想當(dāng)院長(zhǎng)……
徐毅看著眼前的老人,摸了摸腦袋,終于還是沒(méi)有開(kāi)口。
嘿嘿,情商+1!
感受到自己的成長(zhǎng),他得意地笑了。