文譯自:http://www.alexirpan.com/2016/07/17/ml-sleep.html,原文標(biāo)題《The Machine Learning Casino》,譯文供您參考。
一、機(jī)器學(xué)習(xí)理論研究
機(jī)器學(xué)習(xí)是一種能使計(jì)算機(jī)半自主地對數(shù)據(jù)進(jìn)行分析,并從中學(xué)習(xí)經(jīng)驗(yàn)的算法。
機(jī)器學(xué)習(xí)理論的研究聽上去就好像做這么一件事,讓我們的研究人員去深刻探索,提高計(jì)算機(jī)學(xué)習(xí)數(shù)據(jù)集的效率的方法。
事實(shí)上,機(jī)器學(xué)習(xí)理論的研究可以在我們的生活的每時(shí)每刻找到影子。就好像你在不斷的進(jìn)行一場賭博,只不過你的籌碼是你的時(shí)間。你把你的時(shí)間花費(fèi)在了一些有啟發(fā)性的事物上去,而這場賭博的最終大獎(jiǎng)看上去就是未來光明的前途。當(dāng)然,即使你付出了大量的時(shí)間,你也可能遇到你無法想象而又無法理解的失敗。
二、機(jī)器學(xué)習(xí)中理論與實(shí)踐的關(guān)系
盡管機(jī)器學(xué)習(xí)是建立在統(tǒng)計(jì)學(xué)的基礎(chǔ)之上的,但事實(shí)上機(jī)器學(xué)習(xí)也可以被更多的說成是一門實(shí)踐性的科學(xué)。
然而談到到實(shí)踐性,這并不意味著這是一門輕視基礎(chǔ)理論的學(xué)科。在機(jī)器學(xué)習(xí)里會(huì)遇到眾多理論問題。例如,賭博機(jī)問題,凸優(yōu)化與非凸優(yōu)化,圖形建模,以及信息理論的問題,當(dāng)中涉及到了許多不同的學(xué)科領(lǐng)域。如果你要你深究機(jī)器學(xué)習(xí),你可以在這些問題里花花時(shí)間。
這里面內(nèi)容太深太廣,對于普通的開發(fā)者來說,學(xué)完全部的內(nèi)容并不是一件容易的事情。現(xiàn)實(shí)就是,人們都希望自己的算法是有保障的,但是不是每個(gè)人都愿意花時(shí)間去深究為什么他們的算法是有保障的。
好吧,在當(dāng)下在APP開發(fā)火爆的環(huán)境下,人工智能的宣傳滿天飛。但是人們往往首先關(guān)心的只是最終的產(chǎn)品,然后在開發(fā)進(jìn)度中逐漸才會(huì)關(guān)注基礎(chǔ)理論的重要性。一般的開發(fā)者往往都是會(huì)從一些有啟發(fā)的事情中獲得靈感,通常來說,這些有啟發(fā)的算法能對既已出現(xiàn)的情況做出相應(yīng)的反應(yīng),但是這些算法僅停留在面向過程的層面,基本沒有更深的內(nèi)涵。
三、實(shí)驗(yàn)方法
那么我們想想,我們到底是怎樣發(fā)現(xiàn)這些有啟發(fā)性的事物的呢?這里介紹一個(gè)方法:
一、提出假設(shè)。
二、設(shè)計(jì)一個(gè)實(shí)驗(yàn)來檢驗(yàn)這一假設(shè)。
三、進(jìn)行實(shí)驗(yàn)并分析結(jié)果。
四、細(xì)化假設(shè)并改進(jìn)實(shí)驗(yàn)設(shè)計(jì)。
五、重復(fù)以上流程,直到最終得出結(jié)論
在機(jī)器學(xué)習(xí)的領(lǐng)域,提出假設(shè)是有前途的算法,進(jìn)行實(shí)驗(yàn)便能檢驗(yàn)這些算法的正確性。
重點(diǎn)是什么?就是做做實(shí)驗(yàn),直到最后你的理論被最終證明有效。
好,回過來,接下來我和大家分享一些有用的東西。
四、機(jī)器學(xué)習(xí)中的理論是否已經(jīng)非常成熟了呢
當(dāng)前的這門藝術(shù)的狀態(tài)還是概率性的并且高度個(gè)性化的。經(jīng)驗(yàn)上來說,概率化的方法現(xiàn)在已經(jīng)能很好的在大數(shù)據(jù)領(lǐng)域等領(lǐng)域應(yīng)用。
個(gè)性化意味著你能嘗試調(diào)試不同參數(shù)并觀察他們之間的差別,你有沒有嘗試調(diào)整過超參數(shù)?有沒有嘗試過清洗你的數(shù)據(jù)?或者使用一種不同的最優(yōu)算法?讓你的模型變得更簡潔?或者說讓你的模型更加復(fù)雜化?玩過Batch Normaliztion算法嗎?校正過非線性失真的圖像嗎?我們希望能探索出一些新的方法來打破常規(guī)來解決一些實(shí)際問題。然而不幸的是,我們目前的工作還沒能力達(dá)到那個(gè)程度。神經(jīng)網(wǎng)絡(luò)確實(shí)是非常神奇的,但是你一旦用它玩完那些簡單的問題后,你會(huì)發(fā)現(xiàn)其實(shí)還有很多問題還不能解決。
機(jī)器學(xué)習(xí)中會(huì)設(shè)置一些特征參數(shù),而且這些我們也不會(huì)說哪些參數(shù)是失敗參數(shù)。這樣的事可能是在其他學(xué)科中不會(huì)出現(xiàn)的。但是在機(jī)器學(xué)習(xí)中,事情就是這樣。而且有時(shí),完全相同的參數(shù)設(shè)定也不會(huì)得到相同的結(jié)果。你可以認(rèn)為我們能做的更好,但是難以重現(xiàn)結(jié)果確實(shí)是一個(gè)問題。
對每一個(gè)欣賞機(jī)器證明藝術(shù)的人來說,這也是機(jī)器學(xué)習(xí)中最氣死人的地方。在我們進(jìn)行超參調(diào)優(yōu)的時(shí)候,我們往往并沒有帶著專門去探索其理論基礎(chǔ)的學(xué)習(xí)動(dòng)機(jī)。但這卻是你們必須做的事情,機(jī)器學(xué)習(xí)之美和現(xiàn)實(shí)應(yīng)用有時(shí)會(huì)脫節(jié)。這里有一個(gè)段子,是一個(gè)計(jì)算機(jī)視覺教授和他的學(xué)生說的:
學(xué)生:這理論沒有什么實(shí)際應(yīng)用。
教授:真的沒有用嗎,就算真的沒有什么實(shí)際應(yīng)用,理論本身就已經(jīng)是藝術(shù)。
學(xué)生:你說的我都懂,理論很高端,但卻在實(shí)際生活中沒有用。甚至連Lenna圖像也不能很好的處理。
教授:(半開玩笑的說)也許我們處理一百萬個(gè)圖像,可能在這個(gè)過程中,我們就會(huì)發(fā)現(xiàn)機(jī)器學(xué)習(xí)的作用。
學(xué)生:如果連Lenna都不能處理,就更別說無數(shù)個(gè)Lenna了。
教授:哈哈哈,我也這么認(rèn)為,真是倒霉啊。
我能體會(huì)他們的苦衷。
在訓(xùn)練了足夠的機(jī)器學(xué)習(xí)模型后,你就找到問題的關(guān)鍵,能識(shí)別常見的無效模式。當(dāng)你能正確進(jìn)行模式識(shí)別,你便能開始總結(jié)出新的識(shí)別方法。然而,這種識(shí)別沒法達(dá)到保證百分百成功的程度。我喜歡開玩笑的說,有一天理論學(xué)家會(huì)找到比純粹靠經(jīng)驗(yàn)的好方法。但是我不認(rèn)為在當(dāng)下能很快實(shí)現(xiàn)。因?yàn)檫@些理論上的東西真的比較難。
理論上,在監(jiān)督機(jī)器學(xué)習(xí)中,已經(jīng)發(fā)現(xiàn)了“No Free Lunch”定律。我如果這么說可能會(huì)顯得不太正式,但是確實(shí)沒有哪一種算法能在每一個(gè)可能的問題里打敗另外一種算法。換句話說,永遠(yuǎn)不會(huì)有一個(gè)算法統(tǒng)治所有其他算法。當(dāng)然,如果有人能證偽這一點(diǎn),那當(dāng)然是最好不過的事了。
五、如何在實(shí)驗(yàn)中獲取有價(jià)值的結(jié)論
我依舊沒有解釋為什么機(jī)器學(xué)習(xí)的研究能應(yīng)用到我們的生活當(dāng)中。
我認(rèn)為我已經(jīng)迂回地說過了。機(jī)器學(xué)習(xí)實(shí)驗(yàn)的是隨機(jī)性的。即使是這個(gè)領(lǐng)域內(nèi)的大牛也不能掠過超參調(diào)優(yōu)的過程。
這就讓這個(gè)領(lǐng)域讓人感覺像一個(gè)巨大的賭場,你拉動(dòng)了水果機(jī)的拉桿,希望自己能中獎(jiǎng)。有的時(shí)候,你確實(shí)能中彩,但是也不會(huì)中獎(jiǎng)。 或許湊巧的是,有人告訴你玩的這臺(tái)水果機(jī)已經(jīng)十年沒有開獎(jiǎng)了,你也許應(yīng)該嘗試新的水果機(jī)。機(jī)器學(xué)習(xí)就好像民間傳說,這里面的竅門和門道人們一代又一代相傳。
我們理解了許多知識(shí),但是水果機(jī)就是是水果機(jī),這里面不可避免的隨機(jī)性問題隨隨便便就能毀了你美好的一天。或者有更糟的情況,這樣的“水果機(jī)”也許就隱藏在你的工作里,你的股票基金里,你的前途里。
在這樣的機(jī)器學(xué)習(xí)的游戲里,要么你很幸運(yùn),要么你在嘗試了許多次后你必將獲得幸運(yùn)。這里面唯一保證成功的途經(jīng)就是做這個(gè)后者。
那就意味著實(shí)驗(yàn),你需要做海量的實(shí)驗(yàn)。其實(shí)在進(jìn)行實(shí)驗(yàn)的這段時(shí)間你也不需要做什么事情。你在你準(zhǔn)備休息的時(shí)候運(yùn)行實(shí)驗(yàn)。比如說,你準(zhǔn)備去吃中飯。那就開始在計(jì)算機(jī)上運(yùn)行你的實(shí)驗(yàn)吧。看看你吃完后會(huì)不會(huì)有什么新的實(shí)驗(yàn)結(jié)果。又或者說你準(zhǔn)備出去玩,那你或許可以整夜的運(yùn)行你的實(shí)驗(yàn),在第二天再去查看你的實(shí)驗(yàn)結(jié)果。再比如,你不想在這個(gè)周末工作?那好吧,你的電腦可不會(huì)介意在周末上班的。我們寫好代碼,我們便能在無人值守的情況下進(jìn)行實(shí)驗(yàn),這真的是非常的棒。只要你的代碼是有效的,如果你的代碼出現(xiàn)了問題,那么好吧你需要修復(fù)出現(xiàn)的bug。除去修復(fù)代碼的時(shí)間,你可以每時(shí)每刻都在運(yùn)行你的實(shí)驗(yàn)。
計(jì)算機(jī)的工作就像是一個(gè)工作狂一樣。你也不需要立即修改你的代碼,就像你不需要一次把所有的籌碼都買滿水果機(jī)的下注。我很確信隨著時(shí)間的增長,你最終會(huì)變得十分幸運(yùn),即使你錯(cuò)過了一兩天,這也不會(huì)影響最終的結(jié)果。
如果有一種方法能讓機(jī)器算法能有效。我也不知道會(huì)不會(huì)真的有這樣的算法,我在心里還曾想過那么一秒,我如果在這個(gè)滿月下獻(xiàn)祭一只山羊,會(huì)不會(huì)就能讓這項(xiàng)工作有效了。如果機(jī)器學(xué)習(xí)的算法真的這么簡單就能有效了,我想應(yīng)該有人會(huì)想出無數(shù)的方法想著怎么去獻(xiàn)祭山羊了。
不過好事不會(huì)像山羊獻(xiàn)祭這么簡單的,因我也不想做這種沒有什么意義的事情。
六、結(jié)語
在這里,你可能會(huì)想知道,為什么我有時(shí)會(huì)對機(jī)器學(xué)習(xí)感到有些厭煩。
事實(shí)上,所有的廢話也會(huì)有一定的價(jià)值,實(shí)驗(yàn)的運(yùn)行中有許多令人激動(dòng)的事情在不斷發(fā)生,因此,我對機(jī)器學(xué)習(xí)中出現(xiàn)的問題也越來越能容忍,我對此也感到習(xí)以為常了。和理論相比,運(yùn)行試驗(yàn)就是浪費(fèi)時(shí)間,但這是令人激動(dòng)的垃圾時(shí)間。
我認(rèn)識(shí)的計(jì)算機(jī)理論科學(xué)的朋友們可能會(huì)認(rèn)為我已經(jīng)瘋了,我正做的這些實(shí)驗(yàn)簡直讓我近乎瘋狂!哦,好吧還有什么新理論嗎。
我們的這些工作,處于獲取真理的邊緣。如果這樣繁復(fù)的工作就是我們必須要付出的代價(jià),我必然會(huì)毫不猶豫地會(huì)選擇付出。
“標(biāo)槍遠(yuǎn)遠(yuǎn)領(lǐng)先于她,并移動(dòng)的更快。殖民者還有很多許多時(shí)間來進(jìn)行活動(dòng)。當(dāng)她到達(dá)天狼星的時(shí)候也許會(huì)在那兒發(fā)生什么,也許會(huì)十分友好。就算真的遇到不友好的事情,她也能到時(shí)候再隨機(jī)應(yīng)變。”
——摘自小說《RA》
作者:alexirpan 譯者:語林
源|活動(dòng)盒子_APP活動(dòng)運(yùn)營工具(huodonghezi.com)
用戶習(xí)慣,就是一種無意識(shí)的行為,就是讓用戶不假思索的使用產(chǎn)品。從運(yùn)營層面來看,就是讓用戶對活動(dòng)形成習(xí)慣和期望。
餓了么剛開始做市場推廣的時(shí)候,除了免配送費(fèi)之外,還給了用戶很大的折扣,幾個(gè)人一起點(diǎn)餐,除去紅包,滿減,平均下來也就幾塊錢一餐飯,有時(shí)甚至還送飲料。后來,美團(tuán)外賣,百度外賣紛紛入局,外賣O2O開始了瘋狂的補(bǔ)貼大戰(zhàn)。
經(jīng)歷過無數(shù)次的廝殺之后,存留下來的外賣APP們紛紛走上了正軌,但是,他們都漲價(jià)了。盡管如此,以前積累的用戶也沒有因?yàn)樗麄兊臐q價(jià)而離去。因?yàn)槲乙呀?jīng)習(xí)慣性的在用餐時(shí)間的前半個(gè)小時(shí)點(diǎn)好餐品,不需要出去日曬雨淋,就能夠吃上香噴噴的飯菜。
于是,每到點(diǎn)餐時(shí)間,我都會(huì)掏出手機(jī),點(diǎn)上一份,這一切都是無意識(shí)的行為。
用戶習(xí)慣的培養(yǎng),其實(shí)也是用戶運(yùn)營的一個(gè)方面。在用戶習(xí)慣的養(yǎng)成上,少不了運(yùn)營人員的幫助,在運(yùn)營人員的幫助下,用戶才能適應(yīng)運(yùn)營節(jié)奏。那么,運(yùn)營人員在培養(yǎng)用戶習(xí)慣上,應(yīng)該怎么做呢。
1.提高運(yùn)營計(jì)劃周期
將運(yùn)營計(jì)劃從一天、幾天,提高到一個(gè)月、一年的周期。
常見的活動(dòng)都是圍繞著一個(gè)主題策劃的,為了提升一個(gè)指標(biāo),在短期內(nèi),可以是一天,也可以是一到三天的時(shí)間內(nèi)做活動(dòng)。
摩拜單車免費(fèi)騎行活動(dòng)
摩拜單車的免費(fèi)騎行活動(dòng),吸引了眾多用戶前來使用,但是,在用戶習(xí)慣還未養(yǎng)成之前,如果騎行需要收費(fèi),1元/半小時(shí)的摩拜單車跟0.5元/半小時(shí)的小藍(lán)單車,你會(huì)選擇哪個(gè)呢?
屈臣氏則是將活動(dòng)的周期延長,將每個(gè)月10號(hào)定為會(huì)員日,所有商品享受折上折,積分還能直接當(dāng)現(xiàn)金用,優(yōu)惠力度之大,周期更加長。
屈臣氏會(huì)員日
將運(yùn)營計(jì)劃的周期延長之初,可能參加活動(dòng)的人遠(yuǎn)沒有以前那么多,效果沒有以前好,但是不要緊,經(jīng)過長期的積累,你的用戶已經(jīng)知道了在某一個(gè)固定的時(shí)間內(nèi)要來參加活動(dòng)。不需要大肆的宣傳,也能夠達(dá)到較好的活動(dòng)效果。
2.利用好關(guān)鍵節(jié)點(diǎn),做長期策略設(shè)計(jì)
對關(guān)鍵節(jié)點(diǎn),如元旦、新年、勞動(dòng)節(jié)、情人節(jié)、愚人節(jié)等,進(jìn)行長期的運(yùn)營策略設(shè)計(jì)。
以時(shí)間為理由做活動(dòng),比較容易獲得用戶的認(rèn)同,比如,一號(hào)店新年的促銷活動(dòng)。
一號(hào)店新年活動(dòng)
用戶想要買買買,選擇一個(gè)好的節(jié)點(diǎn)加點(diǎn)小福利,能夠增強(qiáng)用戶購買欲。但是,如果對新年這個(gè)時(shí)間點(diǎn)進(jìn)行長期的運(yùn)營策略設(shè)計(jì),只要臨近新年,用戶都會(huì)回來看看,是否有便宜的東西可以購買,用戶習(xí)慣不就養(yǎng)成了嗎。
3.和產(chǎn)品人員、開發(fā)人員做好溝通
運(yùn)營人員除了做好用戶運(yùn)營,也需要和產(chǎn)品人員、開發(fā)人員溝通好。
一個(gè)活動(dòng)運(yùn)營人員,如果不系統(tǒng)的思考活動(dòng)的計(jì)劃和策劃,往往需要做很多重復(fù)的工作,例如,轉(zhuǎn)盤和老虎機(jī),這兩個(gè)看似不同的活動(dòng),實(shí)質(zhì)上是概率的問題,如果我們經(jīng)過系統(tǒng)的考慮,和開發(fā)人員做好溝通,開發(fā)出一套由后臺(tái)控制的系統(tǒng),做不同活動(dòng)的時(shí)候,僅需要更換UI即可。
活動(dòng)盒子新建活動(dòng)頁面
一套活動(dòng)系統(tǒng)可以被用到多個(gè)場景之中,支撐起多種活動(dòng),就可以被拿來復(fù)用,而且原有的活動(dòng)模式已經(jīng)驗(yàn)證成功,通過系統(tǒng)復(fù)用,不僅可以保證活動(dòng)快速上線,也能夠培養(yǎng)用戶習(xí)慣。
4.關(guān)注競品,看看最近有什么大動(dòng)作
在做用戶習(xí)慣培養(yǎng)時(shí),還需要時(shí)刻觀察競品,為差異化運(yùn)營做準(zhǔn)備。
在滴滴和Uber廝殺得火熱的時(shí)候,易到用車橫空出世,為了分得專車市場的一杯羹,易到用車也對用戶進(jìn)行補(bǔ)貼,以下是同一時(shí)期滴滴和易到用車的打車券。
滴滴/易到用車 打車券
培養(yǎng)用戶習(xí)慣首要的做法是贏得用戶,將自己與競品間的運(yùn)營差異化,能夠贏得目標(biāo)用戶,為培養(yǎng)用戶習(xí)慣做準(zhǔn)備。
總結(jié):用戶習(xí)慣的養(yǎng)成,不是一朝一夕就能夠見效的,需要多去實(shí)踐,才能找到最合適的方法,用戶習(xí)慣培養(yǎng)好了,在下一個(gè)節(jié)點(diǎn)來臨之前,用戶就懂得回來瞅瞅是不是又有活動(dòng)可以參加啦。
作者:活動(dòng)盒子(huodonghezi.com),APP活動(dòng)運(yùn)營工具,全方位提供APP活動(dòng)運(yùn)營解決方案;
本文為活動(dòng)盒子原創(chuàng),商業(yè)轉(zhuǎn)載請聯(lián)系作者獲得授權(quán),非商業(yè)轉(zhuǎn)載請注明出處:官網(wǎng)地址:http://www.huodonghezi.com/news-1121.html
剛!人工智能頂級(jí)會(huì)議 AAAI 2021 在線上開幕,作為 2021 年首個(gè)人工智能頂會(huì),華人學(xué)者取得了大滿貫。
具體表現(xiàn)為:兩名中國來自微軟亞洲研究院的中國學(xué)者獲得了杰出 SPC 獎(jiǎng),其在眾多資深程序主席中脫穎而出。這兩位的名字是 Xiting Wang 和吳方照。
https://www.aminer.cn/profile/xiting-wang/5625328c45cedb3398592763
根據(jù) AMiner 主頁,我們得知 Xiting Wang 畢業(yè)于清華大學(xué),其研究興趣包括可解釋的推薦,文本挖掘和視覺文本分析。吳方照也是畢業(yè)于清華大學(xué),目前是微軟亞洲研究院社會(huì)計(jì)算 (SC) 組的高級(jí)研究員。
此外,中國學(xué)者還獲得了一篇杰出論文,題目為 “Self-supervised Multi-view Stereo via Effective Co-Segmentation and Data-augmentation”,翻譯為中文為 “通過有效的協(xié)同分割和數(shù)據(jù)增強(qiáng)實(shí)現(xiàn)多視角立體的自我監(jiān)督。” 作者 Hongbin xu 來自深圳市計(jì)算機(jī)視覺與模式識(shí)別重點(diǎn)實(shí)驗(yàn)室。
論文主要研究內(nèi)容是:最近的研究表明,基于視圖合成的自監(jiān)督方法在多視圖立體 (MVS) 上取得了明顯的進(jìn)展。然而,現(xiàn)有的方法依賴于不同視圖之間對應(yīng)的點(diǎn)具有相同的顏色的假設(shè),這在實(shí)踐中可能并不總是正確的。這可能會(huì)導(dǎo)致不可靠的自監(jiān)督信號(hào),損害最終的重建性能。為了解決這個(gè)問題,作者提出了一個(gè)以語義共分和數(shù)據(jù)增強(qiáng)為指導(dǎo),集成了更可靠的監(jiān)督框架。
論文地址:
http://34.94.61.102/paper_AAAI-2549.html
拿下了兩篇最佳論文亞軍。第一篇 “Self-Attention Attribution:Interpreting Information interactions inside transformer” 的一作名為 Yaru Hao,來自北京航空航天大學(xué),二作名為董力,來自微軟研究院。這篇論文說,當(dāng)前基于 Transformer 的一些模型,大多將其成功之處歸功于多頭自我注意機(jī)制,這種機(jī)制從輸入中學(xué)習(xí) token,并對上下文信息進(jìn)行編碼。先前的工作主要致力于針對具有不同顯著性度量的單個(gè)輸入特性的貢獻(xiàn)模型決策,但它們未能解釋這些輸入特征如何相互作用以達(dá)到預(yù)測。因此,這篇論文提出了一種自注意力歸因算法來解釋 Transformer 內(nèi)部的信息交互。并以 BERT 為例廣泛進(jìn)行研究。
論文地址:
https://www.aminer.cn/pub/5ea2b8bf91e01167f5a89d92/self-attention-attribution-interpreting-information-interactions-inside-transformer
第二篇 “Dual-Mandate Patrols: Multi-Armed Bandits for Green Security”,其一作 Lily xu(華人面孔,不確定是否是華人)是哈弗大學(xué)的博士生,第三作者中文名為方飛是卡內(nèi)基梅隆大學(xué)計(jì)算機(jī)科學(xué)系的助理教授,其研究方向是博弈論 + 機(jī)器學(xué)習(xí)。這篇論文的主要研究內(nèi)容是:環(huán)境保護(hù)。其從強(qiáng)化學(xué)習(xí)中的多臂老虎機(jī) (Multi-armed Bandit) 算法入手,探究了如何避免偷獵者傷害野生動(dòng)物。據(jù)悉,其算法在柬埔寨的真實(shí)偷獵數(shù)據(jù)上訓(xùn)練之后,其性能顯著提升。
論文地址:
https://www.aminer.cn/pub/5f60a74b91e0113805870332/dual-mandate-patrols-multi-armed-bandits-for-green-security
拿下了兩篇最佳論文,其中一篇 “Informer: Beyond Efficient Transformer for Long SequenceTime-Series Forecasting”,第一作者名為 Haoyi Zhou 來自北航。這篇論文設(shè)計(jì)了一種高效的基于變換的長序列時(shí)間序列預(yù)測模型 Informer,旨在解決 Transformer 存在一些嚴(yán)重的問題,如二次時(shí)間復(fù)雜度、較高的內(nèi)存使用量和編解碼器結(jié)構(gòu)的固有限制等等。
論文地址:
https://www.aminer.cn/pub/5fd8acf991e0119b22c1f38d/informer-beyond-efficient-transformer-for-long-sequence-time-series-forecasting
第二篇名為 “Mitigating Political Bias in Language Models Through Reinforced Calibration”,第一作者名為 Ruibo Liu,顯然是為中國學(xué)子,來自達(dá)特茅斯學(xué)院計(jì)算機(jī)科學(xué)系,根據(jù)題目,這篇論文的主要研究內(nèi)容是 “語言模型中的政治偏見” 問題。
論文數(shù)據(jù)一覽
本屆大會(huì)共評(píng)出了 3 篇最佳論文,3 篇最佳論文亞軍以及 6 篇杰出論文,11 個(gè)杰出資深主席,13 個(gè)優(yōu)秀程序主席,此外還評(píng)出了前 25% 的評(píng)審者。
關(guān)于論文的評(píng)審,大會(huì)組委會(huì)說,在 rebuttal 階段,論文作者回應(yīng)后,有 4537 篇論文的分?jǐn)?shù)得到了改變,其中 40% 的論文分?jǐn)?shù)上漲,60% 的論文分?jǐn)?shù)下降。然而其實(shí),只有 69% 的評(píng)審對了作者的回應(yīng).....
這次會(huì)議一共收到了 7911 篇論文,接收了 1696 篇,其接收率是 21.4%。與歷年相比,其接受率處于中等。值得一提的是,學(xué)生論文有 70.6% 的接受率。
關(guān)于投稿總數(shù),近幾年 AI 領(lǐng)域一直處于上漲狀態(tài),除了 2019 年相較于 2018 年有了近一倍的增長之外,這兩年投稿量增長則是緩慢趨勢。錄取率并不是穩(wěn)定或者線性的,從上圖曲線可以看出,錄取率是波動(dòng)狀態(tài),且 2019 年最低,只有 16.9%;最高當(dāng)屬 2013 年,接近 30%。
論文分地區(qū)來看,中國大陸論文總數(shù)仍然占據(jù)榜首,3319 篇的論文提交,627 篇的論文錄取,其有 19.0% 的錄取率。不過從提交的數(shù)目來看,占據(jù)了 1/3,錄取數(shù)占據(jù)了 36%。中國香港和中國臺(tái)灣也成績頗豐,分別有 31 篇和 20 篇被錄取。
論文分領(lǐng)域來看,機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺、NLP 以及數(shù)據(jù)挖掘和應(yīng)用程序域分別占據(jù)總提交論文的 80%。
和去年相比,這個(gè) “熱度” 排名仍然沒有改變。機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺、NLP 以及數(shù)據(jù)挖掘和應(yīng)用程序域論文收錄數(shù)分別排名第一、第二、第三、第四。
哪個(gè)領(lǐng)域的論文接收率最高,組委會(huì)說,優(yōu)化領(lǐng)域今年有 43% 的接受率,博弈論原理,搜索分別有 37%、33% 的接受率。而機(jī)器學(xué)習(xí)和計(jì)算機(jī)視覺各只有 20% 的接受率。
除了公布這些獎(jiǎng)項(xiàng),本次大會(huì),還花了濃墨重彩介紹了本屆 AAAI 采用兩輪審稿政策,組委會(huì)說,共收到 9034 篇投稿。兩輪審稿政策對應(yīng)兩類文章,第一類是非 NeurIPS 和 EMNLP 轉(zhuǎn)投論文;第二類是 NeurIPS 和 EMNLP 轉(zhuǎn)投論文。
第二類論文中,經(jīng)過修改后的重投論文,如果是來自 NeurIPS,且總分?jǐn)?shù)高于 4.9;如果是 EMNLP,且總分?jǐn)?shù)高于 2.8 的話。那么可以直接進(jìn)入到 AAAI 2021 審稿的第二階段。
在第一階段,每篇論文將分配兩名審稿人。如果這兩個(gè)審稿人認(rèn)為該論文無法被錄用,那么該論文將直接被拒絕。沒有被拒的論文將進(jìn)入第二階段。
在第二階段中,每篇論文將另外分配兩個(gè)審稿人。新的審稿人給出意見之前,他們是無法看到第一階段的評(píng)論,也就是審稿相互獨(dú)立。這意味著每篇被錄取的論文至少有四名審稿人把關(guān),因此質(zhì)量肯定能夠保證。
在審稿過程中,評(píng)審們共寫了 25226 個(gè)字的 “建議”,平均下來每位審稿人有 2632 個(gè)字。
在討論中,大多數(shù)論文的討論有 3~5 位參與,極少數(shù)有 17~26 位參與。當(dāng)然。1~3 位和 5~7 位參與的討論的論文數(shù),也有 1000 以上。平均下來,每篇論文有 4.6 個(gè)人參與討論,每個(gè)討論包含字?jǐn)?shù) 358 個(gè)。
獲取更多資訊,請關(guān)注學(xué)術(shù)頭條同名公眾號(hào)——學(xué)術(shù)頭條,讓視野不再狹窄!
*請認(rèn)真填寫需求信息,我們會(huì)在24小時(shí)內(nèi)與您取得聯(lián)系。