在我們之前的分享中我們大多以具體的學(xué)術(shù)活動(dòng)案例,如某個(gè)學(xué)術(shù)活動(dòng)的Top解決方案來(lái)講解具體的比賽。那么是不是有更好的學(xué)習(xí)方法呢?答案是肯定有,大部分Kaggle賽題都是相通或者類(lèi)似的,還有一些通用的問(wèn)題。今天就來(lái)聊聊關(guān)于Kaggle學(xué)術(shù)活動(dòng)入門(mén)到進(jìn)階的10個(gè)問(wèn)題!
問(wèn)題1:賽題是哪一種類(lèi)型?
首先參加Kaggle學(xué)術(shù)活動(dòng),你需要知道有哪些具體的比賽類(lèi)型。具體分類(lèi)如下圖所示,當(dāng)然有多種分類(lèi)方法。

最為主要的類(lèi)型區(qū)別有:
賽題的提交方式(提交結(jié)果、Kernel)
賽題問(wèn)題類(lèi)型(CV、NLP或結(jié)構(gòu)化)
問(wèn)題2:賽題問(wèn)題是什么?
在確定好賽題類(lèi)型后,你應(yīng)該仔細(xì)閱讀賽題的Overview界面弄清楚的賽題的具體問(wèn)題。當(dāng)然賽題描述不會(huì)很明確的說(shuō)出賽題具體問(wèn)題,需要選手自行進(jìn)行分辨。
在回答問(wèn)題2時(shí),需要弄清楚:
賽題是CV、NLP還是結(jié)構(gòu)化中的哪一種?
賽題對(duì)應(yīng)于學(xué)術(shù)問(wèn)題的中哪一種?
賽題我之前見(jiàn)過(guò)嗎?有代碼或知識(shí)的積累?
Kaggle有類(lèi)似賽題任務(wù)嗎,有選手分享嗎?
問(wèn)題3:賽題數(shù)據(jù)如何建模?
在弄清楚賽題類(lèi)型和具體的問(wèn)題后,需要弄清楚賽題問(wèn)題的建模方式,這一點(diǎn)就涉及到具體的建模的方法和模型了。
當(dāng)然也并不是所有的賽題都是新任務(wù),Kaggler只需要熟知?dú)v史任務(wù),并進(jìn)行舉一反三就可以了。
在問(wèn)題3你應(yīng)該弄清楚:
問(wèn)題有不同的建模方式,哪一種更加適合?
問(wèn)題建模應(yīng)該使用哪一個(gè)模型?
問(wèn)題模型如何迭代,如何優(yōu)化?

問(wèn)題4:賽題數(shù)據(jù)的細(xì)節(jié)理解?
在了解了賽題的初步的任務(wù)和建模方法后,接下來(lái)就要深入到細(xì)節(jié)中了。你應(yīng)該深入理解賽題數(shù)據(jù)的字段含義、字段產(chǎn)生方式和標(biāo)簽的產(chǎn)生方式。
對(duì)于結(jié)構(gòu)化數(shù)據(jù)的每個(gè)字段:
字段的類(lèi)型、含義是什么
字段與標(biāo)簽有什么關(guān)系?
在回答問(wèn)題4時(shí),可以從描述性數(shù)據(jù)分析和探索性數(shù)據(jù)分析兩個(gè)角度來(lái)完成。賽題的理解決定了賽題的具體建模方式,是尤為關(guān)鍵的一點(diǎn)。
問(wèn)題5:賽題使用什么模型?
問(wèn)題5與問(wèn)題3有點(diǎn)類(lèi)似,但在問(wèn)題5你應(yīng)該回答的更加具體:
賽題具體使用到的模型是什么?
模型有哪些超參數(shù)可供選擇?
有類(lèi)似模型可以對(duì)比參考嗎?
在回答問(wèn)題5時(shí),需要根據(jù)問(wèn)題4的答案來(lái)進(jìn)行接解決。首先根據(jù)賽題具體的數(shù)據(jù)類(lèi)型,可以將賽題分為結(jié)構(gòu)化賽題和非機(jī)構(gòu)化賽題。同時(shí)在回答問(wèn)題5時(shí),你應(yīng)該跑通或者寫(xiě)完baseline了。
問(wèn)題6:模型處于那種階段?
機(jī)器學(xué)習(xí)模型根據(jù)狀態(tài)可以分為欠擬合和過(guò)擬合,當(dāng)然你應(yīng)該追求模型對(duì)測(cè)試集最好擬合的狀態(tài)。也就是說(shuō),你應(yīng)該知道模型此時(shí)的狀態(tài)。如果模型是欠擬合你應(yīng)該做什么?如果模型是過(guò)擬合你應(yīng)該做什么?
問(wèn)題7:賽題上分點(diǎn)是什么?
當(dāng)你回答完前面6個(gè)問(wèn)題后,基本上你已經(jīng)提交過(guò)一次答案,已經(jīng)成功上榜了。但是這些還不夠,與前排選手相比你的模型精度還有待優(yōu)化。
因此你需要弄清楚:
前排選手與自己的精度差異在哪兒?
自己還能從哪些地方上分?
回答問(wèn)題7最好的方法是閱讀比賽論壇和相關(guān)論文,當(dāng)然這些問(wèn)題的具體答案只能自己回答自己了。從問(wèn)題7開(kāi)始,你開(kāi)始真正的學(xué)術(shù)活動(dòng)探索過(guò)程。
問(wèn)題8:本地CV與線上得分?
在模型訓(xùn)練的過(guò)程中,本地驗(yàn)證集CV的得分非常重要。同時(shí)本地CV與線上得分的差異性也至關(guān)重要,也就是CV vs 線上(PB)。在Kaggle每個(gè)比賽中,經(jīng)常會(huì)有人對(duì)比自己CV與線上得分的差異性(gap)。
這樣對(duì)比的作用是:
尋找更好的本地CV得分;
尋找更加問(wèn)題的gap;
通過(guò)問(wèn)題8,你將會(huì)對(duì)賽題線上線下有初步的感知,這將會(huì)影響你的最終得分。當(dāng)然分布需要細(xì)心觀察,反復(fù)試驗(yàn)得到的。

問(wèn)題9:賽題如何完成集成?
在不斷回答自己?jiǎn)栴}的同時(shí),你還需要考慮模型最終的集成問(wèn)題。模型集成在有些Kaggle學(xué)術(shù)活動(dòng)中非常重要,會(huì)帶來(lái)精度增益。
但是模型集成是需要得分差異性,需要訓(xùn)練多個(gè)模型的:
如何完成stacking和簡(jiǎn)單的KFlod平均?
深度學(xué)習(xí)模型如何完成模型集成?
問(wèn)題10:賽題如何完成總結(jié)?
最后的最后,在比賽完結(jié)后不管結(jié)果如何。希望你在閱讀和反思比賽的歷程后回答自己這些問(wèn)題:
通過(guò)本次比賽我學(xué)習(xí)到什么?
我與前排選手差異在哪兒?
遇到下次類(lèi)似比賽,我將如何行動(dòng)?
參加比賽還是很耗費(fèi)資源和時(shí)間,無(wú)論大家結(jié)果如何,希望大家都有所收獲。
賽事沖金系列爆款講座降重登場(chǎng),陪你一路“升級(jí)打怪”爬藤申GS!
【掃碼免費(fèi)】享各種賽事真題備賽大禮包等眾多福利!

以上就是關(guān)于【關(guān)于Kaggle競(jìng)賽入門(mén)到進(jìn)階的10個(gè)問(wèn)題!】的解答,如需了解學(xué)校/賽事/課程動(dòng)態(tài),可至翰林教育官網(wǎng)獲取更多信息。
往期文章閱讀推薦:
??2027年QS最佳留學(xué)城市排名發(fā)布!倫敦位列第三,北美竟無(wú)緣Top10 ?
王虹、鄧煜!兩位中國(guó)數(shù)學(xué)家同獲菲爾茲獎(jiǎng)!中國(guó)數(shù)學(xué)史新紀(jì)元!

? 2026. All Rights Reserved. 滬ICP備2023009024號(hào)-1