西安大略大學坐落在加拿大風景秀美的著名城市倫敦,倫敦市是加拿大第十大城市,人口有34萬多人,距加拿大第一大城市多倫多200公里。始建于1878年的西安大略大學是加拿大最古老的學校之一,她在學術方面已經(jīng)有上百年歷史,并在商科、醫(yī)學和文科方面取得了輝煌的成就,學校繼續(xù)保持高速發(fā)展并不斷擴展在學術方面的研究。
來自西安大略大學、紐約大學和字節(jié)跳動的研究者回答了一個重要的問題,即如何從帶有噪聲標簽的數(shù)據(jù)集中學到可靠模型。西安大略大學
噪聲標簽(Noisylabels)隨著深度學習研究的深入得到廣泛的關注,因為在眾多實際落地的場景模型的訓練都離不開真實可靠的標簽信息。由于人工標注誤差(專業(yè)性不足等問題)、數(shù)據(jù)原始噪聲,帶噪聲的數(shù)據(jù)不可避免,清洗數(shù)據(jù)的工作也是更加困難。
在有監(jiān)督的圖像分類問題中,經(jīng)典的cross-entropy(CE)損失函數(shù)是最為廣泛應用的函數(shù)之一。當數(shù)據(jù)集不存在任何的噪聲標簽的時候,它往往能帶來非常不錯的效果。然而,當數(shù)據(jù)集中存在噪聲標簽的時候,它會導致模型對噪聲標簽過擬合,使模型的泛化性變差。本文從對比學習的角度研究了如何通過約束圖像的特征來防止模型對噪聲標簽的過擬合。
現(xiàn)有的解決噪聲標簽的問題有基于robustregularization,labelcorrection,lossreweighting,和robustlossfunctions等。本文的研究動機源于robustlossfunctions。為了防止模型對噪聲標簽過擬合,現(xiàn)有的對噪聲魯棒的損失函數(shù)(meanabsoluteerror(MAE)[1,2],reversecross-entropyloss(RCE)[3]等)在一定程度上解決了噪聲標簽過擬合的同時,也存在對數(shù)據(jù)欠擬合的問題[4,5]。在實際應用中,這些對噪聲魯棒的損失函數(shù)是結合CE一起使用的,而CE容易造成對噪聲數(shù)據(jù)的過擬合問題。因此我們思考,能否僅僅通過約束圖像的特征,使整個模型仍然可以用CE訓練且不受噪聲標簽的影響。韋仕敦大學
更多留學干貨內(nèi)容,歡迎繼續(xù)關注學在加拿大官網(wǎng)和美國留學網(wǎng)以及我們的官方微信服務號。

更多留學申請規(guī)劃問題歡迎掃碼聯(lián)系小助手免費咨詢獲取干貨資料包
加拿大西安大略大學利用對比正則化方法應對噪音問題
作為“加拿大老四校(old four)”之一的西安大略大學(University of Western Ontario)2012年已更名韋仕敦大學(Western University)。是位于加拿大安大略省倫敦的一所世界著名學府,加拿大頂尖醫(yī)學博士類公立大學之一,也被稱為加拿大“小哈佛”。
尤其是近些年來,西安大略大學實施了一系列旨在擴展傳統(tǒng)優(yōu)勢學科的舉措,以期實現(xiàn)專業(yè)的多元化,例如開設了健康科學、軟件工程以及醫(yī)學研究等等。西安大略大學在全加大學中醫(yī)學博士類排名第3位。在校學生超過33,000人,其中有來自120多個國家的留學生約2,200名,全日制教職員工3,200人,提供2,000多個學士學位與文憑課程。
課程設置
西安大略大學占地467萬平方米,主校區(qū)158萬平方米,校園主要建筑達到75個,建筑風格古典和現(xiàn)代相融合。西安大略大學下設3個學院,12個科系,2個教學醫(yī)院及3個附屬研究所。大學由醫(yī)學院、自然科學院、商學院、法學院、教育學院、文學院、理學院、工程學院、健康科學院、信息與傳媒研究學院、社會科學學院音樂學院、研究生院、休倫學院、國王學院和布雷舍爾學院(女校)等組成。不同院系之間有部分專業(yè)合作,但都采用統(tǒng)一的教學大綱和標準,授予統(tǒng)一的西安大略大學文憑。
更多留學干貨內(nèi)容,歡迎關注學在加拿大官方微信號或者小助手
微信小助手
微信企業(yè)號
更多留學申請規(guī)劃問題歡迎掃碼聯(lián)系小助手免費咨詢獲取干貨資料包
>>手機用戶,可以直接點我進行微信在線咨詢