En jämförande studie av regulariserade neurala nätverk med tillämpning på bildklassificering

Abstract

Denna rapport fokuserar på jämförelsen mellan olika regulariseringstekniker av artificiella neurala nätverk applicerade på klassificering av bilddata. Regulariseringsmetoderna som använts är L2-regularisering och dropout, och dessa har jämförts med icke-regulariserande neurala nätverk. Ett neuralt nätverk programmerades från grunden i MATLAB som initialt användes, men för effektivare träning av större nätverk användes Pytorch ramverket. Dataseten som undersöks är MNIST, MNIST-Fashion, CIFAR10 och ett hudcancer-dataset från ISIC. Två simulerade dataset i 2D användes också för att få en visuell idé om hur regularisering påverkar nätverket. Resultaten visar att regularisering ger bättre generalisering, men också att nätverksarkitekturen kan ha stor påverkan och en regulariserande effekt. Med tillämpning på hudcancer-data ser vi att dropout ger bäst generalisering i fallet av konvolutionella och feedforward neurala nätverk samt noterar att modellens prestation är nära toppmodern och erhåller resultat i linje med dermatologer och läkare i klassificiering av hudcancer.