Qual è la differenza tra apprendimento profondo e superficiale

Nel supervised machine learning si distinguono due tipologie di algoritmi di apprendimento supervisionato: superficiale (shallow) e profondo (deep)

• Shallow learning
  Nell'apprendimento superficiale gli algoritmi costruiscono il modello a partire dalle caratteristiche dei dati degli esempi di training in un solo livello di rappresentazione (feature learning). Il collegamento tra input (esempi) e output (modello) è diretto. È il caso delle reti neurali semplici (simple neural network) e degli algoritmi di machine learning più comuni (SVM, Naive Bayes, decision tree, ecc.).
  

  Pro e contro. Sono modelli più semplici e meno costosi.

• Deep learning
  Nell'apprendimento profondo gli algoritmi costruiscono il modello elaborando gli esempi di training in due o più livelli di rappresentazione successivi. In questo caso il collegamento tra input (esempi) e output (modello) non è diretto. Il secondo livello elabora l'output del primo livello. Quindi, l'algoritmo apprende dalle funzioni e non direttamente dalle caratteristiche dei dati (features). È il caso delle reti neurali profonde (deep neural network) con due o più strati intermedi nascosti (hidden layers).
  

  Pro e contro. Sono modelli più complessi e costosi. Tuttavia, hanno più potenziale per estrarre rappresentazioni dai dati grezzi e costruire modelli migliori.