Dokładne pochodzenie terminu „głębokie uczenie” (deep learning) nie jest pewne, ale kilka czynników prawdopodobnie przyczyniło się do jego popularności:
- Artykuł Geoffrey’ego Hintona z 2006 r. o głębokich sieciach neuronowych pomógł upowszechnić koncepcję.
- Badacze tacy jak Yoshua Bengio często używali tego terminu w początku lat 2000.
- Niektórzy lingwiści łączą go z ideą „głębokiej struktury” w psychologii poznawczej.
- Powstał jako sposób na rozróżnienie wielowarstwowych sieci neuronowych od płytkich tradycyjnych modeli uczenia maszynowego.
- Postępy w mocy obliczeniowej, zwłaszcza GPU pod koniec lat 2000, uczyniły trenowanie głębszych sieci praktycznym.
Dziś „głębokie uczenie” opisuje gałąź uczenia maszynowego skupioną na sztucznych sieciach neuronowych z wieloma ukrytymi warstwami.