Den nøjagtige oprindelse af udtrykket "deep learning" er usikker, men flere indflydelser har sandsynligvis bidraget til dets fremkomst:
- Geoffrey Hintons artikel fra 2006 om dybe neurale netværk hjalp med at popularisere konceptet.
- Forskere som Yoshua Bengio brugte udtrykket hyppigt i begyndelsen af 2000-tallet.
- Nogle sprogforskere forbinder det med ideen om "dyb struktur" i kognitiv psykologi.
- Det opstod som en måde at skelne flerlags neurale netværk fra fladere traditionelle maskinlæringsmodeller.
- Fremskridt inden for computerkraft, især GPU'er i slutningen af 2000-tallet, gjorde det praktisk at træne dybere netværk.
I dag beskriver "deep learning" grenen af maskinlæring, der er fokuseret på kunstige neurale netværk med mange skjulte lag.
