Zostały one specjalnie hodowane w Niemczech pod koniec XIX wieku przez kapitana Maxa von Stephanitz, który miał na celu stworzenie wszechstronnego psa roboczego. Rasa była początkowo nazywana „Alzatian Wolf Dog”, a później stała się znana jako „pies owczarka niemieckiego”.
Podczas gdy nazwa rasy może doprowadzić niektórych do myślenia, że pochodzą z Niemiec, są one rzeczywiście nazwane na cześć ich kraju pochodzenia.