Tirpitz urodził się w Küstrin (obecnie Kostrzyn nad Odrą, Polska) w prowincji Brandenburgia w Prusach. Wstąpił do pruskiej marynarki wojennej w 1865 roku i brał udział w wojnie francusko-pruskiej toczącej się w latach 1870–71. Po wojnie piastował różne stanowiska sztabowe i dowódcze, po czym piął się po szczeblach kariery.
W 1897 Tirpitz został mianowany Sekretarzem Stanu Cesarskiej Marynarki Wojennej , zastępując admirała Friedricha von Hollmanna. Natychmiast przystąpił do realizacji swoich ambitnych planów rozbudowy niemieckiej marynarki wojennej, wierząc, że silna marynarka wojenna jest niezbędna dla bezpieczeństwa narodowego i dobrobytu gospodarczego Niemiec.
Pod przywództwem Tirpitza niemiecka marynarka wojenna szybko się rozwijała. Wzrosła liczba pancerników i krążowników, wprowadzono nowe typy okrętów wojennych, takie jak okręty podwodne i niszczyciele. Tirpitz nadzorował także budowę sieci baz morskich i stoczni.
Program ekspansji morskiej Tirpitza nadwyrężyło zasoby Niemiec i spowodowało napięcie z Wielką Brytanią, która czuła się zagrożona rozwojem niemieckiej marynarki wojennej. W 1906 roku Wielka Brytania zwodowała Dreadnought, nowy, rewolucyjny typ pancernika, który sprawił, że wszystkie istniejące pancerniki stały się przestarzałe. Tirpitz odpowiedział, nakazując budowę nowej klasy pancerników, klasy Nassau, które były uzbrojone w potężniejsze działa i grubszy pancerz niż Dreadnought.
Angielsko-niemiecki wyścig zbrojeń morskich trwał aż do wybuchu I wojny światowej w 1914 roku. Niemiecka marynarka wojenna pod dowództwem Tirpitza odegrała znaczącą rolę w wojnie, ale ostatecznie została pokonana przez Królewską Marynarkę Wojenną.
Po wojnie Tirpitz odszedł z marynarki wojennej i zajął się polityką. Od 1924 do 1928 był posłem do Reichstagu i był głośnym krytykiem Republiki Weimarskiej. Tirpitz zmarł w Ebenhausen w Bawarii w 1930 roku.
Tirpitz pozostaje postacią kontrowersyjną. Niektórzy podziwiają go za przewidywanie i determinację w budowaniu niemieckiej marynarki wojennej, ale krytykuje się go także za rolę w anglo-niemieckim wyścigu zbrojeń morskich i wybuchu I wojny światowej.