PzKpfw III z armata 37 mm stanowily mniej niz 20% wszystkich zbudowanych „trojek”, ale w latach blitzkriegu czolgi tego typu odegraly wazna role, tworzac wraz z wczesnymi PzKpfw IV zasadnicza sile Panzerwaffe.

Pierwsze wzmianki o pracach nad czołgiem uzbrojonym w armatę 37 mm (w owym okresie było to standardowe uzbrojenie podstawowych czołgów bojowych) pojawiły się w raporcie Kriegsmaterial-Abteilung Reichswehry z 29 grudnia 1933 r., w którym jest m.in. mowa o przygotowywaniu kontraktu z firmą Daimler-Benz na opracowanie 10-tonowego czołgu uzbrojonego w armatę 37 mm. Szczegółowe założenia, jednocześnie z wymaganiami na czołg z armatą 20 mm (PzKpfw II) przygotował Inspektion der Kraftfahrtruppen, czyli szefostwo motoryzacji wojsk, na czele którego od 1 kwietnia 1931 r. stał gen. mjr Oswald Lutz. Decyzję o przyznanie funduszy na rozwój czołgu PzKpfw III zapadły na spotkaniu dyrektorów departamentów sztabu Reichswehry 11 stycznia 1934 r.

Dalszy nadzór nad opracowaniem wozu przejął Waffen Prüfwesen 6 (Wa Prüf 6), jeden z dziesięciu oddziałów Urzędu Uzbrojenia i Sprzętu – Heereswaffenamt (HWA) podległego do 1 września 1939 r. Dowódcy Wojsk Lądowych (Oberbefehlshaber des Heeres), a później Dowódcy Armii Rezerwowej i Uzupełnień (Chef der Heeresrüstung und Befehlshaber des Ersatzheeres). Urząd ten 27 stycznia 1934 r. zatwierdził rozwój czołgu nazwanego wstępnie Gefechstkampwagen (co można przetłumaczyć na „bitewny wóz bojowy”, czyli coś w rodzaju czołgu podstawowego) o masie 10 t i z armatą 37 mm.
Techniczne opracowanie takiego wozu to jedno, a dyskusje jakie rozgorzały w dowództwie Reichswehry (od marca 1935 r. – Wehrmachtu) i samego dowództwa Wojsk Lądowych (od marca 1935 r. wydzielone jako Oberkommando des Heeres, OKH, podległe Oberkommando der Wehrmacht, OKW, wcześniej było częścią składową Reichswehrministerium jako Reichsheeres) w latach 1933-36, to drugie. Równolegle powstawał czołg, na podstawie wymagań dopasowanych do możliwości technologicznych przemysłu niemieckiego, a tymczasem dyskutowano o zadaniach stojących przed przyszłymi czołgami i o tym, jakie charakterystyki techniczne wozu bojowego powinny być przypisane do danego zadania. Gen. płk Ludwig Beck, szef Sztabu Generalnego OKH określił w styczniu 1936 r., że zadaniem czołgów będzie: wsparcie piechoty, działania w jednostkach mobilnych wraz z innymi elementami mobilnymi oraz walka z czołgami przeciwnika. Problem natomiast polegał na tym, czy wszystkie te zadania powierzyć jednemu, uniwersalnemu typowi czołgu, czy też należy do każdego z nich zbudować dedykowany wóz bojowy. Ciekawostką jest, że nie wymienia się wśród tych zadań prowadzenia rozpoznania, co w innych armiach miało być domeną czołgów lekkich. W Niemczech natomiast zadaniem tym obarczono samochody pancerne i motocyklistów. Do końca wojny dywizyjne bataliony rozpoznawcze w dywizjach pancernych nie miały czołgów, lecz samochody pancerne oraz półgąsienicowe transportery opancerzone.
Dlaczego tak trudno było pogodzić zadania wsparcia piechoty i walki z czołgami przeciwnika? Otóż pancerze ówczesnych czołgów nie były zbyt grube. Do ich niszczenia wystarczały armaty małego kalibru, ale o dużej prędkości początkowej pocisku. Na takie właśnie działa nalegała piechota, by ułatwić ich ręczne przytaczanie przy zmianie stanowiska ogniowego, a także by nie angażować zbyt wielu koni lub ciągnika ciężkiego w czasie przemarszów. Problem polegał na tym, że pociski odłamkowo-burzące wystrzeliwane z takiej armaty miały bardzo małą masę, a tym samym niewielką siłę rażenia. Raczej nie nadawały się do tego, by niszczyć gniazda karabinów maszynowych, umocnienia polowe, stanowiska moździerzy i dział strzelających na wprost czy nawet piechotę przeciwnika w terenie otwartym. Do tego celu dobrze nadawały się działa piechoty, znacznie większego kalibru, ale równie lekkie, miały one bowiem krótkie lufy, niedużą prędkość początkową pocisku, a co za tym idzie – stosunkowo niewielki odrzut, nie potrzebowały więc ciężkiego łoża i solidnych oporopowrotników. Piechotę nasycano takimi działami, by dać jej jakieś wsparcie, ale trudno było im towarzyszyć żołnierzom w trakcie natarcia.
Dlatego czołgi do walki z pojazdami pancernymi wroga i czołgi wsparcia piechoty różniły się od siebie głównie uzbrojeniem. Pierwsze miały długolufowe armaty przeciwpancerne mniejszego kalibru (37-45 mm), a drugie krótkolufowe armaty większego kalibru (nie mniej niż 75-76,2 mm), strzelające pociskami z silniejszym ładunkiem wybuchowym i dającym dużo odłamków. Co do jednostek mobilnych natomiast, to powinny one być wyposażone w czołgi obu typów, ale o większej prędkości, niż wozy przeznaczone do realizacji dwóch wcześniej wymienionych zadań. A tym samym, trzeba było zrezygnować z ich bardziej solidnego opancerzenia. Podział na czołgi wsparcia piechoty i czołgi do działań mobilnych bardzo wyraźnie zarysował się we Francji, w Wielkiej Brytanii, a także w ZSRR. W Niemczech natomiast z czasem ukształtował się inny podział – czołgi do walki z wrogimi wozami pancernymi i do wsparcia piechoty zmotoryzowanej w jednostkach mobilnych.
W toku wojny Niemcy nie dysponowali natomiast czołgami do wsparcia „pieszej” piechoty, do tej roli bowiem wyznaczyli działa szturmowe. Działa szturmowe to jednak kwestia lat 1938-1939, wcześniej myślano o tym, żeby to czołgom powierzyć tę rolę. Czego nie zrealizowano aż do połowy II wojny światowej, kiedy to pojawiły się samodzielne bataliony czołgów ciężkich Tygrys, wypełniających także i takie zadania. Co ciekawe, około 1936 r. uznano, że czołgi PzKpfw II nadają się jednak do wykorzystania bojowego, głównie w roli wozów rozpoznawczych, co faktycznie nastąpiło, ale na poziomie pułku pancernego czy batalionu czołgów, a także do wsparcia głównego typu czołgu w walce z mniej wymagającym przeciwnikiem pancernym, takim jak lekkie czołgi przeciwnika i samochody pancerne.
Cofnijmy się jednak o kilka lat, do okresu kiedy rodziła się techniczna (a nie taktyczna) koncepcja powstania przyszłego PzKpfw III. 27 lutego 1934 r. w Wa Prüf 6 odbyła się narada, której przewodniczył gen. por. Oswald Lutz, a w której uczestniczył mjr Hermann Breith (później gen. wojsk pancernych, dowódca III Korpusu Pancernego) i inż. dypl. Blasberg. Wówczas zdecydowano, by do konkursu na nowy czołg 10-tonowy, z armatą 37 mm, zaprosić cztery firmy: Daimler-Benz AG ze Stuttgartu, Krupp AG z Essen, Maschinenfabrik Augsburg-Nürnberg (MAN) z Norymbergi (w Augsburgu był oddział silnikowy, a w Norymberdze „pojazdowy”) i Rheinische Metallwaren- und Maschinenfabrik AG (Rheinmetall AG, dopiero w 1936 r. doszło do połączenia z August Borsig GmbH, wówczas powstał koncern Rheinmetall-Borsig AG) z Düsseldorfu. Wtedy po raz pierwszy pojawiło się oznaczenie Zugführerwagen (ZW), czyli w dosłownym tłumaczeniu wóz dowódcy plutonu. Spodziewano się bowiem, że wspomniane pojazdy wejdą do uzbrojenia po jednym w plutonie i będą zabezpieczać podstawowe wówczas PzKpfw II (wciąż uważano, że PzKpfw I będą wyłącznie pojazdami szkolnymi) w walce z pojazdami pancernymi przeciwnika. Mniej więcej w tym czasie pojawiło się oznaczenie Begleitwagen (BW), czyli czołg eskortujący, choć bardziej by pasowało – torujący, nadane programowi budowy czołgu wsparcia, który stał się później wozem PzKpfw IV.