Les premiers camps sont improvisés par les nazis, dès les premiers jours de la prise du pouvoir par Hitler ; c'est pourquoi on les appelle les camps sauvages : tout endroit retiré et clos peut servir de camp (des caves, des bateaux ...). Le but est de neutraliser immédiatement les opposants potentiels au régime. L'encadrement est généralement assuré par les SA, mais les SS ou des détachements de police peuvent également être les gardiens. Ces camps ont donc le soutien de l'autorité nazie. En mars 1933 le système s'organise un peu avec la construction du camp de Dachau. Les conditions de vie sont pénibles, le travail forcé est épuisant, la nourriture est de faible quantité et les gardiens persécutent les prisonniers, surtout les prisonniers "juifs". Mais en comparaison avec la suite, les meurtres sont peu nombreux, même si l'arbitraire existe, et les familles peuvent éventuellement rendre visite aux détenus. Dans le but de la rééducation, le camp possède une bibliothèque où se trouvent les ouvrages nazis, comme "Mein Kampf". A la fin de l'année 1933, des "associaux" et des criminels se trouvent enfermés à leur tour.
A partir de mai 1934, la Gestapo devient la seule organisation à décider de la détention préventive. Le nombre de détenus augmente (les homosexuels, par exemple, sont à leur tour victimes du nazisme), le nombre des gardiens également : il y a environ 4300 prisonniers et 3400 gardiens. La torture est de plus en plus pratiquée, la mortalité est plus importante. A partir de 1936 d'autres camps sont ouverts (Sachsenhausen, Buchenwald, Flossenbürg, Mauthausen, Neuengamme, Ravensbrück).