Den andra ordföranden Saskia Esken blir kvar på sin post.
Ansiktet utåt för SPD har den senaste tiden varit kanslerkandidaten Olaf Scholz, som efter valsegern i september försöker bilda en koalitionsregering tillsammans med De gröna och liberala FDP.
Klingbeil tillhör liksom Scholz mittenfalangen i SPD, till skillnad från Esken, som ofta beskrivs som en vänsterprofil. Generalsekreteraren anses vara en brobyggare inom partiet.
SPD är Tysklands äldsta politiska parti. Efter några års kräftgång ökade partiet kraftigt i opinionsmätningarna veckorna före valet till förbundsdagen, för att till sist landa på 25,7 procent.