Появившийся в начале XX века тепловоз стал экономически выгодной заменой как низкоэффективным устаревшим паровозам, так и появившимся в то же время электровозам, рентабельным лишь на магистралях со сравнительно большим грузо- и пассажиропотоком.
За прошедший век было опробовано и внедрено множество усовершенствований в конструкции тепловоза: мощность дизеля возросла с нескольких сотен, а то и десятков лошадиных сил до трёх тысяч и выше, на разных типах тепловозов используются различные способы передачи энергии двигателя на колёсные пары локомотива, значительно возросло удобство управления и обслуживания тепловоза, снизились выбросы в атмосферу. Тепловозы строятся и используются по всему миру, успешно конкурируя с электровозами, выигрывая в автономности и отсутствии затрат на электрификацию железнодорожных магистралей. КПД дизеля в установившемся режиме выше, чем средний КПД тепловых электростанций.
Основной трудностью при попытках соединить вал дизеля напрямую с колёсными парами является разгон тепловоза и запуск дизеля. Делались попытки применить для этого сжатый воздух (то есть дизель при трогании с места работал как пневматический двигатель), однако запасов сжатого воздуха в баллонах не хватало для нормального разгона локомотива.
Механическая передача
Механическая передача включает фрикционную муфту и коробку передач с реверс-редуктором; она обладает малым весом и высоким КПД, однако при переключении передач неизбежно возникают рывки. На практике её используют на локомотивах малой мощности (мотовозах), дизель-поездах, дрезинах и автомотрисах.
Электрическая передача
Более эффективной передачей стала электрическая, при которой вал дизеля вращает якорь тягового генератора, питающего тяговые электродвигатели (ТЭД). В свою очередь вращательное движения якоря ТЭД передаётся колёсной паре с помощью осевого редуктора. Редуктор представляет собой соединённые зубчатые колёса, располагающиеся на якоре ТЭД и оси колёсной пары. В случае электропередачи поддерживается гиперболическая тяговая характеристика, когда увеличение сопротивления движения вызывает увеличение силы тяги, а уменьшение — ускорение локомотива. Электропередача позволяет соединять несколько секций тепловоза и управлять ими по системе многих единиц из одной кабины. Минусом её является большая масса и относительная дороговизна необходимого оборудования. В случае электропередачи возможно использование электродинамического торможения, суть которого заключается в использовании ТЭД в качестве генераторов, за счёт сопротивления вращению вала якоря которых осуществляющих торможение тепловоза (вырабатываемая электроэнергия гасится в тормозных резисторах).