柴油机最核心的部件是曲轴，缸套活塞。柴油机包括机体、曲轴箱、正时齿轮室、气缸盖、齿轮系、曲轴、活塞、连杆、凸轮轴、机油冷却器、主油道限压阀、机油泵、喷油泵、喷油器总成、空滤器、增压器。要完成燃油化学能到热能再从热能到机械能的二次能量转换，柴油机机组必须有一系列零部件。
此外，还需要一些系统来确保这些零部件的可靠运行。柴油机是以柴油为燃料的内燃机。柴油机是压燃式发动机，在主要发明者Diesel之后常被称为Diesel发动机。
柴油机工作时，吸入柴油机气缸的空气由于活塞的运动而被压缩到更高的程度，达到500~700℃的高温。然后燃油以雾状喷入高温空气中，与高温空气混合形成可燃混合物，自动点燃燃烧。燃烧时释放的能量作用于活塞顶面，推动活塞，通过连杆和曲轴将其转化为旋转的机械功。
现代汽车广泛用于复式活塞内燃机。它利用可燃气体在气缸的燃烧和膨胀中产生压力，通过连杆推动活塞运动和曲轴旋转，向外输出动力。它主要由两个主要机构和五个系统组成，即曲柄连杆机构、燃气机构、供油系统、点火系统(汽油机)、起动系统、冷却系统和润滑系统。