热泵热水机组遵循能量守恒定律和热力学2定律，运用热泵的原理，只需要消耗一小部分的机械功（电能），将处于低温环境（大气或地下水等）下的热量转移到高温环境下的热水器中，去加热制取高温的热水。热泵可以与水泵相比拟。
水是不能自发地从低处流向高处，要将低处的水输送到高处，必须用一台水泵，消耗一部分电力，才能将水送到高处的水箱中。同样，根据热力学二定律，热量也是不能自发地从低温环境向高温环境中转移（传送），而要实现这个目的，必须要有一台机器，消耗一部分机械功（例如电能），才能将低温环境中的热量传送到高温环境中去。这样的机器就称之为“热泵”。热泵的作用是将空气中或低温水中的热量取出，连同本身所用的电能转变成的热能，一起送到高温环境中去应用。