Rozpatrując instalację pompy ciepła należy przemyśleć wybór właściwego rodzaju ogrzewania wodnego. Najlepszym rozwiązaniem jest funkcjonowanie pompy ciepła przy możliwie wysokiej temperaturze ziemi lub powietrza oraz przy możliwie najniższych parametrach zasilania systemu grzejnego budynku. Najczęściej montuje się ogrzewanie w podłodze, które funkcjonuje już przy temperaturze na zasilaniu ok. 40 stopni. Wytwarza ono idealny rozkład temperatur dla człowieka – temp. podłogi jest wyższa przy niższej temperaturze na wysokości głowy. Podczas ciepłych miesięcy system ogrzewania podłogowego może być stosowany do chłodzenia pomieszczeń. Odrębnym typem ogrzewania wodnego, który doskonale współpracuje z pompą ciepła jest ogrzewanie płaszczyznowe montowane w ścianach lub sufitach. Systemy kolektorów montuje się najczęściej w ścianach zewnętrznych obok otworów okiennych. Na sufit wykorzystuje się maty kapilarne lub panele pełniące funkcję grzewczą i chłodzącą.
Jeśli nie ma możliwości zainstalowania systemu niskotemperaturowego na etapie budowy domu, istnieją urządzenia, które można podłączyć w późniejszym czasie. Z pompą ciepła doskonale współpracują klimakonwektory. Instalowane są one na ścianie jak powszechne grzejniki. Ich podstawową część stanowi wymiennik ciepła wraz z nawietrznikiem, który tworzy obieg powietrza. Nadają się do systemów niskotemperaturowych w trakcie zimy oraz do obniżania temperatury pomieszczenia w trakcie lata. Wykorzystanie pompy ciepła nie eliminuje zastosowania tradycyjnych grzejników, jednak muszą one zostać dopasowane proporcjonalnie do niskiej temperatury zasilania. Rozmiarowo będą one dużo większe niż przy tradycyjnym systemie ogrzewania. Zastosowanie ich w instalacji z pompą ciepła nie zapewni chłodzenia pomieszczeń w trakcie lata.