Почему молчалин пытается угодить хлестовой, хваля ее собаку?

Потому что ему что то нужно было

Молчалин заискивает перед влиятельной Хлестовой. Заботливо составляет ей партию для игры в карты, восторгаясь ее собакой:

Ваш шпиц - прелестный шпиц, не более наперстка,
Я гладил все его- как шелковая шерстка.

Он добивается цели: Хлестова называет его "мой дружок"и"мой родной". То есть Молчалин подстраивается под всех, хочет угодить всем, причем именно тем, кто имеет высокий статус  и тот кто богат. А Хлестова богатая женщина и ее мнение слушает каждый. Если пойдут слухи, что Молчалин полохой, то общество возненавидит его. Он думает только о себе, о том как собственную шкуру.  Для него нет понятий чести и достоинства.