Burn not your house to rid it of the mouse

He сжигай своего, дома, чтобы избавиться от мышей.

Ср. Осердясь на блох, да и шубу в печь.