油灰刀的用途很广泛，装修时可以刮、铲、涂、填。刮可以用来刮墙上的杂质，清除灰土，或者刮腻子。铲可以用来铲墙皮、水泥、白灰等。油漆可以用来涂油灰。涂可用来涂腻子。填可用来填补墙面的缝隙、裂痕等。通常，人们还把油灰刀与抹泥刀一起搭配使用，用于调配腻子。
在日常生活中油灰刀也有着很大的作用，做煎饼的时候，可以用干净的油灰刀的摊开打散的鸡蛋使其和饼皮均与结合，做成美味的小吃。
当环卫工人需要解决城市贴在墙上的小广告时，他们可以用锋利的油灰刀轻松地完成清扫工作。油灰刀也可以用来清理房子里的一些旧污垢。