刮墨刀手柄大多是木制的，也有鋁制的。凹槽手柄既可以由硬木制作也可以由軟木制作，但一定要烘干、無缺痕。軟木（如白松）之所以被使用是因為它不但具有足夠的強度，而且較輕，可以制作大尺寸手柄。這是因為刮墨刀的長度可以達到約72英寸（183厘米），所以它的重量顯得非常重要。較輕的刮墨刀使用起來比較輕松自如。
刮墨刀的手柄要與操作人員的手相接觸的，因此手柄的棱角要呈圓形，以防磨手。橡皮刀刃必須與手柄的凹槽較好地吻合，如果不能較好地吻合，不同顏色油墨會在刀刃和手柄凹槽間的空隙干結，影響印刷油墨的顏色。
磨刀方法是把刮墨刀掛在一個豎直的位置，前后拉動磨擦材料，直到刀刃變得光滑。如果有帶狀磨砂機或圓盤狀磨砂機，會節省工人很多工作。磨砂機的速度在1000~1300轉/分鐘。如果速度超過1300轉/分鐘可能會使橡皮熔化，因為大多數合成橡皮是熱塑性物質，遇熱變軟。如果萬一出現了這種情況，可以加少量水使其冷卻，防止分解和軟化。另外，要輕輕地壓橡皮，使其能夠得到磨擦而又不至于熔化。
磨刀刃的另一種方法是用比刀刃鋒利的刀子、手動裁紙刀或機械裁紙刀把鈍刀刀刃切去一部分。如果刀刃或裁紙刀用濕布擦一下，它就更易于切掉橡皮刀刃。如果刀刃損壞的非常嚴重，以致于不能磨平，那么只好換一個新的刀刃。