應該從源頭上加以控制，大力開發和推廣節能降耗的建筑新技術和新工藝，從而減少建筑垃圾的產生。在建筑物的設計過程中，考慮提高建筑物的耐久性，采用盡量少產生建筑垃圾的結構設計，使用環保型建筑材料，考慮建筑物將來進行維修和改造時盡可能減少建筑垃圾產生量，考慮建筑物在將來拆除時的再生問題。
建筑垃圾中的許多廢棄物經分揀、剔除或粉碎后，大多可以作為再生資源重新利用如：廢鋼筋、廢鐵絲、廢電線和各種廢鋼配件等金屬，可以代砂，用于砌筑砂漿、抹灰砂漿、打混凝土墊層等，還可以用于制作砌塊、鋪道磚、花格磚等建材制品。
絕大部分建筑垃圾未經任何處理，便被施工單位運往郊外或鄉村，露天堆放或填埋，耗用大量的征用土地費、垃圾清運費等建設經費，同時，清運和堆放過程中的遺撒和粉塵、灰砂飛揚等問題又造成了嚴重的環境污染。
不同結構形式的建筑工地，垃圾組成比例略有不同。而垃圾數量因施工管理情況的不同在各工地差異很大。如采用商品砂漿，將鋼筋制作外包給專門的鋼筋加工中心。就能大大減少混凝土這種建筑垃圾和廢鋼筋的產生。