이미 SUM 을 한걸 다시 또 이중으로 SUM 할수는 없습니다.
뭔가 잘못 생각하고, 접근방식을 잘못 잡으신 듯 합니다.

-- SUM 을 다시 또 SUM 하려면 인라인뷰 이용하세요.
SELECT SUM(price) price
  FROM (SELECT ROUND
               ( CASE WHEN a.isBuyingVat=''Y'' THEN SUM(a.buyingAmt) ELSE SUM(a.buyingAmt+a.buyingVat) END
               / CASE WHEN SUM(a.materialQty - a.rtnQty) = 0 THEN 1 ELSE SUM(a.materialQty - a.rtnQty) END
               , 0) price
          FROM t a
         GROUP BY a.isBuyingVat
        ) a
;

사견입니다만.
나누기 연산의 모수가 0 이면 오류가 발생하여 위와 같이 1로 대체한 듯 한데요.
이렇게 되면 그 의미가 이상해집니다. 정확한 값이 아닌 이도 저도 아닌 값이 되어 버립니다.
모수가 0 일 때는 결과 자체가 안나오게 하는게 차라리 더 맞다고 할 수 있습니다.

전반적으로 문제가 있는 쿼리인 듯 합니다.
나누기의 모수 0 을 1 로 대체하는게 과연 맞는지도 의문입니다.
전체 쿼리와 원하는 의도를 설명해 주세요.
샘플 자료가 있으면 더 좋습니다.(원본 대비 결과표)

-- 쿼리를 간결하게 바꾸고
-- SUM 의 위치를 CASE 밖으로 꺼내 봤습니다.
-- 애초에 sum 의 위치에 문제가 있는 것 같네요.
SELECT ...
       ROUND(
       SUM( CASE WHEN a.isBuyingVat = ''Y'' THEN a.buyingAmt ELSE a.buyingAmt + a.buyingVat END
          / CASE WHEN a.materialQty - a.rtnQty = 0 THEN 1 ELSE a.materialQty - a.rtnQty END
          ), 0) AS price,
       ...
  FROM orders a,material b
...
 GROUP BY ROLLUP((b.dealerCode, b.largeCode, b.materialCode, b.materialName, b.dimension, b.unitCode, b.cmsMaterialCode, a.isbuyingVat))
;

-- 2단계 Group By --
SELECT ISNULL(dbo.uf_largename(dealercode, largeCode), ''총 계'') AS largeName
     , materialCode
     , isNull(cmsMaterialCode, '''') AS cmsMaterialCode
     , materialName
     , dimension
     , dbo.uf_unitname(unitCode) AS unitName
     , SUM(materialQty - rtnQty) AS qty
     , SUM(price) AS price
     , SUM(buyingAmt + buyingVat) AS buyingTotal
     , SUM(buyingAmt) AS buyingAmt
     , SUM(buyingVat) AS buyingVat
     , isBuyingVat
     , largeCode
  FROM (SELECT b.dealercode
             , b.largeCode
             , b.materialCode
             , b.cmsMaterialCode
             , b.materialName
             , b.dimension
             , b.unitCode
             , SUM(a.materialQty - a.rtnQty) AS qty
             , ROUND
               ( CASE WHEN a.isBuyingVat = ''Y'' THEN SUM(a.buyingAmt) ELSE SUM(a.buyingAmt + a.buyingVat) END
               / CASE WHEN SUM(a.materialQty - a.rtnQty) = 0 THEN 1 ELSE SUM(a.materialQty - a.rtnQty) END
               , 0) price
             , SUM(a.buyingAmt + a.buyingVat) AS buyingTotal
             , SUM(a.buyingAmt) AS buyingAmt
             , SUM(a.buyingVat) AS buyingVat
             , a.isBuyingVat
          FROM orders   a
             , material b
         WHERE ...
           AND ...
         GROUP BY b.dealerCode, b.largeCode, b.materialCode, b.materialName, b.dimension, b.unitCode, b.cmsMaterialCode, a.isbuyingVat
        ) c
 GROUP BY ROLLUP((dealerCode, largeCode, materialCode, materialName, dimension, unitCode, cmsMaterialCode, isbuyingVat))
;

가격의 의미가 공급가 / 개수 의 의미라면?
합계에서도 똑같이 적용되어야 하는게 맞을 듯 합니다.
지금 생각하고 계신 원하는 결과가 틀린 것일 수 도 있습니다.

그리고.
(합계금액 / 합계수량) 으로 계산하는게 맞는지도 의문입니다.
(개별금액 / 개별수량) 의 값을 AVG(평균)해야 하는게 아닐지? 생각해 봅니다.

-- DECODE(GROUPING(dealerCode), 0, (해당부분)) AS price -- Oracle
CASE GROUPING(dealerCode) WHEN 0 THEN (해당부분) END AS price