是的，剩下的3%的稅額應該在增值稅納稅申報附表二中進行填報。在該表格中，你需要詳細記錄進項稅額和應退稅額，以確保稅務處理的準確性。