按照規定，如果您在4月初發現在3月份開具的增值稅發票未作廢，您需要按照期限繳納3月份的增值稅。此外，您可以根據實際情況申請減免或免稅。