是的，公司向銀行貸款支付的利息，可以憑銀行回單做費用，允許稅前扣除。根據《中華人民共和國企業所得稅法》第十六條規定，企業在本期內發生的利息支出，可在當期扣除。根據《企業所得稅會計準則》第216條規定，企業在本期內發生的合理的借款利息可以在當期扣除，可以憑回單證明，可以做為稅前扣除費用。 除此之外，企業應向稅務機關提供充分有效的證據，才能獲得稅前扣除。比如：應提供銀行借貸合同、借款利息支出清單、銀行賬戶流水等，以便征稅機關進行審查。此外，企業還要遵守稅收征管的相關規定，不得以假借他用或其他欺詐的手段逃避稅收征管。