是的，小規模納稅人在開具給非小規模納稅人的發票時需要開具增值稅普通發票，并按規定繳納增值稅。根據《中華人民共和國增值稅暫行條例》的規定，小規模納稅人的增值稅普通發票的稅率為3%。因此，小規模納稅人開具給非小規模納稅人的增值稅普通發票時，需要按照3%的稅率繳納增值稅。同時，小規模納稅人還應根據《中華人民共和國發票管理辦法》及相關稅務部門的有關規定，如實填報發票內容、辦理發票領用登記等。