您需要申办继承权公证。银行做法是合理的，您到公证处做继承权公正即可。
您作为您爷爷的法定继承人有权查询被继承人各个银行的存款情况，按照银行的要求，您需要到公证处办理查询函，然后持查询函到各个银行查询您爷爷的存款情况。办理查询函需要准备您爷爷的死亡证明、您的身份证明以及您与您爷爷的亲属关系证明即可。
不过查询函只能用于查询死者名下的存款账号与具体数额，不能作为领取死者名下存款的凭证，查询到具体金额后，再去申办继承权公证。
当事人在公证处递交公证申请书，同时提交下列证件和材料：当事人的身份证明，如工作证、身份证、户口簿等。被继承人的死亡证明，如有关医院出具的死亡证明书、尸体火化证明书、或有关派出所出具的注销户口证明，如果被继承人是被宣告死亡的人，当事人应提交人民法院关于宣告死亡判决书。被继承人所留遗产的产权证明，如房产所有权证书、银行存款单、股票号码与数额等。
被继承人生前立有遗嘱的，当事人应提交遗嘱原件。当事人与被继承人关系的证明代位继承人申办公证的，还应提供继承人先于被继承人死亡的证明以及本人与继承人关系的证明。
扩展资料
遗产分配
如果有遗嘱按照遗嘱执行，没有遗嘱的，按照法定继承，继承人分第一顺序（配偶、子女、父母）和第二顺序（兄弟姐妹、祖父母、外祖父母）。
继承开始后，由第一顺序继承人继承，第二顺序继承人不继承。没有第一顺序继承人继承的，由第二顺序继承人继承。按照继承法的规定，同一顺序继承人继承遗产的份额，一般应当均等。对生活有特殊困难的缺乏劳动能力的继承人，分配遗产时，应当予以照顾。对被继承人尽了主要扶养义务或者与被继承人共同生活的继承人，分配遗产时，可以多分。有扶养能力和有扶养条件的继承人，不尽扶养义务的，分配遗产时，应当不分或者少分。继承人协商同意的，也可以不均等。
参考资料：凤凰网-父亲去世 怎样领取他的存款？
参考资料：百度百科-继承权公证