如果处分没有装入档案，不会有影响的，调入单位也不知道。如果档案里面装有与这次处分相关的材料，可以与单位领导或管理档案人员沟通将材料剔除，一般是可以做到的。
【本文关联的相关法律依据】
《中华人民共和国银行业监督管理法》第四十三条银行业监督管理机构从事监督管理工作的人员有下列情形之一的，依法给予行政处分；构成犯罪的，依法追究刑事责任：违反规定审查批准银行业金融机构的设立、变更、终止，以及业务范围和业务范围内的业务品种的；违反规定对银行业金融机构进行现场检查的；未依照本法第二十八条规定报告突发事件的；违反规定查询账户或者申请冻结资金的；违反规定对银行业金融机构采取措施或者处罚的；违反本法第四十二条规定对有关单位或者个人进行调查的；滥用职权、玩忽职守的其他行为。