从平河北，常与臧宫、傅俊共营，霸独善抚士卒，死者脱衣以敛之，伤者躬亲以养之。光武即位，以霸晓兵爱士，可独任，拜为偏将军，并将臧宫、傅俊兵，而以宫、俊为骑都尉。建武二年，更封富波侯。
四年秋，帝幸谯，使霸与捕虏将军马武东讨周建于垂惠。苏茂将五校兵四千余人救建，而先遣精骑遮击马武军粮，武往救之。建从城中出兵夹击武，武恃霸之援，战不甚力，为茂、建所败。武军奔过霸营，大呼求救。霸曰：“贼兵盛，出必两败，努力而已。”乃闭营坚壁。军吏皆争之。霸曰：“茂兵精锐，其众又多，吾吏士心恐，而捕虏与吾相恃，两军不一，此败道也。今闭营固守，示不相援，贼必乘胜轻进；捕虏无救，其战自倍。如此，茂众疲劳，吾承其弊，乃可克也。”茂、建果悉出攻武。合战良久，霸军中壮士路润等数十人断发请战。霸知士心锐，乃开营后，出精骑袭其背。茂、建前后受敌，惊乱败走，霸、武各归营。贼复聚众挑战，霸坚卧不出，方飨士作倡乐。茂雨射营中，中霸前酒樽，霸安坐不动。军吏皆曰：“茂前日已破，今易击也。”霸曰：“不然。苏茂客兵远来，粮食不足，故数挑战，以侥一切之胜。今闭营休士，所谓不战而屈人之兵，善之善者也。”茂、建既不得战，乃引还营。其夜，建兄子诵反，闭城拒之，茂、建遁去，诵以城降。