山東編織袋廠項俊波曾經參軍入伍，先在成都軍區擔任司令部秘書，隨著中國對越自衛反擊戰打響后，他隨著部隊奔赴老山前線參與作戰，當上連隊指導員，在一場戰斗中，曾率領連隊深入敵后，因此腿部負傷，成了戰斗英雄。

　　此后，項俊波先后在中國人民大學、南開大學、北京大學學習。1993到1996年， 項俊波曾在南京審計學院任院長助理和副院長，當時這所高校為國家審計署直屬，3年多后，他便被調任審計署核心部門——審計管理司任副司長，后又歷任審計署京津冀特派辦特派員、人事教育司司長等職，并于2002年 2月任國家審計署黨組成員、副審計長。

　　值得一提的是，項俊波曾創作多部電視劇劇本，其中有不少都與審計工作相關，在1986到1987年，項俊波創作過國內第一部反映審計工作的多集電視劇《人民不會忘記》，該劇由項俊波本人擔任制片和編劇。他還創作過《裂縫》《審計報告》等多部在中央電視臺播出的電視劇，《裂縫》更是榮獲1999 年全國電視連續劇“飛天獎”一等獎。

　　2004年7月，時任國家審計署副審計長的項俊波調任央行副行長。彼時，曾有業內人士分析稱，在國家審計署副審計長任內，項俊波就主導企業和金融機構審計，他出任央行副行長一職，可以加強金融系統自身風險防范，防止銀行業內部系統控制脆弱的問題向外蔓延。

　　任職央行副行長后，項俊波曾主管部門條法司、內審司、征信管理局、會計財務司和黨委宣傳部。

　　在央行任職期間，項俊波曾表示，中國金融存在著比較突出的三類金融風險：信用風險、操作風險、跨行業和跨市場風險。而這三大風險在很大程度上與法律制度缺失或不協調有關。因此，他認為現階段金融立法是工作重點，要放在推動金融市場基礎設施建設、規范金融創新法律關系、提高金融監督管理的協調性和有效性，以及充分利用市場自律監管上來。

　　當時， 央行自身正進行重大變革，成立第二總部，為獲得最及時、準確的市場信息和數據，與市場操作層面貼近的央行部門，如央行征信局、金融穩定局的部分處室及國際業務部等，隨央行第二總部南下，遷入上海，2005年8月10日，央行第二總部在上海掛牌，項俊波兼任主任。

　　2007年7月，項俊波“空降”農行擔任黨委書記兼行長。項俊波任職農行時，正值國有銀行紛紛剝離不良資產，股改上市之時，農行是四大國有銀行中最后一家進入股改程序的，也被公認為“包袱最重”，截至 2006年年末，農行不良貸款率為23.43%。

　　2010年7月15日，農行在上海證券交易所鳴鑼，次日在香港聯交所掛牌，實現A+H股上市，并創下當時全球最大規模IPO紀錄。而在操盤農行上市一年多之后，項俊波便離開農行。