吳邦國於1966年在清華大學無線電電子學系畢業時，趕上了文化大革命，當時的大學畢業生要"面向基層"、"面向工礦"，他就到上海電子管三廠當工人。後來，他先後擔任過技術員，技術科科長、革委會副主任、工廠黨委副書記、廠長、公司副經理、上海市儀表電訊工業局黨委副書記、上海市委副書記和書記。吳邦國從1992年開始就一直擔任政治局委員，從1995年開始就一直是國務院副總理，從1998年開始就一直是中共中央大型企業工委書記。
文革結束後80年代初期，原中共華東局一系的陳國棟、胡立教、汪道涵到上海主政，在落實鄧小平陳雲培養"第三梯隊"的政策時，吳邦國有幸成爲被這些伯樂相中的"千里馬"。後又經歷了芮杏文、江澤民空降上海，上海的"第三梯隊"分成太子黨和平民黨兩撥人馬，前者以曾慶紅和潘維明爲代表（這兩位再加上趙啓正，被當時海外媒體稱爲上海崛起的三顆政治新星），後者以吳邦國、黃菊爲代表。兩"黨"之間由競爭而產生的隔閡也相當深，中共官場的風氣是唯第一把手是從，當時的市委書記芮杏文思想比較開明，工作作風比較踏實，而擔任市長的江澤民政治色彩並不明朗，行事作風的浮誇卻已經是有相當的表演了，而且還常和第一把手擡槓，把太子黨和平民黨夾在中間左右爲難。
"芮江之爭"在十三大一中全會決定領導班子的時候，還埋下了一個影響後來政局鉅變的契機：按照當時的慣例和先前的安排，芮杏文以上海市委書記的身份進政治局，而江澤民是進書記處的人選；但是當時的總書記趙紫陽急於加強中央書記處的工作，便挑選芮杏文到中央工作，擔任分管意識形態和文教方面工作的中央書記處書記，這樣江澤民就頂了上海市委書記的空缺，順勢揀了一個政治局委員。誰也沒有想到，就是這麼個陰差陽錯，成了江澤民進中南海的敲門磚。這是題外話按下不表。
就說 "芮江之爭"後來被"江朱（熔基）之爭"取代，上海出現了一山難容兩虎的格局，江澤民主持的市委和朱鎔基主持的市政府關係之僵，幾乎到了水火不容的程度。這裏要插一句，現在正熱銷的《第四代》，在一個與吳邦國有關的細節上顯然有杜撰之嫌，原上海《世界經濟導報》記者張偉國最近在一篇文章中指出，該書寫吳邦國和江澤民在上海的關係，稱江澤民任市長期間在市政府辦公，只是後來任市委書記到市委大院辦公後，才與吳邦國建立了一段"兩年半"的同事關係……事實上，上海市委和市政府的主要負責人和上海市委的常委們，一直都是在康平路的市委大院辦公，外灘的市府大樓除了一塊招牌僅僅是一些事務機關，只是到朱鎔基擔任上海市長的時候，趁着當時"黨政分開"的改革勢頭，把自己的辦公室搬到外灘的市政府大樓，此舉還一直是外界關於朱鎔基與江澤民關係不和的重要依據……。此外江澤民一直與曾慶紅等太子黨過從甚密，對平民黨遠不是那麼當一回事，對此吳邦國是心知肚明的。
在"芮江之爭"、"江朱之爭"中，吳邦國已經是上海市委副書記，是分管組織人事和黨務工作的第三把手，相對於理想主義的政制新星潘維明緊跟趙紫陽芮杏文，一直到六四全軍盡墨；曾慶紅、黃菊見風使舵更上層樓，吳邦國竟然在兩者之間保持平衡，並獲得了相當的成功。不知這到底是他的所謂"厚道"秉性，還是他官運亨通的緣故，抑或兩者兼而有之。朱鎔基富有個性的行事風格曾在上海引起相當大的震盪，在老百姓稱頌不已的同時，中層以上的官員卻抱怨不迭，甚至在黃菊接任市長的時候都不無所指的向身邊上的人表示，"朱鎔基書記給我的是一支沒有墨水的筆"。
朱鎔基主持上海工作期間，吳邦國和黃菊是他名義上的左右手，這個時期黃菊是眼睛已經盯上了中南海的江澤民，已然有"身在上海心在北京"之勢；倒是吳邦國在配合朱鎔基工作方面算得上勤勤懇懇踏踏實實，客觀上也幫助朱鎔基擦了不少"屁股"，這種關係一直維持到他到北京出任政治局委員、中央書記處書記、國務院副總理、中央企業工委書記，仍甘於爲朱鎔基繼續當助手。儘管他信誓旦旦地說，對該活的大中型企業就讓它活得痛快，對資不抵債、實在難以爲繼的企業，則置之死地而後生。他說，有外國人批評我們像慈父一般對待企業，這不行，不能當慈父。但他倡導的國營企業改革"抓大放小"方案還是無疾而終，國營企業下崗工人也正在日益成爲突出的社會問題，如果以政治責任來衡量，他到北京任職後似乎是"過大於功"，退一萬步套用中共的術語來講，至少沒有拿出亮麗的成績單。
在現任九個政治局常委中，吳邦國可能是最其貌不揚的。在他主持上海工作的侍候，坊間有一種說法："吳邦國的相貌是農村的公社書記，黃菊的才幹是企業的車間主任"。現在中共在香港的喉舌說，（上海）人們把吳邦國稱作"平民書記"，也是一個間接的佐證。然而，吳邦國有上海人的那種精明，又不像黃菊把這種"精明"寫在臉上。吳邦國善於交友。他說，交朋友是一種樂趣，他尤其喜歡同金融界、實業界和新聞界人士交朋友。這些溢美之詞顯然不得要領。一位上海的的評論家指出，吳邦國的政績主要形成在上海工作期間，而他的政績並不是因爲他象朱鎔基那般的精明強幹，恰恰相反，是他的無能或者也可以稱之爲"無爲之治"。上海人的素質和基礎條件都非常好，這些年之所以發展的快，除了中央政策傾斜，更重要的就是得益於自吳邦國黃菊以來上海當權者的相對弱勢，使得民間發展有了一定的空間。
不管是無能還是無爲，吳邦國還有"阿青嫂"那種"眼觀六路耳聽八方"的本事是值得一提的，這一點他和現任常委中的第三把手溫家寶頗有相似之處。比較典型的就是1992年鄧小平南巡時，一路放話警告江澤民和李鵬"誰不改革就下臺"。朱鎔基授意上海組織筆桿子，以"皇甫平"的筆名在解放日報發表系列新春評論，引起軒然大波，李鵬、王忍之直接派人到上海調查，當時正在把反和平演變作爲中心工作的江澤民急得象熱鍋上的螞蟻，吳邦國一方面全力與之周旋，一方面也對身邊人表白：自己是沒有大腿可以抱的！後來，儘管鄧小平力挽狂瀾於既倒的南巡獲得了成功，吳邦國並沒有居功自傲，或他主政的上海當局似乎也從來沒有爲此大肆慶賀過，算是給了江澤民等強硬派很大的面子，……或許正是這種政治上的平衡技巧，奠定了他成爲今日中共新二把手的基礎？