因魯莊公曾扶持公子糾，齊桓公對此一直懷恨在心，因此在他即位的第二年就派大軍討伐魯國，雙方在長勺（今山東曲阜縣北）展開大戰。齊軍依仗自己人多勢眾，接連發動攻勢，企圖先發制人，可惜魯國有機智的謀臣曹劌（又作曹翽或曹沬），以「一鼓作氣」的戰略擊敗齊軍，將齊軍逐出國境。

北杏會盟

齊桓公在長勺戰敗後，吸取教訓，專心致力於國內建設。在管仲、鮑叔牙等大臣輔佐下，齊國很快強大起來。這時，齊桓公就想着在各國中稱霸。齊桓公五年（公元前681年）正月，管仲給他出主意，指周僖王剛剛即位，齊桓公前往祝賀，順便說說宋國南宮萬弒閔公、大夫仇牧以及大宰督，造成宋國公子們出奔，國內一片混亂，請天子下令確定宋國的君位，只要得到天子的命令，召集諸侯就名正言順了。

由於平王東遷後，周室勢力日漸衰弱，周天子已不獲列國諸侯重視。周僖王見齊桓公派使者覲見，自然高興萬分，並應齊桓公的請求，讓他召集各國諸侯。齊桓公得到周天子的首肯，以安定宋國內亂為名，首次召集諸侯於北杏（今山東東阿）聚會。這次會盟，只有宋、陳、蔡、邾這四國參與，而且宋國國君在會盟未完結就先走了。北杏之會是齊桓公初為盟主，是齊國爭霸的開端。當時在黃河下游諸國中，能夠同齊國爭雄的只有魯、鄭、宋三國，因此必須得到這三個國家的認同，才算確立霸業。因魯、遂兩國拒絕會盟，齊桓公為取得霸主地位，必先對魯、遂兩國採取行動。

爭霸手段

遂是小國，北杏會盟之後的同年六月，齊桓公首先率領陳、蔡等國把遂國滅了，理由是遂國不來會盟，有違周天子命令。魯是大國，齊桓公採恩威並用的策略。當年冬伐魯，魯國戰敗，請求講和，齊桓公同意，並與魯莊公於齊地柯（今山東東阿）會面。魯大夫曹劌以匕首劫持齊桓公，要求齊國歸還侵佔魯國的土地。齊桓公初應允，其後又後悔，不想歸還土地之餘，亦要殺曹劌。管仲勸齊桓公要守信，不可棄信於諸侯。《史記‧齊太公世家》載：「管仲曰：『夫劫許之而倍信殺之，愈一小快耳，而棄信於諸侯，失天下之援，不可。』於是遂與曹劌三敗所亡地於魯。諸侯聞之，皆信齊而欲附焉。」

古代諸侯級別分為五等，即公、侯、伯、子、男，宋國是公，齊國是侯，宋國看見齊國稱霸，心裏不服氣。在齊魯結盟後，宋國就退出聯盟。齊桓公見此便聯合各國諸侯一起討伐宋國，連周天子都派軍隊參與。宋國看見大軍壓境，才知大事不妙，只好求和，這時各國諸侯共推齊桓公當盟主。鄭國看到齊國勢力強大，自知不是對手，也放棄爭霸。

齊桓公七年（公元前679年），齊桓公與宋、陳、衞、鄭等諸侯，又一次會盟於鄄（今山東省鄄城北舊城）。這次會盟，由齊桓公獨自召集，足見其號令諸侯的影響力，確立齊國霸主的地位，齊被尊為霸主，齊桓公也以「尊王攘夷」作為政治號召。《史記‧齊太公世家》載有：「七年，諸侯會桓公於鄄，而桓公於是始霸焉。」

在齊國稱霸的同時，位於南方的楚國勢力日益強大，更想逐鹿中原，與齊國爭雄。面對楚國的威脅，齊桓公率領中原各國大軍，直驅楚國邊境，雙方對峙了很長時間，可是誰都不敢進攻。最後還是管仲出了個主意，讓楚國向周天子進貢「包茅」，給楚國下台階。於是雙方就在召陵（今河南省漯河市召陵區）會盟。雖然齊國並沒有戰勝楚國，但亦制止了楚國北進的企圖，穏定了齊國的霸主地位。《史記》有述：「管仲既用，任政於齊，齊桓公以霸，九合諸侯，一匡天下，管仲之謀也。」

挾天子以令諸侯

齊桓公能夠稱霸，除了因齊國國富兵強之外，更重要的是打着周天子的旗號，即所謂「挾天子以令諸侯。」齊桓公不但事事以周天子為號召，甚至周王朝君位的繼承都得依賴他扶持，這可看出他的勢力有多大了。例如，周惠王在世的時候，並不喜歡太子鄭，想把他廢除。太子鄭知道後，就央求齊桓公替他作主。管仲又給齊桓公出主意，讓齊桓公帶着各國諸侯拜見太子，並且輪流宴請太子，場面非常隆重，周惠王雖然不滿，可又不敢開罪齊桓公，那就不提廢太子一事了。周惠王死後，太子鄭很順利繼承王位，是為周襄王。

周襄王即位後，為了感謝齊桓公對他的支持，特地派人把祭祀祖先的祭肉分給他。《史記‧齊太公世家》載：「三十五年夏，會諸侯於葵丘。周襄王使宰孔賜桓公文武胙、彤弓矢、大路，命無拜。」這在當時是一件很了不起的大事。齊桓公此時正在葵丘與各國諸侯會盟，於是藉這機會，擺出「尊王」的姿態，他下跪接受周襄王所賜的祭肉，藉此讓其他諸侯看其「尊王」的樣子，以提高自己的地位。