而此时齐桓公会盟，前来参加盟会的蔡哀侯，正是第一次被俘遭释之后，满怀着对楚国的仇怨，想要来中原找一个可以依靠的大国，试图借力与楚国抗衡，以雪被俘受辱之恨。
齐国的第一次会盟，来的诸侯大抵就是这样的一些小角色，而大一些的诸侯国，却一个都没有来。齐桓公有些失望，就想推迟会盟日期。管仲劝他说：“三人成众，现在五个诸侯国聚在了一起，完全可以会盟了，况且第一次会盟，不可以改期，改期就是失信，以后还怎么取信于诸侯。”齐桓公深以为然，于是和宋、陈、蔡、邾四国诸侯相会结盟。虽然宋桓公的爵位高，是公爵，而齐桓公只是个侯爵，但齐国是大国，况且齐桓公手中有周天子的诏令，因此齐桓公被推选为盟主。五国订立盟约，大致内容有三：一是尊奉周天子，辅佐周王室；二是帮助弱小的诸侯国，共同抵御戎狄等少数民族入侵中原；三是对违背盟约的诸侯国，其他各国可以联合起来共同讨伐。
齐桓公有生之年，曾经九次与诸侯会盟，史称“九合诸侯”，而北杏会盟，是第一次。这一年是公元前681年。
北杏会盟之后，宋桓公心里感觉很不舒服。其一，他这个国君其实已经做得稳稳当当，根本不需要齐桓公为他正名；其二，他的爵位比齐桓公高，反而屈居齐桓公之下，心中不平；其三，五国会盟之后，齐桓公就要求各诸侯国出兵一齐去攻打没有前来会盟的鲁国、卫国、郑国、曹国等这些国家，宋国若是答应，就会跟着齐国疲于奔命，而齐国如果打败这些国家成为霸主，对宋国就更加没有好处。
基于这几点考虑，心气不平的宋桓公没有向其他诸侯国辞行就偷偷地提前回国了，齐桓公听说宋桓公负盟先归，十分生气，就准备要起兵攻打宋国，又被管仲劝止。管仲说，我们讨伐宋国可以，不过以天子的名义讨伐他就显得更加名正言顺。而且，我们可以先不急着去讨伐宋国，因为宋国距离我们毕竟远一些，而鲁国距离我们比较近，先把鲁国打败，宋国不足虑。齐桓公非常赞同，于是与管仲先率兵攻打鲁国的附属国遂国，因为齐桓公之前曾经邀请遂国会盟，而遂国没有前来赴会。遂国在今山东省泰安市宁阳县一带，是个小国，被齐国一战而下。之后齐国趁胜进军，鲁国大将曹沫率军抵抗，结果三战皆败，又被齐军占领了不少地盘。鲁庄公感到了前所未有的压力，于是请求把遂邑割让给齐国，然后和齐国在柯地（今山东聊城市阳谷县境内）结盟。虽然遂邑已被齐国攻占，但通过外交程序确认这一战果，将遂邑永久划入齐国版图，这还是非常重要的。齐桓公于是就同意了。
但在会盟时，却出现了意想不到的情况。接连吃了几次败战的鲁将曹沫不甘心鲁国的土地因为自己战败而失去，在坛上强行用匕首劫持了齐桓公，然后威胁齐桓公归还侵占的鲁国土地。齐桓公迫于形势，只好答应了。曹沫见齐桓公答应了，就扔掉匕首回到了臣列之中。齐桓公获得自由，就想反悔并杀死曹沫。管仲就劝谏说：“既然你已经答应了，就不应该再违背，如果你现在杀死曹沫，虽然可以趁一时之快，但这样会失信于诸侯，对称霸没有一点好处。”于是齐桓公就把侵占的鲁国土地全部退还给了鲁国。
本来这对齐桓公来说，是一个屈辱之举，但没有想到的是，这个屈辱之举却为他赢得了意想不到的好名声，诸侯们通过这件事情，都认为他注重信誉，可以信赖，于是争先恐后地赶来跟齐国结盟。曹沫劫持并威胁敌国国君的这个举动对后世产生了非常大的影响，比如后来的蔺相如渑池之会威胁秦昭王为赵惠文王击缶、荆柯刺秦王嬴政等，无不是受了曹沫的影响，曹沫可说是刺客雏形，侠士之祖。
公元前680年，齐桓公派使者带着丰厚的礼物前去朝觐周僖王，声称宋国不尊崇周天子，在国内擅行废立，请求周王室兴师问罪。周僖王也想借助齐国的力量来树立王室的威望，于是就答应了齐桓公的请求，派出特约代表大夫单伯。让单伯带着王室军队，前去和齐国、陈国、蔡国共同讨伐宋国。
齐桓公以周王室的名义征伐背盟的宋国，宋国当然不敢背上与周王室作对的罪名，于是立即修书致好，请求归顺王室，并与诸侯结盟。于是在第二年冬天，也就是公元前679年，齐国拉着周天子的代表与卫国、郑国、宋国三国在鄄城（今山东省荷泽市鄄城县）会盟。各诸侯国看到齐国得到周王室的支持，于是共推齐桓公为盟主，齐桓公的霸主地位，在这个时候正式得到确立，史称“齐桓公始霸”。
周僖王是一任讲求实惠而不顾礼仪的周天子，得到齐国的尊奉和厚礼，于是就承认了齐国的霸主地位，周王室虽然得到了一些经济利益，但对王室的尊严来说，显然是有损害的。而在齐桓公称霸的次年，晋国的公室小宗曲沃武公攻杀大宗国君晋侯缗，自立为晋国国君。而周僖王在收到曲沃武公的贿赂之后，竟然承认了曲沃武公的不法地位，正式册封他为晋国国君。王室的这种做法，理所当然地遭到了天下人的嘲讽。
