朱儁听了颇有道理，但仍觉得羊武深入敌后太危险，便道：“将军是统帅，如此轻出，若有意外，如何是好？不如让护田校尉马腾出去即可。”
羊武道：“马校尉勇武不让在下，只是机变尚不及武。战场瞬息万变，需要灵活用兵，深入敌后，断其粮道，非武不能。”
朱儁听了，便不再坚持。朱儁知道，这三营兵马除骑兵营外，这段时间每天数个时辰都在训练守城技术，羊武虽然不带任何攻城器械，但却制造和改进了大量守城工具。这次数万大军出征，便携带了大量的守城器械。
看来，羊武对此战已早有谋划，既然如此，只能听从羊武的安排。朱儁道：“羊将军放心，老夫还有一口气在，敌人踏不进荥阳城半步。”
二人来到荥阳城，朱儁大吃一惊。没想到两个月内，荥阳城各门已经加筑了瓮城，而城门也加装了铁板悬门，城门可谓固若金汤。
再看各种守城器械：各种擂具、抓枪、叉杆、连挺、飞钩、狼牙拍、布幔数不胜数，十多辆藉车已经在城墙上待命。而守将胡轸奉羊武之命招募民工搬运的石、木等物，早已经堆积如山。武库内，上百万支箭矢整齐堆放，粮仓已经备足两万大军三个月粮草。
常言道：兵马未动，粮草先行。朱儁作为名将，也不得不佩服羊武强大的动员能力，不知不觉之间，不但已经加固荥阳的城防，而且已将荥阳守城物资准备充足。即使计划打一个月的仗，也准备了三个月的物资，羊武说自己不会守城，简直谦虚得过分了。
朱儁想，这么坚固的城防，老夫若是不能守住荥阳，还有何面目再见天下人。
宪治元年二月初，袁绍集合十七路诸侯三十万人马，除了保护、督运粮食的三万人马，其余全部兵临荥阳城下，以敖仓为粮草大营。
这十七路诸侯分别是：渤海太守袁绍、冀州牧韩馥、南阳太守袁术、长沙太守孙坚、河内太守王匡、陈留太守张邈、广陵太守张超、兖州刺史刘岱、东郡太守乔瑁、山阳太守袁遗、上党太守张杨（袁绍封）、吴郡太守许贡、徐州刺史陶谦、颍川太守李旻、豫州刺史孔伷、汝南太守刘翊、任城相任遂。
除冀州牧韩馥只派大将麴义，徐州刺史陶谦只派大将臧霸率兵参与联军，其余诸侯皆亲自与手下大将领兵前来。
袁绍已经听说羊武亲率宪兵营来到荥阳拒敌，本以为会见到羊武在城门楼上说话，想趁此机会，用自己强盛的兵势吓他一吓。不料，袁绍来到城门楼下半天，也不见到羊武出来会面，袁绍大怒，命人前去喊话：“关东联军盟主袁绍请羊武登楼说话。”
只听城门楼上一名将军府从事回道：“羊将军、朱将军正在休息，贼人勿要喧哗叨扰。羊将军说了，袁绍小儿兵临荥阳城之前，尚是大汉臣子，朝廷已多次发出诏令命其回京任职。如今袁绍不是奉诏回京，而是兵临荥阳，已是叛逆贼子，羊将军不与叛逆贼子说话，不日将其生擒判刑。若尔等幡然悔悟，此刻罢兵尚来得及。”
袁绍大怒，喊道：“我袁氏四世三公，他羊武引车卖浆之辈，敢视我为贼人？我不夷平荥阳，不为袁氏子孙！”
守城军士回道：“袁氏祖上四世三公，本是朝廷忠臣。如今袁绍、袁术、袁遗拥兵叛逆，欺君灭祖，已不再是袁氏子孙，人人可得而诛之。羊将军有令：生擒贼首袁绍者，赏一万钱；诛杀袁绍者，赏五千钱。”
一万钱，不过一名奴婢的价格。袁绍被羊武的悬赏金额激怒了，想到羊武倒曾扮做貂蝉的奴婢，骂道：“婢子贱奴敢辱我！攻城！”
顿时，三十万大军将荥阳城围成铁桶一般，然后搬出大量飞桥、云梯、井栏、冲车、轒辒车等攻城器械，蚂蚁一般爬上城墙。
城墙上的士兵，在布幔的掩护下奋起反击，箭如雨下，射倒城下无数敌军。那些爬上云梯的士兵，有的被檑木砸下城墙，有的被狼牙拍拍成蜂窝，有的被飞钩钩得血肉模糊……
第一日的战斗，联军除了在城墙下留下千余具的尸体，扶回数千伤兵之外毫无所获。
袁绍心想：“羊武挟持幼帝，已占大义。我袁氏四世三公之家，却反而成了乱臣贼子。不如与关东诸侯另立新君，便可聚拢人心，瓦解羊武阵营。”
袁绍想来想去，认为幽州牧刘虞最为合适。一来此人有德声，连乌桓人鲜卑人都服他。二来此人力量弱小，容易控制。
当晚，袁绍与群雄商议，众人皆同意另立新君，与羊武对抗。袁绍推荐刘虞，群雄也都心服。于是，袁绍修书一封，劝进刘虞登基帝位。
次日，联军分出五万兵马前往虎牢关，若是能把虎牢关攻下，便打通了通向成皋的道路，三十万大军就可以绕着荥阳，直接进入京城地区。
然而，虎牢关是军事要塞，城防之坚固，比荥阳有过之而无不及。因此，这一日，联军分兵攻打荥阳城和虎牢关，除了又扔下数以千计的尸体，仍然毫无所获。
联军将帅深知攻城艰难，何况荥阳城和虎牢关都是军事重镇，一时半会儿攻不下也不感到奇怪。联军早已做好数月对峙的准备，自己人多，背靠关东数千万人口和钱粮，看羊武能坚持到什么时候。
只要形成长久对峙，三十万大军的威压，迟早有一天压垮守军和京城大臣、民众的心理。若是袁绍另立新君的方案成功，刘虞登基帝位，那羊武的阵营立刻就土崩瓦解。
此后连续两日，联军在城下叫阵，始终不见羊武和朱儁出来说话。十几路诸侯见到羊武如此傲慢对待，人人心中怒火中烧，只得督促军队猛攻城墙。
袁绍帐下两员猛将颜良文丑，一人在荥阳城下，一人在虎牢关下，每日前来挑衅，想要斩将立威，打击羊武将士的士气。
刘关张在冀州、青州、幽州一带辗转数年，对颜良文丑的勇名也略有耳闻，只是双方互不为敌，因此无缘会面交手而已。这一日，文丑又到关前叫骂，关羽和张飞大怒，都想出去应战。张飞道：“二哥，你上次刺死李傕，已经立过大功，这次让我来立功一次。”
关羽正要争执，刘备笑道：“云长，就给翼德一次机会吧，要不只怕会把他憋死。”
关羽历来对刘备言听计从，便道：“既然大哥说了，这头功就让给你了。”
