中东铁路修建过程中，也曾遇到巨大波折。1900年6月，中东铁路沿线各处工地骤然停工。原来晚清政府下诏向美、英、法、俄等11国宣战，令各省督抚召令义民成团，掀起一场席卷全国的反洋运动。各地的义和团纷纷成立，东北地区的义和团高举扶清灭洋的大旗，与沙俄帝国的军队激烈交战。战争胜负终归要靠实力和武器，在先进的洋枪洋炮面前，手持大刀长矛的义和团和装备落后的清军，付出惨重的代价，以全面失败告终。
大清国如同回光返照的巨人，完成了最后一次痛苦的挣扎之后重重倒地，再也没能站起来。
在此之后，中东铁路各处工地开始全面复工。
中东铁路自1897年开始修建，历时六年，于1903年全线竣工。
中东铁路和俄国的西伯利亚大铁路相连，以哈尔滨为中心，东线由哈尔滨东向绥芬河出境，西线由哈尔滨西向满洲里出境，南线由哈尔滨经大连通往北京。这一条T字形铁路，连接了中国和俄罗斯的首都，贯穿了欧亚大陆。
根据当时的勘测数据，中东铁路东西线加上南部支线全长为2360俄里（2522.8公里）。
伴随中东铁路的修建与开通，中国最早的工人阶级在铁路沿线出现了。
铁路刚刚通车，1903年，作为中东铁路枢纽的哈尔滨便成立了中东铁路哈尔滨总厂，后改为哈尔滨车辆厂。在铁路工业的引领下，哈尔滨的机械、制粉、电业、航运、印刷、纺织、制酒和铁工业都得到了很快的发展。
工人的来源也和铁路息息相关。为修筑铁路，沙俄从中国关内和东三省招募了十几万的筑路工人。修完铁路，数以万计的筑路工人留在了哈尔滨。
在中东铁路总工厂里，以伊奥秀夫为首的沙俄管理人员，只知道驱使中国工人为他们组装和修理各种机车，却根本不顾中国工人的利益。不少工人来自清朝洋务运动时期创立的北洋机器局和吉林机器局，他们的技术娴熟，工资却低得可怜，劳动的时间过长，工作量很重，而且居住条件极其恶劣。
工人们住在沼泽地上临时搭起的一片人字形帆布帐篷里，每到盛夏日晒雨淋，帐篷里如同蒸笼，蚊虫成群结队；隆冬时节北风呼啸，帐篷又变成了冰窖。
忍无可忍的工人们在张永贵的领导下冲进了大帐篷，向伊奥秀夫大总管提出抗议：“我们要享受人的待遇。”“我们要房子住。”……脑满肠肥的伊奥秀夫对当年的义和团还心存余悸，便哄骗工人说：“诸位先回去干活，我一定把大家的要求转达给中东铁路管理局的局长霍尔瓦特。”
许多天过去了，却毫无音信。张永贵带领中国工人，手里拿着大棒子质问伊奥秀夫，声明不给明确答复决不罢休。
此时远东和太平洋地区被战争的阴云所笼罩，为了争夺中国东北，俄日两国已经到了剑拔弩张的地步，战争一触即发。出于战略需要，俄国急需大量的列车来运输战争物资。为了缓解中国工人的愤怒情绪，中东铁路管理局局长霍尔瓦特答应了中国工人的部分要求，责成总工厂拨出一些砖瓦木材和费用来建造工人住宅。
1903年秋天，在总工厂附近一个比较干燥平坦的地方，搭了六排人字形窝棚，工人们总算有了可以勉强居住的地方。窝棚每排六个，共计36个，被工人们称为“三十六棚”。最初，住在棚里的是在总工厂做工的单身汉，一个窝棚少则十余人，多则30人。不久之后，工人家属纷纷来到这里。工人们互相帮助，挨着窝棚盖了不少土坯房，逐渐围绕着三十六棚形成了中国工人住宅区。后来，人们又把总工厂称为“三十六棚大厂”，而“三十六棚”也成了总工厂及工人住宅区的统称。
相比原来风雨飘摇的布帐篷，“三十六棚”的条件有所改善。可是他们的生活环境还很艰苦，这里没有一条像样的道路，没有厕所，没有水井，工人们用水只能到松花江边用木桶挑。冬季，在这里居住的工人就更遭罪了。生活的困境被工人们编成了歌谣：“三十六棚是冷寒宫，穷人过冬要人命，长夜没火难取暖，跺脚取暖到天明。”
沙俄为保障中东铁路通畅，把旅顺的边境地方法院迁到了中东铁路的枢纽哈尔滨，同时设立了警察局和监狱。1907年1月在哈尔滨设立了俄国总领事馆，同年，沙俄成立了哈尔滨自治市，选出的40名议员中没有一名中国人，全是俄国人。自治市按照俄国法律征收赋税，各大商店的招牌全用俄文，所有的公告文告、连同火车票上的字也都是俄文。哈尔滨成为了俄国人的天下。
但在哈尔滨为数众多的俄侨中，有不少革命者。在俄国第一次革命高潮时，他们在哈尔滨遥相呼应，传递着俄国数十万工人奋起抗争，反对沙皇反动统治的革命信息，也传递着列宁领导的俄国社会民主工党发出的各国工人团结战斗的声音。1905年11月，俄国革命者和俄国工人在哈尔滨成立了名为“俄国社会民主工党哈尔滨工人团”的布尔什维克组织，该组织的主要基地是俄国与中国工人并肩工作的中东铁路总工厂，即“三十六棚大厂”。
铁路总工厂从建厂开始，沙俄在招募中国工人的同时，也在俄国陆续招募了五六百名懂技术的俄国工人。中俄两国工人语言不同，感情却是相融的，因为他们都是苦出身，都受到沙俄的剥削和压迫，两国工人常常是互相帮助。由于朝夕相处，总是一起合作，渐渐地中俄两国工人大体上能听懂对方的意思，甚至可以进行简单的交流了。
在与俄国工人亲密无间的交流中，中国工人第一次听到了“五一国际劳动节”这个名词，他们以前从来都不知道劳动者居然拥有自己的节日，况且还是国际性的。
1886年5月1日，美国全国1万多个企业中的35万工人全部停工，上街参加游行，争取8小时工作制。1899年第二国际成立大会上，规定每年的5月1日的这一天为国际劳动节。俄国工人每年的“五一”时都要举行游行来纪念自己的节日，纪念“五一”的活动已经在俄国的许多城市蔚然成风。
此时已是4月，俄国工人纷纷议论“五一”的事情。机车分厂有个年轻的中国工人叫吴泰，他是1899年从山东来东北修中东铁路的，其间曾被安排到俄国的海参崴铁路工厂做工，因为积极参加罢工斗争被工厂开除，他又辗转来到哈尔滨铁路总工厂机车分厂做工。他为人热情仗义，又有斗争经验，经常带领工人向总工厂的俄国大小总管讨公平，在工人中很有威望。吴泰不断地在工人中说出自己的心里话：世界各国工人都在纪念“五一”，为什么中国工人不能纪念呢？今年“五一”，我们三十六棚工厂就应该用实际行动来纪念自己的节日。吴泰的倡议如同一石激起千层浪，众人一致认同和响应，大家推举吴泰作为中国工人的代表，由他出面联系和交涉纪念“五一”的事情。
吴泰找到俄国工人，建议中俄两国工人一起召开一个大会来纪念“五一”。对于吴泰的建议，俄国工人非常赞成，同时向布尔什维克组织进行了汇报。在布尔什维克组织的领导和参与下，4月下旬，中俄两国工人推选出的几名代表连续秘密开会，最后商定在松花江边举行大规模的“五一”纪念大会。这个决定，让中俄工人深受鼓舞，尤其是中国工人首次纪念自己的节日，更是分外激动。他们分头活动，奔走相告，跃跃欲试。
4月30日的早晨，中俄工人代表来到总工厂大账房向俄国大总管巴切罗夫郑重地提出：“5月1日是全世界劳动人民的节日，我们全体工人准备开会庆祝，要求放假一天。”
巴切罗夫听后先是一愣，稍作深思，耸耸肩膀，傲慢地摊开双手说：“根据铁路局规章，没有五一放假的规定，不要提出无理的要求，你们赶快回去，明天照常上工干活。”
工人代表没听他那一套，回去后分别通知全厂工人，明天按原定计划到江边聚齐，开大会隆重纪念“五一”国际劳动节。工人们欢欣鼓舞，充满期待。
看到这样的局面，想象着明天要出大事的场面，巴切罗夫大总管慌了手脚，心神难安。他连忙挂电话请示中东铁路管理局局长霍尔瓦特，得到的答复是两个字：镇压。
4月30日上午，巴切罗夫派人在总工厂各处张贴用中俄文书写的霍尔瓦特局长下达的命令：“对擅离职守或旷工者，负刑法第三八四条规定的罪责，处以四个月的监禁……”
4月30日下午，霍尔瓦特局长派来军警数十人，荷枪实弹驻守在总工厂的大门口。
一时间，三十六棚总工厂笼罩在乌云中。工人们双眉紧蹙，愤懑不已，有的人说：想要过一个自己的节日都这么难，他们欺人太甚，干脆和他们拼了。
倘若“五一”的集会照常进行，必将出现一场流血事件，这涉及全厂成百上千人的安危，怎么办？
布尔什维克组织和中俄工人代表立即召开秘密会议，商讨对策。俄国工人代表建议，改在5月14日这天举行活动，因为这一天是俄历的5月1日，在俄国有时也在这一天举行活动，这个提议得到大家的赞同。会议还决定，以总工厂为主，同时尽快秘密串联和发动全市各行业的工人及市民参加大会，大会的地点由松花江边改在江北。
5月1日这一天，中俄工人照常上班，连续几天风平浪静。原来对“五一”的纷纷议论，也销声匿迹了。巴切罗夫大总管长舒了一口气，密切关注局势的霍尔瓦特局长，也放松了警惕，觉得闹事的风波已经烟消云散了。一个星期后，全副武装的军警队也离开了总工厂。
1907年5月14日（俄历5月1日）中午的时候，随着总工厂汽笛鸣响，两千多名中俄工人放下手中的工具，潮水般地离开工厂，与此同时，哈尔滨机车库的工人、面粉厂工人、码头工人、装卸工人也陆续赶到江边，有些店员、市民和学生也闻讯赶来。
猝然间，松花江江边汇聚了几千人，还有铁路其他部门的工人和一些市民也正在行进的途中。
罢工领导人事先已协调和联络了江边的客轮及货轮的工人，那儿的工人不仅答应所有的大小船只用来送人过江，而且在他们把人员送过江后，也愿意一同参加纪念“五一”节大会。
当中俄工人离开总工厂时，毫无准备的大小总管和工头们如热锅上的蚂蚁乱作一团，惊慌失措的巴切罗夫大总管急忙挂电话报警。恼羞成怒的霍尔瓦特立即下令动用护路军赶来镇压。上百名护路军警迅速集合，向松花江江边挺进。
出乎预料的是，他们赶到江边时，没见到一个工人，几千名工人已经过江了。
浩瀚的江水款款流淌，风中荡起的层层浪花，不时地拍击着岸边。滚滚的江水在绚丽的阳光照射下，变得波光闪烁，溢彩流金。
上百名护路军警在松花江江边沮丧地徘徊，垂头丧气。
平日里，宽阔的江面上，有许多客轮和货轮穿梭往来，也有各种船只出没其间。可眼下，江面上空空荡荡，见不到一只船，真是一片汪洋都不见啊。
等来等去，江面上依然是空空荡荡，急得直跺脚的俄国军官，只能望江兴叹。
下午1时许，纪念“五一”国际劳动节的大会在江北临江的一片高坡上召开。此时，正是哈尔滨春意盎然的季节，高坡地周围茂密的树林透出浓浓的翠绿。在绿树掩映下，一簇簇丁香花姹紫嫣红，随风摇曳。高坡地周围插满了红旗，旗上写着“五一万岁”“劳工神圣”“全世界无产者联合起来”等口号，来自全市各工厂企业的工人和市民围了一个大圆圈，前呼后拥，人头攒动。第一次在中国纪念和庆祝“五一”国际劳动节，与会者十分兴奋，尤其是历经坎坷的三十六棚总工厂的两千多名中俄工人，更是激动不已。其中这次活动最早的发起者马泰笑着连声说：我们胜利了，我们胜利了。
大会以高坡的土堆为讲台，许多中俄工人上来发表演说。有的中国工人指出，沙俄在中国的土地上修铁路、盖工厂，却不把中国工人当人待，他们住着洋房高楼，吃得脑满肠肥，而工人们风餐露宿，住在阴冷的三十六棚。大小总管在工人头上作威作福，工人累死累活无人管，累出病来就被踢出工厂。这些演说，引起强烈的共鸣。俄国布尔什维克的代表，也在会上介绍了俄国国内沙皇政府血腥镇压工农革命，人民奋起抗争的情况。同时号召中俄工人要加强团结，为改善工人的生活待遇，争取8小时工作制而斗争。
代表们发自肺腑的演说，紧紧地牵动着每个人的心，鼓掌声、欢呼声和口号呼喊声此起彼伏，经久不息。
江北附近各村屯的农民也闻讯赶来看热闹，人潮涌动，红旗飘飘，这次纪念“五一”国际劳动节集会的人数达到了一万多人。
大会发言后，为了庆祝自己的节日，中俄工人开始唱歌跳舞，许多市民也伴随其中，简易的会场，却溢满了欢腾的景象，直到晚5时左右，纪念活动才算结束。
在俄国人大权在握的哈尔滨，竟然出现了上万人参加的纪念“五一”国际劳动节大会，这让俄国沙皇政府深感震惊和忧虑，俄国内阁总理斯托雷平亲自下令调查这一事件。
1907年，在清朝光绪年间，或许有极少数开明进步的中国人，知道世界上有“五一”国际劳动节这个词。可是在中国版图上，付诸行动来纪念劳动者自己的节日，高呼“五一万岁”“劳工神圣”，这在当时中国的大地上，无疑是石破天惊的第一次，是中国最早的纪念“五一”国际劳动节的记载。
中东铁路工人纪念“五一”国际劳动节的壮举，是中国工人阶级崛起的象征，是中国工人运动史的第一个篇章。
