五四爱国运动以前，中国知道马克思主义的人极少，经过五四爱国运动，了解马克思主义的人愈来愈多了。他们办刊物，宣传马克思主义。李大钊在北京《晨报》上开辟了“马克思研究”；陈独秀、李达在上海创办《共产党》月刊；毛泽东等人在湖南主办《湘江评论》；周恩来等人在天津组织了觉悟社，编辑《觉悟》杂志。
中国的先进知识分子在斗争中认识到，要彻底改造中国，必须有无产阶级政党的领导。1920年初，陈独秀、李大钊等就开始了建党的探索和酝酿。这年夏天，在共产国际的帮助下，陈独秀在上海建立了中国第一个共产主义小组，定名为中国共产党。不久各地也先后建立起共产主义小组，这些都是中国共产党的早期组织。这些共产主义小组成立后，就开始有计划、有组织地传播马克思主义，并到工人中去开展宣传和组织工作，从而进一步促进了马克思主义同中国工人运动的结合。
1921年1月李大钊著文公开呼吁创建统一的工人阶级政党。这一年的3月，各地共产主义小组的代表举行了一次会议，并以会议的名义发表了“关于我们的目标和原则的共同声明”。这次会议还制定了临时纲领。这样，在中国建立统一的无产阶级政党——中国共产党的条件日趋成熟了。
各地方党组织的建立促进了马克思主义在中国的传播，为了有效地开展活动，建立统一的中国共产党的领导，各地代表于1921年7月赶赴上海参加中国共产党第一次全国代表大会。这些代表中有来自湖南的毛泽东、何叔衡，来自湖北的董必武、陈潭秋，来自山东的王烬美、邓恩铭等。还有上海的李达、李汉俊等。这些代表共13人，代表着全国各地53名共产党员。此外，两位外国同志也来到上海列席会议。一位是共产国际的代表马林，另一位是赤色职工国际工会的代表尼科尔斯基。
1921年7月23日晚上，代表大会在上海法租界望志路106号博文女子学校开幕。在那个时候，搞共产、搞革命都是要坐牢杀头的，所以代表大会只能秘密召开。过了一天，正巧上海代表李汉俊的哥哥李书城出门去了，于是，大会就迁到他的家里举行。本来商定，为了避免被法租界巡捕发现，大会要每天换个地方举行。但是，大家集中精神讨论问题，一时又找不到更换的地方，所以在李汉俊哥哥家一连开了几天会。共产国际的代表马林是有过地下斗争经验的，他说：“我们在这里一连开了几个晚上的会，巡捕一定注意了，明晚一定要换个地方。”但是有几个中国代表缺乏经验，说：“反正明天再开一次就可以结束了，大概不会有什么事的。”所以，仍决定在这里召开最后一次会。
7月30日是最后一次会议，这天晚上，会议刚开始，突然一个穿长衫的中年男子闯进客厅，他朝室内张望了一下，连连说：“对不起，我走错了。”说完就急忙退了出去。陌生人一走，马林立刻站起来说：“这人一定是侦探，我建议立即休会。大家分别离开。”代表们马上收拾文件，离开了客厅。那时候，上海的石库门房子平时不开大门，只走后门。如果这人真是侦探，后门一定有人监视。所以大家索性打开大门出去，果然没有发生意外。李汉俊算是房子的主人，就留下来与另一个代表喝着茶，装着无事闲聊。
果然，代表们走了不到一刻钟，开来了一辆警车，一批法国巡捕和中国“包打听”跳下车把房子包围住。他们一拥上楼，见房间里只有两个人。为首的一个人气势汹汹地问：“你们刚才要开什么会？”李汉俊用法语回答说：“刚才不是开会，而是北京大学的几位教授和学生在这里谈编辑刊物的事。”
法国巡捕见问不出什么，便不许李汉俊等离开座位，还不许他们说话和喝茶。接着，便在屋里搜查起来。搜查了一个多钟头，各个角落都翻遍了，他们似乎没有找到什么感兴趣的东西。于是，一个法国巡捕指着书架上的书又问李汉俊道：“为什么有这么多社会主义的书？”李汉俊回答说。“我兼任商务印书馆的编辑，什么书都要看。”
法国巡捕从李汉俊的答话中，找不出什么破绽来。后来，法国巡捕又听到说这里是李书城的公馆（李书城在当时是政界的有名人物），也不敢多纠缠，查不出个究竟来，也就只好离开了。
这场风险总算过去了。但是，代表大会还没有结束。最后一天的会到哪里去开呢？有位代表忽然想起李达的夫人是嘉兴人，就提议可以到离上海约100里的嘉兴县去开。经过商量，31日清晨李达夫人就乘火车赴嘉兴，在城旁的游览地南湖雇了一只大游船等候大家，代表们则乘下一班车到那里去。
通过这些天的紧张讨论，大会通过了中国共产党的第一个党纲，党纲确定党的名称为中国共产党。党的奋斗目标是，推翻资产阶级，在中国建立无产阶级专政和实现共产主义。党的中心工作是，组织和领导工人运动。大会成立了党的领导机关——中央局，选举陈独秀为中央局书记，李达为宣传主任，并决定建立党的地方组织。
中国共产党第一次全国代表大会，宣告了中国共产党的诞生。中国共产党的成立，是中国现代史上最重大的历史事件。自鸦片战争以来，为完成民主革命，中国人民同帝国主义、封建主义进行了长期顽强的斗争，但都没能完成中国民主革命的任务。历史的发展迫切需要一个新的革命阶级组织，一个新的政党来承担这一任务。中国共产党一成立，就以马克思主义为武器，领导全国人民在一个新的起点上开始了民主革命斗争，使中国革命的面目焕然一新。
