高祖建唐以后，不仅对恢复发展政治、经济、军事制度方面做出了重要贡献，同时，对文化教育的发展也采取了有效的措施，唐代文化事业的高度发展及其深远影响，与唐初的良好开端是分不开的。
李渊通读史书认识到：“万邦之君，有典则有则。”法律是判断言行是非和进行赏罚的标准，也是君主权力的所在。轻视法律，则功不立，名不成。只有重视法律，使大家都遵守，这样才能治理好国家。所谓“禁暴惩奸，宏风阐化，安民立政，莫此为先。”
但如何用法律，掌握到宽猛适度呢？他总结了秦汉以来的各朝用法的经验教训。认为秦朝灭礼教，恣意实行严刑酷法，残害百姓，结果是民不堪命，宇内骚然，爆发了农民大起义，秦王朝被推翻；汉朝以秦为鉴，实行“务从约法”的方针，废除了肉刑、连坐收孥法、诽访妖言法，但很不彻底，还保有把人剁成肉酱的葅醢之法，是“安民之化，虽有未行”；魏晋时期，是前朝的流弊相沿，宽猛失度，纲维无序，结果是政散民凋；隋朝虽然有所厘革，但损益不定，疏密不准，隋文帝晚年刑罚也更加严酷，诏令盗一钱者判死刑，盗边粮一升以上者，本人死刑，家口没官，甚至三人共窃一瓜也要处死。隋炀帝时任意为法，不依科律，滥肆株连，杀戮无辜，法外用刑，惨绝人寰，结果激起了百姓的反抗，隋王朝土崩瓦解。他从中认识到，律令应当简约，宽猛适度，依律定罪，一断于法，恤刑慎杀，勿施酷刑。
大业十三年（公元617年）十一月，李渊率军攻入长安。立即与民约法12条，规定杀人、劫盗、背军、叛逆者处死刑，其余皆废免；宣布废除隋朝的苛禁严刑，在当时起到稳定局势的作用。
武德元年（公元618年）六月初一，李渊刚称帝一个月，便命刘文静和有识之士，修订《隋开皇律令》。而且提出修改律令的原则是：“本设法令，使人共解，而往代相承，多为隐语，执法之官，缘此舞弄。宜更刊定，务使易知。”“务从宽简，取使于时。”也就是立法不仅应当由繁而简，而且应当去重从轻，律令的语言要易懂、准确，防止官吏在文辞上弄虚作假，要尽削隋朝的烦峻之法。同年十一月初四，颁新格53条，其中官吏受贿、犯盗、诈取官府财物之罪，不可赦；规定正月、五月、九月不行刑，因为这时正是春节、春耕、秋收的季节，行刑会影响正常的生活和生产。同时，又令左仆射裴寂、吏部尚书殷开山、大理卿郎楚之、司门郎中沈叔安、内史舍人崔善为等重新撰修律令。十二月十二，又加内史令萧璃、礼部尚书李纲、国子博士丁孝鸟等亦参加修订。武德七年（公元624年）三月二十九，《武德律》修成，仍为500条，仅删除《开皇律》中的苛法53条，又新加53条，流刑的里数各加1 000里，在流放地戴刑具服劳役，三流皆为一年。
《武德律》的篇目与《开皇律》相同，共分为12篇。第一篇名例，它是总纲，是有关犯、刑罚、诉讼等方面的通例和特例以及刑法原则。第二篇卫禁，主要是警卫皇帝的宫殿庙苑和保州、镇、关、津等方面的法律条文。第三篇职制，有关官员的设置、职责、失职、受贿、以及驿传等方面的规定，目的是为提高官僚机构的效能，严明职守责任，惩治贪赃枉法。第四篇户婚，主要是关于户籍、田宅、徭役、赋税、家庭、婚姻等方面的规定，目的是保护封建土地所有制，维护封建家长制，确认包办买卖婚姻。第五篇厩库，关于牲畜、仓库管理方面的规定。第六篇擅兴，主要是关于兵士征集，军队的调动及兴造方面的规定。目的是维护皇帝对军队的绝对控制权，严禁擅发兵，严惩贻误、泄漏军机者。第七篇贼盗，是关于反叛、抢劫、偷盗、杀人等方面的法律条文。目的是为保护封建政权和地主阶级的财产不受侵犯，维护封建伦理纲常。第八篇斗讼，关于斗殴和控告方面的规定。第九篇诈伪，有关伪造御宝，诈取官方的印信、文书、符节等侵犯皇帝权威和封建国家利益的犯罪行为，判处的法律规定。第十篇杂律，凡不能编人其他篇的罪，都归入此篇，范围广，内容杂。第十一篇捕亡，关于官吏追捕逃犯的法律规定。第十二篇断狱，关于审讯、判决执行、监狱管理等方面的法律规定。
在颁行《武德律》的同时，还有《武德令》31卷、《武德式》14卷。
《武德律》是唐朝律令的基础，后来的《贞观律》、《永徽律》，就是以它为蓝本，并吸收了立法和司法的实践经验，加以修改而成。虽然《武德律》已散佚，但从《唐律疏议》中，也可以看到它的全貌。
李渊以隋朝为鉴，从中接受一条重要教训，就是官吏贪赃受贿，枉法曲情，不但削弱官僚机器的效能，而且激化了社会矛盾。所以，他主张严惩贪官污吏。在武德元年（618年）颁布的53条新格中，对官吏受贿要严惩不赦。而《武德律》对受贿罪的惩处更详尽，《贞观律》、《永徽律》也都受其影响，一脉相承，其惩处的规定极为详细。如主管长官非因公事而接受管内的财物，一尺绢笞四十，一匹加一等，入匹判徒刑一年；接受财物而不枉法，一尺杖九十，二匹加一等，三十匹判加役流；接受财物而又枉法，一尺杖一百，一匹加一等，十五匹判绞刑。主管官员借本管内的财物，百日不还，也以受贿罪论。朝官出差地方，接受“送馈”，离职后接受旧僚佐的“馈与”，与都要给予处罚。不是主管官员因为牵连事情接受别人财物，一尺笞二十，一匹加一等，十匹判徒刑一年。对行贿者也要给予处刑。
李渊不但在立法的过程中实行宽简的原则，而且在执法的过程中亦注意宽简。为此，他结合重大事件，搞些赦免。武德元年（公元618年）五月，李渊即皇帝位，大赦。武德四年（公元621年）七月，平定王世充，大赦百姓。武德七年（公元624年）四月，江南平定，大赦天下。武德九年（公元626年）六月，立李世民为皇太子，大赦天下。
李渊有时也亲自审查囚犯，看是否有冤案或错案。武德二年（公元619年）二月，武功人严甘罗因抢劫，被官吏逮捕。李渊审讯他，问为什么要抢劫。严甘罗毫不回避地说：“饥寒交迫，所以为盗。”使李渊受到很大震动，管仲在《管子·牧民》篇中说：“仓廪实，则知礼法；衣食足，则知荣辱。”只有使百姓免于冻馁，然后才能谈得上礼义法度，如果不注意发展生产，而空谈礼法，社会永远也不会安定。孟子教晦要“制民之产”，使每家能有五亩之宅，一百亩之田，使其足以事父母，养妻子，乐岁终身饱，凶年免于死亡，这样才能使他们走向善良，遵守礼法。他内疚地说：“吾为汝君，使汝穷乏，吾罪也。”遂命将其释放。武德四年（公元621年）、武德八年（公元625年），他两次亲审囚徒，多有宽恕。
李渊总结历史上王朝兴亡的教训，认为“择善任能，救民之要术；推贤进士，奉上之良规。”强调人才的作用，但如何造就人才呢？他认为关键是要通过学校进行培养教育。“自古为政，莫不以学，则仁义礼智信，五者俱备，故能为利博深。”所以，他对教育颇为重视，极力把学校办成封建官吏的养成所。兴办学校，建立较完备的教育体系。
武德元年（公元618年）五月，李渊称帝后的第一件大事，就是令在长安设置国子学、太学、四门学，招收学生三百余人；郡县也要设学校，招收学生。十一月，诏命于秘书省外别立小学，让皇族子孙及功臣子弟入学。
教育的行政管理机关初称国子学，设祭酒一人，从三品，掌管学校的训导政令，每岁终考核学官的教学训导成绩，主持学生的毕业考试。设丞一人，从六品下，掌管学校的日常行政管理。还有主簿一人，从七品下，掌管印章，管理学籍。教师有博士分经主讲；助教辅助博士分经讲授；直讲协助博士和助教讲授经术。
教学内容和各门课程的学习年限有明确规定：《礼记》三年，《春秋左氏传》三年，《易经》三年，《诗经》三年，《尚书》一年半，《春秋公羊传》一年半，《春秋谷染传》一年半，《孝经》、《论语》共一年，《周礼》二年，《仪礼》二年。同时学习书法，每日写纸1幅，学习时务策，读《国语》、《说文》、《三苍》、《尔雅》，另外还学习吉、凶二礼。另外设有专科学校，开设各种专业课。书学：是专攻书法的学校，学《石经三体》三年，《说文》二年，《字林》一年。算学：是专攻数学的学校，学习分为二组：第一组的学习《孙子算经》、《五曹算经》共一年，《九章算经》、《海岛算经》共三年，《张丘建算经》、《夏侯阳算经》各一年，《周髀算经》和《五经算术》共一年。第二组学生学习《缀术》四年，《缉古算经》三年。《记遗》、《三等教》两组皆兼习之。
各类学校的教学方法，一般是先让学生熟读经文，然后由教师讲授，并强调教师的讲授要提其纲要，博大精深。同时兼有答疑和讨论。平时考试在旬假前一天举行，每月考试3次，年终考试在仲冬前举行。考试分笔试和口试，成绩分上、中、下3等。州县学校的年终考试。当地的长官必须亲临考场监试。
学生每十天放假一日，称“旬假”。五月放“田假”、九月放“授衣假”。学校内严禁喧闹，但可以弹琴和习射。对无理取闹，不接受师长教训和超假者，皆令其退学。三次年终考试为下等，或学业无成就不能贡举者，也令其退学。
学校对教师有严格要求，博士和助教每讲授课程必须讲完，不得中途停讲改业，年终要统计讲课多少，效果如何，然后评出讲课的等级，作为升迁的依据。
还把学校管理的如、何，作为考核学官的重要内容，所谓“训导有方，生徒充业，为学官之最。”并要求州县长官必须过问学校的大事，如学生的入学要由州县长官审批。
另外，各乡里也办学，还允许私人办学，其毕业生可以参加科举考试。
武德二年（公元619年）六月，诏令在国子学立周公、孔子庙各一所，四季要尊祭。命寻访他们的后人，当授于爵位。诏书对教育的作用，周公、孔子的贡献进行阐述。其诏曰：
盛德必祀，义存方策，达人命世，流庆后昆。建国君临，弘风阐教，崇贤章善，莫尚于兹。自八卦初陈，《九畴》攸叙，徽章既革，节文不备。爰始姬旦，主翊周邦，创设《礼经》，大明典宪。启生民之耳目，穷法度之本原，起化二《南》，业隆八百，丰功茂德，独冠终古……粤若宣尼，天资叡哲，经过齐鲁之际，揖让洙泗之间，综理遗文，弘宣旧制。四科之教，历代不刊，三千之徒，风流无歇。惟兹二圣，道著生民，宗祀不修，熟明褒尚？肤君临区宇，兴化崇儒，永言先达，情深绍嗣。宜令有司于国子学立周公、孔子庙各一所，四时致祭。仍博求其后，具以名闻，详考所宜，当加爵士。
武德四年（公元621年）正月，新年一开始，便在门下省置修文馆。内设大学士、学士、直学士。讲论诸经文义，商讨政事。并招收学生30人，主要是贵族子弟，在此攻读学业。
武德七年（公元624年）二月，李渊为表示对教育的重视，弘扬儒学，带领五品以上的朝官视察国子学。首先由李渊主持祭周公、孔子，然后由国子学祭酒讲学。讲学之后，开始辩论经义。学官和大臣之间互不相让，各抒己见，往往争论得面红耳赤。李渊又诏以周公为先圣，以孔子为配祀。
武德九年（公元628年），诏改修文馆为弘文馆。
李渊不但较重视教育，对其他文化事业也颇为重视。大业十三年（公元617年）十一月，李渊攻克长安，立即命主符郎宋公弼收集图书典籍。武德四年（公元621年）五月，唐军攻克洛阳，授命房玄龄收聚隋朝的藏书。次年，由司农少卿宋遵贵负责将书运往长安，可惜运书的船只行经砥柱时，8000多卷书籍多被漂没，存者十不一二。李渊采纳令狐德棻的建议，诏令用重金收购书籍，并组织人员缮写，数年间群书略备。至武德九年（公元626年），在弘文馆共收聚四部书20余万卷。抢救了大批文献典籍，使一些重要书籍得以保存下来。
武德七年（公元624年）九月十七日，给事由欧阳询奉敕编撰的《艺术类聚》书成，共100卷。内分天、岁时、地、州、郡、山水、符命、帝王、后妃、储宫、人、礼、乐、职官、封爵、政治、刑法、杂文、武、军器、居处、产业、衣冠、仪饰、服饰、舟车、食物、杂器物、巧艺、方术、内典、灵异、火、药香草、宝玉、百谷、布帛、果、木、鸟、兽、鳞介、虫豸、祥瑞、灾异等46部。每部下又分若干细目，全书共727目，约100万字。书中所引用的有关经、史、子、集各类古籍1431种。此书所收的内容上自天文，下至地理，旁及社会生活，科学技术、文化知识、无所不收，实为一部百科全书。
李渊也很重视修史，以古为鉴。武德初年，在秘书省设史馆，负责修史工作。
武德四年（公元621年）十一月，起居舍人令狐德棻对李渊说：“近代以来，多无正史，梁、陈及齐，犹有文籍。至周、隋遭大业离乱，多有遗阙。当今耳目犹接，尚有可凭，如更十数年后，恐事迹烟没。陛下既受禅于隋，复承周氏历数，国家二祖功业，并在周时。如文史不存，何以贻鉴今古？如臣愚见，并请修之。”李渊觉得他说得很有道理，修史提供借鉴，这是有利于人的功业。于是，诏命中书令萧瑀、给事中王敬业、著作郎殷闻礼修《魏史》；侍中陈叔达、秘书丞令狐德菜、太史令庾俭修《周史》；兼中书令封德彝、中书舍人颜师古修《隋史》；大理卿崔善为、中书舍人孔绍安、太子洗马萧德言修《梁史》；太子詹事裴矩、兼吏部郎中祖孝孙、前秘书丞魏征修《齐史》；秘书监窦趟、给事中欧阳询、秦王文学姚思廉可修《陈史》。在诏书中一再强调，修史的原则为“务加详核，博采旧闻，义在不刊，书法无隐。”他遗憾的是这些史书还没有修成，自己便退位做了不问政事的太上皇。
李渊很注意借鉴历史的教训，感到魏晋南北朝以来的“九品中正制”弊病太多。这种制度是以门第为标准选拔官吏，结果是门阀世族垄断了择官的大权，只重门第，不重人才，造成“上品无寒门，下品无势族”的局面。出身寒门的有才之士被排斥，家世显贵的庸才却得高官，朝中挤满腐败无能之徒。而且由于世家大族把持择官的大权，门生故吏满天下，往往仗势对抗朝廷。所以，他决定废除“九品中正制”，通过科举考试的方法选拔官吏。
武德四年（公元621年），战争形势发生很大变化，关中和巴蜀地区已经巩固，平定了薛举、李轨、刘武周，洛阳战事大局已定，全国统一已经提到历史的日程上来。他认为推行科举制的时机已经成熟。于四月十一日，敕命各州县学的学生或自学者，学业有成、为乡里所称赞，可参加明经、秀才、俊士、进士等科目的考试。先由各县考试合格，然后由州的长官审核，取成绩上等者，每年十月随朝集使一起赴京师参加考试。同年七月，平定王世充，大赦天下，诏令：“奇才异行，随状荐举”。
武德五年（公元622年）三月，又下诏奖励有才能者，可以自举，根据才能加以作用，其诏曰：
“招选之道，宜革前弊，惩劝之方，式加恒典。苟有才艺，所贵适时，洁已登朝无嫌自进。宜令京官五品以上及诸州总管、刺史各举一人。其有志行可录，才用未申，亦听自举，具陈艺能，当加显擢，授以不次。赏罚之科，并依别格，所司颁下，详回搜引，务在奖纳，称朕意焉。”
当年十月，各州送到京师参加考试明经科的有143人，秀才科的有6人，俊士科的有39人，进士科的有30人。
明经科主要考儒家经典，先考帖经（背诵儒家经典），然后问经文大义十条，答时务策三道。
秀才科考方略策五道，以文理精通分为上上、上中、上下、中上，此四等为及第。
进士科主要考时务策五道，帖一大经，还要考试赋。经、策通为甲第，策、帖通四以上为乙第。因进士科的仕途最优，故进士及第被时人称为“登龙门”。
因为科举考试一定程度上打破了门第界限，以才学为考取的唯一标准。所以一些寒门出身的子弟，真是春风得意，人人跃跃欲试。
十一月，各州的举子都到尚书省参加考试，由吏部考功员外郎申世宁任主考官。十二月发榜，中举者秀才1人、俊士14人、进士4人，没有考中者各给绢5匹，作为回走的路费，令再勤备修其学业。有的举子不返回故乡，在京师的寺院温习功课。等待来年再考。
进士科中，孙伏伽为状元，当时亦称状头。另外三人为李义琛和弟李义琰，从弟李上德，李氏一门三人同中进士，一时被传为佳话。
李义琛家境贫寒，与上德在一起居住，兄弟之间互相激励，勤奋学习。赴京师考试走到潼关遭到大雪，被困在旅店。时有咸阳的商人见他们兄弟十分可怜，便与他们住在一起，并赠给粮食。数日后，天晴，李义琛等商议卖驴宴请商人表示答谢，商人窃听后，不辞而去。后李义琛官至雍州长史、李义琰官至中书侍郎、同中书门下三品，李上德官至司门郎中，皆有政绩，被称为良吏。
孙伏伽等4人中进士，按当时的礼仪称主考官谓“座主”，亦称“恩门”、“师门”，同榜及第者谓“同年”。
发榜后的第二天，孙伏伽等4名进士来到主考官申世宁家谢恩。仪式极为隆重，朝中的文臣武将皆来观看。孙伏伽等一行四人站在堂前的西阶下，面向东，向主考官谢恩。然后登阶入宴。
谢恩之后，主考官申世宁带领四名进士去拜见宰相。在都堂门里宰相横行站立，由状元孙伏伽先致词，然后进士一一自我介绍。随后去舍入院，答谢诸位舍人。
新及第的进士，还要去曲江赴宴。当日，长安倾城而出去观看，教坊的艺术家也要去作精彩的表演。进士们饮酒赋诗，谈天说地。
及第的进士用金字帖子向家中报喜，家里的亲戚邻里闻讯都要前来贺喜。
这些烦琐的仪式，其用意是表示对人才的尊重，也激励他人去勤奋学习。
武德六年（公元623年），取进士6人。武德七年（公元624年）二月，为激励人们学习儒学，诏令诸州县长官，如果有人精通儒学中的一部经典，而未被录用为官者，可以举送，经过考试合格，可以加阶叙用。官吏百姓的子弟有聪明好学者，可申报送到京师学习。同年七月，李渊又下诏书曰：
宁州罗川县前兵曹史孝谦，守约邱园，伏膺道素，爰有二子，年并幼童。讲习《孝经》，成畅厥旨。义方之训，实堪励俗。故从优秩，赏以不次，宜普颁示，咸使知闻。如此之徒，并即申上，朕加亲览，时将褒异。
自此，正式设立童子科，凡10岁以下的儿童，能通一部经及《孝经》、《论语》，经考试合格，即可授官。这虽不是科举制度中的主要科目，但却是早期发现人才的创举。
武德八年（公元625年），取秀才1人，进士5名。李渊在位9年，由于处在战争状态，仅举行4次科举考试，取进干19人，秀才4人，俊士14人，上书拜官1人。虽然取士人数不多，但奠定了唐朝用科举制度择选官吏的基础。这不仅为封建官僚机构输送了人才，在一定程度上改善了封建官僚集团的文化状况。因为科举是当时人们走上仕途的重要途径之一，个人的前途，家族的兴旺都与科举有关。所谓“三百年来科第之设，草泽望之起家，簪绂望之继世。孤寒失之，其族馁矣；世族失之，其族绝矣。”而要科举及第，就得有才学，才能和学识是成为走上仕途的敲门砖。这样造成一种崇拜科举、注重学识的风气，人们为了一线的希望，埋头读书。所谓“父教其子，兄教其弟，无所易业。”客观上促进了唐代文化的发展。
抑制佛教的泛滥和尊崇儒学是一个问题的两方面，都是为了加强皇权。
自佛教传入中国以后，就和在思想领域里占统治地位的儒家思想互相影响。佛教能够在逐步中国化的过程中得到发展，主要是和儒家思想日益调和、会通、融合的结果。但是，由于两者产生的地理、历史条件和文化传统不同，二者内容又有互相对立的一面，同时，由于儒家思想的正统地位，故而佛教在中国的发展过程中又常常遭到儒家的批判和排斥。
从根本上说，儒家重视人生的现实，重视社会组织和人际关系。故而要求从个人本身开始，做到修身、齐家、治国、平天下。也就是使每一个人都在家庭、国家处于适当的地位，以达到家庭和谐，国家富强，天下太平的目的。这是积极的人世思想。而佛教则认为人生是痛苦，社会是苦海，要求人们出家，脱离现实，以达成佛目的。这是消极的出世思想。基于这个前提，二者对于生与死也有截然不同的态度。儒家认为，生与死都是自然现象，男女婚配，生儿育女，使社会得以延续，也就是要人们重视现实的人生。而佛教则宣扬因果报应，轮回转世，使人们希望在死后有个好去处。前者重生，后者重死，也是不可调和的矛盾。
唐初，最早反佛的是傅奕。傅奕是相州邺（今洒北临漳西）人，隋末李渊为扶风（治所在今陕西凤翔）太守时即与其相识，李渊建唐称帝后，先以其为太史丞，后为太史令。武德七年（公元624年），他上疏建议灭佛。他认为佛教宣传“不忠不孝，削发而揖君亲”，佛经是“妖书”，他迷惑百姓，使其相信因果报应：“布施一钱，希万倍之报，持斋一日，冀百日之粮。”有些愚昧之人，“造作恶逆，身坠刑网，方乃狱中礼佛，口诵佛经，昼夜忘疲，规免其罪。”这是“乃追既往之罪，虚规将来之福”，完全是欺骗。
在傅奕看来，“且生死寿夭，由于自然，刑德威福，关之人主。乃谓贫富贵贱，功业所招，而愚僧矫诈，皆云有佛。”这是“窃人主之权，擅造化之力，其为害政，良可悲矣！”显而易见，傅奕认为佛的作用和君主的权力是相互对立的。人的生与死是自然现象，刑德威福是人力所致。视富贵贫践为佛的作用就是窃夺了君主的权力，为害于政。他还说：“礼本于事亲，终于奉上，此则忠孝之理著，臣子之行成。而佛腧城出家，逃背君父，以匹夫而抗天子，以礼体而悖所亲。”是“无父之教”。为了尊君奉亲，以行忠孝，他主张“今之僧尼，请匹配，即成十万余户，产男育女，十年长养，一纪教训，自然盈国，可以足兵”。这样一来，“四海免蚕食之殃，百姓知威福所在，则妖惑之风自革，淳朴之化还兴。”实际上这是以行忠孝的手段，达到巩固唐朝政权的目的。这是儒家思想的根本所在。由此可见，佛教和儒家思想的冲突是政治上的分歧。正因为这是事关唐朝政权的问题，所以，高祖接受了这个建议。后因玄武门之变发生，才未能彻底实施。太宗即位后，傅奕又向太宗说：佛教“于百姓无补，于国家有害。”也得到了太宗的赞同。
高祖对傅亦的建议虽然未曾彻底实施，但他和傅奕的思想是一致的。他尊崇儒学，正是和傅奕不谋而合的地方；他同意反佛，是为儒学的发展创造有利条件。因此，反佛和崇儒是一个问题的两个方面。
春秋战国时期道家学派的代表是老子，他主张宇宙间的万物都源于神秘玄妙的“道”。“道”无形无名，自然无为，既不能被看见摸到，又不可言说。是天地开辟之前宇宙浑沌混一的原始状态，是超越现实世界一切事物的宇宙最高法则。由道化生出最初的元气物质，元气分为阴阳，阳气上升为天，阴气下凝为地，天地阴阳冲和交感生成万事万物，而人为万物的灵长。道教渊源于古代的巫术，先秦时的阴阳五行学说，秦汉时的神仙方术，东汉时开始形成。道教继承了道家的思想，并把“道”神化为具有无限威力的宗教崇拜偶像，成为具有人格的最高神灵。“太上老君”（即老子）便是“道”的化身。道教相信人经过修炼可以长生不死，成为神仙。东汉时张道陵倡行“五斗米道”，奉老子为教主，奉《道德经》为主要经典。中经三国、两晋、南北朝得到进一步发展。
李渊出身于关陇世族，但与山东世族、江东世族相比，其社会地位还有很大差距。李渊为抬高李氏的门第，尊道教祖师老子李聃为自己的祖先，称自己是神仙后裔。借以制造“君权神授”的舆论。一些道教上层人士为迎合李渊，也到处制造“老君显灵”，降授符合的宗教神话。
道教茅山派的第十代宗师王远知，据说曾密告李渊将受符命。
楼观台道士岐晖，虽人道脱俗，但却关心时局。大业七年（公元611年），隋炀帝亲驾功战高丽，把社会经济推向绝境。传说他对弟子云：“天道将改”，还预言：“当有老君子孙治世，此后吾教大兴。”
武德三年（公元620年），相传晋州（今山西临汾）人吉善行，在浮山县羊角山见一骑白马的老者，对吉善行说：“为吾语唐天子，吾汝祖也，今年平贼后，子孙享国千年。”据说白马老者就是太上老君。李渊听到吉善行的奏言，便在羊角山立庙祭祀宗祖老君，改浮山县为神仙县。
武德七年（公元624年），曾当过道士的太史令傅奕，上疏请废除佛教。他从维护封建伦理、道德出发，指斥佛教不讲君臣父子之义，对君不忠，对父不孝；痛斥他们游手游食，不从事生产，剃发易服逃避赋役，剥削百姓割截国贮；指出佛教带来的危害，使百姓通识者少，不察根由，信其诈语。李渊为压抑佛教，推崇道教，让群臣讨论。太仆卿张道源支持傅奕。中书令萧瑀反对说：“佛，圣人也。傅奕的议论，诽谤圣人无法，请处以严刑。”傅奕驳斥说：“礼本于事亲，终于奉上，此是忠孝之理，臣子之行成。而佛愈城出家，逃跑背其父，以匹夫而抗天子，以继亲而悖所亲。萧瑀乃遵天父之教！”萧无法回答，但合掌说：“地狱所设，正为此人。”李渊同意傅奕的观点，以此压制佛教，推崇道教。
武德八年（公元625年），李渊亲撰《大唐宗圣观记》刊于石。同年，正式下诏定三教次序：道教最先，儒教次之，佛教最后。道教由于得到李渊的尊崇，处于至高无上的地位。
