高允，字伯恭，自幼就是孤儿，因此有些早熟，有着非凡的气度，清河人崔玄伯见他后极为惊异，赞叹说：“高子内心德行高尚美好，神情文雅明朗，如镜子外照一般，将来必能成大器，而为一代人杰，只可惜我不能亲眼看到了。”在高允十几岁时，祖父去世，他为奔丧回到家乡，把家产交给两个兄弟管理，自己出家作了僧徒，释名法净。不久又还俗。高允生性喜爱文史典籍，身背书籍，不远千里拜师求学。他知识广博，对历史和儒家的经典，以及天文、历法、占卜等学问都很精通，尤其喜爱《春秋公羊传》一书。曾被郡守征聘为功曹。
北魏神三年，世祖太武帝的舅舅阳平王杜超临时代行征南大将军，镇守邺城，任高允为从事中郎，这时他已四十多岁了。当时正值春天，但很多州郡中的囚徒还不能处置，杜超于是命高允与中郎吕熙等人分别前往这些州郡，评议刑罚事务。吕熙等人贪污受贿，尽皆获罪，只有高允一人为官清廉，获得了奖赏。卸官后他回到家乡，以教书为生，学生有千余人。神四年，高允与卢玄等人一起被朝廷征聘，封为中书博士。后来升任为侍郎，与太原人张伟一起以侍郎兼领卫大将军及乐安王拓跋范的从事中郎。世祖太武帝的弟弟拓跋范，备受宠爱，他在陇西镇守长安时，曾得到高允多方面的扶正和帮助，大受裨益，深得秦地人民的拥戴。不久，高允被征召回朝。高允曾作过一首《塞上翁诗》，诗中饱含辛酸苦辣，抒发了他以往得意与失落之情。骠骑大将军，乐平王拓跋丕西征上时，高允又以侍郎的身份参议拓跋丕军中的作战事务。有关的事迹收在《乐平王丕传》中。魏军平定凉州后，高允因参议谋划有功，被赐汶阳子的爵位，兼领建武将军。
此后，魏帝颁诏令高允与司徒崔浩共同著述国史，写成《国记》，兼任著作郎。当时，崔浩召集了很多通晓天文历法的人，考证校定自汉代建国以来日食月食和金木水火土五星的运动行度，并检查旧史中的失谬，另外制定了魏国的历法，然后拿给高允看。高允说：“天文历法不能作毫无证据的空谈，要想将距今很远时代的天象推算准确，必须首先检验对距今较近的时代的天象的推算结果。况且汉代元年仲冬十月，金、木、水、火、土五星汇聚在东井宿的说法，实际是对历法的浅薄不识之论。今天我们讥笑汉代的史官，却察觉这种说法的错误，恐怕将来我们的后人会象我们现在讥笑古人一样地讥笑我们了。”崔浩说：“你所说的谬误指的是什么？”高允道：“考查《星传》，金、水二星常常在距太阳很近的地方运行。仲冬十月的凌晨，太阳运行到尾宿和箕宿附近，黄昏时从西南方落下，而东井宿此时正从东北方升起。有什么理由说金、水二星会跑到正对着太阳的最远的地方运行呢？这是因为史官想神化，所以不再依据天象运动的规律来推算的结果。”崔浩说：“想要改变天象并没什么不可以，您难道不怀疑木、火、土三星能汇聚在一起吗？为什么只对金、水二星的往来运行感到奇怪呢？”高允道：“这些事不可以作没有根据的争论，最好还是深入地研究一下为好。”当时在座的人都感到奇怪，只有东宫少傅游雅说：“高君擅长历法，他的说法应当是有根据的。”过了一年多，崔浩对高允说：“过去我们争论的问题，我并没有认真的思考，后来经过进一步的考证研究，确实象你说的一样，五星应提前三个月汇聚在东井宿，而不是在十月。”他又对游雅说：“高允的学问如此精深，我却不知道，就象钟阳元不知魏舒的箭法高明一样。”于是大家对高允的才识尽皆臣服。高允虽然精通历法，但最初并不做推算，而且对于自己的这种谨慎做法很有说辞。只是游雅屡次向他请教有关灾害和奇异天象的问题。高允说：“古人说过，真正了解一件事并不容易，已经了解了又怕了解得不全面，因此还不如不了解。天下玄妙的道理极多，怎么能问这些事呢。”游雅不再提问。
不久，高允在作本官的同时兼作了秦王拓跋翰的老师。其后，世祖让他教授恭宗学习儒家经典，受到了很高的礼遇。同时又令高允与侍郎公孙质、李虚、胡方回共同议定法令条文。世祖推荐高允参与讨论刑罚和治国之策，他的见解非常符合世祖的主张。于是世祖向他征询道：“国家政务繁多，应最先处理什么事呢？”当时全国的土地多遭封禁，而且京城中不靠务农而吃饭的人非常多。因此高允说：“臣自幼穷苦，只懂得种地，请允许我谈论农业的事情吧。古人说：一平方里的土地可开垦良田三顷七十亩，一百平方里的土地则可开垦良田三万七千顷。如果辛勤地耕耘，每亩就可以增产三斗粟米，如果懒惰则会减少三斗。这样一来，一百平方里的良田，增产或减产粟米的总数就可以达到二百二十二万斛，况且天下的良田如此广大，增产或减少的粟米又该有多少呢？如果官府和农户都有积蓄的粮食，那么即使遇上饥荒的年景，又有什么可担忧的呢？”世祖认为这个想法非常好。于是解除对土地的封禁，把良田都授给了农民。
曾经，崔浩举荐提拔了冀、定、相、幽、并五州的数十人，初次为官就当了郡守。恭宗对崔浩说：“在他们之前已经征聘了很多人，也是从各个州郡中选拔的，这些人在职的时间长，勤勤恳恳地工作，但未能得到任何报答。现在可以先把过去征聘的人补充到其他郡县任职，然后以新征聘的人代行郎吏一级的官职。而且郡守县令要管理民众，所以最好任用那些经历丰富的人。”崔浩与太子恭宗争辩，并派遣了他自己选拔的那些人。高允听说此事后，对东宫博士管恬说：“崔公不能幸免了！如果他非要以他的这种错误做法来和殿下较量，并要争个胜负，怎么还能平安度日呢？”
辽东公翟黑子深受世祖的恩宠，他奉公出使并州时，竟收受上千匹布的贿赂，事情很快败露。于是黑子来向高允请教对策，他说：“如果圣上向我问及此事，我是自首伏罪呢，还是避而不答？”高允道：“公是朝廷中的宠臣，回答圣上的提问时最好说实话。并且要告诉圣上你对朝廷的忠诚，这样你的罪就不会太大了。”而中书侍郎崔览和公孙质等人却不这样认为，他们都说，一旦自首从实招认，获罪大小实在无法测度，因此最好是回避不说。黑子认为崔览等人更关心自己，反而愤怒地对高允说：“按您说的去做，简直就是引诱我去送死，如果真是这样，为什么不直说呢！”于是就这样与高允绝交了。后来，黑子在回复世祖的提问时没能说实话，终于被世祖疏远，最后获罪而遭杀戮。
当时，著作令史闵湛和郄繥因性格奸佞，巧言奉迎，深为崔浩所信任。他们看到崔浩注的《诗经》、《论语》、《尚书》和《易经》后，立即上书魏帝，声称马融、郑玄、王肃和贾逵等人，虽然都注释讲述过《六经》，但都存在疏漏和错误，不如崔浩的注解精辟。建议广泛搜集国内的各种书籍，藏入官府。然后颁行崔浩对儒家经典的注解，让天下人学习。并请求魏帝降旨，让崔浩注解《礼传》，使后人能够了解正确的经义。崔浩也上表推荐闵湛，称他有著述才能。而后，闵湛又劝崔浩把他所撰写的国史刊刻上石，以便流传万世，他的目的是想使崔浩撰写国史时秉笔直书，对拓跋部的事迹记录得既详备又不雅观的情况得到更充分的表现。高允听说此事后，对著作郎宗钦说：“闵湛所做的一切，分寸之间，恐怕就会导致崔家遭受百年不遇的大难。我的门徒中可没有这种人。”不久，大祸降临了。
当初，崔浩被拘捕后，高允则在中书省内值班。恭宗派东宫侍郎吴延去叫高允，并把他留在宫内暂住一夜。第二天，恭宗要入朝拜见世祖，让高允同往。走到宫门前，恭宗对高允说：“入朝后当见到圣上的时候，我自然会引导你的。倘若圣上有事问你，你只管依着我的话说。”高允问恭宗：“为了什么这样做呢？”恭宗说：“进去自然就知道了。”入朝后见到了魏帝，恭宗说：“中书侍郎高允自在臣的宫中以来，已共同相处了多年，他做事小心谨慎而且周密，臣非常了解他。虽然他与崔浩同做一事，然而高允低微，都是听从崔浩的主张。请饶恕他的性命吧。”世祖把高允叫到面前，对他说：“《国书》是否都是由崔浩撰写的呢？”高允答道：“《太祖记》是前著作郎邓渊所撰。《先帝记》和《今记》是臣与崔浩共同撰写的。然而崔浩多做综合的工作，只是统筹裁定而已。至于史中注解疏证的部分，臣做的比崔浩多。”世祖听后勃然大怒，说道：“这个罪比崔浩还重，怎么能留他活路！”恭宗急忙说：“高允是小臣，见到圣上威严庄重的样子，就语无论次了。臣曾经详细地问过高允，他每次都说是崔浩写的。”世祖问高允：“果然如太子所说的吗？”高允答道：“臣才质平庸，著述写作时谬误百出，冒犯了天威，此罪理应灭族，如今臣已甘愿受死，所以不敢不说实话。殿下因为臣长期为他讲习授课，所以可怜臣，为臣祈求活命。其实他并没有问过臣，臣也没有说过那些话。臣回答圣上的都是实话，不敢心神无主。”世祖对恭宗说道：“正直啊！对一个人来说，这已经是很难做到的了，而且能够至死不移，不就更难了吗！而且他说之话都是实话，真是忠臣啊。就为他的这些话，我宁愿不追究他的罪，最好还是宽恕了他吧。”高允终于被赦免了。世祖于是把崔浩叫到面前，让人诘问他。崔浩非常惶恐，不能答对。而高允却对每件事情都能郑重说明，有条有理。所以当时世祖更加生气了，命高允撰写诏书，自崔浩以下，僮仆及小吏以上，共一百二十八人，均夷灭五族。高允迟疑着没有动笔，世祖则频频下令急切地催促。高允祈求再次拜见圣上，然后再动笔撰写诏书，于是世祖把他叫到跟前，高允说道：“崔浩所犯的罪，如果还有除著述国史之外的其他什么原因的话，那不是臣胆敢知道的。倘若只因国史一事，那么，秉笔直书，坦率写作虽然对朝廷有所触犯，但也还不至于处死呀。”世祖勃然大怒，命武士将高允拘捕起来。恭宗赶快为高允请罪。世祖说：“如果没有这个人对我表示忿然不满，早就有几千人被斩了。”崔浩最后终于被杀，而且灭了五族，其他人也都惨遭杀戮。宗钦在临死之前，曾感叹说：“高允或许是个圣人吧！”
事过之后，恭宗责备高允说：“人应当能够把握时机，审时度势，不能审时度势，书读得再多又有什么用呢？那时候，我一开始就引导卿回复圣上的提问，为什么不顺着我的话说，以至于把圣上气成那个样子。每当想起此事，就让人心惊肉跳。”高允说：“臣是出生于东方荒野中的凡夫俗子，本来并没打算做官。恰遇上太平盛世，在朝廷征聘贤十的时候，也就应选了。于是脱去布衣，穿上官服，在中书省任职，而且还经常在麒麟阁参与校勘典籍。那些白拿着朝廷的奉禄而又不做事的官员都很荣耀，而真正有才干的人却被压制不能任用，这种局面已经太久了。史书乃是帝王行为的真实记录，是为后代留下的一个明确鉴戒，这样才能使今人可以了解古人，而后人也可以了解今天。正因为言行举止都要详细记载，所以帝王的行为才要格外谨慎。然而崔浩一家虽世代都蒙受朝廷特殊的礼遇，在当时是非常显赫的大族，但他辜负了圣上对他的恩宠，自取灭亡。但即使对崔浩的这些做法，在当时也还是有值得讨论的余地的。崔浩才智疏弱，却担负着栋梁般的国家重任，在朝中他没有正直的节操，在家中难与亲人和睦相处，个人的贪欲早已使他忘记了廉洁之本，个人的爱憎早已取代了正直与真理，这些都是崔浩的责任。但是，至于记录朝廷日常生活的种种事迹，谈论国家事务的正确与失误，这些却也都是史书中的要点，与事实不可违背太多。然而，臣与崔浩实际上共同参与此事，不论生死荣辱，按理说两人本不应该有什么不同，实在是由于蒙受了殿下的极大关怀，才违心地苟且幸免，这并非臣的本意。”恭宗听后非常感动，赞叹一番。高允后来对人说，我没有接受太子的引导，是唯恐辜负了翟黑子，因为当初我就是这样教导他的，所以现在我自己也应该这样做。
恭宗临去世的几年前，对自己身边的人非常亲近，私自营造田园，获取财利。高允规劝他说：“天地没有私欲，所以天能够覆盖着大地，而大地能够生长万物；帝王没有私欲，所以能够包养天下。过去贤明的君主，都以极公正的态度从政治民，所以把金银留藏在山中而不去开采它，把珍珠留藏在深水中而不去捕捞它，用这些事实将自己的无私昭示天下，用自己的节俭教诲天下人。所以赞美之声四起，万代传颂。今天，殿下作为国君的继承者，四海归心，您的言行举止，将成为天下人效法的榜样，而您却营造私人田园，畜养鸡犬，甚至在市集上贩酒，还与市民讨价还价，以至到处流布着各种议论。天下乃是殿下的天下，您富有得享有了四海之内的一切，还有什么想要而得不到的呢，有什么欲望不能满足呢，反而去和那些男女商贾争夺蝇头小利。从前虢国将亡之时，神从天上降临了，赐给他们土地田园，最后竟丧失了国家。汉灵帝不学习君主的庄重威严，而喜欢与宫中的人摆摊贩卖，自己建立了府库，经营小利，最后使国家发生了颠覆混乱的灾难。前车之鉴，非常可怕呀。一个作君主的人，在选择用人时必须慎重，仔细观察。所以人们把知人善任叫作哲，这一点对于帝王来说是困难的。《商书》说：‘不要接近小人’，孔子也说过，你亲近了小人，他就会对你无礼，你疏远了小人，他就会怨恨你。武王亲近周公、邵公、姜太公和毕公，所以能称王天下。殷纣王亲近飞廉、恶来，因而灭亡了国家了。纵观古今的社稷存亡之际，没有不是由于亲近小人所致。现在殿下总发自内心地感叹缺少人才，实际上贤达之人并不少。近来在您身边侍奉您的那些人，恐怕都不是治国安邦的材料。所以希望殿下能够稍微倾听一下臣的话，远小人近贤臣，把归自己所有的田园分给贫苦的人，找准时机把畜养和贩卖之事也结束了。只有这样，听到赞美之声的那一天才会到来，而指责之声也就可以平息了。”恭宗并没有接受高允的劝告。
恭宗死后，高允很久都没有入宫进见圣上。后来世祖召见他，高允入宫时，一上台阶就抽泣，悲痛不已。世祖见此情景，也跟着哭了，并命高允出使，离开京城。朝臣们都不知因为什么缘故，彼此说道：“高允没遇到什么值得悲泣的事呀，让圣上如此哀伤，究竟为什么呢？”世祖听到后，把他们召呼过来说：“你们不知道高允的悲痛吗？”朝臣们说：“臣等看到高允不说话，只是哭泣，而陛下为这事很悲伤，所以偷偷地说几句。”世祖说：“崔浩被杀时，高允也应当一同处死，由于太子苦谏，才得以幸免。今天太子不在人世了，高允看到我因此很悲痛。”
高允后来上表说：“前些年圣上下诏，命臣汇集各种天文及灾异现象，并与人间的各种事情相互联系，既要精练又要值得一看。臣听说箕子陈述治国的方略而写成《洪范》，孔子讲述鲁国的历史而著成《春秋》，这些都是宣扬各种治国安民的法规、恭敬地观测天象的例子。所以，根据人们行善还是做恶，天马上就会作出反应而出现灾难或奇异的天象，随着人们的成功或失败，天马上也会应验而降临灾祸或福禄。天与人其实相距很远，但所得到的报应，却象回声一样快，真是太可怕了。古往今来，历代帝王之中，没有一位不尊崇这个天人感应的规律，并以这个法度作为考核的标准来整饬国家，修德行善的。在此之后，史官都要把那些事情记录在案，以便作为行动的戒鉴。汉成帝时，光禄大夫刘向见国家的命运将有危难，权力旁落外戚手中，所以屡次上表陈述出现了妖异天象，但都未被采纳。于是以《洪范》和《春秋》二书中有关上天已对人间的恶迹有所报应而出现了灾异天象的内容加以解释，希望以此使君主有所触动而醒悟，但皇帝终究还是没有对现状进行治理察问，最后终于灭亡了国家。这难道不是很悲哀的吗！尊敬的陛下，您的神威与武功效法皇天，英明而远见灼识，并以非常恭敬的态度来考查古代，一切都按照传统的规矩行事，对古代的言论行为，无不深入地鉴别品评，这些都是先帝所不及的。臣才疏学浅，孤陋寡闻，恐怕没有能力为圣上开扩见闻，使您有所裨益，并且恭敬地实现您英明的意旨。今天臣郑重地依照《洪范传》、《天文志》，将其中有关事实的要点摘出，并加以汇集，省略掉那些修饰性的言辞，一共录成八篇。”世祖阅后认为很好，说道：“高允对灾异现象的精通程度，难道不如崔浩吗？”到高宗即位以后，高允辅佐新君，表现出很高的谋略。当时，司徒陆丽等人都受到了重赏，而高允却没有受到什么奖励，对于此事，他至死都没有一句怨言。这些事情表现了他对朝廷的忠诚，为人谦逊而不好夸耀的品行。
给事中郭善明，生性机智乖巧，想在皇帝面前显示一下自己的才能，劝高宗大兴土木，营建宫殿。高允劝阻道：“臣听说太祖道武皇帝在平定天下之后，才开始营建都城，但所有的工程，不等到农闲的时候绝不动工兴建。现在国家已经建立很久了，各种宫室都已建造齐备，永安前殿足可以让君主接受万国宾客的朝见，西厢温暖的房间也足可以安置侍奉圣体，登上紫色的楼阁临望，远近可一览无余。如果大范围地修建雄伟华丽的宫殿，目的只是为了奇异好看，那最好还是慢慢地建，不可仓促行事。统计起来，修建这些宫殿，斫制石木材，运送上方，以及各种杂劳役，总共需要二万人，壮年男子承担这些劳役，老人小孩送水送饭，总计则达四万人，而且需要半年时间才能完成。古人说过：一个男人不耕种，就会有人挨饿；一个妇女不织布，就会有人受冻。何况数万人之多，所造成的损失和浪费就太大了。回首想想古代的事实，再来检验今天，必然会得到同样的结果。圣上确实应该再考虑考虑为好。”高宗采纳了这些建议。
高宗继承了太平事业，但依旧沿袭着鲜卑的风俗习惯，婚丧嫁娶都不遵循中原的传统仪式，于是高允规劝道：
先帝在世之时，多次颁发圣明的诏令，婚姻嫁娶之时不得演奏音乐，送殡埋葬之日也不得唱歌、击鼓跳舞、杀牲和焚烧祭品，这一切都要禁止。虽然这些规定已颁布了很久，但风俗仍然没有改变。而且由于身居高官的人不能改悔，平民百姓也渐渐习惯而成为风俗，对人民教育的荒废，竟到了今天这般地步。过去周文王在百里大小的侯国中，不论整饬德政民风，还是颁布政令，首先从自己和妻子做起，而后再要求他的兄弟，最后才到天下的百姓，终于占有了三分之二的天下。这表明统治者无论做什么事，都要首先从自己和亲人做起。《诗经》说：“教育你的亲属行善无恶，天下人就都会效仿了。”所以，君主的一举一动不可不谨慎啊。
《礼记》说：有女儿出嫁的人家，三日燃烛不灭；迎亲娶妻的人家，三日不能奏乐。今天各王纳室娶亲，都由乐部供给艺伎，以供嬉戏玩耍，却反而单对平民百姓横加禁止，不许奏乐，这是第一件怪事。
古代婚娶，都选择有道德节义的人家，细心挑选贞洁贤淑的女子，先要请人说媒，接着再下聘礼，对邀集的幕僚和朋友要注重他们身份的区别，亲近那些乘车的客人，崇尚他们端庄肃穆的仪态，婚姻大事，就是这么难。可是在今天，诸位宗王年仅十五岁就赐给了妻室，离家单独居住了。然而配给妻子的宗王们，长幼不分，胡作非为，而与宗王婚配的人，尽是些嫔妃宫女。自古以来，没有比这更过分的违礼之事了。近几年来，频频有人揭发和检举这种违礼之事。如果真是诸位宗王因饮酒无度而受到责难，事情的缘起，也都是由于他们的妻子因年老色衰而遭到抛弃，从而造成了这种纷乱的局面。如今皇子所娶的妻室，多出自嫔妃宫女之中，但却反要天下的平民百姓必须依照礼制的规定婚嫁，这是第二件怪事。
万物生长，最终皆亡，古代贤明的先王制定了礼制，用来养生送死，这是符合人情道理的。如果毁灭生命而自寻死路，那就是圣人禁止的了。然而，埋葬的意思就是藏匿，死去的人不可能再出现了，所以要把他们深深地藏匿起来。过去帝尧被葬在谷林，农民并没有因此而迁徙到别的土地上去耕种；帝舜被葬在苍梧，商人也没有被迫到别的地方去做生意。秦始皇倒是营建了地下冥城，把它的基础牢牢地固定于三泉之上，所用的金玉珍宝不可计数，但他刚死不久，尸体就被焚烧了，墓穴就被盗掘了。可见，尧舜的俭朴，秦始皇的奢侈，谁是谁非一目了然。现在国家营建陵墓，花费上亿的银钱，一旦烧了，不也同样成为一片灰烬。如果奢侈浪费对死者有益，为什么单单古人不这样做呢。如今圣上不停地营造茔域，却坚决禁止平民百姓有所兴建，这是第三件怪事。
古代丧礼祭礼，为代替死者受祭，必须立尸，用来辨别左昭右穆的次序，使死者有所依凭，致行献食之礼。如今死者被埋葬之后，人们干脆直截寻找一位与死者相貌相似的人，死者是父母，就象对待父母一样地侍奉他，死者是配偶，则与他象夫妻一样相互恩爱。伤风败俗，亵渎人伦，混乱礼制，没有比这更厉害的了。朝廷不加禁止，百姓也不改易杜绝，这是第四件怪事。
宴飨之礼可以规定礼制仪式，教诲臣民，所以圣贤的帝王都重视它。礼制之严甚至到了酒杯满了就不能喝，饭菜不新鲜就不能吃，音乐不是合乎规范的高雅之声就不能演奏，食物不是纯正的货色就不能摆上宴席。而如今在大宴宾客的时候，宫廷内外的人都混杂在一起，因醉酒而喧闹不休，毫无礼仪可言。同时让滑稽小丑做粗俗表演，玷污人们的视听。朝廷长期形成了这种坏习惯，反到以其为美，而斥责纯洁素朴的风尚，这是第五件怪事。
今天，陛下作为历代帝王中最后的一位，因袭了晋代动乱而遗留的弊端，反而不加以矫正厘定，鞭挞陋俗，臣只怕天下的百姓，永远也见不到传统的礼仪和道德了。
高允不止一次地这样劝谏高宗，而高宗也都能从容静听，有时因直言过激而有所冒犯，高宗实在不入耳，就让身边的人将他搀扶出去。只要在不便当众劝谏的情况下，高允就要求到内宫拜见高宗，高宗深知高允的心意，总是预先在屏风旁迎接他。高允得到很高的礼遇和尊敬，早来晚走，有时接连几天都住在宫里，大臣们都不知道他们在议论些什么。
一次有人上书，历陈朝廷的得失，高宗将表章翻看了一遍，然后对群臣说：“一国之君就是一家之父，父亲有了错误，作儿子的为什么不写成表章，在人群之中当众劝谏他，让大家都知道他的坏处，而是躲在家里私下处理呢。这难道不是对父亲的爱戴，而恐怕家丑外扬吗？如今国家有了善举或恶行，作为臣子不能当面陈述，却要上表在大庭广众之下劝谏一番，这难道不是宣扬君主的缺点，而标榜他自己是多么正确吗。象高允那样的人，才是真正的忠臣。朕有了错误，他常常以正直之言当面辩论，说到朕所不爱听的时候，仍然能侃侃而谈，毫不回避迁就。朕认识到了自己的过错，而天下的人却不知道朕曾受过规谏，这难道不是忠诚吗！你们这些人常在朕的左右，朕却从来没有听到过你们当面对朕说过一句正直的话，只是趁朕高兴的时候祈求官职。你们这些人手持弓箭和刀斧，侍奉在朕的身边，只有白白站立的苦劳，却全都作了王公贵族。而高允手持一支笔，纠正国家的偏失，却只不过是个小小的著作郎。你们难道不感到羞愧吗？”于是，高宗封高允为中书令，同时还让他象过去一样著述校勘。司徒陆丽说：“高允虽然得圣上恩宠，但他家境贫寒，衣着俭朴，妻子儿女身份都很寒微。”高宗气愤地说：“怎么不早告诉我！今天朕要重用他了，才说出他家境贫寒。”当天，高宗亲自来到高允的家，看到只有草房若干间，房间里是粗布做的被子和乱麻做成的袍子，厨房中也只有咸菜而已。高宗感叹地说：“古人的生活难道比得上这样清苦吗！”当即赐给高允丝帛五百匹、粟米千斛，封高允的长子高忱为绥远将军、长乐太守。高允再三表示坚决辞让，高宗没有同意。当初与高允一起被征聘的游雅等人，多已拜官封侯，甚至高允手下的百十名小吏，也都作到了刺史郡守一级的职位，而高允却作了二十七年的著作郎，没有升官。当时朝廷中的官吏没有俸禄，高允就经常让他的几个孩子砍柴伐木，维持生计。
当初，尚书窦瑾因获罪而遭诛杀，他的儿子窦遵为避难逃亡到了山泽之中，窦遵的母亲焦氏也因此而被囚禁在县府。后来，焦氏虽因年老而得到赦免，但窦家的亲友之中竟没有一个人愿意赡养她。高允便把她留在自己家里保护赡养。六年之后，窦遵得到赦免后才将老母接走。高允的行为就是这样敦厚。后来，高允转作了太常卿，同时还继续担任中书令他上奏《代都赋》，用以规劝讽谏，此文也属于汉代张衡《东京赋》和《西京赋》之类的作品，但内容多没有保存下来。当时，中书博士索敞与侍郎傅默、梁祚讨论人的名与字的尊卑贵贱，著述议论纷纭杂乱，于是高允撰写了《名字论》，为人们解惑释疑，他引经据典，论证翔实。后来他又在任中书令的同时兼领秘书监，解除了太常卿一职，并晋封爵位梁城侯，加官左将军。
以前，高允与游雅及太原张伟同是同学而成了朋友，游雅曾评价高允说：“爱发怒的人，一生中就不可能不发怒。而过去的史书中记载的卓公心胸宽阔，文饶大度海量，心地狭窄的人或许不相信有这种人。我与高子相交四十年了，却从来没有见过他为事情的对或错而面露喜怒之色，不也就相信了。高子内心文德辉耀，外表柔弱，说起话来迟迟不能出口，我常叫他‘文子’。崔公曾对我说：‘高生博学多才，为一代佳士，只是缺少点勇武的风度气节’当时我也这么看。可后来发生的事却并非如此。司徒的国史罪，只不过因一点小事所引起，但到圣上降诏责罚的时候，崔公竟声音也嘶哑了，腿也发抖了，连话都说不出来，宗钦和比他职位低的官员都吓得爬在地上，大汗直流，个个面无人色。而高子却详细地叙述事理，申明是非，言辞清晰明辨，声音高亢洪亮。圣上被他的行为所感动，在场的人也没有不称赞他的。他以仁厚之心对待同僚和朋友，保佑他们大吉，过去一向所说的勇武，比高允的行为又怎么样呢？宗爱依仗着权势，肆无忌惮，名声威振四海。他曾在大臣议政之处召见百官，宗王公侯及各级官员，只要看见他的殿庭就全都下拜，只有高子直到走上台阶后才长揖见礼。由此可见，汉代的汲长孺能躺在床上接待卫青，又有什么有悖于礼仪的呢！过去一向所说的风度气节，难道不就是说的这些吗？了解一个人本来就很难，被别人了解就更难了。我仅了解高允的外表，却不了解他的内心，而崔公竟连他的外表也不了解。钟子期遇见了俞伯牙，从此不再听琴，管仲一看到鲍叔牙，眼睛都亮了，确实是有原因的啊。”高允就是这样为世人所推崇。
