魏征在未归唐时就是一个建言献策的谏官,为其主献上了不少计策,可惜并未被采用。
武德九年,李世民发动玄武门事变,事后因魏征说话直率并未欺瞒便将其赦免用其为官。贞观元年,李世民登上帝位,重用魏征。魏征直言不讳,敢于进谏,有时甚至言辞激烈让太宗颜面扫地,太宗也并未怪罪,虚心纳谏。
魏征去世后,是什么让李世民砸掉了魏征的墓碑呢?魏征刚去世时,李世民极为悲痛,说自己失去了一面镜子,亲自为魏征刻写碑文,并欲将衡山公主嫁与魏征长子,然而不久后,侯君集和杜正伦因谋反之罪一个被处死一个被罢免,而这两人都是魏征生前力荐过的人,说其有宰相才能,这件事令太宗怀疑魏征与谋反党勾结。而且太宗还知道了魏征生前将其自己的谏言告诉史官,因为当朝为官,给君王上表是要保密的,不能随便给人查看,魏征将上谏的内容告诉史官,有故意博得清廉正直名声的嫌疑。
太宗生前如此重用魏征,即使魏征的直言使太宗多次下不来台太宗也并未怪罪,可见,唐太宗是非常相信魏征的,把他当作自己的左膀右臂,所以发现魏征可能是侯君集的同党更让太宗极为恼火,所以他一气之下下令解除了衡山公主与魏征长子的婚约,后来他越来越气愤,亲自砸掉了魏征的墓碑。