唐俭是李渊的谋臣之一，李渊在太原起兵之时，唐俭参与谋划。武德元年(618年)，升为中书侍郎。武德二年(619年)，唐俭得知独孤怀恩要造反。独孤怀恩驻守蒲州，唐俭遣人揭发独孤怀恩谋反。陈应在击破刘武周后，唐俭因功拜为礼部尚书。
这一次他毛遂自荐要出使突厥，想要靠着他的伶牙俐齿，说得突厥哑口无言，迫使突厥退兵。
只是非常可惜，唐俭并不知道后世一句非常著名的名言：“弱国无外交！”
唐俭一路轻车简从抵达定襄，连颉利可汗的面都没有见着，就被突厥人扣压了下来，整个唐使团数十人，全部被关在羊圈里。
按说作为一国外交大使，受到如此待遇也是奇耻大辱。唐俭却有点阿q的精神，他认为突厥人野蛮粗鄙，根本不识礼数，所以唐俭也无不突厥人一般见识。
可是突厥存心是想羞辱唐俭，不仅没有给他住的地方，就连吃的也是变质的羊肉，还带着绿头苍蝇。
一天一碗水，一块变质的羊肉，三天下来，唐俭就被饿得前心贴着后背。好在这个时候，突厥人告诉唐俭，颉利可汗准备见他了。唐俭心中大喜，急忙用省下来的水净手净面，梳拢头发，整理衣冠，避免失礼。
唐俭头戴梁冠，身穿公服，不卑不亢，向着颉利可汗与义成公主躬身施礼：“吾皇陛下麾下礼部尚书唐俭，拜见可汗，拜见公主。”
众突厥大臣的脸色一下子就阴沉了下来，义成公主也有些意外，他望着唐俭，不知他葫芦里卖的什么药。
阿史那·咄苾的眉棱骨动了动，却没有立时发作，只是淡淡点了点头。
步鹿根上前大喝道：“南蛮子忒无礼，纵使李渊亲来，拜见我们可汗也要行君臣大礼，何况尔乃小国之臣，兀自托大，是何缘故？”
唐俭抬头看了看步鹿根一眼，淡淡的道：“突厥没人了吗？让一个不学无术的小人位列朝班，圣人书史，你都读到狗肚子里去了吗？”
一句话问得步鹿根满面通红，勃然大怒：“庶子大胆，竟敢辱骂大突厥之臣？”
众突厥大臣纷纷拔出刀子，论口才他们确实是不如唐俭，可是他们都有刀。十数把弯刀，纷纷对准唐俭，只要颉利可汗一声令下，他们就把唐俭碎尸万段。
可是这个命令，颉利可汗迟迟没有下达。颉利可汗摆摆手道：“都退下！”
颉利可汗现在也无法快意恩仇，因为他原本就是想占便宜的，可是他也没有想到李渊居然上来就是一对天王对，直接派出了陈应这个杀神，如今陈应距离定襄不过七八日路程，面对陈应这个杀神，颉利可汗心中可没有底。