兵驻大谷，李世民兵驻蒲州道。起初，唐高祖对突厥用平等国礼。此时愤怒说：“以前我因天下未定，厚待突厥为纾患。现他背约，我定要歼灭他，决不姑息。”命有司将给突厥的书信全改为诏或敕。张瑾还未到达驻地，突厥兵已越过石岭，既而围并州，攻灵州，转而侵扰潞、沁二州。李靖率兵出潞州道，行军总管任瑰驻太行。张瑾在大谷迎战兵败，中书侍郎温彦博陷于突厥手中；郓州都督张德政战死。接着突厥攻广武，败于任城王李道宗之手。突厥欲谷设掳掠绥州后，请和而去。突厥兵又打败并州几县，进入兰、鄯、彭州等地。有时小胜，但不能尽制。不久，又侵犯原州，折威将军杨屯将他击败，且发兵屯守大谷。

武德九年（626年），颉利可汗攻打原、灵，包围凉州，进而侵犯泾、原，李靖在灵州与之交战，突厥兵退。又去侵犯西会州，包围乌城，徘徊陇、渭之间，平道将军在秦州与之一战，斩杀突厥一名特勒，三名大将，俘虏一千人。突厥一般都是打赢就再深入，吃败仗就请和，不以为耻。同年七月，颉利可汗自率十万人马袭击武功，唐朝京师戒严。颉利可汗兵攻高陵，尉迟敬德在泾阳迎战，擒获俟斤乌没啜，杀死一千多人。

颉利可汗派谋臣执失思力入朝来窥测虚实，夸耀说：“二位可汗有百万大军，现在已来。”已经成为唐朝皇帝的唐太宗李世民说：“我与可汗曾当面约和，你今日负约。当初义军入京，你父子都跟在我手下，馈赠你们的玉帛多得不可计数。现在竟然敢派兵入我京畿，还自夸强盛。今天我先杀死你。”执失思力害怕而请罪。萧瑀、封德彝劝唐太宗以礼送他回去，唐太宗不许，将他囚禁在门下省，接着与侍中高士廉、中书令房玄龄、将军周范等六人驰马出玄武门到达渭水，与颉利可汗隔水说话，斥责他负约。众酋将大惊，都下马拜。随即唐军大队人马到达，旌旗鲜亮，兵甲闪耀，部队整肃。突厥兵大惊。唐太宗指挥大军退而列阵，单独与颉利可汗按辔而言。颉利可汗因畏惧唐军，于是请和。第二天，双方杀白马，在便桥盟誓，颉利可汗于是引兵退走。唐太宗诏令殿中监豆卢宽、将军赵绰护送突厥。颉利可汗献马三千匹、羊万头，唐太宗没有接受，只让他们将所掠的中原人都放回来。

贞观元年（627年），原臣服突厥的薛延陀、回纥、拔野古等部落均起而叛突厥，颉利可汗派突利可汗前去讨伐，未能取胜。叛军更盛，突利可汗轻骑逃回。颉利可汗大怒，将他监禁。突利可汗因此生怨心。同年，因下大雪，致使羊马冻死很多，人也遭灾。突厥害怕唐军乘危来攻，于是领兵入朔州，扬言是会猎。有议臣建议责备他背约入我疆境，就此讨伐。唐太宗说：“匹夫都不可以不讲信用，何况一个国家？我既与他们有盟约，怎么可以乘人之危呢？一定要他对我无礼后才可讨伐他。”

贞观二年（628年）突利可汗向唐朝陈述遭到颉利可汗的攻击，请求援助。唐太宗说：“我与颉利可汗有盟约，又与突利可汗结拜为兄弟，兄弟有难不可不救，怎么办？”兵部尚书杜如晦说：“夷狄不讲信义。我虽守约，但他们常背盟。今他内乱而击之，是他自讨灭亡。”于是诏令将军周范驻守太原备战，颉利可汗也拥兵窥视。有人建议修筑古长城，再调百姓充实要塞。但唐太宗认为，当时灾难频发，而颉利可汗与突利可汗不和，互相攻杀，突厥势必要灭亡，不需要筑障实塞。突厥人粗疏少谋略，颉利可汗曾得到汉人赵德言，赏识其才能，十分信任他，赵德言渐掌国政；颉利可汗又将某些政权交给各胡人部族，却不用自己宗室中人。每年兴师入侵唐朝边境，其下属不堪其苦。胡人秉性鲁莽，多次言而无信，号令常变。此时灾荒，征收苛重，各部落均生二心。

贞观三年（629），突厥属部薛延陀自称可汗，派使者来告唐朝。唐太宗诏令兵部尚书李靖攻击马邑，颉利可汗逃走，九个俟斤带兵降唐，拔野古、仆骨、同罗各部以及霫、奚的君长都入朝。于是唐太宗诏令并州都督李勣从通漠道出兵，李靖从定襄道出兵，左武卫大将军柴绍从金河道出兵，灵州大都督、任城王李道宗从大同道出兵，幽州都督卫孝节从恒安道出兵，营州都督薛万淑从畅武道出兵，共六总管兵十多万，均由李靖指挥讨突厥。李道宗在灵州与突厥接战，俘获人畜数以万计。突利可汗及郁射设、荫奈特勒率领所部投降唐朝。唐军每日均有获胜。