为了保证作战能顺利进行，武则天破例启用了久在吐蕃，熟谙吐蕃军情的王孝杰为武威军总管，与左武卫大将军、附唐的原西突厥首领阿史那忠节联兵，率众讨伐吐蕃。十月，王孝杰率兵从西州(今新疆吐鲁番)出发，大破受吐蕃册封的西突厥可汗阿史那馁子。吐蕃军在噶尔·钦陵率领下前往救援，也被王孝杰击退。随后，王孝杰率唐军转战数千里，直至于阗等地，大破吐蕃。二十五日，王孝杰乘胜一举收复龟兹、于阗、疏勒等镇。突骑施(突厥部落之一，其地当在今新疆伊犁河以西，热海以东)首领乌质勒亦乘机助唐发起攻击，自东突厥手中夺回碎叶城，交付于唐。自此，唐朝重新收得安西四镇。在接受安西四镇几度失陷的教训后，武则天为巩固西域的边防，重新加强唐朝在西域的统治，派重兵(24000人)驻守四镇，还将安西大都护府还治龟兹，从而摧毁了吐蕃苦心建立的西域统治体制。 至此，唐与吐蕃结束了在西域反覆争夺的局面，安西四镇的形势逐渐稳定下来。
唐能够成功地收复安西四镇，在战机的选择上利用了吐蕃内乱、军心不稳这一缺点，果断派兵出机。尤其是破格启用王孝杰——一个熟悉吐蕃内情的人为主帅，使唐军能够事半倍。由于从唐朝本土到西域的道路遥远险阻，后勤供应困难，为此，王孝杰在作战指导上又采用了长驱直入、连续作战的战术，最后达到速战速决。这些都是王孝杰的成功之处。
安西四镇的收复，对唐朝抚慰西突厥，保护中西陆上交通要道，巩固唐的西北边防，起了十分重要的作用。所以当武则天接到捷报后，显得无比的兴奋，她对侍臣说：「昔贞观中贝绫，得此蕃城，其后西陲不守，并陷吐蕃。今既尽复于旧，边境自然无事。孝杰建斯功效，竭此款诚，遂能裹足徒行，身与士卒齐力。如此忠恳，深是可嘉。」(《旧唐书·王孝杰列传》)激动之情，溢于言表。遂升王孝杰为左卫大将军，次年又升任夏官尚书、同凤阁鸾台三品、封清源男，声名大振。
吐蕃虽然丢失安西四镇，但并不甘心，一直侍机重新夺回对西域的控制权。延载元年(694年)二月，噶尔·钦陵派吐蕃大将勃论赞刃和所立的西突厥傀儡可汗阿史那馁子等联兵向西域地区发起进攻。为击退西突厥与吐蕃此次进犯，王孝杰奉命率军进击，在冷泉(今青海西宁西)、大岭(今青海西宁西)与吐蕃、突厥联军展开决战。由于王孝杰指挥有方，唐军歼其各3万馀人。碎叶镇守使韩思忠部也击溃吐蕃泥熟俟斤等万馀人，攻拔吐蕃泥熟没斯城。
四月初九，唐廷任命王孝杰为同凤阁鸾台三品。
在武则天执政期间，外部威胁主要来自两方面，一是西部的吐蕃，二是北部的东突厥。东突厥阿史那骨笃禄可汗于永淳元年(682年)，乘武则天新立、政局动荡之机反唐。延载元年正月，阿史那骨笃禄卒，其弟阿史那默啜篡夺汗位，继续攻唐，连犯灵州(治今宁夏灵武西南)、凉州(治今甘肃武威)等地，杀掠人吏资财。为此，武则天于八月十七日任命王孝杰为瀚海(治今蒙古哈尔和林西北)道行军总管，受朔方道行军大总管和尚怀义的指挥，加强北部防御，以备突厥。
证圣元年(695年)正月二十六日，武则天又以王孝杰为朔方道总管，进攻东突厥。
正当王孝杰准备出征时，吐番的情况又起了变化。赞普都松芒波杰为加强君权，除掉权重一时的噶尔家族，以「反叛」的罪名杀掉重臣噶尔·赞辗恭顿。此为噶尔家族在吐蕃王朝全面失势的信号。手握大权的大论噶尔·钦陵闻讯后十分恐慌，准备再建战功，以求保身。七月十五日，噶尔·钦陵其弟噶尔·赞婆率大军取道临洮(今属甘肃)，进攻河西，企图切断唐朝与西域的联系通道，然后再夺取西域。
为此，武则天任命王孝杰为肃边道行军大总管，娄师德为副总管，率军迎战。万岁通天元年(696年)三月，唐蕃两军在素罗汗山(今甘肃临洮界)展开交战。噶尔·钦陵由于内外的双重矛盾，遂率吐蕃军与唐军做背水一战。噶尔·钦陵还充分利用了地形上的优势，集中优势兵力，居高临下掩杀唐军，然后前阻后截，使唐军完全陷于被动。王孝杰没料到吐蕃的进攻会如此猛烈，准备不充分，致使唐军伤亡惨重。
监军张仁愿素与王孝杰不和，此时便因人奏事，将失败的责任全部推给王孝杰，王孝杰因此被削官为民，王孝杰被削官为民，娄师德也被贬为原州(治平高，今宁夏固原)员外司马。经此大败，唐军元气大伤，无力再战，只好与吐番议和。
