不需要吩咐，王玄敬给杜平使了一个眼色，他一挥手，二十三名士兵则跟着他向上方的气窗攀去，杜平则率领其他八十名士兵在仓库内稍等片刻，他们将从仓库大门出去，从下面前往南城门。
隋军斥候之前便在山顶上观察过娄烦关的防御部署，从空中向下看，娄烦关的外形颇像一枚回形针，南北城墙在东面和西面分别汇合后，又有一段较短的城墙连接在山崖峭壁上。
就在这段较短的城墙上分别建造了一座城台，正好堵在从山崖过来的通道上，突厥人便将西面的那座城台改建成了一座哨塔，专门有几名哨兵昼夜注视着悬崖上的动静，另外在哨塔背后还有一队士兵巡哨，他们只在百步内巡哨，就是为了防止隋军从悬崖上攀爬下来，突厥军在紫河就用这个办法攻占了紫河关，所以他们自己也格外防备。
夜色中，王玄敬和三名换了突厥军服的士兵借助绳索的帮助，沿着围墙爬到了哨塔靠近山崖那一面，哨塔挡住了巡哨士兵的视线，使他们看不到几名隋军士兵已从哨塔的另一面上了城。
四人贴着哨塔墙壁站在城头，在他们对面三十几步外便是长满了藤蔓的山体，王玄敬给其中一名士兵使了个眼色，士兵蹲了下来，王玄敬踩上士兵的肩膀，士兵缓缓地站起身，将王玄敬一点点托上哨塔窗口。
哨塔颇像后世的碉堡，头顶有木盖，四角有四根木柱，王玄敬听了片刻，里面隐隐传来低微的鼾声，他慢慢上探，终于看清了哨塔内的情形，哨塔内一共有三人，其中两人已经靠墙坐在地上睡着了，另一人则疲惫地倚靠在木柱上，手执一袋酒，无精打采地喝着酒。
王玄敬向下比划了一下，意思是三个人，两人睡着了。
另一名隋军士兵摸出了两把淬有剧毒的匕首，也被下面的士兵慢慢托了起来，不过他没有上探，他是要对付两名睡着的哨兵。
王玄敬举起手弩，瞄准了哨兵的脖子，‘咔！’的一声轻响，弩箭准确地射中了哨兵脖子，弩箭上的剧毒见血封喉，哨兵软软倒下，一声都没有叫出来。
这时，另外一名士兵被托起，他双手一挥，两把锋利的匕首射出，同样刺穿了两名熟睡士兵的咽喉，无声无息地干掉了三人。
王玄敬翻身跳下城墙，三名士兵翻进了哨塔，他们三人都换了突厥士兵军服，扮成哨兵继续在哨塔内观察悬崖情况。
不多时，另外二十名士兵在王玄敬的率领下也攀上了墙头，不过他们伏身在仓库屋顶上，而一队十人的突厥巡哨士兵就在不远处的南城头上来回走动，他们专门负责悬崖一带的警戒，最近时相距隋军伏兵只有二十步。
士兵们慢慢举起了弩箭，瞄准了越走越近的十名哨兵，斥候事先在悬崖上仔细观察过，突厥哨兵一共有十三人，其中十人是巡哨，三人是固定哨，固定哨已被干掉，现在只剩下十名巡哨。
二十名隋军士兵训练了无数次，他们两人负责射杀一人，交叉射杀，确保万无一失，每个士兵都知道自己的目标在哪里，也知道何时发箭，他们一起举弩瞄准十名巡哨。
当十名巡哨走到哨塔边，又调头向回走，这时，他们距离隋军士兵只有二十步，当最后一名突厥哨兵转身的一瞬间，二十名隋军同时射出了弩箭，俨如一阵突来的疾风暴雨，二十支箭同时射中十名突厥哨兵的脖子，每人的脖子上精准地插着两支箭，一起倒地阵亡，几乎没有发出一点响声。
这时，隋军士兵支起一个斗篷，围成了一个圈，在斗篷中点燃了一支火镰，四周看不见火光，被斗篷挡住了，但从上方，却能清清楚楚看见，这是隋军斥候向山顶发出了信号。