传说在宋朝三关元帅杨六郎和辽国交战，打了一个大胜仗。辽国要求议和。谈判地点就在雁门关上。谈判的结果是：辽国的重兵必须撤离雁门关附近。但撤离多远谈不下来。

最后杨六郎开出两个条件；一、由杨六郎骑马从雁门关从北走，马不吃不喝，到走不动为止，作为撤兵的界限；二、由杨六郎从雁门关射一箭，箭落之处就作为撤兵的界限。

辽国人当然不希望用马来划界，就同意用射箭定界线。于是，宋兵拿出一支精致的雕翎箭，上面刻有杨六郎的名字：杨延昭。杨六郎把箭搭上弓弦两膀一较力，只听嘎吱吱弓如满月。他把箭头略略上翘，手指一松弓弦，那箭“呼”地一声，向北而去，越过一座山头不见踪影。

宋辽两方都派出兵将一同顺着箭去的路线向北寻找。他们先是在箭越过的那座山后找，细细地、慢慢地，生怕漏掉一个地方。但是，他们不仅没在箭越过的那座山后找见，而且翻过好多座山也没找着。

一个月后，一个辽兵在大青山的山坡上找着了。他本想偷偷拔起来往南移动他几百里，可那箭深深嵌进石头里，怎么摇晃也无济于事。这时宋朝兵将也看见了，无法反悔。再则，辽主畏惧杨六郎神力，于是，辽国大军兵撤大青山。

此箭有一丈余长，顶部安有老式铧状铁镞，由东向西斜插在石罅中，形朽质不朽，可撼而不可拔，至今还在大青山上，人称“六郎箭”。内蒙古中西部地区和山西雁北地区至今留有“六郎的箭--干摇不动”的歇后语。

后人有诗咏其人其事云：“雁门关外起边烽，辽宋当年战血红。怅望千秋成异代，空留神箭说英雄。”因为有了“六郎箭”这一轶闻传说，为大青山平添了几分神奇，游人也平添了几许向往。