当时，河套土匪高广仁也投靠陈圭璋，被编为十三旅，进驻早胜。1931年8月，陈圭璋接到杨虎城的命令，要他组织堵截背叛自己北窜宁夏的苏雨生，陈便命令刘志丹、刘保堂协助高广仁，共同阻击苏的部队。而高广仁早与苏雨生、张廷芝密秘勾结，准备三部合并进击宁夏，以配合雷中田发动推翻马鸿宾的行动。高广仁先发制人，以设宴为名扣押了刘志丹、刘保堂，并将其部全部缴械，然后经宁县向合水方向北窜。高广仁部在离开早胜镇的前一天，将200多头毛驴廉价卖给附近群众，当晚又指示部队将正在街南火神庙看戏的群众围困在庙内，不让回家，然后进入民宅搜抢民物，牵走所有毛驴，并逼死、抢走妇女各一名。唯北新城有刘志丹余部抵制，末遭劫掠。高部窜至合水县，被蒋云台第五旅击溃，刘志丹乘夜雨脱逃，回到了南梁地区的平定川。刘志丹为建立革命武装，奔走于陕甘南北，虽历尽艰险，屡遭挫折，而仍矢志不移，不断寻求机会，图谋发展。同时锻炼和培养了一批军事干部，积蓄了一定的武装力量，在群众中播下了革命的种子，产生了巨大的政治形响。经过不懈地努力，终于于1932年1月在正宁县柴桥子（时为新宁县的“北八社”辖区）建立起“西北抗日反帝同盟军”。2月12日，又根据中共陕西省委决定，改编为中国工农红军陕甘游击队。

1932年5月，陕甘游击队奉陕西省委指示，东进韩城，以实现在平原建立根据地，扩大政治影响，且使于筹粮扩军的目的，结果一再失利，于6月上旬退至宁县金村麻子掌。这时，全队仅剩200余人，部队士气低落，思想混乱，被悲观失望的情绪所笼罩，而领导成员之间，又在选择游击战争的发展方向和建立军事后方的问题上产生了严重分岐。政委李杰夫、政治部主任黄子文等人，并未吸取东进韩城的教训，坚持南下三原打游击，建立渭北根据地；总指挥刘志丹、杨重远、白锡林、强龙光等多数人则主张北上南梁，以桥山为依托，建立陕甘边革命根据地。刘志丹等人认为，桥山连接陕甘，地域宽广，地形复杂，有很大的回旋余地，而敌人在这一带的统治力量相对薄弱，有利于游击作战，同时还可以扩大骑兵，实现步骑配合作战，提高游击队的战斗力和机动性。两种意见相持不下，红军游击队面临着分裂的严重危险。