1935年12月18日，西北革命军事委员会以第十五军团第七十八师和骑兵团等部组成北路军，任命刘志丹为总指挥，北上打击横山地区进犯的国民党第八十六师，巩固和扩大陕甘根据地的北线阵地。
刘志丹在率军北上时，遇到习仲勋，叮咛说：“你给受过整的同志们捎话，让同志们不要有情绪，过去的事情不要放心上，要服从中央分配，积极工作，用事实来证明我们是正确的。”
李维汉在《回忆与研究》一书中，对陕北肃反问题是这样说的：“由于‘左’倾路线没有清算，陕甘苏区的地方干部和军队干部仍然戴着右倾机会主义的帽子，所以对他们的工作分配，特别是对一些高级干部的工作分配，一般是不公正的。当时中央决定对释放干部的工作分配办法是：地方干部由陕北省委负责，军队干部由军委负责。
1935年底，中央决定将横山、绥德、米脂、靖边一带的独立部队和游击队整编为红二十八军，任命刘志丹为军长、宋任穷为政委、杨森为副军长兼参谋长（之后改任红三十军参谋长，1936年5月初在三交镇以南阻击敌人时牺牲，年仅29岁），下辖3个团，共计1200余人。中央还派了裴周玉担任红二十八军特派员。
1936年2月下旬，红二十八军奉中央命令，由吴堡北上向神木、府谷进攻，打通陕北苏区和神府苏区联系，使之连成一片，巩固和扩大神府革命根据地，并迅速发展苏区党的组织和壮大地方武装力量，巩固抗日后方，牵制敌军，策应主力红军东征。红二十八军在短短一个多月内，先后在清涧、绥德、吴堡、米脂等十多个重要城镇，强有力的打击了敌人，胜利进入神府苏区。在3月20日的行军途中，群众报告敌军八十六师的一个营正在前面的杨家塌抢劫粮食。刘志丹向群众仔细了解了敌人的兵力、装备和地形后，当机立断，给三个团分别部署了由正面主攻、切敌退路、埋伏消灭溃败之敌的作战任务。战斗打响后，敌营大乱，突围中没有退路，溃逃时又被埋伏的红军截住，仅1个多小时，就全歼了敌人。这一仗打出了威风，附近几处敌人闻风丧胆，听说刘志丹领导的红二十八军来了，没敢打，连夜就逃跑了。
红二十八军部队进人神府后，天气依然寒冷，当地群众看到许多指战员还穿着露脚趾的鞋子，当地政府就发动村村户户，在短短几天时间就给红二十八军做了2000多双鞋。有不少老百姓从远道赶来，带上当地特产，要亲眼看望刘志丹，真心实意地拥护陕北人民的领袖。
随军的裴周玉回忆说：
……沿途受到群众的热烈欢迎。人们听说刘志丹带着红军来了，有些人离几十里地也要赶来看。记得部队宿营在神木县境的一个小村里，那天，我在一个穷人家的破窑洞里看见刘志丹军长。他盘腿坐在炕头上，周围的男女老少挤了好几层。老乡们一声一个“老刘”地叫他。他笑嘻嘻地回答着每个人提出的问话，向大家讲着党中央到陕北以后的革命形势，讲着在毛主席领导下红军不断打胜仗的消息。
这时正值春节期间，老乡们有人拿着红枣馍馍来送给“老刘”；有人拿着鸡蛋挂面来送给“老刘”；还有人把给神灵作的供品也拿来向“老刘”送礼了。刘志丹不住地答谢着老乡们的慰问。正说话间，人群里忽然发出一个颤抖着的妇女声音说：“你们闪开点，让我也看看老刘。”原来挤进屋里的是一位白发苍苍的老大娘，看去已有70多岁了，双目失明，老态龙钟。众人哄笑着问老大娘：“瞎娘，你没有眼睛，怎么看老刘呀？”
老人家理直气壮地辩驳说：“看不见我还摸不着哇！”说着，刘志丹就起身站在老大娘面前。老人家像抓住什么宝贝似的，从头顶摸到脚下，又从脚下摸到头顶，激动地说：“我终于见到你了，你真是咱们老百姓的恩人啊！”老大娘这种真挚感情的流露，使周围不少人都感动得流出了热泪。
原陕甘边特委书记张秀山出狱后，到神府特委任组织部长，见到了东征途中的刘志丹。两个老战友重逢，分外亲切。张秀山在《我的八十五年》中写道：
这天晚上，我和志丹睡在一个炕上谈到深夜。当说到陕北的错误“肃反”时，我们仍然很激愤。因为直到这时，刘志丹和我们这些人身上仍然背着“右派”、“右倾机会主义”的罪名。志丹说：“我们到底是不是‘右’派反革命（‘左’倾分子仍在散布这种言论），在战场上让他们看！党中央、毛主席总有一天会把这些事情搞清楚的。
这时候，毛泽东率红一军团和红十五军团，已渡过黄河，逼近同蒲铁路沿线。中央命令红二十八军从佳县北渡黄河，楔人晋西地区，配合红一方面军，迅速打通走向抗日前线的道路。
要过黄河，必须有船！
为了渡过黄河，刘志丹日以继夜地不停工作，经常跑到村里找群众研究河水和造船情况。在一个大风沙天气，刘志丹在黄河边和一位60多岁的老大爷促膝相谈。
老大爷很严肃地说：“黄河有三不过：春汛不过，夏汛不过，凌汛不过。现在春汛快要到了，上面河套里一解冻，房子大的冰块一堆堆向下流涌，船一下水就有被撞碎的危险。”
刘志丹问：“老翁公，你的船还在吗？”
“早被阎匪抢走了！还有我的儿子也被抓走几个月了啊！老刘，你是清官，你得把儿子和船给我夺回来啊！”说着就泣不成声了。
刘志丹听了老人一番诉说，安慰说：“你的儿子会平安无事的，我们渡过黄河就是去收拾阎匪的！”
老工人揩干了眼泪，拉着刘志丹的手：“老刘，就是拼了我这把老骨头，也要给你们把船只造好。我还要亲自把红军送过黄河去！”
群众听说是给红军部队造船，积极性很高，全力以赴。木材不够用，有的人把自己家的门板卸下拿来，有的人还献出准备做棺材的木料。时间紧迫，船工昼夜倒班，终于在7天之内造好了5条渡船。
经过刘志丹的仔细观察和分析对岸敌情后，把强渡黄河的地点放在神木县贺家川的山坡村附近。这里虽然岸崖陡峭，河面较窄，水流湍急，但敌人防守不严，加上这个地方是窟野河与黄河的交汇处，不易被敌人发觉。
当红二十八军先锋队出其不意渡河时，被敌人发现了，受到机枪火力的猛烈阻击。顷刻，子弹哗哗地扫过来，岩石上火花飞溅，河面水柱乱跳。刘志丹站在河沿上一面命令重火力向敌人射击，一面指挥部队强渡。在密集的弹雨中，船工奋力划船，红军硬是冲上对岸，拔掉了两个中心碉堡。红二十八军三个团全部相继在拂晓前渡过黄河。从黑峪口、兴县城、康宁镇横扫过去，接二连三地取得了胜利。进入临县白文镇，与红十五军团的部队会师了。刘志丹反复和徐海东、程子华等商讨军政局势，研究对敌战略。这时候的刘志丹只有一件旧大衣，白天穿，晚上盖。过去打土豪分得一条旧被子，过黄河时让饲养员给弄丢了，同志们要给他弄一条被子来，刘志丹挡住了，说：天渐渐暖了，我不需要了。现在供给紧缺，如果能弄到被子，让战士们用吧。
接着，中央军委急电：令二十八军即向以南黄河沿岸地区进击，并相机攻占山西中阳县三交镇，牵制和调动敌人。
4月13日，红二十八军到达三交镇附近。
三交镇与陕西省的清涧县和绥德县隔河相望，与山西省的石楼县接壤，处在“鸡鸣惊四县”的位置上。是山西中阳县靠黄河的一个重要渡口，南北环山，西面临水，地势险要，易守难攻。镇内有重兵把守，沿河有坚固的工事。
刘志丹亲自观察地形后，和军部的同志一块研究攻击三交镇的办法，叮咛说：“越向南走，离中央总部越近，一定要打好三交镇这一仗，我们千万不能轻敌。这次战斗是与河东整个红军的安危有关。周围都是白区，任何麻痹疏忽，都是不容许的。”
1936年4月14日临晨，攻打三交镇的战斗开始了。三交镇周围大部阵地已经被红二十八军占领，而主要山头上的敌人还在顽固据守。刘志丹十分着急，到前沿阵地的鳌则疙瘩山头观察战况，不幸中弹牺牲，年仅33岁。
战友们在清理刘志丹衣兜里的物品时，除了几份党内文件和六支香烟外，其它一无所有。大家禁不住失声痛哭。他没有给自己留下一分钱，却为革命流尽了最后一滴血。
当夜，红二十八军派出一个排，把刘志丹的遗体运过黄河。4月20日左右，护送到了瓦窑堡北边的黑山梁。周恩来听到刘志丹牺牲的消息后，落泪了，沉痛地说：“志丹同志是一个很好的同志，他的牺牲是红军的重大损失。我们要永远纪念他！”接着又指示，“刘嫂子病重，正在住医院，等几天她病好一些再开追悼大会。”
4月23日，刘志丹的遗体被运到党中央所在地瓦窑堡市。24日，各机关团体、红军部队两三千人，在城内戏台前召开了隆重的追悼会。周恩来和中华苏维埃中央政府驻西北办事处主任博古（秦邦宪），先后致悼词和讲了话。他们高度评价了刘志丹一生的丰功伟绩。大会结束后，周恩来等领导同志亲自扶灵，将刘志丹安葬在瓦窑堡市南门外二三里处的山坡上。
6月份，党中央为纪念刘志丹，决定将他的家乡保安县（即赤安县）改名为志丹县，这是中共中央第一次用人名为一个县份命名。
1940年，党中央指示西北局和陕甘宁边区政府，在志丹县修建刘志丹烈士陵园。1943年4月陵园落成，4月20日刘志丹灵柩离开子长。路经延安时，陕甘宁边区政府举行了万人公祭大会，总司令朱德代表党中央和八路军致词。之后灵柩在高岗、林伯渠、刘景范、张秀山、吴岱峰、康天民、马锡五、曹力如、刘约三等护送下到志丹县。5月2日举行了隆重的公葬典礼，将刘志丹烈士安葬于陵园里。中共中央、中央军委的毛泽东、周恩来、朱德等许多领导都为刘志丹烈士题了词，以表纪念。
毛泽东悲痛地写下了这样的话：“我到陕北只和刘志丹同志见过一面，就知道他是一个很好的共产党员。他的英勇牺牲，出于意外，但他的忠心耿耿为党为国的精神永远留在党与人民中间，不会磨灭的。”
他还为刘志丹亲笔写下了八个大字：“群众领袖、民族英雄”。1943年8月，毛泽东在延安的一次干部大会上，又语重心长地讲：
一个人死了开追悼会，群众的反映怎样，这就是衡量的一个标准。有些人高高在上，官位很大，称首长，好像老百姓都拥护他，其实这不能说明问题，要看最后的盖棺定论，要看开追悼会那一天老百姓落不落泪。……真正的群众领袖，到开追悼会那一天，老百姓会觉得他死了很可惜，至少不会觉得死了也好，可以省下小米。刘志丹同志牺牲后，陕北的老百姓伤心得很，这说明他是真正的群众领袖。
周恩来题词：“上下五千年，英雄万万千；人民的英雄，要数刘志丹。”后来周恩来在一次大会上感慨地说：“刘志丹对党忠贞不二，很谦虚，最守纪律，他是一个真正具有共产主义品格的党员。”
朱德的题词是：“志丹同志是优秀的共产党员，忠实英勇的红军领导。陕甘苏区的创造者”；“红军模范”。
还有很多中央领导给刘志丹烈士题写了挽词。
刘志丹的夫人同桂荣在《离别时分》一文中说：“在延安时，有的老同志对力贞说‘你爸爸什么都好，就是太让人了，连自己的命也搭进去了，这一点你可不要学。’我说：‘志丹正是因为有这点，才感动了天地，才干出了一番事业。’他是顾全大局的人，以革命利益和党的事业为重的人。这样的人才能作出历史贡献，才能为人民办成好事，才是道德高尚的人。”
刘志丹将军的一生，是革命的一生，英勇战斗的一生，光辉的一生。1996年被中央军委批准为中国人民解放军36位军事家之一。1993年，时任中共中央总书记的江泽民同志亲笔题词：“学习刘志丹同志的革命精神，建设有中国特色的社会主义”。