根据中央关于处理绥远问题的精神，傅作义和邓宝珊提出了一个以“暂维现状，划定界线，改编为人民解放军”的步骤。
为了进一步具体地就若干问题加以讨论，林彪、聂荣臻、陶铸和我党长期在晋绥地区工作的原晋绥军区司令员贺龙与政委李井泉一道，于1949年3月23日在北京饭店宴请了傅作义、邓宝珊和周北峰。双方同意，成立一个绥远问题协商委员会，具体协商有关划界、交通、金融、贸易、邮政以及我方派遣驻绥联络机构等问题。双方提出参加绥远问题协商委员会的代表各三人，我方代表是中共晋绥分局书记李井泉、中共华北局秘书长张友渔、中共蒙绥区委城工部长潘纪文（潘纪文早在1938年就曾被中共派为住傅作义部队的代表，并担任了三十五军政治部组织科科长，与傅作义部很熟）。傅作义方面的代表，仍然是他手下长期与我方打交道的王克俊、周北峰、阎又文。中共中央起初决定关于绥远的谈判是由贺龙主持，后来考虑到贺龙要率军南下，所以还是改为华北局和华北军区的聂荣臻和薄一波主持。
从1949年3月25日开始，绥远问题协商委员会就若干问题进行了充满希望的，同时也是充满矛盾的谈判。在谈判中，双方在一些具体问题上并不一致，诸如划界的走向、我方派出的联络人员派到哪一级等，都有分歧。
3月28日，王克俊又出示了一封董其武给傅作义的电报，认为绥远本边陲之地，无关紧要，现在双方就进行谈判、处理问题，恐生意外。有关交通贸易诸事，可由民间自行解决。很明显，这封电报很可能是对方有意拖延以便进行讨价还价，也可能是傅作义与董其武之间的意见还未取得一致。于是，我方郑重表示：这次谈判，是我中国共产党和傅作义先生之间的谈判，与董其武并无直接关系。只应当是傅代表董，而不能是董代表傅。现在的问题是傅和董的很多看法都不一致。如果傅先生不能代表董其武，这次谈判就只有停止。在我方义正词严的态度面前，王克俊只得表示谈判必须继续，傅作义自会去说服董其武。谈判在经过了激烈争论之后，双方在4月8日达成了一个《关于绥远划界、交通、金融、贸易、派遣驻绥联络机构等具体问题的协议》草案。由于傅方还要征求董其武的意见，所以未形成定稿。我方代表对协议中的有些问题，认为傅作义的条件太高，也准备请示之后，对协议再作一定的修改。
可是，当聂荣臻和薄一波在4月28日向毛泽东和周恩来汇报时，毛泽东和周恩来都认为只要能争取绥远和平起义，在一些具体条款上可以多作一些让步。他们决定全部同意傅作义方面提出的条款。其中包括原来我方谈判代表坚决不同意的将解放北平时我军接收的布匹退还给董其武的这一条。
第二天，傅作义得知这一消息后，感慨地说：“共产党高瞻远瞩，毛泽东容纳百川，天下归共产党、毛泽东全在情理之中！”他马上派原一零四军军长安春山和随从参谋刘庸笙携带协议草案和双方军队临时分界图到归绥去征求董其武的意见，并向董其武传达了傅作义的如下一段话：“毛主席指示，有了北平的和平解放，绥远就不用兵了。告诉董其武主席，先做好内部的工作，在他认为适当的时候举行起义。要体会毛主席留待绥远起义的宽大政策，团结一致，实行完整的起义，勿使部队分裂，勿使人民遭受损失。”
从董其武本人来说，是愿意跟着傅作义走和平之路的，可是他也有很多顾虑和困难。例如怕蒋介石政府一下子停止军饷供应会引起部队的混乱，怕刘万春的部队和蒙旗王府的武装捣乱破坏，特别是怕他的部下在国民党特务和山西阎锡山（绥远的军人大多与山西有较深的历史关系）的挑拨离间与威逼利诱之下出现内部分裂。因为他的部下长期驻绥远，相对比较封闭，对于共产党和解放军还有不少误解，有的人总想在边陲之地占山为王，有的人害怕自己今后的生活没有保障，当时有这样的说法，比较集中地反映了一些军官的情绪：“信不信，用不用，算不算旧账，身家安全有无保障。”有的人甚至公开谩骂谈判是投降，谩骂“傅作义已经出卖了北平，现在又来出卖绥远”。
在这种情况下，董其武经过20多天，才在原协议基础上作了一定的修改之后，同意了协议，并派原绥远省干部训练团教育长康保安到北平，代表他做协议的最后定稿工作。
对于董其武对协议草案的修改，我方当即表示全部予以采纳。双方又进行了逐条的仔细斟酌，终于达成了完全一致的意见。5月31日，中央书记处作出批示，同意并批准这一协议。
5月28日，双方代表在西交民巷的银行俱乐部举行了协议的草签。
6月8日，在华北人民政府会议室内，《关于绥远划界、交通、金融、贸易、派遣驻归绥联络机构等具体问题的协议》（以下简称《绥远和平协议》）由协商委员会的双方委员（当天李井泉因故缺席，由张友渔代签）正式签字。
协议的中心是：双方同意以陶卜齐与白塔间的古立板乌素为中心，向南向北划定界线，南到黄河岸边的喇嘛湾，北到四子王旗，双方军队不得越线，并停止一切冲突，和平相处；恢复平绥铁路旗下营至归绥一段的交通，通邮通电；恢复商业贸易往来，确定双方货币兑换办法；原来绥远省的军队与政府均暂时保持现状，以保持社会安定，通过一段时期的工作，促进起义，达到和平统一。为了执行这个协议，由华北人民政府派出驻归绥联络机构，协同执行协议和协调有关事项。
傅作义和邓宝珊都参加了签字仪式。仪式结束之后，协商委员会的委员和傅作义、邓宝珊立即驱车到了中南海的丰泽园，毛泽东、周恩来、朱德、聂荣臻、薄一波在那里等候他们，为他们祝贺庆功。