希特勒的下一步行动就是对付冲锋队而强化自己对德军的权力。在1933年7月6日一场聚集纳粹党高层的会议中，希特勒表示：“是纳粹党的一场胜利也是一场革命，现在开始是党已拥有德国政治权力，我们要巩固现在党所拥有的。这场革命的旋风已无法控制，但务必再让它安全地进行。”希特勒暗示他意图控制冲锋队。但这并不是容易的事，虽然冲锋队有大部份是忠心的纳粹党追随者。因为经济的大衰退让冲锋队成员大大地增加，这些来自基层且对民族主义狂热的工作者。许多冲锋队员相信纳粹党的承诺以及相信纳粹党掌权后会采取“积极”的手段如夺取贵族的土地，但并没有做，这让许多期待革命的队员相当不满。

德军与冲锋队的争执

冲锋队参谋长恩斯特·罗姆在希特勒上台后，要求希特勒任命他为国防部长。而此时的部长是由保守的勃洛姆堡担任，纵使他不是纳粹党员，他也扮演德军与党的沟通桥梁。勃洛姆堡以及他的部下，大多都出身于普鲁士贵族，他们认为冲锋队是粗俗低下的且威胁德军现有的传统与在德国社会中较高的地位。Max Heydebreck，在Rummelsburg的冲锋队领导人曾向他的队员谴责德军：“一些德军军官是猪，大部份的军官都太老了必须被年轻人所取代，我们只要等到兴登堡逝世，就可以抵抗军队。” 尽管正规军与冲锋队有许多的不愉快，但勃洛姆堡以及它的部下都认为冲锋队不失为德军扩充的来源。

而恩斯特·罗姆却想要消灭普鲁士贵族的绝对领导，让冲锋队成为新德军的核心，而让因凡尔赛条约限定10万兵员的正规军担忧的是在1934年初时超过300万成员的冲锋队。在1934年1月，恩斯特·罗姆向勃洛姆堡提出要让冲锋队取代德国正规军，让正规军成冲锋队的附属。因此在1934年2月28日，希特勒与恩斯特·罗姆以及其他冲锋队、党卫队的要员会面，迫于希特勒的压力下，罗姆不情愿地签署正规军高于冲锋队的声明。希特勒宣布冲锋队只得是德军的附属。在希特勒及其他德军军官离开后，罗姆又宣称他不会接受一个可笑的下士（暗指希特勒）的指示。当时希特勒没马上做出反制行动，但也加大了两人的裂痕。

越来越多对冲锋队的压力

党内要员的不满

尽管恩斯特·罗姆与希特勒有了约定，罗姆依旧幻想冲锋队能成为正规军，而这个幻想却抵触了希特勒巩固权力及扩张军队的计划。而这个纳粹党内的争执也慢慢扩大，包含了戈林、戈培尔、希姆莱与赫斯皆对罗姆不满，他们都是纳粹党的资深元老，但只有罗姆忠于自己的冲锋队更甚于希特勒。罗姆对于党政的轻视惹恼了赫斯。冲锋队在普鲁士的暴力行为也让作为普鲁士总理的戈林相当头疼。于是他们开始有了行动，在1934年4月20日，戈林把自己的辖下的警察转给希姆莱控制，好让他们一同对付罗姆。希姆莱妒忌罗姆拥有冲锋队的权力，希姆莱的党卫队从私人保镖变成精英部队且忠于希特勒。这个因素也成了希特勒选择对抗罗姆与冲锋队的最佳因素。

党外保守势力的压力

加上来自军界、工业界及政界的保守势力都要求希特勒压制冲锋队的强大，促使希特勒除掉罗姆。在1934年6月17日，保守势力的要求使副总理帕彭在马尔堡大学演讲时，警告了“第二革命”的威胁，属于保守势力的帕彭与军界及工界都有紧密关系，他要威胁希特勒若无作出行动，将辞去副总理一职，虽然他的辞职不会影响希特勒的职位，但必然撼动当时的政界，给予正与保守势力结合的纳粹党不小冲击。

希特勒的选择

希特勒为了回应保守势力的要求，前往Neudeck与兴登堡会面，与兴登堡一同参加的国防部长勃洛姆堡意外地对希特勒斥责没有早一点将恩斯特·罗姆除掉。然后他告诉希特勒如果再未对罗姆及冲锋队采取严厉行动，兴登堡将有可能宣布戒严并开始军事统治。在罗姆的百万冲锋队队员与兴登堡的戒严的考虑下，希特勒已经犹豫了一个月。离开Neudeck之后，希特勒已有除掉罗姆及老政敌的意图。戈林与希姆莱都赞同希特勒的决定，因为如此他们将因罗姆的毁灭掘取到更多权力。

清算的准备

为了准备清算，希姆莱与他的副手海德里希将以伪造的证据指控罗姆已经收受法国二千万马克以推翻希特勒。在6月末，党卫队拿出伪造的证据指控罗姆意图推翻政府（即罗姆暴动）。同时戈林与希姆莱在希特勒的指示下列出将清除的政敌名单。6月底，希特勒确保军队的协助，得到勃洛姆堡与其属下赖歇瑙的认可。希特勒感觉一切已准备完毕，便去埃森参加一场婚礼。他吩咐罗姆的副官使冲锋队领导人在6月底的巴德维塞开会。

对冲锋队的清算

1934年6月30日清晨4点半左右，希特勒及他的随从飞抵慕尼黑。从机场，他们驱车前往巴伐利亚内政部，他们聚集刚结束晚上街上骚乱的冲锋队领导人，希特勒生气的撕裂慕尼黑警察局长Schneidhuber的肩章，因为他的命令并未达成。希特勒对着他大喊你应被枪毙，Schneidhuber在当天便被枪毙。当冲锋队被赶进监狱时，希特勒聚集大批的党卫队及正规警察，接着前往罗姆所在巴德维塞的Hanselbauer Hotel。在巴德维塞，希特勒宣称罗姆及其他高阶冲锋队领导已经被捕。

根据曾参与过这场突袭的Erich Kempka，希特勒以两名持枪探员安全地逮捕罗姆，同时党卫队发现有冲锋队领导Edmund Heines与一名18岁的领导人一同在床上。戈培尔在之后的文宣上说明这次清洗是对道德堕落的痛击。在希特勒的指令下，Heines与他的同伴在旅馆附近被击毙。同时，党卫队也逮捕正要前往与罗姆开会的冲锋队领导人。

对保守势力及旧政敌的清算

长刀之夜不止清洗了有关冲锋队的人马，还包含较早被囚及流放的主要的社会民主党员及共产党员，希特勒也用此机会顺便清除不可信任的保守人士，包括副总理帕彭。在柏林，戈林自己命令一个党卫队武装单位袭击了副总理办公室，紧接着的盖世太保杀死了帕彭的秘书Herbert von Bose，盖世太保还逮捕了与帕彭相当紧密的人士Edgar Julius Jung，他在之后被枪决。他们的尸体被丢入水沟。盖世太保也同时处决了Erich Klausener。虽然帕彭被捕后几天，希特勒便释放了他，但他日后便不再敢批评纳粹政权了。

希特勒、戈林及希姆莱也同时叫盖世太保清算以前的政敌，包含前总理库尔特·冯·施莱谢尔，他与他的妻子在家里一同被杀害。其他被杀害者还包含前纳粹党员格里哥·斯特拉瑟以及巴伐利亚前政委Gustav Ritter von Kahr，而后者的死因更为可怕，似乎是被尖锄乱砍致死。另外，还有Willi Schmid被误杀，他被看错为Ludwig Schmitt，是斯特拉瑟的弟弟奥托·斯特拉瑟的前赞助者。

罗姆的结局

希特勒在想如何处置关在慕尼黑的监狱中的罗姆，罗姆曾经为纳粹政权做过一些事，但他既不能一直关在监狱或者被流放，这样一来当时的社会就会对这一场清算带来多余不必要的注意。最后，希特勒选择罗姆必须死。

在7月初的希特勒的命令下，西奥多·艾克（之后达豪集中营的管理者）以及他的副官Michael Lippert来探视罗姆，他们一进入罗姆的囚房便拿出装了子弹的勃朗宁手枪，叫罗姆十分钟内举枪自尽或者他们代为执行。罗姆拒绝并告诉他们：“要杀我，就叫阿道夫自己来！”在等待的时间，他们没有听到枪声，便回到罗姆的囚房发现罗姆裸胸站着并带有不屑的手势，而Lippert便直截了当击毙了罗姆。

戈林指示警察单位烧毁有关过去两天行动的一切资料。同时戈培尔试着避免报纸登出死者的名单，也在7月初广播演说及描述希特勒已有惊无险地成功制止这场由罗姆与施莱谢尔的不轨举动。而1934年7月13日，希特勒在国家议院的一场演说定义了这场行动：

在这一小时，我负责的是德国人民的命运，因而我成为德国人民的最高执法者。我下了命令射杀这场叛变的元凶，也进一步烧尽这国家内那些腐败的源泉。国家的存在，取决于其内部的秩序和安全，不能受到威胁却不惩罚任何人！让人们知道在所有的时间里，如果任何人来攻击国家，那么最后结局一定是他的死亡。

军方的反应

即使具有德军身份的前总理施莱谢尔及前军情局长布理多（Ferdinand von Bredow）被害，但几乎全体德军是赞同长刀之夜的。而年老体衰的兴登堡总统发了一通电报表达“深深的感激”并恭喜希特勒“制止叛变于未然”。而赖歇瑙也在此时宣布施莱谢尔早有预谋企图推翻政府。军方支持对他们有利的这场清洗，希特勒消除了冲锋队企图取代德军的疑虑，但纳粹得以进一步控制军方。