1934年12月1日，苏共中央政治局委员、书记处书记谢尔盖·米洛诺维奇·基洛夫在列宁格勒斯莫尔尼宫他的办公室被刺杀身亡，凶手是30岁的苏共党员尼古拉耶夫，这是个幻想以个人殉道来唤醒人民的反对派分子。斯大林亲自审问了凶手。四个星期后，尼古拉耶夫被处决了，同时，基洛夫的卫队长在押解受审的途中因“车祸”而丧生。其后，与此案有关的104人相继死亡。
这时，人们才发觉苗头不对，但谁也没有想到，更残酷的事情还在后头。苏联历史上最野蛮的肃反运动开始了。
基洛夫遇刺半个月后，苏联报纸宣布，这次暗杀是托季联盟的人策划的。托洛茨基早已被逐出苏联，季诺维也夫和加米涅夫1927年被开除出党，后因表现良好，被重新吸收入党，担任一般工作，刺杀事件发生后，他们再次被开除出党。
1935年1月，对他们进行了审判。虽然没有任何可靠的证据，他们仍被判处10年和5年有期徒刑。
1月18日，苏联党中央发出秘密信件，要求各级党组织提高革命警惕性，深挖暗藏的敌人。
1936年，季诺维也夫和加米涅夫等人被重新拉出来，用严刑拷打加引诱欺骗的手法，强迫他们承认更大的罪行。8月19日，最高法院军事法庭对季诺维也夫和加米涅夫等人进行公开审讯。法庭没有提出任何物证，仅凭被告的“交待”和“承认”就宣布他们组织刺杀了基洛夫，并多次企图暗杀斯大林。最后判处季诺维也夫等16人死刑，而且不允许上诉就予以处决。
9月25日，斯大林点名让叶若夫负责肃反工作，这个穷凶极恶的家伙一上台使把大清洗推向全国。
原托洛茨基反对派成员，以及被认为是与他们有联系的人均遭逮捕。对党的方针、路线、政策持异议的人，对领导干部不满者也被拘禁。1937年，因“反革命案件”被捕的人数比上一年多9倍多。
1937年1月23日，最高法院对前托季联盟分子进行第二次公开审讯。这次的指控比前次升了一级，说皮达可夫、拉狄克等人秘密组织“托洛茨基平行总部”，不仅组织暗杀活动，而且“接受托洛茨基指示，将乌克兰出卖给德国”，以换取德国支持托洛茨基上台掌权。
苏联内务人民委员部外事局局长斯卢茨基按斯大林的指示，逼皮达可夫供认：“1935年12月，利用出差柏林的机会，乘飞机秘密前往奥斯陆，在赫列尔机场着陆，与居住在挪威的托洛茨基密谈”。1937年1月23日，皮达可夫在法庭上“交待”了这一“罪行”，1月25日，挪威《晚邮报》发表一条通告：“赫列尔机场官员肯定地声明，1935年12月间没有任何民用机在那里着陆，皮达可夫来奥斯陆会见托洛茨基一说，完全不能相信。”挪威社会民主党机关报也刊登消息：根据官方的航空日志记载，1935年12月没有任何外国飞机在该机场着陆。尽管如此，皮达可夫等13人仍被军事法庭判处死刑，拉狄克、索柯里尼科夫等被判处10年监禁。
拉狄克在受审时又“交待”，他与布哈林、李可夫等有“罪恶的联系”。布哈林、李可夫的问题被提到1937年2—3月中央全会上讨论。布哈林、李可夫提出有说服力的事实为自己申辩，托姆斯基自杀。
1937年2月18日，联共中央政治局委员、人民委员会副主席、最高国民经济委员会主席奥尔忠尼启泽在家里自杀。奥尔忠尼启泽不仅是斯大林模式的有力贯彻者，还是斯大林的挚友。在肃反问题上，他和斯大林产生了严重分歧。奥尔忠尼启泽激烈反对内务人民委员部滥捕滥杀。他拒绝批准逮捕许多工厂的领导人。他还派人检查内务人民委员部所执行的逮捕是否确有根据。2月17日早晨，他和斯大林发生激烈争吵，他抗议逮捕和杀害干部。第二天，他愤而自杀，苏联政府根据斯大林的指示，公布说：奥尔忠尼启泽因心脏破裂而死。
1937年2—3月中央全会以后，镇压的浪潮波及了军队系统。内务人民委员部说军队里存在一个“反革命军事法西斯组织”，为首的是苏联红军元帅、副国防人民委员图哈切夫斯墓。同时被指控的还有基辅军区司令雅基尔、白俄罗斯军区司令乌鲍列维奇、伏龙芝军事学院院长科尔克、曾任西伯利亚军区司令的埃德曼、曾任远东渤海军队集群司令的普特纳、红军中央机关部长费尔德曼等高级将领。同年6月17日他们一起被枪决。红军元帅、红军总政治部主任加马尔尼克则在行将被捕时自杀。
地方党政干部也被大批大批地杀害，列宁格勒州委和市委书记、委员，苏维埃执行委员会的正副主席、工会主席、团委书记，各个区党委书记、党组书记，几乎都遭到杀害。
1938年3月2日，苏联最高法庭举行第三次公开审讯，指控布哈林、李可夫等人组织“右派和托派联盟”，不仅充当国外间谍，阴谋推翻苏维埃政权，而且要赤裸裸地复辟资本主义。19人被判处死刑。
对斯大林的极端个人崇拜，使正常法制遭到随意破坏，许多人无辜受到迫害。1935年至1939年间，120万党员被捕，占苏共党员的一半；500万人受到牵连，其中40万人被处决。
1934年召开的，当时被称为胜利大会的第十七次全国代表大会，1966名代表中，有1108人在肃反中被捕，大会选出的139名中央正式和候补委员中，有98人被捕和枪决；会后选出的17名政治局成员中，5名被害，1人自杀。
军队的损失更大，第一批被授予红军元帅军衔的5人中，有3名被处死；15名集团军司令中，13名被杀。4万多名营级以上的高级军官遭到迫害。
共产国际各国在苏联的领导人也难逃肃反厄运。波兰共产党的领导人、南斯拉夫共产党的领导人、匈牙利共产党的领导人，大多遭到镇压。匈牙利共产党的创始人，1919年匈牙利苏维埃共和国的实际领导人库恩贝拉，也在1937年6月29日深夜被捕两年后被杀害。
1938年末，大规模的逮捕、处死浪潮逐渐平息，1939年底基本结束。
这场历时多年的大清洗给苏联社会主义事业和国际共产主义运动造成了难以估量的损害。连斯大林本人都不得不承认，“在进行清洗时，……犯过严重的错误。”