В условиях нехватки силы Горбачёв попытался заручиться поддержкой народа. Лучшее средство для этого — референдум (всенародное голосование по определенному вопросу). Давно известно, что референдум дает тот результат, который нужен человеку, формулирующему вопрос. 17 марта 1991 г. большинство населения во всех республиках проголосовало за сохранение Союза (в целом по стране — порядка 75 %). Правда — обновленного. В то же время в каждой республике, одновременно с общесоюзным референдумом, проводились еще местные референдумы по вопросам, сформулированным республиканским руководством. Авторы вопросов хотели получить одобрение своей политики обособления от центра. И получили — и тоже подавляющим большинством. Например, в России 70 % голосовавших высказалось за создание должности президента РСФСР. На Украине 80 % поддержали вхождение Украины в Союз на основах декларации о государственном суверенитете Украины.
Таким образом, с одной стороны, Горбачёв получил возможность ссылаться на поддержку населением идеи Союза. С другой, было ясно, что население ждет уже совсем другого Союза, чем раньше. В апреле началась разработка нового союзного договора. Работа республиканских представителей проходила в подмосковной резиденции Ново-Огарево, почему разработку этого договора и назвали Ново-Огаревским процессом. В этом процессе республиканские лидеры выступали с позиций сильного. Они навязывали Горбачёву такой договор, при котором новый Союз переставал быть государством — он оставался лишь объединением независимых государств. Государства сами управляли экономикой, проводили независимую внутреннюю и внешнюю политику. Из договора было даже не вполне ясно, зачем вообще нужен Союз; каковы его функции. Такой союзный договор существенно понижал положение Горбачёва, однако выбор у него был небольшой.
12 июня 1991 г. состоялись выборы президента РСФСР, увенчавшиеся победой Б. Н. Ельцина (его основным соперником был сильно отставший Н. И. Рыжков). В том же месяце в Ленинграде и Москве были избраны мэры — Собчак и Попов (оба — из Демократической России). Формально мэры не вписывались в существующую систему власти, фактически они стали забирать власть себе из-под райкомов и горкомов. Этому способствовал указ Ельцина о департизации в РСФСР от 20 июля: госслужащие могли отныне участвовать в деятельности партий только в свободное время и за пределами учреждений. Становилось очевидно, что если Горбачёв не сможет добиться хоть какого-то договора, Союз распадется без всяких договоров.
Проект договора. В итоге 23 июля 1991 г. Горбачёв согласился на тот вариант договора, который устраивал республиканских деятелей. Подписание его было намечено на сентябрь-октябрь, время действия следующего Съезда народных депутатов СССР. Однако все понимали, что предложенный проект не пройдет у союзных депутатов. Единственным шансом для Горбачёва сохранить свое кресло было подписать договор до созыва Съезда. Б. Н. Ельцин и Н. Назарбаев, с которыми Горбачёв секретно встретился в последних числах июля, согласились на такой вариант в обмен на дополнительные уступки. Уступки включали как уменьшение прав союзного руководства по договору, так и кадровые перестановки. При этом даже такой договор согласились подписать лишь 8 из 15 республик. 2 августа Горбачёв объявил о грядущем 20 августа подписании документа народу (так и не раскрыв содержание договора) и уехал отдыхать в Крым. Таким образом, Верховный Совет СССР и Съезд народных депутатов СССР отстранялись от участия в выработке договора и ставились перед фактом. При этом сам новый договор содержал ряд положений, которые Верховный Совет еще в июле признал неприемлемыми. Председатель Верховного Совета Лукьянов и председатель правительства Павлов связывались с Горбачёвым письменно и по телефону, но ничего не добились. Предотвратить подписание договора законным путем они не могли; не предотвратить же означало попустительствовать нарушению закона.
"Путч". Вопрос о введении чрезвычайного положения неоднократно обсуждался во власти. Но Горбачёв никак не мог решиться. Теперь же он был на отдыхе. Ближайшие соратники решили на время отодвинуть его и провести непопулярные меры.
19 августа, пока Горбачёв еще находился на даче в Форосе (Крым), появилось сообщение о том, что по состоянию здоровья Горбачёва к исполнению президентских обязанностей приступает вице-президент СССР Геннадий Иванович Янаев. Бывший комсомольский и профсоюзный деятель, этот невзрачного вида человек попал в ЦК и в Политбюро уже при Горбачёве и благодаря Горбачёву, который в декабре 1990 г. провел его и на место вице-президента. Сам Горбачёв был блокирован в Форосе. Тогда же, 19 августа, появилось "Заявление советского руководства", которое устанавливало "безусловное верховенство" Конституции и законов СССР на всей территории Союза. Для обеспечения этого правила создавался Государственный комитет по чрезвычайному положению (ГКЧП) и в ряде местностей вводилось чрезвычайное положение. Помимо Янаева, в ГКЧП вошли все важнейшие фигуры союзного правительства — премьер-министр Павлов, министр обороны Д. Т. Язов, министр внутренних дел Пуго, председатель КГБ В. А. Крючков. Дальнейшие постановления ГКЧП предусматривали расформирование органов власти, противоречащих конституции СССР; отмену решений, противоречащих Конституции СССР; приостановку деятельности партий и движений, "препятствующих нормализации обстановки"; запрет митингов и демонстраций, ввод войск.
Руководство РСФСР с первого же момента категорически не признало ГКЧП, обвинив его в узурпации власти и потребовав медицинского освидетельствования Горбачёва. Введение чрезвычайного положения было названо попыткой переворота, "путчем" — под этим именем события 19-21 августа и вошли в историю.
В течение 19-20 августа и ГКЧП, и сторонники Ельцина спешно созвонились с руководством республиканского и областного уровня. Реакция последних была сдержанной. В широких кругах народа ни одна из сторон тоже не вызвала горячей поддержки. Никто не занимался разъяснением происходящего: помимо кратких официальных сообщений, по радио и телевидению транслировали "Лебединое озеро". В этих условиях противостояние ГКЧП и Ельцина приобретало характер личной схватки. Победителем в ней оказался Б. Н. Ельцин. Вялым действиям собравшихся в ГКЧП союзных "силовиков" он противопоставил несколько десятков тысяч москвичей, собравшихся вокруг "Белого дома" (здания правительства РСФСР). Собравшиеся стали строить вокруг "Белого дома" баррикады и приготовились их оборонять. В ответ на это 20 августа чрезвычайное положение было распространено на Москву. В город вошли войска — танки и боевые машины пехоты. Ведомые противоречивыми и нечеткими указаниями, они так и не получили приказа на штурм "Белого дома" и встали на улицах. На другой день, 21 августа, начался вывод войск из Москвы. В ходе противостояния погибли три человека — из тех, кто пытался проникнуть внутрь бронетехники. Последней надеждой ГКЧП оставался Горбачёв, однако он отказался принять делегацию путчистов, прибывшую к нему 21 августа, и вернулся в Москву с представителями Ельцина. 22 августа последние из членов ГКЧП были арестованы. Все, кроме Пуго, который застрелился. Впоследствии они были частью амнистированы (еще до суда), частью оправданы по суду.