Tras las elecciones de febrero del 36, los militares y policías que habían defendido la legalidad constitucional en 1934 temieron por un momento serias represalias, pues las izquierdas propugnaban la amnistía para los sublevados y la persecución contra quienes los habían vencido. De hecho, como ya quedó indicado, la propaganda electoral del 36 giró especialmente sobre ese punto, acusando a las derechas de las mayores atrocidades, y en las calles los militares solían ser acosados, golpeados o insultados por las turbas. Sin embargo, la investigación judicial quedó rápidamente marginada tras las elecciones, reduciéndose todo a las detenciones del general López Ochoa, que había mandado la lucha en Asturias contra los revolucionarios, y de algún oficial de la Guardia Civil, seguidas ambas de una perezosa investigación judicial.
No había ningún misterio en ello. Una investigación abierta sólo pondría de relieve la falsedad o exageración de las acusaciones izquierdistas, y traería de nuevo a la escena las atrocidades cometidas a su vez por la izquierda. Gil-Robles exhortó varias veces al cumplimiento de las promesas de investigar las atrocidades derechistas, pero en vano. Éstas habían dejado de interesar al Frente Popular, una vez le habían servido para llegar al poder. Y así no hubo en el ejército otros cambios que los destinados a asegurar en los puestos de mando clave a militares y policías de izquierdas y poner bajo vigilancia a los de derechas. Una de esas medidas consistió en alejar a Franco a las Islas Canarias, donde tendría poca posibilidad de maquinar. El general acudió a ver a Azaña y, pensando sin duda, como la CEDA, que el político terminaría oponiéndose a los planes revolucionarios de sus aliados, le advirtió: "Hacen ustedes mal en alejarme, porque yo en Madrid podría ser más útil al Ejército y a la tranquilidad de España". Pero Azaña le replicó con una clara amenaza: "No temo a las sublevaciones. Lo de Sanjurjo lo supe y pude haberlo evitado, pero preferí verlo fracasar".
La conciencia de que habían conseguido el poder los mismos del 34, mantenía en vilo a muchos militares. El 8 de marzo, poco antes de salir para Canarias, Franco se reunió con otros generales, con vistas a un alzamiento "que evite la ruina y la desmembración de la patria". Unos pensaban en la monarquía, otros en mantener la república, pero Franco, según parece, impuso dos condiciones: "el movimiento sólo se desencadenará en el caso de que las circunstancias lo hiciesen absolutamente necesario", y no sería republicano ni monárquico, sino, simplemente "por España".
Pero el futuro Caudillo no estaba en condiciones de dirigir la conjura, e iba a pesar poco en ella. Aunque otros generales le hablaban con gran optimismo sobre los planes de golpe, él era más bien pesimista: "Me daba cuenta de que el movimiento militar iba a ser reprimido con la mayor energía". Conocedor de sus colegas, temía una acción mal organizada o prematura, que diera la victoria definitiva a la revolución.
Desde luego, la conspiración distaba mucho de estar bien organizada. La dirigía, al menos nominalmente, el general Sanjurjo, cuyas nulas habilidades conspirativas habían quedado bien manifiestas en su intentona de agosto de 1932. Y el gobierno vigilaba a la mayoría de sus integrantes, controlaba sus teléfonos, desbarataba sus medidas con cambios de destino, arrestos, etc. Azaña estaba convencido de que la sanjurjada iba a repetirse, dándole ocasión de aplastar a la derecha de una vez por todas.
Solo hacia finales de abril cobró la conjura mayor consistencia, al hacerse cargo de ella el republicano Mola. El gobierno lo había enviado a Pamplona, con la idea de que sus ideas chocarían con las de los monárquicos carlistas predominantes en la región; pero poco a poco, y no sin roces desesperantes, Mola había ido poniéndose de acuerdo con ellos. Al contrario que los socialistas de 1934, que preveían una guerra civil, Mola pensaba en una acción muy violenta, pero breve y decisiva, para evitar tal guerra. Planeaba instaurar luego una dictadura militar republicana y transitoria, que asegurase el orden, y permaneciese un tiempo tutelando al poder civil.
Las relaciones de los conspiradores con los partidos de derecha no eran muy satisfactorias. Los carlistas exigían la monarquía y los falangistas mostraban poco afecto a la monarquía y desconfiaban de los militares. La CEDA permaneció básicamente al margen, y solo a última hora apoyó Gil-Robles el golpe. Calvo Sotelo parece haber tenido conocimiento externo de los preparativos, sin participar en ellos. De todas formas, y salvo en Navarra, sería la organización militar la decisiva.
Entre los militares había serias dudas. La mayoría tenía conciencia de los enormes riesgos de la empresa, y no debía de mostrar mucha seguridad. Serrano Súñer describirá a uno de los comprometidos principales, Valentín Galarza, "el técnico", como mal informado, confuso y escaso de ánimo. En cambio se les unió un personaje tan resuelto como Queipo de Llano, viejo republicano, que tenía la ventaja de poder moverse con facilidad por el país, como jefe de los carabineros, y así enlazar a los jefes de las guarniciones comprometidos. Unos creían que había ya motivos de sobra para sublevarse cuanto antes, y otros mantenían alguna esperanza en la acción de los políticos: Mola representaba la primera postura, y Franco la segunda. De hecho, en un momento tan avanzado como el 23 de junio, Franco escribió una carta a Casares cuyo sentido evidente consistía en incitar al político a tomar él mismo medidas contra el deterioro de la situación. La actitud de Franco desesperaba a veces a sus compañeros.
A su vez, la actitud del gobierno desesperaba también a diversos izquierdistas, en particular a Prieto, que tenía bastante información sobre los preparativos del golpe y exigía su rápida desarticulación, al igual que los comunistas y otros. Ya en mayo el líder socialista había sostenido al respecto una agria discusión con Casares. Éste le explicó: "Todo eso que ustedes me cuentan y mucho más lo sabe el gobierno, y lo que yo quiero es que se echen a la calle de una vez para yugular la rebelión. Esta vez no vamos a quedarnos en una expropiación de bienes, como cuando la rebelión del general Sanjurjo". Pero Prieto no se dejó convencer, y salió furioso de la entrevista. Sentía crecer el peligro y no confiaba en las medidas del gobierno.
A principios de julio, Mola señalaba que "todo está en marcha y no ha de cundir el desaliento", pero que "el entusiasmo por la causa no ha llegado todavía al grado de exaltación necesario", existiendo aún "insensatos que creen posible la convivencia con los representantes de las masas que mediatizan al Frente Popular". Uno de éstos, un político de la CEDA, había echado por tierra sus planes en Valencia. Por fin, aprovechando los sanfermines como cobertura, los conjurados decidieron sublevarse el 14 de julio. Pero el día 10 varios jefes carlistas rompían con Mola, al no aceptar éste la bandera española tradicional, la disolución de los partidos y unas Cortes corporativas. Mola, desesperado, pensó en fusilar al carlista Fal Conde o en suicidarse. El día 12, nuevas gestiones terminaron sin avenencia. Y para colmo, ese mismo día, Franco, que había aceptado los planes anteriores, recomendaba aplazarlos a última hora. En el momento decisivo, el complicado artificio construido por Mola parecía a punto de venirse abajo, y los testigos han mencionado la mezcla de furia y desánimo en que se debatía "el director".
Pero en la noche de ese mismo día 12 caía asesinado Calvo Sotelo, y las vacilaciones entre los conjurados iban a desaparecer de un soplo. Como ha indicado Stanley Payne, para ellos se había vuelto mucho más peligroso no sublevarse que sublevarse.