Сомнения богословского и религиозного порядка, еще удерживавшие многих от заключения союза, рассеялись перед лицом явной опасности. В 1526 году, несмотря на угрожающие папские послания, Гессен и Саксония заключили такой союз в Торгау, но дальнейшего развития он не получил, еще не наступило для этого время. Один человек может быть мучеником, но это немыслимо для большой партии или для целого народа. Против богословских аргументов можно было выставить юридические, основанные на государственном праве: император не был самодержцем, он правил страной вместе с государственными чиновниками, или, иначе, эти чины правили страной вместе с ним. Областные князья относились к тем властям, о которых говорит послание к римлянам.

25 декабря 1530 года в гессенском городке Шмалькальдене собрались: курфюрст Иоанн Саксонский, ландграф Гессенский Филипп, Эрнст Люнебургский, Вольфганг Ангальтский, граф Мансфельдский и уполномоченные от Георга Бранденбургского и множества городов. Прежний страх перед возможностью сопротивления уступил место мирским, политическим, правовым расчетам. «Я подаю мнение как богослов, – говорил Лютер, – пусть юристы обсуждают». Со стороны Саксонии – курфюрст Саксонский долго терзался сомнениями этического порядка – было внесено предложение о заключении оборонительного союза против какого-либо насилия, учиненного на религиозной почве, в отношение кого-либо из договаривавшихся князей или их подданных. Это предложение было принято шестью князьями, двумя графами и одиннадцатью городами, в том числе Бременом и Магдебургом. На двух последующих съездах, в мае и июне 1531 года, этот союз был продлен на шесть лет, а в военном и юридическом отношении его положения были существенно улучшены. Угроза привести всех к повиновению к следующей весне не была исполнена. За это брат императора Фердинанд в январе 1531 года был признан римским королем всеми курфюрстами, за исключением Саксонского.

Шмалькальденский союз, помимо своего религиозного значения, приобрел весьма скоро и чрезвычайно важное значение политическое. Сосредоточивая в себе элементы сопротивления против габсбургской власти, он обращал на себя внимание всех враждовавших против нее сторон, ободряя их и черпая в них ободрение. Политическая идея, послужившая первопричиной его возникновения, была способна на большее развитие, так как ее первоначальные цели и задачи были направлены лишь на справедливую защиту того, что не имело ничего общего с денежными или территориальными приобретениями.