Сведения о жизни Иоанна скудны, неизвестно как и когда он пришёл в Ростов. Проживал в доме священника Всехсвятской церкви, духовно окормлял горожан, в том числе и преподобногоИринарха Ростовского.
Скончался в глубокой старости в Ростове3 сентября1581 года и был погребен возле церкви святого Власия, за алтарем. Погребение блаженного Иоанна ознаменовано было, по преданию, страшной бурей, молнией и громом.
Прозвание «милостивый» Иоанн получил от исцелений, которые, по мнению верующих, происходили от его мощей, а также в память святого Иоанна Милостивого, патриарха Александрийского, чьё имя носил ростовский святой[2].
Явился еси во граде яко в пустыни, / в смиренномудрии, чистоте, и в трудех, и подвизех, и в терпении мнозе, / преблаженне отче Иоанне. / Взем бо Крест Христов, последовал еси Ему, / и в молитвах и в псалмопении день и нощь пребывал еси, / о спасении всего мира и рода христианскаго иноязычная речения глаголя./ Ныне же, по преселении твоем к Невечернему Свету, ко гробу Твоему притекающе, / вернии молятся Господеви, Богородице и Предтечи, и приемлют от Господа исцеления молитвами твоими. / Присно за ны молися, блаженне отче Иоанне, спастися душам нашим.
Ин тропарь, глас 4
Явился еси во граде, яко в пустыни, / смиренномудрием и чистотою, / и взем Крест Христов, последовал Ему / в трудех и подвизех, и в терпении мнозе, преблаженне отче Иоанне. / И ныне моли о нас, совершающих память твою / и усердно притекающих к раце мощей твоих, / избавитися от бед, и душам нашим подати велию милость.
Кондак, глас 8
Христовою любовию уязвився, отче Иоанне блаженне, / вышния красоты желая, / земная же презре и нивочтоже вмени, / и на земли ангельское житие препроводи, / в вечный покой достиже, / идеже глас празднующих, с нимиже молися за ны, / и душам нашим прощение, / и телесем исцеление даруй.
Ин кондак, глас 2
Христовою любовию уязвився, отче Иоанне блаженне, / вышния красоты желая, / земная же презре и нивочтоже вмени, / и на земли ангельское житие имея, / преселился еси в вечный покой, / идеже, предстоя Христу Богу, / моли спастися нам и всему христианскому роду, яко да зовем ти: / радуйся, преблаженне отче Иоанне[3].