Священномученик Иоанн родился в 1867 году в селе Петриковка (Петрановка) Новомосковского уезда Екатеринославской губернии. С 1915 года Иван Петрович Земляной служил псаломщиком в селе Дмитриевка Лозовского района Восточно-Казахстанской области. В 1917 году он был рукоположен в сан иерея и стал служить в храме села Павловка Павлодарской (Восточно-Казахстанской) области. В 1928 году отец Иоанн был лишен избирательных прав; в 1929 году он был арестован, осужден и выслан, а церковь закрыта. Подробности осуждения и отбытия наказания неизвестны.
С 1933 года отец Иоанн служил в Петропавловская церкви села Петропавловское Томской области, где и был арестован в 1935 году. Из материалов дела: «Говорил: "Бог есть"... Не платил налоги: "Берите меня, хоть шкуру сдерите, платить не буду". Имел задолженность по налогу 57 рублей и не уплатил». Спецколлегией города Томска священник был приговорен к трем годам ссылки.
В 1936 году отец Иоанн был освобожден и вернулся жить в село Павловка Павлодарской области. 25 ноября 1937 года он опять был арестован. На допросе отец Иоанн дал следующие показания: «В момент прибытия из ссылки в 1936 году я сначала боялся крестить детей, а в 1937 году снова начал работать и окрестил в селе Образцовка детей колхозников, за что получил 280 рублей денег. В селе Павловка окрестил человек 7-8, за что получил и хлебом и деньгами... Кроме того, говорил, что раньше ко мне придут, да попросят – пожалуйста, батюшка, – а сейчас вот дожили до такой жизни, что арестовывают, отбирают вещи... Случайно вел разговор, что при этой советской власти остался и разутым, и раздетым. Вообще жить стало плохо, при старости хотел отдохнуть, а вот опять беспокоят».
2 декабря 1937 года отец Иоанн Земляной был осужден тройкой при УНКВД по Северо-Казахстанской области (обвинение: к/р агитация, нелегальное совершение крещений и панихид) и приговорен к высшей мере наказания - расстрелу.
В обвинительном заключении говорилось: "Будучи озлоблен против советской власти и партии Земляной проводил контрреволюционную агитацию среди колхозников, говоря, что при советской власти жить стало плохо и что он, как священник, благодаря Советской власти остался разутым, раздетым и голодным: "Все отобрали". Параллельно с агитацией проводил крещения детей колхозников, а так же справлял панихиды, за что брал хлебом и деньгами".
При предъявлении обвинения сказал: "Виновным себя признаю в том, что я проводил крещения. Агитации я среди колхозников не вел".
Приговор был приведен в исполнение 30 декабря 1937 года в 1 час ночи. Место погребения неизвестно.
