Сын гаона Якова Клячкина из семьи гаона, автора книги “Чок Яаков” (Закон Иакова). Родился в 1862 году. В молодости был главой иешивы в Слободке, когда это была еще небольшая иешива. Затем вступил в должность раввина в Свержене, в 1891 году в Городке Минской губернии, в 1896 году – в Березе Гродненской губернии, в 1912 году – в Россиенах Ковенской губернии, в 1924 году – в Либаве, в Курляндии. Умер в Либаве в месяце Швате (февраль) в 1925 году.
Брат его отца всемирно известный гаон Элиягу Клячкин-Шлита пишет в своей книге “Хибат гакодеш” (Любовь к святости), что гаон Иегошуа Мордехай был “неиссякаемый источник”. Он написал много комментариев к Торе, но во времяч войны, когда он был вынужден покинуть совй город, все эти сочинения пропали. От больших переживаний и волнений его слабое здоровье ухудшилось и он опасно заболел. В книге “Хибат гакодеш” его двоюродного брата гаона напечатано несколько его респонсов (он был зятем известного гаона р.Цви Гирша, сына раввина Герца Майофиса, служил раввином в Ливенгофе, в Сувалской губерне, Крейцбурге. Его зять раввин Дов Арье сын раввина Исраэля Иссерта Хаита, несколько лет занимал место своего тестя в Либаве.