Маджонг был «привезен» в Японию в 1907 году, и в 20-х годах был уже очень популярной игрой. В период китайско-японской войны 1937-1945 годов игра была в Японии запрещена, но вскоре после окончания войны маджонг вновь вернул себе былую популярность и продолжает пользоваться этой популярностью по сей день.
Японский маджонг сохранил многое от классической игры. Например, сохранен зачет очков за базовые комбинации и правило, по которому «Восток» получает и платит в двойном размере. При этом, однако, как и в большинстве современных азиатских версий, по японским правилам только победитель получает очки. В японском маджонге отсутствуют «цветы» и «сезоны», а также большинство классических лимитированных комбинаций.
Наиболее отличительной чертой японского маджонга является правило о том, что игрок, снесший кость, которая позволила другому игроку выиграть, платит победителю не только за себя, но и за всех остальных проигравших игроков. Таким образом, в игре по японским правилам существенное значение приобрела тактика защиты от опасного сноса. Другой отличительной чертой японского маджонга, которая частично может быть объяснена наличием риска серьезного проигрыша, является присуждение дополнительных очков за комбинации в закрытой руке (закрытые комбинации). В дополнение к присуждению удвоения за «Полностью закрытую руку» и «Три закрытых тройки» (аналогично китайским классическим правилам), японские правила присуждают два удвоения за руку пангов с тремя закрытыми тройками. В современных версиях японского маджонга эта тенденция получила еще большее развитие. Японские правила вводят также ряд новых сложных комбинаций, например: «Все простые», «Терминальная кость в каждой комбинации», «Последовательные чоу одной масти». К другим типично японским изобретениям можно отнести правило «священного сноса», «упущенного сноса» и «риичи».
В 1950-х годах группа японских игроков учредила Японскую Ассоциацию Маджонга, целью которой была разработка официальных японских правил игры и попытка приостановить появление новых комбинаций и правил. Данная ассоциация существует до сих пор и объединяет около 20 000 игроков, а официальные правила, разработанные ассоциацией, широко признаются не только в Японии, но и в Европе. Чаще всего эти правила называют японскими классическими.
Тем не менее, подавляющее большинство японских игроков используют другие правила, которые принято называть японскими современными. Эти правила отличаются от японских классических большим числом сложных комбинаций, применением правила «риичи» и, кроме этого, почти обязательным использованием премиальной кости, называемой «дора».