禅宗在日本成立较早，且禅宗在日本佛教史、日本思想史、日本文化史，以及整个日本的历史上却留下了深远的影响。日本禅宗来自中国。当禅宗在它的故乡发展至顶峰，在它最丰富饱满的时候，天时、地利、人和，自然地就传到了东邻这个被称为“扶桑”的岛国。日本禅宗是随中日两国禅师的密切交往而形成并逐步发展的。日僧明庵荣西可谓是日本禅宗的创始人。在宋代，他两次来中国，受献和受传临济心印，归国后大兴临济禅法，从而，临济宗作为日本禅宗的最早宗派诞生于日本。
荣西之后，其弟子们承师遗志，作了不懈的努力，其结果表现在两个方面：其一，行勇、荣朝以至法孙辨圆、觉心等致力于荣西开创的事业，进一步在日本弘扬、传布临济宗，使临济宗的组织、礼仪等方面不断完善，临济宗的势力因而大增，声势宏远。其二，荣西的再传弟子希玄道元随师明全入宋求法，历访名刹，遍参大德，最后得天童寺长翁如净的启发而豁然开悟，并蒙印可，传授秘蕴和衣具顶相，归国后，大力弘扬曹洞宗风，从而开创了日本禅宗的另一大派--曹洞宗。从此，临济、曹洞两宗作为日本禅宗的两大宗派，一直并行发展，源远流长，在日本禅宗史、日本佛教史上具有重要历史地位。
中国宋末元初，为避战乱而东渡扶桑的中国禅僧陡增，使日本使禅宗获得了迅速的发展，一时之间，禅风大振，几乎压倒佛教的其他所有宗派。据说当时传到日本的禅宗流派就有二十四派之多。然而，这林林总总的分支派别，实际都还是在临济禅、曹洞禅两大主脉上展开。临济、曹洞两宗经过镰仓、南北朝与室町时代，名师辈出，更为发展，更为兴盛。临济宗的梦窗国师和大灯国师分别开创了五山十刹的官寺禅派和主要在民间传播的大德寺派、妙心寺派，形成了日本临济宗发展的两大线索。曹洞宗的莹山绍瑾则一改道元以来只重视打坐的枯淡的禅风，将流行于民间的一些祈祷、修法仪式也吸收进曹洞禅法，致力于禅的民众化，故在民间大受欢迎。绍瑾的弟子明峰索哲、峨山绍硕又开创了明峰派、峨山五派，他们分别传授佛法于西方，曹洞宗大盛。
日本禅宗在经历了镰仓、南北朝与室町的鼎盛后，进入江户时代，已开始出现颓势。但这时中国黄檗山住持、临济高僧隐元隆琦的到来，打破了当时禅林的沉寂的局面。隐元在宇治开创黄檗山万福寺，创立日本黄檗宗，成为日本佛教史上一大事件。黄檗宗作为日本禅宗又一独立的宗派的出现，表明日本禅宗已经完成了它最后的宗教组织建设。隐元还将中国明代盛行的念佛禅带到了日本。这一从中国传来的独特的禅法不仅在日本站住了脚，而且大大刺激里本已处于停滞状态的临济、曹洞两宗。两宗重振宗风，终于使日本禅宗三派鼎立，长盛不衰。
