Композицията на японската градина може да бъде основана на една идея — градина на камъните, градина на годишните времена, градина на водата и т.н. Най-популярни, разбира се, са смесените градини, които хармонично съчетават тези елементи. Ако разполагате с достатъчно място, помислете за редуването на „празни“ пространства с участъци, наситени с растителност. Основните елементи в японската градина са:
камъните — като символ на японските хълмове и планини, придаващи на пейзажа покой, безметежност, постоянство;
водата — символизираща реките, езерата и водопадите, а също и чистотата, изменчивостта и постоянното движение;
растителността — въплъщение на природното изобилие.