関之尾滝があるのは宮崎県都城市の西部、鹿児島県曽於市との県境が近い辺りだ。この辺りには「加久藤カルデラ」の火砕流堆積物による地層が広がっている。「加久藤カルデラ」は現在のえびの市付近に位置するカルデラである。この「加久藤カルデラ」が34万年ほど前に大噴火を起こし、噴火による火砕流がこの地域を覆い尽くした。火砕流堆積物の中には自らの圧力と高温とによって溶結し、岩石化するものがある。これを溶結凝灰岩という。関之尾滝と甌穴群は、この溶結凝灰岩の地層を長い年月をかけて水の流れが抉ってできた。宮崎県小林市の「須木の滝」や鹿児島県曽於市の「桐原の滝」、鹿児島県伊佐市の「曽木の滝」なども同じ「加久藤カルデラ」による溶結凝灰岩の地層に造られた滝である。