その後、同郷の小野竹喬との出会いなどにより、次第に日本画の世界に魅力を感じるようになり、1919（大正８）年には京都に出て、竹内栖鳳の画塾・竹杖会で本格的な日本画の修行に入ります。そして、この年の第１回帝展で「南郷の八月」が入選して日本画壇にデビューします。
大正時代後期の遙邨は、ムンクやゴヤなどの作品や、ドストエフスキーやゴーリキーの文学に惹かれ、その影響のなかで、人間の哀しみや人生のはかなさに深く感応しつつ、新しい情趣に満ちた日本画の創造を試みました。1923（大正12）年に起きた関東大震災を描いた作品「災禍の跡」は、この時代の代表作です。しかし、この作品は翌年の第５回帝展に出品したものの、落選となってしまいました。

昭和に入り、遙邨の画風はさらに変わります。1928（昭和３）年、第９回帝展で「雪の大阪」が特選となり、1930（昭和５）年には第11回帝展で「烏城」が再び特選となります。これらの作品の中には、当時の風俗とそこに生きる人間をテーマにしたものも多く、大和絵の新解釈にたった清新な作風によって、遙邨は再び画壇に認められました。また、この時期、江戸の浮世絵師・歌川広重に傾倒し、自らも３度にわたり東海道を徒歩で写生旅行しています。その集大成となったのが、1931（昭和６）年に完成した「昭和東海道五十三次」です。