蔡惠如真正崛起於臺灣民族運動之陣營，並扮演舉足輕重之領導者角色，應該是以1920年在東京先後倡組「新民會」為發端。根據當時共同奮鬥的同志知識青年的回憶，蔡惠如有感於留日臺灣知識青年空有理想而缺乏有力組織，1920年1月於是在他東京澀谷的寓所，籌組「新民會」，並決議創辦雜誌以作為宣傳刊物。後來更慨然贊助1500圓，使雜誌能順利出刊發行，這就是在臺灣民族運動史上扮演舉足輕重角色的《臺灣青年》的由來。至於該組織的活動路線，經過多次討論，決定從原先的「六三法撤廢運動」轉變為「臺灣議會設置請願運動」。
另一方面，由蔣渭水發起的「臺灣文化協會」，1921年10月17日正式在臺北成立，並推舉林獻堂擔任總理。臺灣本土知識菁英與留日青年，從此結合為聲勢浩大的非武力抗日運動陣營，透過辦雜誌、巡迴演講等方式展開一連串的宣傳活動，並連續進行十多年的請願活動。
由於蔡惠如對留日臺灣青年影響甚大，日本官方史料稱他是留日青年的指導、統帥，並認為「蔡惠如等人的思想深刻地支配著（臺灣留日）青年學生的意識」。當時即使臺灣本地的知識青年也對他非常崇拜，如黃旺成在日記中記載1923年10月，第一次在清水蔡蓮舫家中見到蔡惠如的印象，有如下的描述：夜大名鼎鼎之蔡惠如君，仝窗友陳其泮君來，見其風采堂堂、談論風生，令人起敬。
黃旺成筆下對蔡惠如充滿高度敬意，可見他熱情豪邁的特質對年輕人很有吸引力。葉榮鐘撰寫專文介紹蔡惠如時，形容他「講義氣、重然諾、富有熱情」，更特別推舉蔡惠如的胸襟氣度，雖然他當時深受臺灣留日青年的愛戴擁護，但居於各種實際考量，他堅辭「新民會」會長職位，強調唯有林獻堂方能勝任該職位，自願擔任副會長。
1921年臺灣議會設置請願運動正式展開，首次請願之連署者共178人，多為留學日本的臺灣學生，臺灣連署者僅有10多人。第二次由林獻堂領銜，在臺灣各地宣傳，獲得廣大迴響，全臺連署者有351人，留日留學生有160餘人。林獻堂等人在1922年1月赴日本，蔡惠如由上海來東京與林獻堂商議，並分頭遊說日本國會議員。不料，1922年9月臺灣總督為打壓分化請願運動，由總督召見林獻堂等八人，施以強大壓力，林獻堂因此暫時退出請願運動，此即所謂「八駿事件」，這段風波導致請願運動陣營極大的爭議，林獻堂飽受同志攻擊，其中最被熟知的事證是《臺灣青年》雜誌刊登柳裳君的小說〈犬羊禍〉加以諷刺。而筆者推測：蔡惠如可能也對林獻堂相當不滿，理由是1929年5月蔡惠如去世後，蔣渭水發表的悼念文章〈對蔡惠如氏平生的感言〉有以下片段：
我又記得大正十二年同他上京請願臺灣議會的時，同宿在若松町臺灣民報社樓上，同培火、逢源兩同志，四人連枕而臥，更深夜闌的時候，互相談起臺灣的問題來，他就慷慨悲歌攻擊臺灣同志的做事不澈底，容易被人妥協，罵得極其痛快，至於至情則聲淚俱下，其形容至今猶存在我的腦底。
（相關報導：
觀點投書：談臺灣意識與國家團結
｜
更多文章
）
從時間點與描述內容判斷，當時蔡惠如「慷慨悲歌攻擊臺灣同志的做事不澈底，容易被人妥協」所攻擊的對象，極可能就是針對林獻堂而發，此一事例清楚呈現兩人個性的差異。
1923年2月6日，蔣渭水、蔡培火、陳逢源三人被推選為第三次請願代表赴日本請願。由於總督府的壓制，本次連署人數降為278人。1月28日，蔡惠如由上海抵東京，與同志集會研商，2月13日舉行臺灣請願代表歡迎會。2月16日請願代表再度恢復在臺灣被取締的「臺灣議會期成同盟會」，蔡惠如新加入為會員，並與蔡培火、蔣渭水、林幼春、林呈祿等人同時被選為專務理事。2月23日，由蔡惠如領銜向帝國議會提出請願書。
1923年12月16日，臺灣總督府為打壓議會設置請願運動，發動全島大搜捕，即是著名的「治警事件」。當時蔡惠如人在臺灣，以他在請願運動中擔任重要的領導角色，當然也在被羈押之列，數日後他與同志29人都陸續被移送拘留於臺北監獄，在1924年1至2月間分別獲釋。其後從1924到1925年，歷經三次審判，1925年2月20日共有7人判刑確定。蔡惠如與林幼春、蔡培火、蔣渭水、陳逢源等人，分別被判刑3、4個月，並陸續入間服刑。後來入獄諸人同時在1925 年5月10日，被日本官方提早釋放出獄。蔡惠如被羈押期間，以及審判確定後入獄服刑期間創作詩詞甚多。與蔣渭水相同的的是，他們兩位原本都活躍於政治運動領域，極少提筆寫作，卻都因緣際會在服刑前後寫下不少動人的作品，刊登在《臺灣民報》、《臺灣詩薈》等刊物，造成極大的宣傳效果。
蔡惠如除了積極在日本與留日青年並肩奮鬥，同一時間，他與留學中國的臺灣學生也有密切聯繫，曾先後參與北京、上海等地的臺灣學生組織，被日本警務單位視為頭號問題人物，認定他是臺灣留華學生的從事抗日運動的主要領導人。可惜蔡惠如在中國的行蹤與事蹟，目前缺乏直接資料可供查考。
除了入獄，在治警事件審判期間，蔡惠如發生意外受傷。詳細情形是：1924年，以林獻堂等人為首的臺灣議會設置請願運動代表，為反制辜顯榮等人組織「有力者大會」，企圖阻撓請願運動，1924年7月3日決定同時在臺北、臺中、臺南發起「無力者大會」，其中以臺中一地之規模最盛大。而蔡惠如在參與籌辦「無力者大會」的前兩天，在臺中市區因坐人力拉車被狗意外衝撞而跌斷腿骨，這件事在無力者大會召開時引起眾人的關切，林獻堂更藉此暗諷當局，張麗俊《水竹居主人日記》對此事有相當生動的記載：
獻堂君出首演說，誾誾而語，侃侃而言，到隱微要點處，會員擊掌之聲如放連炮一般。後言作事須要仔細，如前夜蔡惠如君為此事在大正館坐人力車，到電光微暗處，不防被一犬沖〔衝〕撞， 致車覆人傷，現尚入院治療。蓋犬者即暗指辜氏也，隱他請議會被辜氏阻礙故也， ……終則林載昭〔釗〕君出席，言蔡惠如君為上京請議會事件，竭力不辭勞瘁，今為無力者大會致足傷入醫，然亦塞翁失馬未知禍福，諸君定同感激，應選二名作代表入院慰問如何，眾會員僉舉林幼春、黃周二人作代表云。
（相關報導：
觀點投書：談臺灣意識與國家團結
｜
更多文章
）
內容雖然是記錄「無力者大會」舉辦時的盛況與民心趨向，但可以明顯看出蔡惠如由於長期付出努力，在抗日陣營中佔有重要地位，因而受到當時臺灣民意的推崇與擁護。針對蔡惠如意外受傷，櫟社好友陳槐庭、傅錫祺都曾填詞加以慰問，蔡惠如本人事後也回贈答謝（詳見下文）。
1926年以後，臺灣文化協會由於左翼青年之加入，並積極爭取主導權，導致內部矛盾逐漸擴大而尖銳化。1926年10月17日，臺灣文化協會在新竹市舉開第六次年會時，蔡惠如曾以理事身分出席，並提議修改章程獲得通過，後來導致文協的分裂破局。1927年1月3日，文協在臺中公會堂召開臨時總會，由於左翼青年參加者極多，經過選舉，文協正式由連溫卿等左翼青年所掌控。林獻堂、林幼春、蔡惠如等人從此退出文協，蔡惠如似乎也逐漸淡出政治運動。
根據林獻堂《灌園先生日記》等資料顯示：蔡惠如1927年2─3月間在臺灣。1927年3月11日，他曾力勸林獻堂不要進行環球旅遊，建議將這筆資金投入《臺灣新民報》計畫發行日刊的經營，但林獻堂並未接納他的建議1929年1月27 日，《臺灣新民報》社開取締役會，蔡惠如擔任相談役一職。1929年2月28日，林獻堂在臺北江山樓受羅萬俥之晚宴招待，蔡惠如應邀參加餐會。次日，蔡惠如、蔡式穀來臺北高義閣旅館拜訪林獻堂，這也是蔡惠如與林獻堂最後的晤面。其後他又轉往福州，直到5月12日因患腦溢血症，由福州歸臺，入中村醫院治療，延至5月20日不治，得年僅49歲。
新書分享會預告
臺南場時間｜12/2（週六）晚上7點半地點｜臺南政大書城（臺南巿西門路二段120號B1）
臺北場時間｜1/6（週六）下午3點地點｜唐山書店（臺北市羅斯福路三段333巷9號B1）
