年紀輕輕的潘欽信，自從認識翁澤生後，受到他的影響，開始接觸馬克思主義，並信奉共產主義，成為共產黨員；1926年利用暑假回台灣。
簡娥根據《台共黨史》說明台灣共產黨的成立與綱領，她說「潘欽信於1928年4月15日上午，在上海法租界霞飛路和謝雪紅、林木順、林日高（林大漢）、陳來旺、張茂良、翁澤生、謝玉鵑集會，並成立《日本共產黨台灣民族支部》（簡稱台灣共產黨）；潘欽信算是台共創黨元老之一。台灣共產黨的成立方針是根據當時的共產國際支部組織的綱領，「一國一黨」是組織的原則。」
她解說台共和日共的關係：「據我所知，當時因台灣是屬於日本帝國的殖民地。所以台灣共產黨的成立和組織系統，算是日本共產黨的台灣支部。」
郭德金說：「原來的綱領都是日文，後來翻譯為中文，以澱粉水抄寫在柔軟的薄紙上面。」
1928年組黨後，4月18日召開第一次中央委員會，出席者有林木順、林日高、翁澤生與謝雪紅，經開會決定幹部的名單和任務。
- 中央常任委員：林木順（22歲）、林日高（24歲）、蔡孝乾（20歲）
- 書記長：林木順
- 組織部：林木順
- 農民運動部：洪（侯）朝宗
- 青年運動部：莊春火
- 宣傳鼓動部：蔡孝乾
- 婦女部：林日高
- 預定潛入島內者：林木順、林日高、潘欽信（21歲）、謝玉葉（翁澤生之妻）
- 東京特別支部及日本共產黨連絡員：陳來旺（23歲）、謝雪紅（27歲）
- 上海駐在員及中國共產黨連絡員：翁澤生（25歲）
「日台共」首次的中央委員會，經過商討潘欽信與謝玉葉、林木順被遴選返台從事革命活動–地點是高雄。但因《上海台灣學生讀書會事件》，謝雪紅、張茂良等人被捕押回台北。
為了擔心潛返台灣工作受阻，潘欽信化名黃仲川、謝玉葉改名駱秋霞改往南下廈門，並在該地落腳；在廈門市蟳江小學任教作為掩護。
1930年12月20日陳德興先返回台灣傳達「共產國際東方局」的指示，潘欽信即到廈門待機為潛入台灣做各種準備。經過中國共產黨福建省委員會接受中共中央催促，潘欽信喬裝中國勞動者、化名「呂溪」申請渡台證明，於1931年4月15日返台，經高雄安然潛入台灣。（根據台共詹以昌紀錄）
潘欽信早就聽說被稱是台灣的「亞歷山德拉‧柯倫泰」、擁護社會主義女權主義的簡娥，家就在高雄。他對「農組女鬥士簡娥」事蹟略有耳聞，知道她在17歲時加入農組在高雄成立的讀書會，熟讀「馬克思主義」等左翼書籍。理路清晰，口齒流利，以好學與機智已獲得台共組織的肯定。
