疑犯追蹤
就在兩天內發現4枚炸彈之後，這次換警方出招了，甚至為了避免造成社會更大的恐慌，辦案層級更是拉高至國安局。
當時的專案小組懷疑，這次歹徒所製造的水銀炸彈並非一般簡易的土製炸彈，同時又使用工兵常用的TNT炸藥，研判歹徒具有相關軍事背景，甚至不排除炸藥是由軍中流出，因此將偵辦方向朝向曾受過類似軍事訓練列管者。然而，專案小組並未從軍中爆破專長列管者中找出可疑人士。
好在歹徒在恐嚇信上所遺留的兩枚指紋，還是讓警方找到了蛛絲馬跡。首先警方比對了前科犯的指紋檔案，並未查出符合者。不過，透過當時仍實行的役男指紋建檔資料（民國90年後已取消役男指紋建檔）比對後，從數十萬筆資料中，發現時年29歲、沒有前科的男子陳希杰涉有重嫌。
警方調查陳希杰的背景，發現他是南港高工配管科畢業，服役時是海軍艦艇兵，退伍後曾經賣過茶葉。而此次爆炸案除了炸彈是由茶葉罐作為炸藥容器符合外，照理說他的背景應該不具備製作炸彈的專業知識才對。但由於這是目前已知的線索，因此只能從此繼續追查。
警方鎖定陳希杰犯案後，立刻前往他位於台北縣中和市的住處逮人，但他早就逃跑得不知去向。於是警方在全台撒下重兵搜索，警政高層要求務必盡快逮獲嫌犯，以免人心惶惶。
不敢投案，卻也無處可逃
在全台大搜索的情況下，陳希杰能逃亡的地方有限，加上這次炸死了一名警察，新聞每天鋪天蓋地地報導，因此他也背負著極大的壓力，擔心自己落網後會被判死刑。
案發後，陳希杰一度躲在台北縣新店明潭山區一處廢棄的屋子，沒想到幾天後屋主來了，他連忙跳進附近溪水中逃命。後來，他在逃亡過程中，於5月6日從桃園寄了兩封信，一封寄給媽媽，一封則是寄給警政署長莊亨岱，信中提到他本來只是要錢，炸死警察不是他本意，如今搞出人命也是他始料未及的，他不知要如何表達自己的歉意；同時，他還在給母親的信中稱自己是「罪該萬死的不孝兒」，透露很後悔犯案，自己打算服毒自盡，以了結此事。
警方找上陳希杰的母親，希望她透過媒體勸陳希杰自動投案。於是陳母在電視新聞畫面中表示，相信兒子不會做出這樣的事，並聲淚俱下地向兒子喊話：「我希望你不要做傻事，趕快出來澄清。」
然而，溫情喊話這一招並沒有用，陳希杰沒有出面投案。不過，他此時也已到山窮水盡的地步。
認真看書學做炸彈
這時，有祕密證人向警方舉報，稱陳希杰的友人潘哲明可能是共犯，他與陳希杰似乎有聯絡。因此，警方開始監聽潘哲明家的電話，果然發現兩人間有透過電話聯繫，而且陳希杰正打算前往投靠潘哲明。
