聖殿山的歸屬問題，一直是以巴和談的關鍵，而為了避免衝突，猶太人一直被禁止在山頂祈禱。夏隆在一千多名以色列員警的護送下，衝破巴勒斯坦人的抗議人潮和組成的人牆，進入了阿克薩清真寺，等於打破了這個禁忌，而後果，則是爆發了連續四年的暴力衝突，而第二年，夏隆贏得了總理的位置。
上任後，夏隆對阿拉法特毫不手軟，派兵包圍對方在安姆安拉的總部，斷斷續續進行了兩年，直到阿拉法特病重為止。
不過同一時間，夏隆也開始轉趨溫和。2003年，他公開表示支援由美國，歐盟和俄羅斯提出的和平路線圖，甚至表示支援未來巴勒斯坦建國的計畫，也願意和阿巴斯進行談判。他開始拆除在加沙河西岸的猶太人定居點，到了2005年9月，所有的以色列軍隊撤出了加沙。
夏隆的行為，被右翼認為是叛國者的行為，一群保守派的拉比，更是向他下了死咒。但是夏隆的行為獲得了大部分以色列人的支持，證明了他的政治判斷。當時的民調顯示，百分之八十以上的選民贊成這樣的做法，而夏隆也憑藉自己的溫和路線，在黨內遙遙領先對手內塔尼亞胡。而在2005年，在以色列人評選出來的最重要的250個以色列人物中，夏隆名列第8。
這個時候，只要留在利庫德，夏隆一定可以贏得選舉獲得連任，但是他卻決定組建新黨。2005年11月，夏隆和一批追隨者組建了前進黨。夏隆在記者會上說：「如果我留在利庫德，我可能可以贏得初選，也可能帶領利庫德贏得大選。對我個人來說，這是最安全的佈局，但卻不是服務以色列的方式。留在利庫德意味著花費時間在政治鬥爭，而不是為國家服務上。」
而他的一名助手也向媒體透露，夏隆的打算很清楚，他要開啟和巴勒斯坦的政治進程。但是目前利庫德黨內的組成卻意味著啥也做不到。他需要空間和自由來實現他的想法。
可惜，一個月之後，他中風。經過幾天治療，他迅速回到工作崗位，但是很快，他又陷入了第二次中風，這次，他陷入了長期昏迷，從此離開了政治舞臺。
他組建的這個走中間路線的政黨，贏得了2006年的大選，並且組建了聯合政府。2009年又成為國會席位最多的政黨，但領導利庫德的內塔尼亞胡成功聯合其他右翼政黨，組成聯合政府。2013年大選，經過一次次的分裂，前進黨只贏得了2個席位，成為國會內的最小黨。
八年之後來看，夏隆的新政黨，更像現在以色列的左翼，因為在剛剛大選中冒起的中間政黨，他們關心的是國內事務，要求政府關心苦苦掙扎的中產，要求社會的公平，對於以巴問題並不關心。只是，這有點像是埋在沙漠中的鴕鳥，因為對於以色列來說，只有逃避，卻沒有選擇。
