錫安教會是北部教會為響應GPS會議中所提出十大目標而聯合開拓，主要的開拓者為謝偉基牧師及廖湧祥傳道，1974年9月8日創設，1975年9月14日獻堂。教會初期是在台北石牌錫安新社區租屋，於1975年6月遷入現址。
創設日期：1974 年 9 月 8 日
創設者：北部教會聯合(1972 年 G.P.S.會議後的第一間北部新開拓教會)
開拓者：謝偉基牧師 廖湧祥傳道
獻堂日期：1974 年 9 月 14 日
整建完成：1991 年 9 月 8 日
歷任傳教者：
開拓暨第一任
謝偉基牧師(1974年8月 至1976年5月)
廖湧祥牧師(1976年7月 至 1977年7月)
第二任：謝偉基牧師(1980年8月至1984年7月)
第三任：林志明牧師(1984年9月1日 至今)
沿革
在 1973 年聯會舉行 G.P.S.( 目標，優先，策略 ) 會議時，訂立的目標為在台灣再開拓五所新教會，台北地區二間，本會之成立乃其中之一。
聯會於1974年派謝偉基牧師及廖湧祥傳道開始作本會開拓的工作，並聘請郭彼得牧師，溫宏給牧師及黃東輝長老為顧問，協助開拓的事工。因此在 1974 年 8 月租用振華街 13號為本會之暫時聚會場所，並聘請大同教會會友簡文隆弟兄和汪昭彥弟兄為教會之委員，並於同年之9月8日舉行開幕禮拜。是年之主日禮拜平均出席人數為 17人。
當年在本會現址，正有泰豐建設公司在興建錫安新城社區，該公司董事長許丕龍先生即建議本會購買現址做為教會之永久地點，並主動奉獻新台幣 40萬元協助本會購堂，因此本會乃決定購置現址之一樓為禮拜堂，並於 1975年 6月 15日正式遷入。該年之 9月 14日舉行新禮拜堂獻堂感恩禮拜，由當時之聯會主席翁錫信牧師主持。
1975年中在美國堪州第一門諾會會友 Marion J Stucky夫婦，為紀念祖先自蘇聯移居美國 100週年，而奉獻一筆金錢約值當時新台幣 48萬元給海外宣道會，而海外宣道會則決定將此筆款項撥予本會作為購堂之用。
1976年6月4日本會接受12位弟兄姊妹為本會之正式會友，並為其中一名舉行堅信禮。並於同年之5月決定再購置二樓為牧師館，5月底因謝偉基牧師返美深造，而由廖湧祥傳道繼續牧養本會，10月25日舉行廖湧祥傳道之封牧就任典禮。
除了謝偉基牧師及廖湧祥牧師，分別在本會作牧養的工作外，尚有多位牧者或神學生也曾協助過本會的聖工，茲列如下︰
1.1977年︰6月廖湧祥牧師辭職，聯會差派何淑麗小姐及黃奉銘弟兄前來協助教會事工。
2.1978年︰9月聘當時就讀台神六年級的神學生莊世雄弟兄任學生傳道。
3.1979年︰由神學生陳明麗及李麗君二位協助，主日之証道則請台神諸教授輪流擔任。
4.1980年︰聘請剛由美國獲得神學博士之謝偉基牧師再度前來牧養本會。
5.1982年︰10月10日聘請華神魏正村夫婦協助本會聖工一年。
6.1984年︰ 7月 1日舉行設教10週年感恩禮拜，並歡送謝偉基牧師返美，同時也歡迎傅腓利，武天欣夫婦前來協助聖工。9月1日林志明傳道應聘前來協助聖工。
7.1985年︰ 1月20日召開第九屆信徒大會，通過聘請林志明傳道為本會傳道。
8.1988年︰ 9月18日慶祝設教14週年，並舉行林志明傳道封立牧師典禮。
教會重要修建
1.1991/08/05-09/08 進行較大之整修，重點著重於禮拜堂的地板、講台及天花板。（整修期間安排一次野外禮拜，及借用陳明傑長老府上頂樓聚會）
2.2002/03 牧師館進行整修，範圍包括：前、後陽台裝設鐵窗，屋內電路配線換新，塑膠地板換新，屋內粉刷等。
3.2004/04/12 禮拜堂重新整修、裝潢。（包含外牆、屋頂、招牌等。）
