Hâce Muhibüddin Mevdûd ez-Ziyarî ,Kudüs (Ziyaret Kasabasına) ilk geldiği zaman Hıristiyan Rumlardan uzak mekanlara yerleşmişti. İlk olarak Ayanlar dediğimiz mevki ye gelmişlerdir. Bunun içinde Müslüman mezarlığı günümüzdeki yerine kurulmuştu.Daha sonraları Ziyaret’in iç kısımlarına gelmişler.Burada ilk bölgeler Hicabi Babanın olduğu yerlerdi. Daha sonra Gölbaşı mesire yerine ilk ağaçlar dikilerek gölgelikler oluşturuldu.
Gölbaşı daha sonra Anadolu Selçuklu Sultanı Mesut tarafından yeniden düzenlenmişti. Yukarı şimdiki barajın olduğu bölgelere kendisi içinde bir köşk yaptırmıştı. Av yapmaya geldiğinde bu konak da kalmıştır.
Osmanlı devleti döneminde özellikle av meraklısı olan Sulatan II.Bayezid bu mekanlarda kalmıştır.Ziyaret kasabasının dağlarında av yapmıştır. II.Bayezid Amasya da 27 yıl şehzadelik(Valilik) yapmıştır. Bu valilik yaptığı sırada Ziyaret kasabasının Gölbaşı mevkisini yeniden düzenlemişti. Miladi 1466 yılında Sultan II.Bayezid buraya bir göl yaptırmıştı. Gölün duvarı, yüksek olup, içinde bulunan suyu, sellerden muhafaza etmek için, kargir ve sağlam bir duvar içine alınmıştır. Gölün aşağısın da ki bağları, genellikle Has Bahçe haline getirmiştir. Burası Miladi 1730 tarihine kadar da Bostancılar Kethüdası idaresin de bulunmuştur.
Gölbaşı mevkisi Amasya’nın da vazgeçilmez mekanlarındandır. Havası serindir. Amasya ya çok yakın olması nedeniyle ziyaretçileri çoktur. Kasabamızın da en güzel yerlerindendir.