Kesme taştan inşa edilmiş olan Yukarı Taşhan, 2 katlı, açık avlulu ve revaklı bir yapıdır. Batıda bulunan giriş kapısı, beşik tonozla örtülüdür ve dışa çıkıntılı bir yapıya sahiptir. Kapı, büyük bir eyvan şeklinde tasarlanmıştır. Giriş eyvanı, kuzey ve güney duvarlarda sivri kemerli nişler ve 2. kata çıkan merdiven ile donatılmıştır.
Giriş cephesinin güneyinde 2, kapı üzerinde 3, kuzeyinde ise 1 dikdörtgen pencere bulunmaktadır. Güneydeki kemerli birimler içerisinde ise iki dükkan bulunmaktadır. Bu cephenin ardından gelen kare avlu, pahlanmış köşe payeleri ve yuvarlak kemerli revaklar ile çevrilidir. Alt katta, kenarlarda 5, köşelerde ise birer hücre yer almaktadır. Hücreler, aynalı tonozla örtülü olup, her birinde ikişer ufak niş bulunmaktadır.
Yukarı Taşhan, Bolu'nun tarihini yansıtan, mimari özellikleriyle öne çıkan nadir eserlerden biridir. Serbevvab Hacı Abdullah Ağa tarafından yaptırılan bu yapı, günümüzde hala tarih tutkunları ve ziyaretçiler için çekici bir nokta olma özelliğini korumaktadır.