Ngọn đồi cao 235 mét được tạo thành từ đá dolomit, đứng hùng vĩ bên cạnh Buda của sông Danube và được đặt theo tên của giám mục Gellért. Giám mục Gellért, đến đến Hungary từ Ý vào khoảng năm 1000 sau Công Nguyên và được vua St. Stephen mời ông giúp truyền đạo để cải tạo người Hungary sang Cơ đốc giáo. Sau này, giám mục Gellért đã bị những người ngoại giáo chống cự và lăn ông xuống đồi trong một thùng gỗ xuống sông Danube vào năm 1046.
Đồi Gellért đã có người sinh sống từ thời tiền sử. Những cư dân hang động từng sống ở đây đã tận dụng những suối nước nóng bên dưới, những suối vẫn cung cấp cho Gellért Spa của Khách sạn Gellért ngày nay. Vào thời La Mã, người Celts sinh sống ở khu vực này, chỉ cách thành phố Aquincum của La Mã khoảng 2km. Vào thế kỷ 18, ngọn đồi được bao phủ bởi những vườn nho, biến nó trở thành một trung tâm sản xuất rượu vang quan trọng ở Buda.
Vào những năm 1800, người Hasbsburg đã nhận ra tầm quan trọng của đồi Gellért và cho xây một pháo đài trên đỉnh đồi sau khi đàn áp cuộc Cách mạng 1848-49 và Chiến tranh giành độc lập. Pháo đài Citadella, được xây dựng vào năm 1851 bởi Julius Jacob von Haynau, một chỉ huy của Đế chế Áo, để thực hiện quyền kiểm soát đối với Budapest. Pháo đài có trục súng nhắm vào sông Danube và đồi Buda như một lời nhắc nhở những người Hungary nổi loạn về người cai trị đất nước. Toà thành là công trình bị ghét bỏ nhất ở Budapest và người Hungary gọi nó là Budapest Bastille. Habsburg đã giao nó cho Hội đồng thành phố vào cuối thế kỷ 19. Các phần của Citadella đã bị phá huỷ bởi người dân. Citadella đã phục vụ như một trại tù, nơi ở tạm thời cho người vô gia cư, địa điểm của một khẩu đội phòng không và từ những năm 1960, nó trở thành một địa điểm thu hút khách du lịch.
Trên đỉnh đồi Gellért là Bức tượng của Nữ thần Tự do (Szabadság szobor). Du khách có thể nhìn thấy Nữ thần từ hầu hết mọi nơi trong thành phố, cô là thành biểu tượng của thủ đô Hungary. Tượng Nữ thần tự do kỷ niệm sự giải phóng của Hungary khỏi sự thống trị của Đức Quốc xã. Theo câu chuyện, ban đầu, tượng được thiết kế để tưởng nhớ con trai của Nhiếp chính Horthy. Horthy là một nhà lãnh đạo cánh hữu (right-wing) của Hungary giữa hai cuộc Thế chiến. Con trai của ông đã chết vì một tai nạn máy bay. Bức tượng được thiết kế để cầm một lưỡi cánh quạt trên tay. Vào thời điểm tượng được dựng lên, lịch sử đã quét sạch Horthy. Thay vì cánh quạt, một cây cọ được đặt trên tay Nữ thần và một người lính Liên Xô được thêm vào ở dưới bục. Mặc dù các tượng đài công sản đã bị kéo xuống và dựng lại ở rìa thị trấn trong Công viên Memento, Tượng Nữ thần Tự Do vẫn còn. Chỉ có người lính Liên Xô và tên những người lính Hồng quân đã chết trong các cuộc giao tranh bị xoá bỏ.
Vai trò quan trọng của ngọn đồi trong lịch sử Budapest đã khiến nó được UNESCO công nhận là Di sản Thế giới (như một phần của bờ sông Danube) vào năm 1987.
Du khách có thể đi bộ khoảng từ chân đồi để từ từ tham quan Pháo đài Citadella, tượng Nữ thần Tự Do, Hang nhà thờ (Cave Church), và Hồ tắm nước khoáng nằm trong Khách sạn Gellért cùng một vài nhà hàng xung quanh.
Địa chỉ: Budapest, Gellért Hill, 1016 Hungary