Dahulu kala, Pasar Gedhe merupakan sebuah pasar kecil yang didirikan di area seluas 10.421 hektar, berlokasi di persimpangan jalan dari kantor gubernur yang sekarang bernama Balai Kota Surakarta. Bangunan ini di desain oleh arsitek Belanda bernama Ir. Thomas Karsten yang selesai pembangunannya pada tahun 1930 dan diberi nama Pasar Gede Hardjanagara. Diberi nama Pasar Gedhe karena terdiri dari atap yang besar. Seiring perkembangan waktu, pasar ini menjadi pasar terbesar dan termegah di Surakarta.

Awalnya penyaluran barang dilakukan oleh abdi dalem Kraton Surakarta. Mereka mengenakan pakaian tradisional Jawa berupa jubah dari kain (lebar dan panjang dari bahan batik dipakai dari pinggang ke bawah), beskap (semacam kemeja), dan blangkon. Pungutan jasa kemudian akan diberikan ke Istana Kasunanan.

Pasar Gedhe terdiri dari dua bangunan yang terpisah. Masing masing terdiri dari dua lantai. Pintu gerbang di bangunan utama terlihat seperti atap singgasana yang kemudian diberi nama Pasar Gedhe.

Arsitektur Pasar Gedhe merupakan perpaduan antara gaya Belanda dan gaya tradisional. Pada tahun 1947, Pasar Gedhe mengalami kerusakan karena serangan Belanda. Pemerintah Indonesia kemudian merenovasi kembali pada tahun 1949. Perbaikan atap selesai pada tahun 1981. Pemerintah Indonesia mengganti atap yang lama dengan atap dari kayu. Bangunan kedua dari pasar Gedhe, sekarang digunakan sebagai pasar buah dan ikan hias.