本市場原位於台南市勝利路育樂街35之28號，傳統式市場當時供軍營採購，俗稱為「兵仔市」。其營業通路專以批發為主，日後隨著地方繁榮，周邊建築物增加日益形成，且市場內巷道狹窄交通不夠順暢，諸多設施陳舊，市府即著手重新策劃，藉於新建四期重劃區新建二座市場，本市場命名為「第一市場」。本市場於1984年1月10日啟用開業，以傳統市場走向，批發為主零售為輔，營業時間較短，市場營業效能不彰，無法滿足一般上班族的需求，為改善營業狀況，曾經舉辦多次促銷活動，以招募客源，吸引消費者採購，經此處理，營業量逐漸成長，市場型態由批發轉為零售為主。1985年12月市場改稱為崇德市場迄今，近來網路普及通訊發達及交通便捷，消費者需求愈見多元，市場跟隨變化，除傳統食材外更加入有機健康食品等多種新鮮乾淨食材供應，並扮演宅配服務為特色，以合理利潤獲得消費者肯定。近來市政府輔助市場，全面整建市場地板、攤商招牌並改善水電功能，使市場內部煥然一新，更為整齊明亮。100年市場自治會也新增無線上網服務，使顧客在消費時，帶來更為舒適的購物環境。崇德市場曾於2003年發生一次火災，所幸無人傷亡。