O Conservatório de Música de Sergipe, foi fundado pelo Professor Genaro Plech, no ano de 1945, por meio do Decreto Lei n° 840 de 28 de novembro, no governo de Hunaldo Santaflor Cardoso, sendo desta feita denominado como Instituto de Música e Canto Orfeônico de Sergipe, cuja finalidade era formar profissionais aptos ao Ensino de Música e Canto Orfeônico. Posteriormente, com a retirada da disciplina
Canto Orfeônico do ensino regular, em meados da década de 60, o CMS passou a ser chamado de Instituto de Música de Sergipe. Até chegar à sua sede própria e mudar novamente de denominação, o Instituto de Música de Sergipe passou por vários endereços, sempre ocupando prédios cedidos pelo poder público, entre os quais: o prédio onde atualmente está localizada a Procuradoria Geral do Estado, no Parque Teófilo Dantas; outro endereço foi na antiga sede da Escola Normal, hoje Rua do Turista, ocupou também o Fórum na rua de Itaporanga. Leozírio Guimairães, foi inaugurada a sede própria e atual, situada à rua Boquim esquina com Santa Luzia, 313, quando por determinação do Governador Dr. João Andrade Garcez e do Secretário de Educação e Cultura, Dr. Nestor Piva, passou a denominar-se Conservatório de Música de Sergipe. Ao longo da sua história o CMS passou por várias mudanças de gestão, geralmente contemplando em sua direção grandes músicos sergipanos, a exemplo dos dois professores e maestros supracitados, Genaro Plech e Leozírio Guimarães, assim como submeteu-se por algumas ocasiões a mudanças de subordinação. No início da década de 90, quando se caracterizava como escola de Curso Técnico Profissionalizante, em concordância com o parecer 1.299/93 do Conselho Federal de Educação, em virtude da carência de professores, da escassez de instrumentos e, sobretudo, da fragilidade dos serviços oferecidos, o CMS passou para o âmbito da Secretaria Estadual de Cultura, só retornando à subordinação da Secretaria de Estado da Educação, em Julho de 2001, através do Decreto 4.383 de 02 de julho de 2001. Em 2017 o CMS oferece três modalidades de cursos:
a) Oficinas: Cursos rápidos diversos, voltados tanto à musicalização de crianças como a breves capacitações para adolescentes e adultos, além de cursos específicos para a terceira idade. b) Cursos de Qualificação Profissional: São cursos de formação inicial ou continuada de profissionais da área de música, e estão divididos em duas grandes áreas: Cursos de Formação Para Músicos de Banda, voltados para o ensino dos gêneros musicais atualmente denominados por “Música Popular” e Cursos de Formação Para Músicos de Orquestra, voltados para o ensino da música erudita. Ambos os cursos são ofertados nos níveis iniciante e intermediário. c) Cursos Técnicos: São cursos profissionalizantes de nível médio nas áreas de Canto e Instrumento, com diversas habilitações.