葉聰出生在上海,5歲開始學習鋼琴,10歲考入“上音”附小、13歲直升“上音”附中,學的都是鋼琴專業。1972年,葉聰被分配到安徽省藝校任鋼琴老師,5年后,又被調往東方歌舞團擔任鋼琴伴奏。在隨團演出的過程中,葉聰逐漸開始思考自己今后的事業發展。就在這個時候,葉聰的姨父、中國老一輩指揮家韓中杰主張葉聰學指揮,那一年葉聰29歲。他接受了姨父的建議,開始去中央音樂學院聽課,大量觀摩音樂會,逐漸意識到交響樂團強大的表現力,領略到指揮的魅力。于是,葉聰堅定了做一名指揮家的志向,于1979年考入上海音樂學院指揮系。他用了兩年時間完成了課程,并獲的全期獎學金赴紐約曼恩斯音樂學院進修,師從夏夫。1983年,他赴耶魯大學攻讀碩士課程,隨梅勒學藝,亦曾跟隨魯道夫、史勒堅及薛林深造指揮。
1989年,葉聰指揮了舊金山交響樂團,獲得好評。1991年4月,美國交響樂團聯盟及芝加哥交響樂團合辦“指揮家深造課程”,葉聰獲選與芝加哥交響樂團的音樂總監巴倫邦及首席客席指揮布列茲緊密合作的機會。自1992年起,他成為捷克交響樂指揮工作坊的藝術總監,并數次在美國“指揮家聯盟”工作坊擔任講員,自1997年始他更應邀每年在瑞士舉行的國際現代音樂指揮大師班擔任主講。
葉聰曾擔任印第安納州南灣交響樂團音樂總監17年,將這個名不見經傳的交響樂團提升了幾個檔次。1995年,他和南灣交響樂團獲頒美國作曲家、作家及出版商協會大獎榮銜。1999年,葉聰籌建香港小交響樂團,并擔任首任音樂總監,亦同時擔任美國南灣交響樂團與西北印第安那交響樂團的音樂總監。2001年,在法國國家交響樂團和上海廣播樂團(現上海愛樂樂團)的合作音樂會上擔任指揮,該場音樂會通過衛星進行全球現場直播。
2002年1月,葉聰應邀出任新加坡華樂團的音樂總監。在葉聰的領導下,樂團曲目拓寬、樂隊音響不斷改善……他策劃的大型音樂會包括了交響史詩《馬可波羅與卜魯罕公主》、《千年一瞬-與陳瑞獻的音樂對話》及《大唐風華》等。2005年,葉聰隨新加坡華樂團遠涉倫敦、蓋茨黑德及布達佩斯春季藝術節,成功指揮了一系列的歐洲巡回演出。此外,葉聰還擔任過圣路易斯交響樂團指揮、佛羅里達管弦樂隊的常任指揮、紐約奧爾巴尼交響樂團主要客席指揮。
2007年,葉聰被委任為新加坡國慶典禮的音樂總監,并為慶典節目構思了全新的音樂概念。在國家領袖、27000名熱情的觀眾和上百萬名透過現場直播觀禮的國人面前,他成功指揮了一個由新加坡華樂團、新加坡交響樂團、馬來和印度樂隊、南音小組及合唱團所組成的聯合樂團。
近年來,葉聰一直活躍于國際樂壇,已與北美洲、法國、北京華夏室內樂團等多個樂團合作演出,亦曾應邀擔任中、港、臺各地樂團的客席指揮,在指揮教育界的聲譽日隆。