1810. november 7-én született Gyulán, német eredetű zenészcsaládban. Gimnáziumi és zenei tanulmányait Nagyváradon, majd Pozsonyban végezte, ahol egész életét meghatározó élményt jelentett számára Bihari János verbunkos zenéje és a városban fellépő Liszt Ferenc virtuóz zongorajátéka. Tizennyolc évesen került Kolozsvárra zenetanárnak, ahol zongoraművészként és zeneszerzőként is ismert lett, szerzeményeibe a polihisztor Brassai Sámuel biztatására emelt be magyaros motívumokat. Pesten 1834-ben mutatkozott be, egy évvel később véglegesen ide költözött, de szülővárosába, főként nyaranta, gyakran visszatért.
1835-ben a Budai Magyar Színjátszó Társulathoz szerződött karmesternek, innen a Pesti Magyar Színházhoz hívták, ahol 1838 januárjában vezényelt először. Két évvel később, 1840-ben itt mutatták be első operáját, a Bátori Máriát, amely több szempontból is mérföldkő a magyar kultúra történetében: ennek színlapján szerepelt először a Magyar Nemzeti Színház megnevezés, és ez volt az első európai színvonalú magyar szerző által komponált, magyar nyelven, magyar énekesekkel bemutatott opera. 2002-ben ez a mű nyitotta meg az Erkel-operák kritikai kiadásának sorát. A szövegkönyvet Dugonics András színműve alapján Egressy Béni írta, az ősbemutatón István herceget a zeneszerző öccse, Erkel József alakította.
A témát Erkel, miként a későbbiekben is, a magyar történelemből merítette, de feldolgozása már akkor sem felelt meg a hivatalosságnak. Podmaniczky Frigyes báró, az Operaház intendánsa szemére is vetette az idős mesternek: „Annyi dalműve közül egy sem volt, amelyet valamely ünnepélyes alkalommal elő lehetett volna adni. Király- vagy királynégyilkolás, az aristocratia elleni zendülés, nemzetiségi harcok s torzsalkodás nélkül nem lehetett egyetlen librettója sem.”