Eredeti neve Guttmann Ágnes, egyetemistaként vette fel a Gergely nevet. A Békés megyei Endrődön (ma: Gyomaendrőd) született, édesapja újságíró, anyja tisztviselő volt. Kisiskolás volt, amikor a család Budapestre költözött, de a nyarakat többnyire szülőfalujában töltötte. A második világháború idején apját munkaszolgálatra hurcolták, ahonnan nem tért vissza.
Gergely Ágnes iskoláit Budapesten és Szegeden végezte, latintanár, újságíró vagy színész szeretett volna lenni. Tizenhét évesen eredményes felvételi vizsgát tett a Színművészeti Főiskolán, de értelmiségi-polgári származása miatt az úgynevezett politikai rostavizsgán kiesett. Egy merész váltással jelentkezett a Mozdonygyárba, és 1952-ben vasesztergályos szakmai bizonyítványt szerzett, ezt követően elvégzett egy agrártanfolyamot is, majd bejutott a szakérettségi angol osztályába, itt 1953-ban levizsgázott. Még ebben az évben felvették az Eötvös Loránd Tudományegyetemre, ahol 1957-ben vette át magyar-angol szakos középiskolai tanári diplomáját, választható tárgyként felvette a műfordítói gyakorlatot is Kardos Lászlónál.
Pályáját általános, majd középiskolai tanárként kezdte, tanított Újpesten, közben fordított (James Joyce és Dylan Thomas műveit) és verseket írt. Első verseskötetét Ajtófélfámon jel vagy címmel 1963-ban adta ki a Magvető Kiadó, prózai munkássága 1966-ban a Glogovácz és a holdkórosok című szatírával indult. 1963-ban a tanári pályát elhagyva újságíró lett a Magyar Rádió külföldi adásainak szerkesztőségében, majd az Élet és Irodalom rovatvezetőjeként dolgozott. 1973-ban ösztöndíjjal egy évet töltött az Egyesült Államokban, az Iowai Egyetem nemzetközi íróprogramjának résztvevőjeként ismerte meg mélyebben az afrikai irodalom különleges világát.