Szmuel (Schmuel) Gelbfisz néven, egy szegény varsói zsidó gyermekeként született 1879. augusztus 17-én. Apja halála után, tizenhat évesen gyalog indult szerencsét próbálni, és Angliában két év alatt munkával, koldulással, olykor lopással sikerült annyi pénzt összekuporgatnia, hogy áthajózhasson Amerikába. Az Újvilágban új életét Samuel Goldfish néven, kesztyűgyári takarítóként kezdte, de hamar a vállalat legsikeresebb ügynökévé, majd tulajdonosává küzdötte fel magát.
Üzletemberként nagy lehetőséget látott a még gyerekcipőben járó filmgyártásban. 1913-ban sógora, Jesse L. Lasky és Cecil B. DeMille társaságában közös filmvállalatot alapított, ebből nőtt ki a Paramount stúdió. Első filmjük, az 1914-ben forgatott Az asszonyember volt az egyik első egészestés hollywoodi film. Házasságának felbomlása után sógorával is szakított, és a Broadwayn producerként ténykedő Selwyn testvérekkel létrehozta a Goldwyn Pictures vállalatot. A cég elnevezése az alapítók nevének összeolvasztásából született, és annyira megtetszett neki, hogy 1918-ban hivatalosan is felvette.
Az újdonsült Sam Goldwynnek egyre nagyobb gondot okozott a gyorsan terjeszkedő stúdió irányítása, a befektetők és a partnerek szövevényes hálójából végül úgy menekült ki, hogy szövetséget kötött a Metro stúdióval és Louis B. Mayer produkciós társaságával. Így jött létre 1924-ben a Metro-Goldwyn-Mayer (MGM) stúdió, amelynek vezetésében egy percig sem vett részt, de a Goldwyn cégjelzést meghagyta társai számára.