In 1857 trouwt Henriëtte met Emil Mayer, een koopman uit Keulen die in Antwerpen een succesvol bedrijf had in specerijen en farmaceutische producten.
Er woonden toen veel Duitse kooplieden en Antwerpen en Keulen hadden al lang nauwe banden. Emil is één van Antwerpens belangrijkste en meest kapitaalkrachtige zakenlieden.
Fritz, de oudste zoon, wordt een jaar na het huwelijk geboren. Oscar volgt een jaar later. De jongens groeien op in het hartje van Antwerpen.
Ze wonen in het Hof van Arenberg, het huis naast het museum op de hoek van de Arenbergstraat en de Lange Gasthuisstraat (het huidige districtshuis). Vanaf 1878 brengt de familie de warme maanden door in hun prachtige zomerverblijf kasteel Pulhof te Berchem.
De levenslange passie van Fritz voor Bruegel begint in zijn kinderjaren. Emil en Henriëtte hebben thuis een paar schilderijen van Jan Brueghel, de zoon van Pieter Bruegel de Oude. Die werken heeft het echtpaar kunnen aankopen uit de kunstverzameling van een oom van Emil, de kunsthandelaar Anton Joseph Essingh.
Als tiener verzamelt Fritz ook al munten en penningen.