Carlos Juan Fitz-James Stuart y Martínez de Irujo, XIX Duque de Alba, nació en Madrid el 2 de octubre de 1948. Es el primogénito de Cayetana Fitz-James Stuart (1926-2014) y su primer marido, Luis Martínez de Irujo (1919-1972). En calidad de heredero de la Casa de Alba, en 1988 decidió invertir sus apellidos: en lugar de Carlos Martínez de Irujo y Fitz-James Stuart fue bautizado como Carlos Fitz-James Stuart y Martínez de Irujo.
Fue educado en el Palacio de Liria por institutrices británicas y profesores particulares. Posteriormente estudió secundaria en el Instituto de San Isidro de Madrid y el Bachillerato en el colegio Santa María de los Rosales. Es licenciado en Derecho por la Universidad Complutense de Madrid.
Cuando su padre falleció en 1972, Carlos se hizo cargo de gran parte de los asuntos relacionados con la Casa de Alba. Posteriormente, cuando se creó la Fundación Casa de Alba (1975) con el objetivo de proteger el basto patrimonio familiar, se convirtió en Patrono de la organización. Desde entonces y hasta la actualidad, el primogénito de la Duquesa de Alba ha desempeñado una importante labor a la hora de garantizar la integridad y promoción de sus numerosas propiedades inmobiliarias y artísticas.
Sus preocupaciones culturales le llevaron en 1977 a participar activamente en la creación de la Fundación Hispania Nostra (dedicada a la defensa y promoción del patrimonio cultural), de la que desde entonces es Vicepresidente de Honor. También es Presidente del Instituto Valencia de Don Juan y de la Fundación Paideia. Es además Caballero de la Real Maestranza de Sevilla.
El 14 de marzo de 1988 se anunció su compromiso con Matilde Solís, hija de Fernando Solís (Marqués de la Motilla) e Isabel Martínez Campos (hija de los Duques de Seo de Urgel). La pareja contrajo matrimonio el 18 de junio de 1988 en el altar mayor de la Catedral de Sevilla y tras el enlace se instaló en el Palacio de Liria. Posteriormente se trasladaron a un chalé en la urbanización Montepríncipe, a las afueras de Madrid.
El primer hijo de la pareja nació el 14 de septiembre de 1990, bautizado como Fernando Juan Fitz-James Stuart y Solís y apadrinado por los Condes de Barcelona (representados durante la ceremonia de bautismo por sus abuelos, la Duquesa de Alba y el Marqués de Motilla). El 29 de noviembre de 1991 nació el segundo y último hijo del matrimonio: Carlos Arturo Fitz-James Stuart y Solís.
Poco después de nacer sus hijos, Matilde Solís comenzó a padecer una serie de problemas psicológicos que derivarían en un incidente protagonizado con una herida por arma de fuego en marzo de 1999. Estos problemas hicieron mella en la pareja y ambos anunciaron su separación en otoño del año 2000 (aunque la nulidad eclesiástica no llegó hasta 2006). Desde entonces, la única pareja oficial del aristócrata ha sido la empresaria Alicia Koplowitz, con la que mantuvo una relación intermitente hasta 2014.
Tras el fallecimiento de Cayetana Fitz-James Stuart el 20 de noviembre de 2014, Carlos se convirtió en Jefe de la Casa de Alba y heredero de 37 de los títulos nobiliarios vinculados a la familia y de los cuales 9 tienen Grandeza de España. Entre los títulos más destacados están el de Duque de Alba, Conde-Duque de Olivares, Marqués de El Carpio o el de Conde de Monterrey.