L’antico Palazzo Baldinotti Carpegna fu realizzato sullo scorcio del XVII secolo su progetto di Giovanni Antonio de' Rossi [1619-95] e si trovava in posizione analoga al palazzo odierno. Agli inizi del Novecento, il palazzo ospitava gli istituti universitari, dai quali fu liberato nel 1930. In attuazione del Piano Regolatore del 1926, il palazzo fu demolito ed in seguito ricostruito. La nuova facciata fu demolita e ricostruita più arretrata nel 1935, per lasciare spazio al nuovo corso Rinascimento. Negli anni Quaranta, il palazzo fu unito a Palazzo Madama a compensazione delle demolizioni effettuate per consentire l'ampliamento di via della Dogana Vecchia. I due edifici furono collegati con un portico a due piani, chiuso al piano superiore da ampie vetrate e realizzato seguendo uno schema architettonico quattrocentesco, con sette arcate su colonne in granito, di ordine tuscanico in basso e ionico al piano nobile. Il portico chiude il cortile-giardino detto della Palma o del cardinale Giovanni, tra Palazzo Madama, la Torre dei Crescenzi e l'edificio realizzato da Koch. L'affresco di Lodovico Giminiani raffigurante la glorificazione dell'eroe eponimo della famiglia Carpegna fu delicatamente staccato, con una tecnica all'avanguardia per l’epoca, e trasferito in una galleria di Palazzo Madama, che da esso prende il nome di Galleria dell'Eroe.

A Palazzo Carpegna si riuniscono le Commissioni permanenti del Senato. Per questo, il palazzo è stato sottoposto a recenti lavori di restauro che hanno consentito di sfruttarne al meglio le ampie volumetrie, con soluzioni architettoniche innovative e prestigiose che hanno saputo coniugare una sobria e composta eleganza ad esigenze di funzionalità e modernità.