Als Kammermusiker musizierte Kirshbaum über viele Jahre mit renommierten Partnern wie Peter Frankl und György Pauk und arbeitete darüber hinaus mit Künstlerpersönlichkeiten wie Pinchas Zukerman, Joshua Bell, Leif Ove Andsnes, Yefim Bronfman und Midori. Seine umfangreiche Diskografie umfasst unter anderem Aufnahmen von Bach, Beethoven, Brahms, Schostakowitsch, Prokofjew, Elgar und Walton.
Ein besonderer Schwerpunkt seines Wirkens liegt in der Ausbildung junger Musikerinnen und Musiker. Nach 38 Jahren am Royal Northern College of Music in Manchester übernahm Kirshbaum 2008 den Gregor Piatigorsky Chair for Cello an der USC Thornton School of Music in Los Angeles, wo er von 2016 bis 2022 die Streicherabteilung leitete. Darüber hinaus gründete er das RNCM Manchester International Cello Festival sowie das Piatigorsky International Cello Festival in Los Angeles. 2016 wurde ihm die Ehrendoktorwürde in Musik des Royal Conservatoire of Scotland verliehen.
Kirshbaum spielt ein seltenes Montagnana-Cello, das einst dem italienischen Cellovirtuosen Alfredo Piatti gehörte.