Музей был открыт 10 февраля 1981г., после смерти выдающегося ученого, математика и механика, президента Академии наук, организатора и директора Института прикладной математики РАН М.В. Келдыша. Музей расположен на территории Института и занимает бывший кабинет ученого. Мемориальный кабинет-музей во многом сохранил тот вид, который имел в последний рабочий день Келдыша, в пятницу 23 июня 1978 г.
Экспонаты поступили в музей от Академии наук, награды переданы Президиумом Верховного Совета СССР, дипломы, мантии, почетные и памятные медали подарены семьей.
Фонды музея включают фото- и киноархивы, библиотеку, миниатюрные копии космических аппаратов, работы и документы, отражающие фундаментальный вклад М.В. Келдыша в становлении вычислительной математики и механики, в развитие отечественной авиации и космонавтики. В экспозиции и архиве музея – более 6 тысяч фотографий. Особую гордость музея составляют награды М.В. Келдыша, среди них три звезды Героя Социалистического Труда, семь орденов Ленина. В 1971 г. Келдыш вместе с Г.И. Петровским, М.А. Лаврентьевым, Л.И. Седовым был удостоен высшей награды Франции – ордена Почетного легиона. 
Каждый экспонат рабочего кабинета ученого не только страница его биографии, но и страница в истории развития отечественной и мировой науки.