Дмитрий Михайлович Карбышев родился 26 октября 1880 года в Омске в семье военного чиновника. Двенадцатилетним остался без отца. Детей воспитывала мать. Блестяще закончил Сибирский кадетский корпус и был принят в Петербургское Николаевское военно-инженерное училище. В 1900 году по окончании училища направлен служить в 1-й Восточно-Сибирский сапёрный батальон.
В ходе русско-японской войны в составе батальона укреплял позиции, устанавливал средства связи, наводил мосты, вёл разведку боем. Участвовал в сражении под Мукденом. Войну закончил в чине поручика.
После войны служил во Владивостоке. В 1911 году с отличием окончил Николаевскую военно-инженерную академию. Был направлен в Брест-Литовск на должность командира минной роты. Там он принимал участие в строительстве фортов Брестской крепости.
Участник первой мировой войны с первого дня. С 1918 года в Красной Армии. В 1923–1926 годах председатель Инженерного комитета Главного военно-инженерного управления РККА. С 1926 года – преподаватель в Военной академии имени М. В. Фрунзе. В феврале 1934 года – начальник кафедры военно-инженерного дела Военной Академии Генштаба.
В 1938 году окончил Военную академию Генерального штаба и был утверждён в учёном звании профессора. В 1940 году ему присвоено звание генерал-лейтенанта инженерных войск. Он опубликовал более 100 научных трудов по военно-инженерному искусству и военной истории.
Участник советско-финской войны 1939-1940 годов. Участвовал в разработке рекомендаций войскам по инженерному обеспечению прорыва линии Маннергейма.
Великая Отечественная война застала его в штабе 3-й армии в Гродно. В августе 1941 года при попытке выйти из окружения был тяжело контужен в бою в районе Днепра. В бессознательном состоянии был захвачен в плен. Содержался в немецких концентрационных лагерях. Несмотря на свой возраст, был одним из активных руководителей лагерного движения сопротивления.
В ночь на 18 февраля 1945 года в концлагере Маутхаузен, в числе других заключённых (около 500 человек), был облит водой на морозе и погиб. Стал символом несгибаемой воли и стойкости.