Работы Мандельштама относятся к оптике, радиофизике, теории нелинейных колебаний, квантовой механике, истории и методологии физики.
Уже в 1907 году в работе «Об оптически однородных и мутных средах», посвящённой рассеянию света, доказал ошибочность господствующих в то время теорий Планка и Рэлея, показав, что рассеяние обусловливается неоднородностью среды, однородные же среды свет не рассеивают. Дальнейшие исследования Смолуховского, Эйнштейна и самого Мандельштама доказали, что эти неоднородности обусловливаются статистическими флуктуациями плотности среды.
В 1926 году независимо от французского физика Бриллюэна предсказал (идея и чёткие соображения были высказаны ещё в 1918−21 годах), что при рассеянии света упругой средой должно наблюдаться расщепление линии рассеянного света (эффект Бриллюэна-Мандельштама). Попытки экспериментально обнаружить этот эффект привели его и Ландсберга в 1928 году к открытию комбинационного рассеяния света (независимо от индийских физиков Рамана и Кришинана.
Мандельштам совместно с Ландсбергом открыл селективное рассеяние света, а вместе с Леонтовичем разработал теорию рассеяния света в твёрдых телах. Дал строгую математическую теорию оптических изображений.
В квантовой теории совместно с Леонтовичем разработал в 1928 году теорию прохождения частицы через потенциальный барьер. В его идеях была предсказана матрица рассеяния. Мандельштам одним из первых понял физическое значение теории относительности и много сделал для её разъяснения и пропаганды.
Исследования Мандельштама в области теории колебаний, выполненные в большинстве своём совместно с Папалекси, привели к созданию нового научного направления — теории нелинейных колебаний. Развивая эту теорию, Мандельштам охватывал колебательные процессы в радиотехнике, акустике, автоматике, аэродинамике.
С именем Мандельштама связано открытие новых видов резонанса, в частности, резонанса энного рода и создание его теории, обобщение и углубление понятия резонанса, построение теории стационарных колебаний при резонансе энного рода, обнаружение асинхронного возбуждения, разработка нового метода генерации электромагнитной энергии при помощи параметрических генераторов.
Вместе с Папалекси Мандельштам внёс существенный вклад в радиофизику и радиотехнику. Разработал новые способы радиотелеграфной и радиотелефонной модуляции, радиоинтерференционные методы исследования распространения радиоволн и измерения расстояния, создал новую область радиотехники — радиогеодезию.
Историки науки считают, что Мандельштам обязательно получил бы Нобелевскую премию, если бы пережил Сталина, при котором это было невозможно.
Скончался Леонид Исаакович Мандельштам 27 ноября 1944 года. Похоронен на Новодевичьем кладбище.