Леонид Каневский родился в Киеве.

В 17 лет уехал в Москву и поступил в Щукинское училище, на курс Веры Константиновны Львовой. С 1961 года играл в Московском театре имени Ленинского комсомола, у режиссёра Эфроса. Затем играл на сцене Московского театра на Малой Бронной.

Известность актёру принесла роль майора Александра Томина в телесериале «Следствие ведут знатоки».

В 1991 году репатриировался в Израиль, где совместно с режиссёром Евгением Арье создал в Тель-Авиве драматический театр «Гешер» (в переводе с иврита — «мост»); основу его труппы составляют российские актёры, игравшие на сценах московских и ленинградских театров.

С января 2006 года по настоящее время Леонид Семёнович Каневский — ведущий документального сериала «Следствие вели…» на «НТВ». Параллельно актёр продолжает играть в театре «Гешер». в 2009 году снялся в сериале «Семин»

Каневский сыграл роли в более чем сорока фильмах и много ролей в театральных спектаклях.

Женат на дочери Ефима Березина Анне Березиной. Брат — писатель-сатирик Александр Семёнович Каневский.