Родился 22 января 1954 года в городе Гродеково Приморского края.Детство актёра прошло в городе Львов. Отец был офицером Советской армии, мать – врачом. В выпускных классах Леонид увлёкся театром и литературой. Однако юношу не приняли в Ленинградский институт театра, музыки и кино. Только через год Леонид поступил в Московское театральное училище имени Щукина. В 1976 году после окончания училища Ярмольника приняли в Театр на Таганке. Там он сразу начал играть в спектакле «Мастер и Маргарита». В 1974 году дебютировал в кинофильме «Ваши права», однако его роль остаётся незамеченной. Однако роли, сыгранные им в 70-ые годы, не оставили следа в памяти зрителей. В 1979 году Леонид Ярмольник предстал в образе «цыпленка табака» и в одночасье завоевал любовь зрителей.Благодаря стараниям своего друга Александра Абдулова, Леонид Ярмольник получил роль в знаменитой картине Марка Захарова «Тот самый Мюнхгаузен».
В 80-е годы Ярмольник много снимался в отрицательных ролях, именно по этой причине артиста долго не принимали в Союз кинематографистов. Зрители влюбились в актёра после выхода на экраны фильмов «Ищите женщину», «Француз», «Человек с бульвара Капуцинов», «Две стрелы» и других.
В 1983 году после смены руководства актёр ушёл из Театра на Таганке. В 1993 году Леонида Ярмольника пригласил на телевидение телеведущий, тележурналист Влад Листьев. Леонид стал ведущим телепередач «L-клуб», «Золотая лихорадка», «Гараж», «Отель», «Форт Боярд». Актёр продолжал сниматься и в кино (впервые в главной роли он снялся в кинофильме «Московские каникулы»), выступил в роли продюсера фильмов «Московские каникулы», «Мой сводный брат Франкенштейн», «Перекрёсток», «Тиски», «Барак», «Стиляги». Леонид Ярмольник знаком зрителям по ролям в кинокартинах «Весенний призыв», «Сыщик», «Женщина в белом», «ТАСС уполномочен заявить…», «Пеппи Длинный чулок», «Операция “С Новым годом!”», «Бременские музыканты & Co», «Глянец», «Самая реальная сказка», «Человек с бульвара Капуцинок», «История арканарской резни», «Заколдованный участок» и многим другим.
С первой женой Леонид Ярмольник прожил всего месяц. Со второй супругой Оксаной (художник по театральным костюмам) воспитал дочь Александру (ныне она художник по стеклу, изготовитель стеклянной скульптуры).
