Отец Джона был моряком ВМС США, а мать работала в магазине. Мальчик очень любил музыку, играл на саксофоне и кларнете, а после окончания школы начал работать на радио диск-жокеем. Это увлечение помогло ему найти первую работу в мире кинематографа: молодого человека приглашали для озвучки персонажей в кино и сериалах.
В 1973 году Ларрокетт переехал в Лос-Анджелес. Желание стать актером крепло в нем с каждой предложенной, пусть даже незначительной ролью. А в 1974 году он получил приглашение озвучить Нарратора в фильме ужасов «Техасская резня бензопилой». В титрах имя Джона не указали, но его работа была выполнена настолько удачно, что уже в 2006 году режиссер Джонатан Либесман предложил ему поработать над озвучкой сиквела ужастика «Техасская резня бензопилой: Начало». А через некоторое время он участвовал в озвучивании третьей версии фильма.
Впервые на экране актер появился еще в 1966 году, снявшись в семейной комедии «За мной, ребята». Затем последовало множество таких же эпизодических ролей в фильмах и сериалах, сделавших его узнаваемым, но не знаменитым. А настоящую популярность Ларрокетту принес телевизионный проект «Ночной суд», который не сходил с экранов с 1984 по 1992 годы. Здесь он сыграл сексуально озабоченного и не отличающегося хорошими манерами адвоката по имени Дэн Филдинг.
Персонаж Джона является одним из нескольких, что появлялись в каждой серии проекта на протяжении девяти сезонов. За эту роль актер четыре раза становился лауреатом престижной премии «Эмми» в категории «Лучший актер второго плана в комедийном сериале». Нужно отметить, что, помимо «Эмми», Ларрокетт номинировался на премию «Золотой глобус» как лучший актер второго плана.
Приняв предложение сняться в сериале «Практика», Джон обзавелся еще одной неоднозначной ролью. Его персонажем стал Джоуи Хэрис - эмоционально неуравновешенный гомосексуалист, издевавшийся над своими любовниками. И опять сюжет ленты описывает будни адвокатов, главной целью которых является восстановление справедливости.
Сериал снимался на протяжении семи лет, а игра Ларрокетта была его изюминкой в течение трех сезонов. За свой неоднозначный драматичный образ в 1998 году актер получил пятую премию «Эмми» в категории «Лучший приглашенный актер», а когда создатели ленты вновь ввели персонажа Джона на один сезон в 2002 году, последовала еще одна номинация на престижную премию.
Впоследствии Ларрокетт снялся еще во многих фильмах и сериалах, таких как «Свидание вслепую», «Джон Ф. Кеннеди: Выстрелы в Далласе», «Богатенький Ричи» и других. Появился актер и в нескольких сериях популярного телевизионного проекта «Западное крыло».
В 2004 году Джон получил предложение сыграть главную роль в многосерийном фильме «Макбрайд» о приключениях адвоката в Калифорнии. Проект стал успешным, и Ларрокетт снимался в нем на протяжении трех лет. В нескольких эпизодах он попробовал свои силы в качестве режиссера.
Затем Джон принял участие в съемках сериала «Юристы Бостона», где его персонажем был Карл Сэк - серьезный успешный адвокат. В 2007 году он появился в одном из эпизодов культового телевизионного проекта «Доктор Хаус».
Из новейших работ актера можно выделить роли в сериалах «Обман», «Почти человек» и «Библиотекари».
