Иван Андреевич Григорьев родился в 1915 году в селе Раменье в Осташковском районе Тверской области в крестьянской семье. Окончил Раменскую начальную школу. Благодаря своим способностям учился отлично, к тому же был старательный, хороший товарищ, общественник. Школа в те годы распространяла литературу и плакаты, и Ваня Григорьев был в числе первых по распространению. Ученики школы вместе с комсомольцами ставили спектакли, и тут он играл самые важные роли, свою роль знал всегда хорошо.
В 1935 году Григорьев поступил на курсы трактористов. Работал в машинно-тракторной станции имени Тельмана. В 1936 году Иван был призван на службу в Рабоче-крестьянскую Красную Армию. Служил в 43-м кавалерийском полку 3-й кавалерийской дивизии им. Морозова в Белорусском особом военном округе.
По окончании срочной службы в 1938 году Иван Андреевич решил остаться служить сверхсрочно. В 1939 году окончил полковую школу и был назначен старшиной первого эскадрона. Участвовал в Польском походе РККА 1939 года (освобождение Западной Белоруссии).
С июня 1941 года Иван Григорьев на фронтах Великой Отечественной войны. К январю 1943 года гвардии старший лейтенант Григорьев командовал сабельным эскадроном 33-го гвардейского кавалерийского полка 8-й гвардейской кавалерийской дивизии 6-го гвардейского кавалерийского корпуса 3-й танковой армии Воронежского фронта. Отличился во время контрудара 3-й танковой армии в направлении Валуйки — Волоконовка.
Григорьев был включён в передовой отряд и возглавил группу десантников, которые должны были разместиться на танках; туда отбирались смелые кавалеристы, не раз уже сражавшиеся в пешем строю. 19 января 1943 года десант под командованием Ивана Григорьева одним из первых прорвался в город Валуйки Белгородской области, разгромив штаб немецкого полка и деморализовав оборону противника. По сигналу гвардии старшего лейтенанта Григорьева бойцы спрыгнули с машин и завязали скоротечный ближний бой с немецкой пехотой. В дальнейшем десант уничтожил минное заграждение, прорвал вражескую оборону у районного центра Волоконовка и вышел к её северо-восточной окраине. Танк, на броне которого находился Григорьев, подорвался на мине. Получив тяжёлое ранение, он не покинул поля боя, продолжая командовать, пока не потерял сознание.
21 января 1943 года гвардии старший лейтенант Иван Григорьев скончался от полученных ранений. Похоронен в братской могиле в городе Валуйки.
Указом Президиума Верховного Совета СССР от 21 апреля 1943 года за образцовое выполнение боевых заданий командования и проявленные при этом мужество и героизм гвардии старший лейтенант Иван Андреевич Григорьев посмертно был удостоен высокого звания Героя Советского Союза. Также посмертно был награждён орденом Ленина.
В 60-70-е годы ХХ века воды Селигера бороздил теплоход «Иван Григорьев». В 1995 году именем героя-земляка была названа улица в застраиваемой части Осташкова (Ольшица).