Родился 3 ноября 1919 в Славгородском районе Алтайского края в семье крестьянина. Окончил 7 классов, школу ФЗУ. В Советской Армии с 1939 года. Окончил Ульяновское танковое училище в 1941 году. На фронтах Великой Отечественной войны с 1942 года. В июле 1943 года И. А. Шевцов командовал танковой ротой 142-го танкового батальона 95-й танковой бригады 9-го танкового корпуса. В ночь на 5 июля разведка 15-й стрелковой дивизии 13-й армии Центрального фронта под Курском обнаружила, что немецкие саперы проделывают проходы в минных полях. Один сапер был взят в плен, он показал, что наступление немецкой армии намечено на 3 часа 5 июля. В 2 часа 30 минут 5 июля гром орудий разорвал предрассветную тишину. За 10 минут до начала артиллерийской подготовки врага наша артиллерия начала контрподготовку. На вражеские войска обрушили свой огонь 600 орудий и минометов. Из 100 батарей про-тивника более половины было подавлено. В 5 часов 30 минут под прикрытием артиллерии и авиации па позиции войск Центрального фронта двинулись вражеские танки и пехота на бронетранспортерах. Командование Центрального фронта так характеризовало сложившуюся обстановку: «Встретив противника стеной разящего металла, русской стойкостью и упорством, войска Центрального фронта измотали его в непрерывных ожесточенных восьмидневных боях и остановили его натиск. Первый этап сражения закончился». Несмотря на тяжесть боя, на Центральном фронте оставался нетронутым резерв - 18-й гвардейский стрелковый, 3-й и 9-й танковые корпуса. 15 июля войска Центрального фронта перешли в контрнаступление. Командир танковой роты И. А. Шевцов в боях 15—18 июля в районе деревни Бузулук и станции Малоархангельск проявил подлинный героизм. В бою за деревню Бузулук гитлеровцы остановили танки заградительным артиллерийским огнем. По команде Шевцова танковая рота на максимальной скорости проскочила зону огня и неожиданно для врага оказалась в его боевых порядках. Гитлеровцы, увидев советские танки, в панике бросая оружие, бросились бежать. При подходе к станции Малоархангельск танкисты разгромили автомобильную колонну фашистов, 12 автомашин было разбито. Гитлеровцы бросили в бой два танка «Тигр». И. А. Шевцов бронебойно-зажигательным снарядом подбил один из них, а второй скрылся. Танк Шевцова был подбит, но продолжал сражаться. Гитлеровцы бросили против роты Шевцова семь танков Т-3. Шевцов не растерялся, маневром отвел свои танки в укрытие и огнем с места подбил три машины противника, остальные повернули назад. Гитлеровцы вторично атаковали, но, потеряв еще два танка, отошли. На станции Малоархангельск Шевцов увидел на путях железнодорожный эшелон и, выпустив 6 снарядов, поджег его. Первым, ворвавшись на станцию, Шевцов пять часов удерживал ее до подхода стрелковых частей. В этом бою он уничтожил батарею ПТО, подавил огонь трех батарей, разбил три пушки, поджег склад с горючим: свой подбитый танк он восстановил в ходе боя под огнем противника и, рискуя жизнью, эвакуировал, подбитый танк.
За этот бой старший лейтенант Шевцов вскоре будет удостоен звания «Героя Советского Союза». Придет к нему и другая известность: храбрая девушка-фотокорреспондент (Наталья Боде) уговорит его сняться рядом с поверженным «Тигром». И пойдет это фото гулять по белу свету, из одной газеты – в другую. После войны фотографию «подкрасят» сделают на ее основе плакаты, поздравительные открытки.

     Указом Президиума Верховного Совета СССР от 27 августа 1943 года Ивану Андреевичу Шевцову присвоено звание Героя Советского Союза.

     В 1948 году Шевцов И. А. окончил Военную академию бронетанковых и механизированных войск, а в 1956 году - Военную академию Генерального штаба. Командир танкового батальона, начальником штаба танкового полка, начальник оперативного отделения танковой дивизии, заместитель командира танковой дивизии, командир танковой дивизии.
     С 1961 года И. А. Шевцов в Ракетных войсках стратегического назначения (РВСН): заместитель командира отдельного ракетного корпуса,
     в 1965—1970 гг. — командир 9-го отдельного ракетного корпуса (г. Хабаровск),
     с 1970-го по 1979 год — командующий 31-й ракетной армией (г. Оренбург),
     c 1979 года — начальник факультета специального вооружения Военной академии имени Ф. Э. Дзержинского(ныне — Военная академия РВСН имени Петра Великого).
     С 1983 года генерал-полковник Шевцов И. А. — в отставке.
     В 1983 году поступил на работу в «Конструкторское бюро транспортно-химического машиностроения». Жил в Москве.

     Скончался 17 мая 2008 года. Похоронен на Троекуровском кладбище в Москве. Награжден Медаль «Золотая Звезда» Героя Советского Союза (27.08.1943), медаль Орден Ленина (дважды), Орден Октябрьской Революции, Орден Красного Знамени, Орден Суворова III степени, Орден Александра Невского, Орден Отечественной войны I степени, Орден Трудового Красного Знамени. В Славгороде установлен бюст Героя.