І.К. Яковлєв народився в станиці Чорноліський Новоселицького району Ставропольського краю в козацькій родині. Учасник радянсько-фінляндської та Великої Вітчизняної воєн. Чотири рази поранений. Закінчив семирічну школу, Терський сільськогосподарський технікум. Працював зоотехніком. Було бажання стати професійним військовим. Після призову в РККА в 1939 році вступив в Кемеровській артилерійсько-мінометне училище. Випущений молодшим лейтенантом і спрямований в 1940 р в діючу армію. Командував взводом 81-го стр. Полку 123-ї окремої стор. Бригади. Був поранений. Початок Великої Вітчизняної війни застав його в м Бійську, де він служив командиром мінометного взводу мінометної роти 681-го стр. Полку 133-й стор. Дивізії. Полк був перекинутий на фронт. Вивантажувалися під Вязьмою під бомбардуванням. З того часу почалася його фронтова служба. Це було 5 липня сорок першого. Командував мінометної ротою того ж полку, воював під Москвою. Знову був поранений (грудень 1941 р.) Після лікування з січня 1942 р командував мінометної ротою 140-ї окремої стор. Бригади на Волховському фронті, де в травні п. Р був поранений. Повернувся в лад в червні 1942 р .; був заступник командира мінометного батальйону. З грудня 1942 командував батальйоном, окремим мінометним дивізіоном 140-й стор. Бригади. На фронті в 1942 р вступив в ВКП (б). У 1943-1945 рр. командував 259-м винищувальних протитанкових, з вересня 1944 року - окремим самохідним артилерійським дивізіоном 136-й стор. дивізії. Брав участь в Корсунь-Шевченківської операції, воював в умовах оточення, не раз бився в найважчих боях. Форсував Віслу, воював на Сандомирському плацдармі. Брав участь у визволенні Варшави. Війну закінчив на північ від німецької столиці. З перших і до останніх днів війни перебував у діючій армії - в складі Західного, Волховського, 1-го Українського, 1-го і 2-го Білоруських фронтів.
У 1945-1949 рр. - слухач Військової академії бронетанкових і механізованих військ. Потім був заступником командира і командиром 37-го танкового полку. З 1952 року - заступник командира, з липня 1954 по листопад 1956 року - командир 25-ї гвардійської Криворізької Червонопрапорної ордена Суворова механізованої дивізії. У 1956-1958 рр. - слухач Військової академії Генерального штабу. У 1958-1965 рр. очолював відділ, потім управління в Головному управлінні бойової підготовки Сухопутних військ. У 1965-1968 рр. - заступник командувача військами Московського військового округу з бойової підготовки. У 1968 р був переведений на службу в Міністерство охорони громадського порядку СРСР, де очолив Головне управління внутрішніх військ, внутрішньої та конвойної охорони (надалі - Головне управління внутрішніх військ МВС СРСР).
Володіючи високим авторитетом воєначальника-фронтовика, будучи досвідченим і вимогливим керівником, вмілим організатором, він наполегливо і цілеспрямовано домагався підвищення боєготовності, якості служби, бойової та службової підготовки, згуртованості військових колективів, зміцнення дисципліни і порядку, зростання військової майстерності.
У цей період були реалізовані багато важливих ініціативи і рішення, які сприяли підвищенню авторитету внутрішніх військ, упорядкування їх правового становища як складової частини Збройних сил СРСР. Було вжито заходів щодо вдосконалення організаційної структури військ (для кращого керівництва військами створюються регіональні органи управління), системи підготовки військових кадрів; більш ефективному комплектування військ, їх технічного оснащення, впровадження автоматизованої системи управління і т. д. Більш різноманітною і дієвою стала виховна робота з особовим складом. У 1969 р затверджено Статут бойової служби внутрішніх військ МВС СРСР.
У 1971 р почав функціонувати військова рада внутрішніх військ. Безперервно підвищувалася роль командирів, штабів і политорганов в керівництві частинами і з'єднаннями. Пожвавилася видавнича діяльність (І.К. Яковлєв, як правило, очолював редакційні колегії виходили видань). Відновився вихід журналу «На бойовому посту», функціонує Музей внутрішніх військ (в 1976 р став Центральним), створені ансамбль пісні і танцю та Зразково-показовий оркестр внутрішніх військ. За підтримки І.К. Яковлєва в Центральному архіві внутрішніх військ були створені група, потім сектор для пошуку і дослідження архівних документів і матеріалів, підготовки книг і публікацій з історії військ, популяризації їх службової та бойової діяльності, героїки і традицій.
Вперше за багато років внутрішні війська вийшли з тіні публічного забуття. Відомості про них перестали бути закритою темою. Були видані збірники документів з історії внутрішніх військ, з'явилися наукові дослідження, навчальні посібники, статті та нариси, художня література про військах. Матеріали про участь військ у громадянській і Великій Вітчизняній війнах включалися і використовувалися в фундаментальних працях, енциклопедіях, присвячених вітчизняної історії. Проводилися семінари молодих письменників і поетів внутрішніх військ із залученням досвідчених авторів зі Спілки письменників СРСР. Новий імпульс у розвитку отримала військова печатка, виросло нове покоління військових журналістів. Культивувалися спорт, художня самодіяльність, походи по місцях бойової слави.
Всебічна діяльність Івана Кириловича, його виступи, вміле керівництво, незнижувальні строгість і вимогливість, зростаючий авторитет дозволили підтягти війська, підняти на більш високий рівень дисципліну, організованість, бойову та службову підготовку, службу.
«Школу Яковлєва» пройшли багато офіцерів і генерали, деякі згодом стали командувачами, займали керівні пости у внутрішніх військах.
У той же час Іван Кирилович виявляв невпинну турботу про особовий склад військ. Він багато зробив для забезпечення сімей офіцерів квартирами, створення можливості повноцінного відпочинку в період відпусток, розвитку спорту у військах.
Війська брали участь в охороні громадського порядку під час багатьох масових свят, спортивних заходів, брали участь в ліквідації виникали конфліктів і заворушень.
І.К. Яковлєв взяв особисту участь у ліквідації наслідків аварії на Чорнобильській АЕС.
Під керівництвом І.К. Яковлєва, який командував внутрішніми військами 18 років, змінився вигляд цих формувань, зросли їх роль і значення в житті країни, утвердився престиж воїнів правопорядку в суспільстві.
У 1986-1991 рр. полягав у групі генеральних інспекторів Міністерства оборони СРСР на посаді військового інспектора-радника. Надалі - консультант головнокомандувача внутрішніми військами МВС Росії (з 20.07.1996 р).
Депутат Верховної Ради Української РСР 8, 9 і 10-го скликань.
Нагороджений орденами Леніна (двічі), Червоного Прапора (тричі), Жовтневої Революції, Суворова 3-й ст., Червоної Зірки (двічі), Вітчизняної війни 1-го ступеня. (Двічі), Мужності, «За службу Батьківщині в Збройних Силах СРСР» 3-й ст., «За заслуги перед Вітчизною» 4-й ст., Багатьма нагородами зарубіжних країн, медалями.
Дружина, Зінаїда Федорівна, - хірург (познайомилися на фронті, 02.07.1945 р одружилися).
Дочка, Є.І. Яковлева, - полковник внутрішньої служби, кандидат історичних наук, доцент. Онук, К.Л. Яковлєв, - полковник поліції, кандидат юридичних наук, заступник начальника кафедри державно-правових дисциплін Академії управління МВС Росії.
І.К. Яковлєв помер 13.09.2002 р Похований в м Москві на Троєкуровському кладовищі (автор пам'ятника скульптор Н. Кузнецов).
З плином часу, озираючись на «Яковлевський період» командування, що тривав понад 18 років, можна зробити висновок про його вельми сприятливий і значимому для військ змісті. Генерал армії А.С. Куликов, згадуючи той час, пише про «легендарному Яковлєва». Авторитет начальника військ був настільки високий, що в побуті його іменували командувачем, хоча така посада штатами не була передбачена.
І.К. Яковлєв вів велику громадську роботу як депутат Верховної Ради Української РСР, він не поривав зв'язку зі своїми земляками, довгі роки активно працював в Раді ветеранів військ.
Після кончини І.К.Яковлева його ім'я присвоєно Новосибірському військового інституту ВВ МВС Росії (Розпорядження Голови Уряду від 21.07.2008). Встановлена премія і знак лауреата премії І.К. Яковлєва.