У сім з лишком років батьки віддали Івана на навчання до церковної школи при Свято-Михайлівському монастирі. Церковний спів у складі хору хлопчиків у Софіївському соборі, у Лаврі став, за словами знаменитого тенора, основою основ його вокальної школи і його духовності. Навчався у 1917-1919 рр. у Київському музично-драматичному інституті ім. М. Лисенка(клас О.Муравйової). Співав у хорі О.Кошиця зі старшим братом Федором, який разом з капелою виїхав на гасторолі до Європи у 1920 році і не повнернувся як і всі хористи з їхнім керівником.
Під час громадянської війни керував хором у своїй армійській частині (інженерно-будівельні війська), що стояла в Полтаві, співав у вокальному квартеті під орудою О. Свєшнікова.
У 1922 році дебютував у партії Фауста ("Фауст" Гуно) на сцені Полтавської опери, де співав до 1923 року. У 1223-1924 рр.- соліст Харківського, 1924-1926 рр.-Свердловського театрів опери та балету. В 1926 році був запрошений до Великого театру у Москві, де співав до 1954 року.
І.С. Козловський володів надзвичайно красивим голосом світлого сріблястого тембру, широкого діапазону з вільним верхнім регістром. Його виконанню були властиві емоційність, щирість і теплота звучання, майстерність сценічного перевтілення, філігранне фразування. Уславлені партії Івана Козловського: Петро ("Наталка-Полтавка"Лисенка), Андрій ("Запорожець за Дунаєм" Гулака-Артемовського), Андрій ("Катерина" Аркаса), Ленський ("Євгеній Онєгін" Чайковського), Берендей ("Снігуронька" Римского-Корсакова), Володимир Ігорович ("Князь Ігор"Бородіна), Дубровський ("Дубровський" Направника), Індійський гість, Моцарт, Звіздар ("Золотий півник", "Моцарт і Сальєрі", "Садко" Римського-Корсакова), Фауст, Ромео ("Фауст", "Ромео і Джульєтта" Гуно), Лоенгрін ("Лоенгрін" Вагнера), Альфред, Герцог ("Травіата", "Ріголетто" Верді), Альмавів ("Севільський цирюльник" Росінні), Орфей ("Орфей і Еврідіка" Глюка). Особливою психологічною глибиною та сценічною довершеністю вирізняється у виконанні митця партія Юродивого з опери "Борис Годунов" Мусоргського.
І.С. Козловський був засновником і художнім керівником концертного Ансамблю опери (1938-40 рр.), де поставив опери "Вертер" Масне, "Орфей і Еврідіка" Глюка, "Паяци" Леонковало. Прагнув створити оперу-концерт. Сценічною майстерністю і високим артистизмом позначене його виконання творів композиторів Глінки, Даргомижського, Чайковського, Рахманінова, Бетховена, Шуберта, Шумана, Ліста. Блискучий знавець української класичної народної музики. Широко пропагував творчість Лисенка, Степового, Стеценка, Аркаса, Гулака-Артемовського, українські народні пісні. Репертуар Козловського І. С. становить близько 500 творів.
