O pochodzeniu rodu Ostrogskich istnieją dwie wersje, według pierwszej pochodziły od Książąt Druckich, według drugiej wersji były potomkami Książąt Turówskich. Rodzicami Konstantya byli jego ojciec Iwan Ostrogski i matka Anastazja Glińska, a urodził się około 1460-1463 roku.
W dzieciństwie Konstanty i jego starszy brat Michał pozostają bez ojca, który zmarł około 1466 roku. Nadal mieszkają w swojej rodzinnej posiadłości ostroga do 1481 roku, w tym roku Konstanty przeprowadza się do Wilna na studia.
Po dwóch latach Konstanty Ostrogski wraca do domu, ale nie na długo, będąc trochę w Ostrogu, jedzie na dwór wielkiego księcia na służbę. W 1494 roku został wysłany z Ambasadą do Moskwy, aby poprosić księcia moskiewskiego Iwana Wasiljewicza o uwolnienie swojej córki Aleny, do której ożenił się wielki książę litewski Aleksander Jagiellończyk.
Po odbyciu służby Książęcej Konstanty Ostrogski uznał, że to nie dla niego i udał się na Wołyń, gdzie nasiliły się ataki Tatarów. Jego kariera wojskowa rozpoczęła się w 1497 roku od bitwy w pobliżu rzeki Sarota, gdzie wraz z bratem Michałem rozbił tatarski Zagon. W tym samym roku 1497 Ostrogski uczestniczył w wyprawie wielkiego księcia Aleksandra na Mołdawię i po powrocie do domu rozbił u Oczakowa tysięczny oddział Tatarów pod dowództwem syna Krymskiego Boga Mahmata-Gireja. Za co otrzymuje w tym samym roku, z rąk Aleksandra, Hetmańską buławę, a także różne posiadłości ziemskie.
W 1500 roku Księstwo Moskiewskie rozpoczęło wojnę na Litwie, wielki książę Aleksander wysłał Ostrogskiego na ziemie graniczne z ośmiotysięcznym oddziałem. W drodze do Dorogobuża, nad rzeką Wedroszą, 14 lipca jego oddział wszedł w walkę z 40 tysięczną armią Moskwy, jego oddział został całkowicie pokonany, a sam Ostrogski w miejscu z innymi szlachetnymi szlachcicami został schwytany.
Na Ostrogskiego założono kajdany i osadzono w więzieniu, książę Aleksander próbował przez Ambasadę uwolnić Ostrogskiego, ale wszystkie propozycje Iwan III odrzucił. Iwan III domagał się od Ostrogskiego jego przysięgi na wierność. Przez sześć lat Ostrogski odmawiał tego Iwanowi III i przez cały ten czas pozostawał w kajdanach, ale w 1506 roku zgodził się przysięgać wierność Iwanowi III.
Ostrogski został zwolniony z więzienia i przydzielony do dowodzenia pułkami na południowych granicach, ale nie było łatwo uciec do ojczyzny Ostrogskiego, był bardzo uważnie obserwowany i nie po to, by zostać ponownie schwytanym, zgodził się złożyć przysięgę Iwanowi III, zaczął czekać na dogodny moment. Taki moment pojawił się dopiero rok później, kiedy został zwolniony, w 1507 roku. Konstanty Ostrogski, pod pretekstem inspekcji pułków, wyjechał z Moskwy do Tuły ze swoim wiernym sługą. Gdy tylko w Moskwie stało się jasne, że Ostrogski zamiast Tuli udał się na Litwę, wysłano za nim pościg i prawie go schwytano, w jednej wiosce Ostrogski zatrzymał się w świątyni, a jego sługa poszedł dalej, a moskiewscy żołnierze go schwytali, uważając go za Ostrogskiego. Lasami i bagnami, Ostrogski był w stanie samodzielnie dotrzeć do granic Litwy i wrócił do domu. Po powrocie do domu, już od nowego wielkiego księcia Zygmunda Starego, odzyskał wszystkie swoje ziemie i regalia, a także kulę getmańską.
Nie mając czasu na długi pobyt w domu w 1508 r., Ostrogski został ponownie zmuszony do wyruszenia na nowo rozpoczętą wojnę z Moskwą, ale w tej wojnie jego oddział nie brał udziału w działaniach bojowych, udało mu się tylko zająć, pozostawiony przez moskiewskich żołnierzy Dorogobuż, po czym zawarto rozejm między WKL a Moskwą.
Konstanty Ostrogski, ponownie nie zdołał długo odwiedzić swojego domu w Ostrogie, tym razem musiał udać się na wojnę z Tatarami krymskimi, którzy wkroczyli na terytorium WKL. Główna bitwa w tej wojnie miała miejsce 28 kwietnia 1512 roku pod Wiśniowcem. W tej bitwie Konstanty Ostrogski całkowicie rozbił 24 tysięczny Zagon Tatarów, przy czym jego wojsko znacznie ustępowało liczebnie zagonowi tatarskiemu. Po klęsce pod Wiszniawcem tatarski Khan Mengli-Girej natychmiast wysłał swoich ambasadorów do Zygmunda, aby poprosili o pokój, który nieco później został zawarty.
W następnej wojnie z Moskwą o Smolensk, Konstanty Ostrogski wniósł swoje nazwisko do historii wielkich dowódców, tak 8 października 1514 roku w bitwie pod Orszą, wraz ze swoim 30-tysięcznym wojskiem pokonał 80-tysięczną armię moskiewską. Ta wiadomość krążyła po Europie, a bitwa trafiła do europejskich podręczników wojskowych, jako przykład strategii walki z mniejszą liczbą żołnierzy.
Po zwycięstwie pod Orszą, Ostrogski wyzdrowiał z wojskami do Smolenska, gdzie część mieszkańców, na czele z biskupem Warsanofiuszem, była gotowa oddać miasto Ostrogskiemu, ale nie zdążył, spisek został odkryty, a Warsanofiusz został stracony. Przybywszy do Smolenska, Ostrogski zdał sobie sprawę, że nie zdążył, a tych sześciu tysięcy żołnierzy, którzy pozostali u niego po szybkim przejściu i chorobach, najwyraźniej nie wystarczyło do szturmu, zwłaszcza bez pozostawionych przez niego armat, aby zwiększyć prędkość ruchu sów armii.
Konstanty Ostrogski przerywa oblężenie i wraca, uwalniając po drodze miasta Kriczew, Mstyślawl i Dubrowno. Jedzie do Wilna, gdzie na cześć jego słynnego zwycięstwa pod Orszą Zygmunt zbudował Łuk Triumfalny, przez który Ostrogski wszedł do miasta.
Po powrocie do Wilna, Ostrogski nie wraca na długo do domu, a następnie ponownie idzie na wyprawę na miasto Apoczka, stojąc tam przez jakiś czas, opuszcza miasto i idzie na pomoc Polockowi, który był oblężony, a mieszkańcom prawie zabrakło zapasów. Dowiedziawszy się, że Konstanty Ostrogski zbliża się do Połocka, wojska moskiewskie zniosły oblężenie i odeszły.
Następnie wraca do domu, gdzie spędził koniec 1517 i początek 1518 roku, a następnie udał się do Polski, gdzie miał zaszczyt spotkać na granicy narzeczoną Zygmunda, Bonę Sforza, po czym wrócił na Litwę.
Po zakończeniu wojny z Moskwą w 1522 roku, Konstanty Ostrogski zostaje wojewoda trockim i zajmuje pierwsze miejsce w Radzie. W tym samym roku 1522 zmarła jego żona, Tatjana Galshanska, pozostawiając księcia Ostrogskiego syna Iwana. Rok później ożenił się ponownie, jego żoną została Aleksandra Słucka, która urodziła mu córkę Zofię i syna Konstantego.
W 1524 roku, podczas wojny z Krymskim Chanatem, Konstanty Ostrogski ponownie wyrusza na wyprawę wojenną na Oczaków, który dwa dni później poddał się Ostrogskiemu. Kolejny wyprawę wojenną na Tatarów, w 1527 roku, był dla Ostrogskiego ostatnim. Po zrabowaniu i zebraniu jeńców na Litwie Tatarzy wracali na Krym, a 40 mil od Kijowa, nad rzeką Olszanka, postanowili zatrzymać się na odpoczynek. Ostrogski, dowodzony przez swoją armię, która liczyła około 3500 żołnierzy, 27 stycznia 1527 roku o świcie, niespodziewanie zaatakował 30 tysięczne wojsko. Dzięki zaskoczeniu i temu, że jeźdźcy Ostrogskiego byli w stanie odciąć Tatarów od ich koni, zwycięstwo było po stronie Konstantya Ostrogskiego. Uwolnił z niewoli tatarskiej około 40 tysięcy swoich rodaków.
Po zwycięstwie nad Tatarami Zygmunt ponownie spotkał Ostrogskiego w Krakowie z honorami i prezentami, a dworski kronikarz Decjusz, napisał książkę o bitwie na Olszance i wydał ją w Norymberdze w języku łacińskim. Konstanty Ostrogski zmarł 8 sierpnia 1530 roku i zgodnie z jego testamentem został pochowany w klasztorze Peczerskim.