V první písemné zmínce z roku 1126 se Kyjov připomíná jako trhová ves, kterou kníže Václav Jindřich Olomoucký daroval benediktinskému klášteru Hradisko u Olomouce. Stalo se tak na památku Václavova strýce Oty II. Olomouckého, který 18. února 1126 zahynul v bitvě u Chlumce. Klášter Hradisko brzy přešel do rukou premonstrátů a v 2. polovině 12. století za opata Michala byl na kyjovském návrší postaven kamenný kostel sv. Martina. V přímé správě kláštera byl Kyjov nejdéle do roku 1382. Pak jej začal pronajímat nižší šlechtě. Král Vladislav Jagellonský povýšil Kyjov privilegiem z 7. června 1515 na město a udělil mu právo pečetit červeným voskem. V husitském období se město hlásilo k utrakvismu. V srpnu 1431 ho dobyl rakouský markrabě Albrecht II. Habsburský a podle kronikáře Bartoška z Drahonic zde nechal popravit okolo 50 kyjovských obyvatel.

Premonstrátský klášter v roce 1539 po více než 400 letech prodal město Janu Kunovi z Kunštátu. Jeho synové Kyjov prodali 7. ledna 1548 Janu Kropáčovi z Nevědomí a na Litenčicích za 9 000 zlatých. Kyjovští poddaní s tím nebyli spokojeni. 11. května 1548 vyslali deputaci vedenou kyjovským měšťanem Václavem starším Bzeneckým k císaři Ferdinandu I. Habsburskému do Augsburgu, který tam pobýval na Říšském sněmu. Císař pak 18. srpna 1548 ve Vídni vydal listinu, v níž městu slíbil, že Kyjov už nebude zastaven ani prodán. Stal se komorním městem, často nesprávně označované královským městem. Nastala doba rozkvětu, v letech 1561–1562 byla na náměstí postavena renesanční radnice s věží, tři městské brány, roku 1577 koupilo město ves Vřesovice a 1666 ves Kelčany. 

V 17. století Kyjov trpěl válečnými událostmi. 15. června 1605 bylo město s okolními vesnicemi vyrabováno a vypáleno při nájezdu tlup sedmihradského knížete Štěpána Bočkaje během protihabsburského povstání v Uhrách, což mělo po mnoho následujících let vliv na jeho rozvoj. Během Českého stavovského povstání při obraně Kyjova proti vojsku Jindřicha Dampierre zahynulo přes 150 obyvatel, nakonec se mu však 8. října 1619 vzdalo. V říjnu 1623 bylo město zpustošeno vpádem vojska Gabriela Betlena a 250 obyvatel bylo zajato a odvlečeno. V roce 1638 celý Kyjov vyhořel. Roku 1705 se město ubránilo nájezdu Rákociho kuruců. V letech 1710–1784 ve městě působili kapucíni, kteří zde z odkazu knížete Jana Adama z Lichtenštejna vybudovali současný farní kostel a malý klášter. V roce 1760 zde piaristé založili nižší latinské gymnázium.