Kos zostało zamieszkane w starożytności przez Pelazgów, a następnie przez Karów w drugim tysiącleciu przed Chrystusem. W XIV wieku p.n.e. Kos najechali Achajowie z greckiego lądu, a po nich przybyli Fenicjanie.

Pod koniec XI wieku p.n.e. Dorowie uczynili z Kos całkowicie doryckie miasto-państwo. Wyróżniała się społeczność Astypalii (obecnie znana jako Kefalos), ale niestety trzęsienie ziemi w 412 r. p.n.e. zamieniło ją w gruzy, a Koanowie przenieśli się na przylądek Skandarios, gdzie zbudowali własne miasto mniej więcej w miejscu dzisiejszego miasta Kos.

Kos ucierpiało w wojnach perskich w latach 500-478 p.n.e., kiedy zostało zajęte przez Persów. W bitwie pod Mykale w 479 r. p.n.e. Grecy pokonali swoich wrogów, a Kos zostało uwolnione i dołączyło do Federacji Ateńskiej.

Kiedy Aleksander Wielki przejeżdżał przez Kos, rozpoczął się nowy okres i pod koniec III wieku Kos stało się częścią federacji z wyspą Kalymnos, która trwała przez wiele lat.

W 130 r. p.n.e. Kos spotkał ten sam los, co reszta Grecji, wpadając pod panowanie Rzymian. Karacel (211-217 n.e.) nadał wszystkim mieszkańcom status obywateli rzymskich, ale wraz z podziałem Cesarstwa na Wschodnie i Zachodnie w 293 r. n.e. Kos zostało umieszczone pod jurysdykcją wysp Cesarstwa Wschodniego; aż do przeniesienia stolicy imperium do Konstantynopola.

Wraz z rozprzestrzenianiem się chrześcijaństwa w V i VI wieku, na całej wyspie zbudowano bazyliki chrześcijańskie, a Kos odzyskało swoją własność ekonomiczną. W VII wieku państwo bizantyjskie zostało podzielone na „temy”, a Kos stało się częścią temu Samos. W 1204 roku Wenecjanie zajęli wyspę i zmienili jej nazwę na Lango, ale w 1304 roku dostała się pod panowanie Genonańczyka, Benedetto Zacharia, a później Vignolo de Vignoli. Później podpisali traktat z Zakonem Rycerzy św. Jana, zbudowali fortyfikacje i pozostali na Kos przez 218 lat.

W 1453 roku wyspa Kos była systematycznie napadana przez tureckich piratów, a także przez turecką flotę. Rycerze walczyli dzielnie, ale nie byli w stanie powstrzymać Turków, którzy ostatecznie najechali Kos w 1523 roku.

Turcy, po zajęciu wyspy, torturowali, zabijali, masowo porywali dzieci i sprzedawali majątek na aukcjach. 11 lipca 1821 r. wybuchła grecka wojna o niepodległość, a Turcy zabili co najmniej 100 osób w Horze, stolicy wysp, i dopuścili się innych okrucieństw, zakładając, że Koansowie wspierali grecką walkę o wyzwolenie. Gospodarka podupadła, a nałożono niezwykle wysokie podatki.

W 1912 r. Kos przeszła w ręce Włochów wraz z innymi wyspami Dodekanezu. Na mocy traktatu z Sevres z 1920 r. Włosi zgodzili się oddać wyspy Grecji, ale zostało to potępione, gdy faszystowska partia Benito Mussoliniego przejęła władzę we Włoszech. Realizowano program „Italizacji”, a postawa faszystów włoskich wobec mieszkańców Dodekanezu uległa zaostrzeniu, gdy Grecy pokonali armie włoskie na froncie albańskim w 1940 r. (patrz strona „Imieniny i święta”)

W październiku 1943 r. Niemcy zajęli Kos, przynosząc ze sobą nowy okres terroru i barbarzyństwa. Naziści splądrowali wioski i główne miasto, rabując domy i sklepy. 9 maja 1945 r. Brytyjczycy zostali powitani jako wyzwoliciele przez Koanów, a w następnym roku w Paryżu alianci zgodzili się oddać Dodekanez z powrotem Grecji.

31 marca 1947 r. brytyjskie władze wojskowe oficjalnie przekazały Grecji administrację wysp, w tym Kos.