Tarihte en yaygın Kilikya olarak anılan bölgede bulunan ilçenin Hitit Uygarlığı başta olmak üzere köklü bir uygarlık geçmişi vardır. Hititler döneminde Tarsus, Kizzuvatna eyaletinin bir kentiydi. Tarsus, şu anki nüfusuyla Türkiye'nin 25 ilinden büyüktür.

Kuruluşu yaklaşık 8.000 yıl öncesine, Yeni Taş Çağı'na dayanan Tarsus'un Çukurova'nın içinde yer alması ve Toros Dağları'ndan İç Anadolu'ya geçit veren Kilikya kapısı sayesinde güneyden gelen göç ve ticaret yolları üzerinde olması, yerleşim yeri olarak seçilmesinde en önemli etkendir.

Tarsus'un ismi ve kuruluşu hakkında, mitolojilerde ve eski yazarların anlatımlarında çeşitli bilgiler vardır. Bunların hemen hepsi Roma İmparatorluğu çağlarında, özellikle Augustos döneminde ortaya çıkmıştır ve hiçbiri tarihi bir gerçek olarak kabul edilemez. Mitolojiye göre, Antik Çağlar'da Tarsus Çayı'na, Kilikya'nın yeni halkı Cydnos adını vermiştir. Cydnos, mitolojide nehir tanrısına verilen isimdir. Azra Erhat, Cydnos için şöyle yazar: "Kilikya'da bugün Tarsus Çayı diye bilinen ırmağın tanrısı.

Ana tarafından lapetos'un torunu sayılır. Cydnos'un Parthenios adlı bir oğlu olduğu ve Cydnos Irmağı' nın denize döküldüğü yerde bir kent kurup ona Parthenia demiştir. Burası da bugünkü Tarsus'tur. Mitolojideki Pegasus (kanatlı at) ya da Bellerophontes, Kilikya ovasında yolunu şaşırmış ve Tarsus'un bulunduğu yerde ayağı sakatlanmış olduğundan kente Latince ayak tabanı anlamına gelen Tarsos adı verilmiştir. Bu efsaneyi güçlendiren bir durumda İlyada'da Bellerophontes'in Aleian düzlüklerinde gezindiğinin söylenmesi, o dönemde düzlüklerin de Kilikya ya da Tarza olarak tanımlanması nedeniyle Tarza'nın aslında Tarsus demek olduğu düşünülmüştür.

Bu ilişki, Luvi dilinde düzlüklere ya da ovalara Tebai (Kilikya) denmesiyle fazlasıyla güçlenmektedir. Diğer bir efsaneye göre kentin kurucusu eski Kilikya Tanrısı Sandon ile bir tuttukları Herakles'tir. Herakles'in resimleri MÖ 4. yüzyıla ait Tarsus sikkeleri üzerinde bulunmaktadır.

Antik gezgin ve coğrafyacı Strabon, "Coğrafya" kitabında kentin kuruluşuyla ilgili olarak: "Tarsos'a gelince o, bir ovada uzanır, İo'yu araştırmak üzere Triptolemosla birlikte dolaşan Argoslular tarafından kurulmuştur." şeklinde bir bilgi verir. Bir efsaneye göre, bu kentin kurucusu Perseus'tur. Mitolojinin kahramanlarından biri olan Perseus, Hitit döneminde Andrasos olarak bilinen bir köyün yerinde Tarsus kentini kurmuştur. Diğer bir efsaneye göre Tarsus, Tarım Tanrıçası Demeter'in oğlu Triptolemos tarafından kurulmuştur. Antik Çağ'da Tarsus önemli bir tarım merkeziydi ve bu özelliği antik Tarsus sikkelerinde betimlenmiştir. Tarsus Mozaiği, 3. yüzyılda yapılan mozaikte Orfeus'un müziği ile vahşi hayvanları uslandırmasına ait tasvir. Antakya müzesi. Tarsus adı ve kentin Kilİkya Kralı Syennessis'in yönetim merkezi olduğu, ilk defa MÖ 401 yılında Ksenephon'un "Anabasis" kitabında belirtilmektedir. MÖ 5. yüzyılın ikinci yarısından İtibaren Tarsus'a ait sikkeler üzerinde, kentin ismi gerek Aramice ve gerekse Grekçe yazı ile Tarz ve Terzi şekillerinde görülmektedir. Tarsus'un bu şekilde bilinen adına çok daha önceleri Asur kaynaklarında rastlanılmaktadır. Asur kaynaklarında, önce Kilikya'nın merkezi olarak bildirilen Tarsus, Asur Kralı 3. Salmannassar (MÖ 859-825) ve Sanherib'e (MÖ 704-681) ait belgelerde Tarzi şeklinde anlatılmaktadır.