Историята на тоса ину започва в края на XIX век, в префектура Кочи, разположена на остров Шикоку, регион, дотогава познат под старото си име Тоса. Японците вече столетия наред организирали бойни кучешки срещи, но местните породи, макар жилави и упорити, били дребни в сравнение с европейските бойни кучета, които западните търговци и дипломати започнали да внасят след отварянето на страната към света през епохата Мейджи.
Местните развъдчици решили да подобрят размера и физическата мощ на своите бойни кучета, без да губят характерната японска дисциплина и спокойствие. Започнали да кръстосват местната порода шикоку с булдози, после с немски дог, с мастиф и в по-късни етапи с булмастиф и дори с боксер. Резултатът бил куче с тегло, способно да съперничи на най-едрите европейски породи, но с темперамент по-сдържан и по-малко импулсивен.
Кучешките борби в Япония по онова време не приличали на жестоките сблъсъци, познати от Запада. Те се провеждали по правила, близки до сумото, кучетата се изправяли едно срещу друго в ринг, а победителят бил това, което принудело противника си да отстъпи, да побегне или да изскимти. Лаещо куче губело точки на момента, съдиите го броели за слабост, не за сила.
До 30-те години на XX век тоса ину вече било най-престижната порода в японските кучешки борби. Кучетата шампиони носели церемониални препаски, подобни на тези на сумо борците, и получавали почетни титли като "йокозуна", най-високото отличие в сумо борбите, пренесено директно върху кучешкия свят. Собственик на куче с подобна титла се радвал на сериозен обществен престиж, а самите животни понякога били третирани почти като живи реликви на семейството.