Povijest tosa inu počinje krajem 19. stoljeća, u prefekturi Kochi, smještenoj na otoku Shikoku, regiji koja je dotad bila poznata pod svojim starim imenom Tosa. Japanci su već stoljećima organizirali borbe pasa, ali lokalne pasmine, iako žilave i izdržljive, bile su sitnije u usporedbi s europskim borbenim psima koje su zapadni trgovci i diplomati počeli uvoziti nakon otvaranja zemlje prema svijetu tijekom razdoblja Meiji.
Lokalni uzgajivači odlučili su poboljšati veličinu i fizičku snagu svojih borbenih pasa, bez gubitka karakteristične japanske discipline i mirnoće. Počeli su križati lokalnu pasminu shikoku s buldozima, zatim s njemačkim dogom, s mastifom i u kasnijim fazama s bulmastifom pa čak i s bokserom. Rezultat je bio pas s težinom sposobnom parirati najvećim europskim pasminama, ali s temperamentom suzdržanijim i manje impulzivnim.
Pseće borbe u Japanu u to vrijeme nisu nalikovale na okrutne sukobe poznate sa Zapada. Odvijale su se prema pravilima bliskim sumu, psi su se suočavali jedan s drugim u ringu, a pobjednik je bio onaj koji bi prisilio protivnika da odstupi, pobjegne ili zacvili. Pas koji bi zalajao odmah je gubio bodove, suci su to smatrali znakom slabosti, a ne snage.
Do tridesetih godina 20. stoljeća tosa inu je već bila najprestižnija pasmina u japanskim pasjim borbama. Psi prvaci nosili su ceremonijalne pojaseve slične onima sumo boraca i dobivali počasne titule poput "yokozuna", najvišeg priznanja u sumo borbama, prenesenog izravno u pseći svijet. Vlasnik psa s takvom titulom uživao je ozbiljan društveni ugled, a same životinje ponekad su se tretirale gotovo kao žive relikvije obitelji.