日語的起源一直是爭論不休的問題。明治時代的日本人把日語劃為阿爾泰語系，但阿爾泰語系這個說法已經普遍遭到否定，霍默·赫爾伯特（Homer Hulbert）和大野晉認為日語屬于達羅毗荼語系，西田龍雄認為日語屬于漢藏語系，白桂思（Christopher I. Beckwith）認為日語屬于日本-高句麗語系（即扶余語系），列昂·安吉洛·塞拉菲姆（Leon Angelo Serafim）認為日本語和琉球語可以組成日本語系。有一種假設認為南島語系、壯侗語族和日本語系可以組成南島-臺語門（Austro-Tai languages），即認為三者都有共同的起源。

日本古代不使用漢字，至應神天皇時始自百濟傳入漢字。全部用漢字寫成的《日本書記》的說法，“上古之世，未有文字，貴賤老少，口口相傳”，到了應神天皇（270-310年在位）時代，百濟國派阿直岐到日本，285年，百濟近肖古王時期的博士王仁把中國的《論語》、《千字文》、《孝經》等帶往日本，是為日本接觸漢字之始。 [2-3]  三國時代以后，漢字、漢文化正式大量傳入日本之始。

唐代時日本人發明了通行于女性之間的假名，官文為文言文，因此現代日本語受古代漢語影響極大。以昭和31年（1956年）的《例解國語辭典》為例，在日本語的語匯中，和語占36.6%、漢語占53.6%，昭和39年（1964年）日本國立研究所對90種雜志用語進行了調查研究，得出了和語占36.7%、漢語占47.5%、西洋語占近10%的結論。