位于环太平洋造山带的日本是为数不多的火山国家。火山虽然有时会构成威胁，但也带来了富士山那样的秀丽山岳景观和丰富的温泉资源。
日本最大的单一泉源——秋田县玉川温泉的大喷泉源
主管温泉的日本环境省统计了日本目前的温泉资源，“泉源”（温泉涌出处）总数约为2万7000个。带有住宿设施的“温泉地”约为3000处。每分钟的温泉“总涌出量”约为250万升（L）。普通家庭的浴缸一般为200升，也就是说日本每分钟的温泉涌出量就可以装满1万2500户家庭的浴缸。
日本的温泉主要是火山泉，因此拥有很多特色温泉，比如42摄氏度以上的高温泉、酸性泉和硫黄泉等。遗憾的是，并没有确切的证据表明温泉资源如此丰富的日本是从何时开始利用温泉的。
欧洲出土了很多泉源地的供品，证明从公元前人类就开始利用温泉。然而日本的主流文化是使用木材而非石材，由于酸性土壤较多等原因，并没有留下使用的痕迹。不过，在从日本中部地区到北海道的温泉源附近的高地上，发现了公元前数千年绳文时代的村落遗迹，不难想象，当时的人们可能会利用温泉来御寒。
秋田县大汤温泉附近的绳文遗迹“大汤万座环状列石”
那么，到了有文献记载的时代后日本的情况又如何呢？日本现存最古老的书籍是从7世纪下半期的飞鸟时代开始编写，于奈良时代的公元712年完成的《古事记》。在此之前，只有中国的史书中出现了对日本的记述。
3世纪西晋的陈寿编著的《三国志·魏书》卷30《东夷传·倭人》（通称《魏志倭人传》）中详细介绍了当时的日本社会、政治和风俗文化。其中有一句话是，“已葬 举家诣 水中澡浴 以如练沐”，描述了家人去世后入浴洗掉死亡污秽的祓禊习俗，但没有关于温泉的记述。一直到7世纪上半期唐代的魏征等人编著的《隋书·倭国传》中也是如此，此书中已有关于火山阿苏山的记述。
在中国，“溫泉”一词最早出现在东汉时期的天文地理学家张衡（78~139）所著的《溫泉赋》中，文中描述了温泉的功效：“有疾疠兮，溫泉汨焉，以流秽兮”。此后，由北魏的郦道元编写，被认为大约在515年前后完成的地理著作《水经注》中经常出现“溫泉”一词。其中还有不少关于温泉的作用和功效的记述，比如“有溫泉，疗疾有验”、“右出溫汤，疗治万病”（卷13），“疡痍百病，浴者多癒”（卷37）。
《水经注》中还出现了与“溫泉”意思相同的“溫汤”一词。“溫汤”在3世纪的《魏书》卷29《华佗传》中也出现过。随着中国的古籍传入日本，“溫泉”和“溫汤”等词语以及关于温泉功效的记述也传入了温泉资源丰富的日本。不过，“溫泉”一词并没有立即被使用。
日本文献中最早指向温泉和温泉地的词语是发音为“yu”的单个文字“汤”，“yu”还用来表示人体的温热分泌物，如yu-mari＝尿液，yo-dare＝口水等。
日本最早出现温泉的文献是上面提到的《古事记》。“允恭天皇”的条目中出现了伊予国（现爱媛县）的道后温泉，即其中所述的“伊余汤（Iyo-no-yu）”。“允恭天皇”被认为是《宋书·倭国传》中记载的5世纪的“倭五王”中的第三位倭王“济”，因此温泉最早出现在日本的文献中是在5世纪。
其实，《古事记》中的“伊余汤”并不是作为休闲放松和疗愈疾病的温泉胜地被介绍的。而是允恭天皇“容姿佳丽”的皇太子与“艳妙”的亲妹妹陷入了禁忌之恋，因此皇太子被废黜并流放到“伊余汤”。“伊余汤”从很早以前开始就是著名的温泉胜地，所以修建有接待京城贵族的设施。
在《古事记》完成8年后于公元720年完成的《日本书纪》中，关于温泉的最早记录是飞鸟时代的舒明天皇于631年9月前往“幸（于）津国有间溫汤”和摄津国（现在的兵库县）有马（Arima）温泉游玩了3个月。《日本书纪》中多次记录了7世纪上半叶至下半叶天皇和皇族的温泉之行。书中登场的温泉地共4处，包括“有间溫汤”、“伊予溫汤宫（Iyo-no-yu-no-miya）”（道后温泉）、记载为“牟娄溫汤（Muro-no-yu）”或“纪溫汤（Ki-no-yu）”的和歌山县南纪白滨温泉，以及“束间溫汤（Tsukama-no-yu）”（推测是长野县的美原温泉）。所以，道后、有马和南纪白滨的温泉并称为日本三大古泉。
和歌山县南纪白滨温泉的崎之汤露天温泉
《日本书纪》中描写温泉时也使用“溫汤”一词，而非“溫（温）泉”。日本人可能认为，表示“温热的液体”和“温暖”之意的“yu（汤）”这个原始词语更适合描述温泉。即使在今天，“汤”和“出汤（ide-yu）”这两个词依然与温泉有着密切的关系。
而“溫（温）泉”一词最早出现在介绍日本各地区的地方志《风土记》之一、733年在朝廷命令下完成的《出云国风土记》中，此书中介绍现在岛根县海潮（Ushio）温泉为“川中温泉”，而且“溫汤”、“温泉”和“汤泉”的读音都跟“汤”相同，读作单音“yu”。 “川中温泉”的记述也没有使用“溫”字，而是使用了俗体字“温”。自《出云国风土记》之后，包括《万叶集》在内的8世纪奈良时代的文献都采用了“温泉”的写法。
比如，拥有日本最大的温泉涌出量和泉源数量的别府（Beppu）温泉所在地——大分县的大部分地区的《丰后国风土记》中就有以下描述。
“玖倍理汤井。汤色黑，泥常不流。人窃到井边，发声大言，惊鸣涌腾，二丈余计。其气炽热…缘边草木，悉皆枯萎”
这段话是对现在的观光胜地——别府·铁轮（Kan-nawa）温泉的描写。该温泉是喷涌热泉的间歇泉，周围的草木都在温泉的热气下枯萎了。可见泉水的温度非常高，甚至无法入浴。书中还记录了温泉诞生的瞬间。
大分县别府温泉地狱中的海地狱温泉
“大有地震，山岗烈崩。此山一峡崩落，愠之泉处々而出。汤气炽热，炊饭早熟”
不仅是地震导致山峡崩裂涌出热泉令人感到惊讶，文中还提到利用该温泉水煮饭可以更快地煮熟。在别府·铁轮温泉，人们还利用温泉泥涂抹家中的柱子。可见日本的温泉自古以来就不是只有入浴一种用途。
从794年天皇迁都至京都开始的平安时代（持续约400年），贵族和才华横溢的朝廷女官等的日记及各种故事作品中也出现了温泉。日本人对温泉的接受程度进一步扩大。
