3世紀後半には古墳が造られるようになっていた。特に巨大な古墳が奈良県の大和(やまと)に多く、この奈良を中心にして少なくとも近畿地方一帯を支配する強大な政権があったと考えられ、これをヤマト王権やヤマト政権などと呼ぶ。
古墳の分布から考えると、4世紀中頃までにヤマト王権による支配領域が、九州北部から東北地方南部にまで広がっていったと考えられている。
古墳の形には、さまざまな形があるが、特に巨大な古墳には前方後円墳が多い。また、数が多いのは円墳や方墳である。古墳の多くは、表面に石が葺かれ、埴輪(はにわ)なども置かれた。内部には石室(せきしつ)があり、石室には石棺や木棺などの棺がおさめられた。このほか、さまざまな副葬品がおさめられた。副葬品には、古墳時代のはじめごろは銅鏡や銅剣などがおさめられた。有名な銅鏡としては、三角縁神獣鏡(さんかくぶちしんじゅうきょう)などがある。
最大規模の古墳は、大阪府にある前方後円墳(ぜんぽうこうえんふん)の大仙古墳(だいせんこふん)であり、大王陵と考えられている。
特に大きな古墳が、大和(やまと、奈良県)や河内(かわち、大阪府)を中心に多く作られているので、近畿地方を中心に、有力な豪族たちがいたと思われている。この近畿地方の有力な豪族たちは連合政権を形成しており、この政権を指して、現代ではヤマト王権(ヤマトおうけん)、ヤマト政権などという。
4世紀〜5世紀には、前方後円墳が、大和地方だけでなく、各地に広がっていく。5世紀の後半には、ヤマト王権は九州から関東までを支配していた。また、各地に前方後円墳があることから、
この大和にいた、有力な豪族たちの連合体であるヤマト王権が、のちに日本を支配していき、のちの飛鳥時代の朝廷(ちょうてい)になっていく。
埼玉県の稲荷山古墳から見つかった鉄剣には、ワカタケル大王(ワカタケルだいおう、ワカタケルおおきみ)の名が刻まれた文が、刻まれてあります。文を読むと、この地方の王は、ワカタケル大王に使えていたらしいです。
熊本県の 江田船山(えた ふなやま)古墳 にも、おなじ名前の刻まれた鉄刀(てっとう)があり、ワカタケル大王の支配する領域が、関東地方から九州までの広い範囲(はんい)に、およんでいたことが、分かります。
正確に言うと、当時はまだ漢字しか文字がなかったので、稲荷山の鉄剣には115字の漢字が刻まれており、その漢字の中に「獲加多支鹵大王」(ワカタケル大王)という名が、刻まれています。 
また江田船山の鉄刀には、刻まれた文が破損しており、「獲□□□鹵大王」(ワ???ル大王 ?)というふうに名前の一部が読めなくなっています。(□が破損部とする。)
後の日本の神話の書の『古事記』(こじき)や、後の歴史書の『日本書紀』(にほんしょき)などから「ワカタケル」という人物の存在が知られているので、鉄剣などがワカタケルの存在をうらづける証拠になったのです。日本書紀に「幼武天皇」(わかたけ てんのう)という記述があるのです。
ワカタケル大王とは、雄略天皇(ゆうりゃくてんのう)だということが分かっています。
この大和にいた、有力な豪族、および、この大和の地域の有力な豪族たちの連合体が、のちに日本を支配していき、のちの飛鳥時代の朝廷(ちょうてい)になっていく。
大和にいた、有力な豪族、および、この大和の地域の有力な豪族たちの連合体のことを、現代の歴史学では「ヤマト政権」とか「ヤマト王権」とかという。べつに当時の人が「ヤマト政権」と呼んでいたわけではない。
ヤマト政権が、のちの時代に朝廷になるといっても、古墳時代の始めや中頃では、まだヤマト政権は各地の豪族のうちの一部にしか、すぎない。のちの時代の天皇も、先祖をたどれば、(おそらく大和地方にいただろう)有力な豪族のうちの一つでしかない。
古墳時代の始めのうちは、まだ日本の統一がほとんど進んでおらず、ヤマト王権は、まだ、今の日本語で言う「朝廷」と呼べるような段階には至ってない。ヤマト王権が、古墳時代での各地の政権の統一をへて、のちの飛鳥時代の朝廷へと、なっていく。
5世紀の後半ごろから、ヤマト王権は、ほぼ各地を平定した。
日本では、ヤマト王権の中の、もっとも有力な支配者を、大王(おおきみ)と呼んでいた。稲荷山古墳(いなりやま こふん、埼玉県)から出土した鉄剣の銘文で、みずから「大王」と読んでいる。中国では「倭王」(わおう)と呼んでいた階級であろう。大王の一族は、のちの天皇の一族である。たとえば、5世紀の中ごろに近畿地方に作られた大仙(だいせん)古墳は、大王の墓だと思われている。
そして、各地の豪族たちはヤマト王権に仕えた。
このころには、ほぼ政権の権力が安定しており、ヤマト王権の政治組織を整えられるようになった。そして、さまざまな政治の制度が作られた。
やがて古墳には、鉄製の武具や馬具、農具や土器などの生活用品も、石室におさめられるようになった。つまり、古墳が、死後の生活の場と考えられた。副葬された土器には、土師器(はじき)や須恵器(すえき)などが納められた。須恵器(すえき)は、5世紀に朝鮮半島から伝わった土器であり、灰色で堅い。土師器(はじき)は、須恵器伝来前からある在来の土器であり。弥生土器の系統をひき、赤い。
須恵器の製法は、丘(おか)などの斜めになってる地面の斜面をくりぬいて穴窯(あながま)を作り、その穴窯の中で土器を焼き固めるという、のぼり窯(のぼりがま)を用いた方法です。野焼きよりも高温に焼けるので、かたい土器が焼きあがるというわけです。
縄文土器は、野焼きの土器でした。弥生土器も、のぼり窯は用いていません。
石室は従来は竪穴式であったが、6世紀になると横穴式石室(よこあなしき せきしつ)が一般化してきた。これは朝鮮半島の風習と近く、日本が朝鮮半島から影響を受けたと思われる。
豪族は、血縁をもとに、氏(うじ)という集団を作っていた。氏を単位に、ヤマト王権の職務を担っていた。そして、豪族たちの名前に関する制度で、氏(うじ)と姓(かばね)とによる、後に言う氏姓制度(しせい せいど)が、作られた。
姓は、大王から、その氏の職務に応じて授けられた。
氏(うじ)とは、主に、血のつながった者どうしの集団である。姓(かばね)とは、政治の地位による称号(しょうごう)で、たとえば「臣」(おみ)や「連」(むらじ)という姓が、あります。
氏の代表者を氏上(うじのかみ)という。氏の構成員を氏人(うじびと)という。氏とは、その氏上や氏人などから成り立つ、組織であった。
有力な豪族の氏には、たとえば蘇我氏(そが し)・物部氏(もののべ し)・大伴氏(おおとも し)などが、あります
政治の仕事を行なう豪族には、さらに姓(かばね)が与えられた。中央の政治の姓には、臣(おみ)、連(むらじ)の姓が与えられ、中でも有力な豪族には大臣(おおおみ)、大連(おおむらじ)の姓が与えられた。