Sejarah Jerman merupakan sejarah suku-suku bangsanya dan perjalanannya yang panjang menuju negara persatuan. Perjalanan ini lebih dari seribu tahun lamanya, dimulai dari runtuhnya kerajaan Romawi kuno sampai sekarang. Jerman bukan saja nama yang secara geografis tetapi juga secara historis diberikan oleh orang-orang Romawi kuno kepada wilayah antara sungai Rhein di sebelah barat-laut, Sungai Donau di sebelah selatan dan sungai Elbe di sebelah timur, yang dihuni oleh suku-suku bangsa Sachse dan Friesen di sebelah Utara, Franken di sebelah barat, Thuringen di bagian tengah dan Schwaben, Alemanen dan Bayern di sebelah selatan.
Pembagian menurut suku bangsa ini masih tampak sampai sekarang di negara-negara bagian inilah RFJ dibentuk. Suku bangsa Jerman yang terkuat ialah Franken. Suku bangsa ini mengambil alih beratus tahun lamanya setelah runtuhnya kerajaan Romawi. Raja Franken, Karl der Grosse (Karl yang Agung) menyatukan suku-suku bangsa Jerman ke dalam satu kerajaan yang besar di bawah naungan agama Kristen.
Ketika Paus pada tahun 200 menobatkan Raja Franken sebagai kaisar Karl der Grosse menjadi penerus kaisar Romawi Barat di dalam kerajaan yang diperbaharui yang terletak di sebelah utara pegunungan Alpen. Di bawah keturunannya kerajaan yang besar ini dibagi menjadi dua kerajaan Franken Barat, yang sekarang dikenal sebagai negara Perancis dan Franken Timur yang sekarang dikenal negara Jerman. Di bawah Otto der Grosse terciptalah dari kerajaan ini (936-973) apa yang disebut Heiliges Römisches Reich Deutscher Nation. Masa jayanya berlangsung sampai tahun 1250.
Kawasan yang Terpecah Belah dan Perang Agama
Setelah kerajaan besar ini mencapai jayanya menyusullah suatu jaman terpecah belahnya kawasan. Masing-masing raja memperoleh pengaruh yang semakin besar. Tidak mengherankan bila negara ini berkembang lebih sebagai negara-negara bagian dari pada negara Jerman sebagai keseluruhan. Hal ini terjadi terlebih-lebih di kota-kota kerajaan yang bebas yang mempunyai pemerintahan sendiri dan hanya tunduk ada kaisar.
Zaman ini merupakan zaman dimana Bürger (rakyat biasa) dan Zünfte (organisasi perusahaan/pertukangan sejenis) ahli-ahli pertukangan, pedagang dan pemilik bank besar memegang peran penting. Semua menginginkan kebebasan, tidak mengakui lagi adanya atasan. Perusahaan-perusahaan dagang yang kuat seperti “Hanse” seringkali lebih mempunyai kekuasaan dari pada raja. Kekuatan yang bermacam ragam ini mewariskan kebudayaan yang beraneka pula, misalnya: katedral-katedral, biaya-biaya, istana-istana, dan bangunan-bangunan milik rakyat.
Abad selanjutnya ditandai oleh pertarungan agama.
Tesis yang dibuat oleh Martin Luther memulai reformasi (tahun 1517) yang berakibat agama di Jerman terpecah. Terutama dasar perdamaian agama yang diputuskan di Augsburg (Augsburger Religionsfrieden) yang bunyinya “cuis rogio, euis religio”, yang artinya agama raja menentukan agama rakyatnya itulah yang menjadikan raja-raja dengan agama masing-masing, baik yang beragama Katolik maupun Protestan memegang kekuasaan penuh terhadap hamba sahayanya. Sebagai sekarang di Jerman Utara dan Tengah terutama dihuni orang-orang beragama Protestan dan Jerman Selatan serta Barat beragama Katolik. Pemisahan agama ini bersama-sama dengan ketegangan-ketegangan di bidang sosial dan ekonomi mengakibatkan pecahnya perang Tiga puluh Tahun (Dreissigjäriger Krieg) pada tahun 1618.
Di Bawah Pengaruh Kekuatan-kekuatan Asing
Perang tidak bisa mengatasi perpecahan agama. Bahkan perang ini menjadikan kerajaan ini menjadikan permainan kekuatan-kekuatan negara sekitarnya. Perdamaian Westfalen (1648) mengakibatkan Heiliges Römisches Reich Deutscher Nation terpecah belah menjadi 350 negara kecil. Jerman membutuhkan waktu seabad lamanya untuk penyembuhannya dari luka-luka peperangan ini. Disamping kebebasan para raja dan kerajaan kota dapat mengadakan persekutuan dengan kekuatan-kekuatan luar. Juga kekuasaan mutlak para raja membuat Jerman sebagai keseluruhan tidak berdaya. Akan tetapi sebagaimana yang terjadi pada akhir abad pertengahan, masa lemahnya politik menjadi masa berkembangnya kebudayaan yang tinggi. Bahasa terjemahan Injil serta penyebarannya berkat ditemukannya alat pencetak buku oleh Gütenberg membuat bahasa tulis memeperoleh kekuatan ekspresi yang tinggi. Filsafat, kesusastraan, seni bangunan, dan musik berkembang secara luar biasa.
Prusia Semakin Menonjol
Memulai abad ke-17 peranan Prusia semakin menonjol terutama di bawah pimpinan Friedrich der Grosse Prusia menjadi kekuatan besar di Eropa yang dapat menandingi kekuatan Perancis, Rusia, dan Austria dalam perang Tujuh Tahun (Siebenjähriger Krieg). Kemenangan Friedrich atas Austria mengakhiri kedudukan paling menonjol dari disnati Habsburg di dalam kekaisaran. Namun demikian bentuk kerajaan Jerman yang terdiri dari kerajaan-kerajaan kecil baru berakhir setelah serangan Napoleon ke Jerman. Sebagai tampil kerajaan-kerajaan menengah. Struktur kekaisaran yang sudah ketinggalan jaman dihapuskan.
Ketika negara-negara di Jerman Selatan (Rheinbund) yang besar pada tahun 1806 mempermaklumkan dirinya sebagai berdaulat, Kaisar Franz II meletakkan tahta dan dengan demikian berakhirlah Heiliges Römisches Reich Deutscher Nation. Prusia yang dikalahkan Napoleon pada tahun 1806 memulai perang pembebasan bersama-sama dengan Rusia pada tahun 1812, yang berakhir dengan kekalahan Napoleon (1813). Dirasakan sebagai tindakan pembebasan diri yang dilakukan oleh rakyat perang inipun sangat penting artinya bagi berdirinya negara Jerman baru.
Kongres Wina (Wiener Kongress 1814-1815) diharapkan dapat membentuk perdamaian abadi di Eropa setelah revolusi Perancis (1789) dan era Napoleon memporakporandakan Eropa. Akan tetapi Deutscher Bund yang dibentuk di Wina pada tahun 1815 oleh 39 negara kecil Jerman bukan merupakan negara kesatuan, melainkan ikatan negara yang lemah. Usaha dewan perwakilan rakyat Jerman (Deutsche Nationalversammlung) di Fankfurt pada tahun 1848 membentuk sistem pemerintahan kesatuan Jerman yang bertanggung jawab terhadap parlemen mengalami kegagalan.