Pada mulanya organisasi ini bernama Indische Vereniging didirikan pada tahun 1908 oleh para pelajar/mahasiswa yang belajar di Belanda seperti R.M Notosuroto, R. Panji Sostrokartono, dan R. Husein Djajadiningrat. Tujuan didirikan organisasi ini, menurut Noto Soeroto dalam tulisannya di Bendera Wolandatahun 1909, adalah untuk “memajukan kepentingan bersama orang Hindia di Belanda dan menjaga hubungan dengan Hindia Timur Belanda” (Poeze, 2008: 68).
Di akhir 1913 satu situasi yang cukup penting mempengaruhi visi sosial-politik IV untuk tahun-tahun ke depan, yaitu kedatangan tiga eksil politik dari Indische Partij (IP): Douwes Dekker, Soewardi Soerjaningrat, dan Tjiptomangoen koesomo ke Belanda. Setelah berakhirnya Perang Dunia I, gelombang baru kedatangan pelajar Indonesia ke Belanda tidak didominasi oleh keluarga kerajaan Jawa.
Diantaranya terdapat Moh. Hatta yang keluarganya berlatar belakang pedagang kaya dan ulama, Ali Sastroamidjojo, Soetan Sjahrir, dan Achmad Soebardjo yang keluarganya berlatar belakang pejabat birokrat rendah, Darmawan Mangoenkoesomo berasal dari keluarga kepala sekolah, dan Arnold Mononutu yang merupakan anak seorang dokter da semua tokoh tersebut yang menjadikan PI menjadi himpunan perjuangan bangsa Indonesia di Belanda.
Bahkan nama Indische Vereeniging diubah menjadi Indonesische Vereeniging pada tahun 1922 dan diubah lagi menjadi “Perhimpunan Indonesia” pada tahun 1925. Organisasi ini cukup revolusioner dalam memperjuangkan kebebasan Indonesia dari penjajahan Belanda.
Selain turut andil dalam terciptanya Sumpah Pemuda, PI juga menerbitkan sebuah majalah. Majalahnya dikenal sebagai corong perjuangan yang semula bernama “Hindia Putera” diubah menjadi “Indonesia Merdeka”.
Perhimpunan Indonesia memiliki asas perjuangan, antara lain: menolong dirinya sendiri (swadaya), non-kooperasi, persatuan nasional.