CSI kemudian mulai disusupi oleh paham sosialisme revolusioner. Paham ini disebarkan oleh H.J.F.M Sneevliet melalui ISDV (Indische Sociaal-Democratische Vereeniging) sejak tahun 1914, dan berhasil mempengaruhi tokoh-tokoh muda CSI seperti Semaoen, Darsono, Tan Malaka, dan Alimin Prawirodirdjo.
Hal ini menyebabkan CSI pecah menjadi “SI Putih” yang dipimpin oleh HOS Tjokroaminoto dan “SI Merah” yang dipimpin Semaoen.
SI merah berlandaskan asas sosialisme-komunisme. SI Putih (H. Agus Salim, Abdul Muis, Suryopranoto, Sekarmadji Maridjan Kartosoewirjo) berhaluan kanan.
SI Putih inilah yang kemudian tetap mempertahankan Sarekat Islam, sedang SI Merah kemudian menjadi Partai Komunis Indonesia (PKI).
Di Kongres SI tahun 1922, Tjokroaminoto menekankan perjuangan SI berdasarkan Islam. Kongres SI bulan Februari 1922 itu memberi banyak arti kepada hubungan SI dan PKI.
Kongres tersebut menetapkan dibentuknya Partai Sarekat Islam (PSI) dinisiasi oleh Abdul Moeis dan Agus Salim. Pada akhir kongres, PKI menyatakan keluar SI. SI dan PKI menempuh jalan masing-masing.
Pada Kongres tersebut, para pengurus utama melakukan penegakan disiplin terhadap keanggotaan organisasi, sebagai upaya untuk melenyapkan pengaruh komunis dari Sarekat Islam.
(Deliar Noer, 1982) Pada kongres tahun 1929, PSI menyatakan bahwa tujuan perjuangan adalah mencapai kemerdekaan nasional, karenanya, PSI ditambah namanya dengan Indonesia sehingga menjadi Partai Sarekat Islam Indonesia (PSII).
Struktur pimpinan pusat PSII dibagi menjadi dua, yaitu: (1) Dewan Partai, bertugas sebagai badan pembuat aturan, dan (2) Lajnah Tandfidziyah sebagai penyelenggara partai, terdiri dari departemen urusan Umum, Keuangan, Ibadat, Pengajar, Perburuhan, Pertanian, Pergerakan Wanita, dan Pergerakan Pemuda) (Amin, 1996: 69).
Anggaran Dasar PSII menetapkan ada tujuh sumber keuangan partai yaitu : (1) Uang pangkal atau uang antree; (2) Uang iuran dan kontribusi; (3) Infaq; (4) Sadaqah; (5) Zakat dan fitrah; (6) Wakaf; dan (7) Beras Parelek. Lalu usaha dalam bidang ekonomi, mendirikan beberapa Departemen Ekonomi dan Perdagangan.
Melalui Departemen ini PSII membentuk koperasi dengan motto dari rakyat, untuk rakyat, dan oleh rakyat. Disamping itu menganjurkan rakyat meningkatkan produksi pangan dan sandang dengan perluasan pertanian dan penanaman kapas demi kepentingan pertenunan. (Tjokroaminoto, 1983:102).