Le 26 avril 1964, Le Tanganyika et Zanzibar fusionnent pour former la République unie de Tanzanie. Nyerere devient le président de l’État nouvellement créé, tandis qu'Abeid Karume (le leader de l'Afro-Shirazi Party, ASP), restant président de Zanzibar, devient vice-président de la Tanzanie.
Il revendique l'unité africaine : « Sans unité, les peuples d'Afrique n'ont pas de futur, sauf comme perpétuelles et faibles victimes de l'impérialisme et de l'exploitation2. »Soucieux d’accélérer l’émancipation des Africains par rapport au monde occidental, inspiré par les expériences communistes en Chine, Nyerere s’engage résolument dans une politique socialiste. En février 1967, lors de la déclaration d'Arusha, il définit les principes et doctrines qu’il souhaite voir suivre par le pays. Selon l’idéal de Nyerere, tout cela doit conduire à la création d’une société égalitaire, juste, solidaire, qui trouve dans ses propres ressources les moyens de son autosuffisance. L’éducation est la priorité numéro un