Setelah Proklamasi Kemerdekaan, Bung Karno menunjuk Ali Sastroamidjojo sebagai Menteri Penerangan. Lalu, di bawah kabinet Amir Sjarifuddin, Ali ditunjuk sebagai Menteri Pengajaran, Pendidikan, dan Kebudayaan. Di masa jabatannya, ia merancang Undang-Undang Pokok Pendidikan dan Pengajaran. Rancangan undang-undang itu dianggap progressif pada zamannya.
Bersama Mr Sujono Hadinoto, Ali ditunjuk mewakili PNI dalam delegasi Indonesia dalam perundingan Konferensi Meja Bundar (KMB) di Denhaag, Belanda, November 1949. Hasil KMB tidak terlalu memuaskan PNI, karena Indonesia menjadi negara federal (Republik Indonesia Serikat/RIS), bukan negara kesatuan.
Namun, seperti dikatakan Ali Sastroamidjojo, “PNI walapun tidak puas dengan persetujuan KMB itu dapat menerimanya, karena yakin bahwa pengakuan kedaulatande facto dan de jure negara kita oleh Belanda akan memperkuat kedudukan kita keluar dan ke dalam. Dengan kedaulatan penuh itu, hubungan-hubungan dengan negara-negara lain di dunia dapat dijalankan dengan normal, apalagi RIS sudah masuk menjadi anggota PBB. Ke dalam negeri sebagai negara berdaulat penuh bisa menjalankan politik dalam negeri kita dengan bebas tanpa dicampuri tangan lagi oleh negara mana pun.”
Sesudah persetujuan KMB itu, Ali Sastroamidjojo sempat absen di perpolitikan nasional. Di awal tahun 1950, ia ditunjuk sebagai duta besar pertama Indonesia di Amerika Serikat. Saat menyampaikan surat-surat kepercayaan, Ali meminta kesempatan berpidato. Akan tetapi, Presiden Amerika Serikat saat itu, Henry Truman, meminta agar pidato itu dihentikan.
Ali pun mengatakan: “Saya mengerti perjuangan kemerdekaan negeri tuan yang mulia, karena saya teringat kepada perjuangan kemerdekaan negeri saya sendiri yang gagah berani, seperti negeri tuan.”
Di tahun 1953, di tengah krisis politik yang berpotensi meretakkan Republik Indonesia, Ali Sastroamidjojo ditunjuk sebagai Perdana Menteri RI. Orang-orang sering menyebut kabinet Ali sebagai “kabinet kiri”. Karena, pada saat itu, Masjumi dan PSI ditendang keluar, sedangkan PKI dan NU ditarik masuk.
Menurut pengakuan Ali Sastroamidjojo, ia sendiri tak ikut membentuk susunan kabinetnya. Ali menulis dalam memoarnya: “Terbentuknya kabinet saya itu agak menyimpang dari kebiasaan, karena tidak disusun langsung oleh formatur yang kemudian menjadi Perdana Menteri. Malahan pada waktu pembentukannya saya tidak turut mencampurtanganinya, karena saya masih menjabat Dubes RI di Washington. Baru setelah pembetukan kabinet itu selesai dan disetujui oleh Presiden, saya terima telegram dari Sdr Sidik Djojosukarto (Ketua Umum PNI masa itu) bahwa saya ditunjuk sebagai Perdana Menteri RI.” Kabinet Ali Sastroamidjojo I ini merupakan koalisi antara PNI, Partai Indonesia Raya (PIR), dan NU.
Begitu dilantik sebagai Perdana Menteri RI, Ali Sastroamidjojo menerapkan dengan sungguh-sungguh politik luar negeri Indonesia yang bebas-aktif. Politik luar negeri meluas ke negeri-negeri sosialis: 1953, Indonesia mengirim dubes ke Peking, Tiongkok; 1954, Indonesia membuka kedutaan di Moskow, USSR. Politik luar negeri Indonesa makin anti-kolonialis dan anti-imperialis. Di bawah pemerintahan Ali Sastroamidjojo, Indonesia berhasil menyelenggarakan Konferensi Asia-Afrika di Bandung, 1955.
Pemerintahan Ali Sastroamidjojo juga sukses mempersiapkan dan menyelenggarakan pemilu pertama Indonesia pada tahun 1955. Inilah pemilu paling demokratis dalam sejarah Indonesia; diikuti 190 partai, organisasi, dan perorangan. Ali, yang saat itu menjadi juru kampanye utama PNI, berhasil membawa PNI memenangkan pemilu dengan perolehan 119 kursi. Posisi kedua diraih Masjumi (112 kursi), ketiga oleh NU (91), dan keempat diduduki PKI (80).
Tentang kesuksesan kabinetnya itu diakui Ali Sastroamidjojo berkat kerja sama dengan partainya, PNI, terutama dengan fraksinya di DPRS. Juga komunikasi dengan partai-partai koalisi terjalin baik. Dengan kerja sama yang baik itu, kesalahpahaman dihindari. Ali dan anggota kabinetnya bisa mencurahkan pemikiran dan tenaga pada penyelesaian program-program kerja yang telah digariskan.
“Tidak berarti bahwa kami lantas mengabaikan kritik-kritik pedas dari pihak oposisi di DPRS. Adapun serangan-serangan oposisi di luar badan legislatif dilayani oleh surat kabar harian PNI, Suluh Indonesia, yang dipimpin Mh Isnaeni,” tutur Ali.
Meski terbilang sukses, menjelang Pemilu 1955, Kabinet Ali Sastroamidjojo I harus mengundurkan diri, digantikan Kabinet Burhanudin Harahap dari Masjumi. Tapi, dengan kemenangan dalam pemilu yang digelar September 1955, PNI kembali mendapat mandat untuk membentuk kabinet.
Ali Sastroamidjojo kembali didapuk sebagai Perdana Menteri RI. Salah satu prestasi Kabinet Ali Sastroamidjojo II adalah sukses membatalkan hasil Konferensi Meja Bundar (KMB) pada April 1956. Empat bulan kemudian, pemerintah Indonesia menyatakan menolak membayar utang-utang warisan kolonialisme Belanda.
Kabinet Ali Sastroamidjojo II, yang dilantik pada 24 Maret 1956, merupakan suatu koalisi yang kuat antara PNI, Masjumi, dan NU (karena itu kerap juga disebut Kabinet Ali-Roem-Idham), ditambah dengan Parkindo, Partai Katholik, IPKI, dan Perti. Koalisi ini mencakup 179 kursi di parlemen, yang anggotanya berjumlah 257 orang. Jadi, koalisi yang memerintah saat itu merupakan mayoritas mutlak di parlemen.
Kendati begitu, setahun kemudian, 14 Maret 1957, Ali menyerahkan kembali mandat kepada Presiden Soekarno. Penyerahan mandat itu, kata Ali Sastroamidjojo, “Tidak oleh karena dijatuhkan oleh kelebihan suara oposisi di parlemen, melainkan karena ancaman kekerasan senjata di luar parlemen oleh Kolonel Zulkifli Lubis.”
Setelah mundurnya Kabinet Ali Sastroamidjojo II, Presiden Soekarno berupaya membentuk kabinet baru dengan menyerahkan mandat kepada partai-partai politik, tapi gagal. Akhirnya, Bung Karno memanggil Ali Sastroamidjojo, sebagai perdana menteri demisioner, untuk membicarakan soal kabinet. Dalam pertemuan itu, Bung Karno menanyakan kepada Ali, siapa tokoh non-partai yang layak diangkat sebagai perdana menteri dalam suatu “zaken kabinet ekstra parlementer darurat”, suatu kabinet yang tidak bersandar pada partai-partai politik.
Ali langsung saja menjawab, tokoh non-partai yang pantas untuk jabatan perdana menteri itu adalah Ir H Djuanda Kartawidjaja. Rekomendasi Ali itu didasarkan pengalamannya, ketika Djuanda pernah menjadi Menteri Negara Urusan Perencanaan dalam kabinetnya. Djuanda adalah seorang teknorat yang juga pekerja keras.
Semula Bung Karno kurang berkenan, karena menganggap Djuanda kurang dinamis. Tapi, setelah diyakinkan Ali, Presiden Soekarno kemudian memutuskan menunjuk Ir Djuanda untuk memimpin Kabinet Karya (April 1957- Juli 1959).