1921年10月，蔣先云與夏明翰、蔣嘯青等6人一同加入中國共產(chǎn)黨，成為湘南地區(qū)第一批共產(chǎn)黨員。1924年，第一次國共合作期間，黃埔軍校(中國國民黨陸軍軍官學(xué)校)初創(chuàng)，來自全國各地的有志青年前來報考，其中就有投筆從戎的蔣先云。黃埔軍校的考試要求十分嚴(yán)格，報考者要經(jīng)過初試、復(fù)試、總考試三關(guān)，總考試包括國文、數(shù)學(xué)、歷史、地理等科目。蔣先云最終從1200余名參加總考試的優(yōu)秀青年中脫穎而出，以第一名的成績成為黃埔軍校一期學(xué)生。
蔣先云入學(xué)后，按照國共兩黨合作的決策，也參加了國民黨，從而成了跨黨黨員。這位文武雙全的學(xué)霸，門門考試穩(wěn)居第一，創(chuàng)造了黃埔軍校歷史上的奇跡，深得黃埔軍校校長蔣介石和政治部主任周恩來的賞識。軍校畢業(yè)后，蔣先云選擇留校任蔣介石的秘書。在國共第一次合作期間，蔣先云做了大量有利于兩黨合作的政治工作，調(diào)和了兩黨之間的關(guān)系。根據(jù)學(xué)習(xí)成績、社交能力和戰(zhàn)斗中的表現(xiàn)，師生們將一期學(xué)員中的佼佼者蔣先云、陳賡、賀衷寒并稱為“黃埔三杰”，蔣先云名列“三杰”之首。
好景不長，1926年3月20日，中山艦事件爆發(fā)，國共關(guān)系出現(xiàn)轉(zhuǎn)折。蔣介石調(diào)動軍隊戒嚴(yán)廣州，逮捕李之龍，包圍蘇聯(lián)顧問所，驅(qū)逐黃埔軍校及國民革命軍中以周恩來為首的共產(chǎn)黨員……蔣先云作為一個跨黨黨員，被迫做出抉擇。
蔣介石多次對蔣先云表達(dá)惜才愛才之情，并以官權(quán)相誘。但蔣介石沒想到，他的得意門生竟公然與自己對抗。軍校禮堂上，蔣先云帶頭站起高聲宣布：“我蔣先云，是共產(chǎn)黨員，永做共產(chǎn)黨員！頭可斷，共產(chǎn)黨籍不可犧牲！”隨后，一個又一個的軍官站起來，公開自己共產(chǎn)黨員的身份，宣布退出國民黨。
1927年初，蔣介石反革命陰謀日益暴露，蔣先云倡議成立黃埔學(xué)生反蔣委員會，任湖北省工人糾察總隊隊長率部北上河南。5月28日，在攻克臨潁城的戰(zhàn)斗中，蔣先云英勇犧牲，年僅25歲。