为了组织好这次反帝宣传活动，中国共产党以上海学生联合会的名义，设立了一个秘密指挥部，事先分派党、团员到各学校进行策动。由于租界不许游行演讲，中共最初担心学生不敢冒险前往，未料5月30日，上海各校学生竟有3000多人前往公共租界散发传单和发表演说。这使中共党人大受鼓舞。恽代英事后总结说：“三十日出来的学生有了三千多个，与大家事前所揣测的，多了十倍。我们不要把革命看得太难，只要我们努力，就可以使革命成功。”
学生的讲演激起了市民的反帝斗争情绪。租界工部局出动大批巡捕企图驱散学生。学生与巡捕发生冲突。巡捕拘捕学生后，更激起学生和市民的愤怒。学生和市民近万人聚集到南京路老闸捕房前示威，要求释放被捕学生。武装巡捕居然对徒手的示威学生和市民开枪射击，打死十余人，打伤数十人。是为震惊中外的五卅惨案。
惨案发生的当晚，中共中央召开紧急会议，讨论和制定反帝斗争的策略。会议决定发动全上海工人罢工、商人罢市和学生罢课，将运动扩大为各阶级和各阶层的联合斗争。为此，中共中央决定建立以瞿秋白、蔡和森、李立三、刘少奇和刘华等人组成的行动委员会来领导这次斗争，并决议立即成立上海总工会。5月31日晚，上海各工会召开联席会议，宣布成立上海总工会，推选李立三、刘华分别为正、副委员长。