光绪二十年（1894），中日战争爆发，中国又一次惨败；次年三月二十三日（4月17日），清廷与日本签订丧权辱国的《马关条约》，瓜分危机更是迫在眉睫。康有为趁入京应试的机会，联合各省应试举人1300余人，于四月初八日（5月2日）联名请愿，发动“公车上书”。他在“公车上书”中，请求拒和、迁都、练兵、变法，提出“下诏鼓天下之气”、“迁都定天下之本”、“练兵强天下之势”、“变法成天下之治”等改良派的救国纲领。认为变法着重在富国、养民和教民三方面。提出富国之法有六：一、钞法，户部用精制钞票，设官银行，以扩充商务；二、建筑铁路，收我利权；三、制造机器、轮舟，奖励新制造，并发展、保护民营工业；四、矿务，开设矿学，请比利时人教导勘测，选才督办，不滥用私人；五、铸银，各省设铸银局，以塞漏卮；六、邮政，设邮政局。养民之法有四：一、务农；二、劝工；三、惠商；四、恤穷。教民之法则为分立学堂、开设报馆，以“化导愚民，扶圣教而塞异端”。这是康有为的第二次上书，也是改良派正式登上政治舞台的第一幕。

　　“公车上书”被拒绝代呈，光绪帝没有看到。不久榜发，康有为得中进士，授工部主事。康有为又于同年五月初六日（5月29日）呈送《上清帝第三书》，提出了变法的步骤，指出自强雪耻之策有四：即富民、养民、教士、练兵，而如何审端致力于上述四策，则在乎“求人才而擢不次”、“慎左右而广其选”、“通下情而合其力”三者，以求“人才得，左右贤，下情达”。这次上书由都察院代呈，光绪帝第一次读到他的上书。

　　接着，他又上《第四书》，再次吁请“尊贤而尚功，保民而亲下”，使“有情必通，有才必用”，并正式提出了“设议院以通下情”的主张，但又被顽固派拒绝代呈。

　　康有为在不断上书光绪帝，以争取进行自上而下的政治改革的同时，又“日以开会之义号之于同志”，认为“思开风气，开知识，非合大群不可”，“合群非开会不可”。于是先办《万国公报》，于光绪二十一年六月二十七日（1895年8月17日）创刊于北京，“遍送士夫贵人”，使之“渐知新法之益”，“告以开会之故”并于十月初（11月中）成立了强学会，又名译书局，也叫强学书局。参加强学会的还有梁启超、陈炽、沈曾植、沈曾桐、文廷式、丁立钧、杨锐等，翁同觫等也予支持，强学会成为改良派与帝党相结合的政治团体。《万国公报》后改为《中外纪闻》，于十一月初一日（12月16日）正式出版，双日刊，有阁抄、新闻及“译印西国格致有用之书”，译印后每加附注，论说不多。光绪二十一年十二月初六日（1896年1月20日），后党御史杨崇伊上疏弹劾，“请饬严禁”。强学会被改为官书局，专欲“译刻各国书籍”，不准议论时政，不准臧否人物，这样，“专为中国自强而立”的强学会已违失原旨。

　　康有为在北京发起筹组强学会后，于光绪二十一年八月二十九日（1895年10月17日）出京，至南京游说张之洞，在南北之汇的上海设立强学会，“以上接京师，次及于各直省”。十月，上海强学会成立，拟定章程，说明设立的目的是通声气、聚图书、讲专门、成人才、扶“圣教”。十一月二十八日（1896年1月12日），刊《强学报》，以孔子纪年，欲“托古以改今制”，宣传设会办报，倡导维新变法。北京强学会被劾奏，上海强学会也遭封禁。不久，在此基础上创办《时务报》，由梁启超任主笔，鼓吹康有为的变法主张，议论敏锐，文字新颖，在当时影响广泛。