此时，日本陆军第一军已经得知日本海军覆灭，日本大本营严令第一军司令山县有朋大将迅速退兵回国。
大本营考虑到没有海军可用，海上补给成问题，而朝鲜一穷二白，没有相应的军事工业辅助日本陆军镇守，因此才决定连朝鲜都放弃。
但山县有朋第一次攻入中国，兴头正高，海军战败并不能打消他的疯狂念头。他见清帝国陆军不堪一击，又感到大本营太过懦弱连朝鲜都想放弃，因此不服气的他决心一口气打到北京去。
山县有朋决心先进攻奉天，那里是清帝国的发地，一旦打下奉天，清帝国势必被逼就范。然而，此时日本国内已经乱成一团，反战呼声高涨，伊藤博文内阁已经倒台，日本急于求和，岂能让山县有朋胡来？
况且，日本海上已经无法给陆军补给了，山县有朋的第一军若是再攻击奉天，战线太长，显然等于白白去送死。
日本大本营已经被海军全灭吓破了胆，因此不理会山县有朋的任何理由，两天内连发十三道命令敦促山县有朋迅速撤军，但他不听。于是宫炽仁亲王下第十四次命令时，逶迤天皇名义直接罢免了他的司令职务，对外称让山县有朋回国养病。
很快，山县有朋迫于压力只好奉召回国养病。但是将在外军令有所不受，临走前他却是下令第一军进攻海城。
11月25日，日军第一军第三师团开始进攻海城。守备海城的清军共计二十四营，分属于盛京将军麾下练军，但缺编严重，不足四千人。而且，精锐都被盛京将军依克唐阿调往摩天岭一线了，剩下的这批练军战斗力有限，且多为平壤一路败回来的淮军和湘军旧部。此时李鸿章被剥夺了陆军指挥权利，因此他们很是不配合。
双方激战不到一天两夜，淮军恪字营主将李恪故意损坏炮台火炮，然后称炮台已毁再无坚守价值，率先逃跑。
连锁效应下，海城外围防线全线溃败，次日凌晨日军攻克海城，清军退守辽阳。
海城失陷后，日军北窥辽阳、奉天，西窥牛庄、营口，锦州、宁远诸城危殆，大局攸关。清政府大惊连降谕旨，命令宋庆率军迎战。
11月30日，宋庆率部向海城北面的甘泉镇集结，意图堵截日军北上进攻辽阳进而进攻奉天的企图。同时，聂士成所部出古城子，阻止日军西进营口企图，并试图跟宋庆两面合击海城日军。
12月1日，盛京将军依克唐阿联合吉林将军长顺率领盛吉八旗兵、绿营兵42营共计三万余主力南下，拼了命也得保住奉天。
清军意图在海城同日本第一军展开决战，但清军移动速度太慢，日本第一军不会傻得等到清军集合完毕再决战，因此先发制人。
12月2日，清日双方爆发了陆战以来最大规模的辽阳、海城大战，史称辽海会战。双方投入总兵力五万余人，激战17天后，清军宋庆和聂士成两部因援军来到太迟而最先被日军击溃，依克唐阿和长顺主力赶到后试图稳住辽阳战局，但是未能判断清楚日军主攻方向，贻误战机。
22日，日军从弓长岭一带突袭清军侧翼成功，致使清军在辽阳南部防线失守，并于23日夜丢了辽阳。
清军各部败军尽数退守奉天，日本大本营没有想到哀兵必胜，第一军竟然能够取得如此大战果，于是默许了第一军行动。因为这样可以给在北京谈判的小村寿太郎撑腰，尽量挽回日本帝国损失。
清廷震惊，慈禧下懿旨要求立即和谈不能丢了奉天。光绪为首的主战派此时摇摆不定，迫于后党压力于是答应谈判。