在与敌周旋的过程中，1947年5月，华东野战军抓住时机，断然将骄狂冒进的国民党军五大王牌之一的整编第74师包围在孟良崮，由于该师师长张灵甫自信能创下“吸引共军于我左右，竞聚歼敌于鲁南之全功”的奇迹，放弃炮兵和辎重部队，自带轻装部队集结于孟良崮主峰，试图把解放军拖在这里，等待国民党军从外围解救自己。此战中，日向胜亲自指挥5门41式山炮，参加了华东野战军第4纵队主力对敌占540高地进行猛攻。由于当地全系岩石结构，国民党军难以挖掘掩蔽工事，日向胜命令炮兵对准敌聚集地覆盖射击，“不用管目标区域有没有人”，结果密如飞蝗的炮弹即便打在石头上，横飞的跳弹也能毙伤大批敌兵。最终，孟良崮变成包括张灵甫在内的3.2万国民党军的坟墓，而张灵甫丢在孟良崮脚下的大批火炮变成华东野战军的战利品。
转战山东近一年后，1948年初，日向胜接到华东野战军军部命令，调他去战斗在扬州一带的29军，出任炮兵作战参谋。同年11月，29军参加了意义深远的淮海战役，主要负责在徐州和宿县之间拦截企图外逃的国民党军。29军在徐州至宿县的平原地带构筑了三条防线，与敌进行了长达两个多月的攻防战。日向胜记得最激烈的一次战斗中，29军的堑壕一直挖到距敌军阵地不到100米处，并与敌军展开搏斗。对29军来说，炮兵堪称“珍珠部队”，不到战局十万火急的时候是不能动用的，由于大炮不多，炮弹又少，连最基本的迫击炮弹也要等根据地军工厂送来，所以日向胜每每想动用火炮支援战友，总得仔细斟酌良久。由于部队所用的中大口径炮弹都是当年日军遗留的存货，为使有限的炮弹充分发挥作用，日向胜指挥炮兵寻找机会“打近战”，当时的要求是“想办法让炮弹钻进敌军碉堡的枪眼里去”，为此29军饱兵们尽量把大炮抵近敌军阵地。这就产生一个问题，如果夜间将大炮移至敌军阵地前沿，天一亮就会遭到敌军射击，于是日向胜和战友想出一个 “土办法”，预先在炮身上拴上绳子，敌人射击一开始，就将大饱拖到堑壕里。
战斗中，日向胜还意外得知一个消息，自己所用的日制炮弹有不少是共产党地下人员千方百计从国民党严加防守的上海弄来的，他在惊讶之余更对共产党的活动能力和巧妙方法十分钦佩，坚信国民党必败。果然，淮海战役以兵力并不占优的解放军大胜告终，’江淮沿线的国民党军被全部扫清。利用敌人遗留的不少美式榴弹炮，日向胜奉命对29军炮兵部队实施整顿恢复工作。经与部队领导协商，日向胜在军内选拔出具有文化水平的战士，集中培训美式火炮的使用人才，由于操炮原理都差不多，那些当初使用日式山炮的战士很快也学会了美国炮的用法。
强渡长江，有惊无险
1949 年4月，完成整训的29军编人第三野战军序列，当时三野为即将开始的渡江战役做准备，该军手里的一团三营炮兵成为其他部队羡慕的对象。战斗打响前，日向胜被任命为29军炮兵团第1营营长。这可是解放军军史上罕见的外籍营长，对于这份任命，他有些不安起来：“中国士兵到底听不听我这个日籍营长的话呢？”日向胜把想法告诉上级，部队干部说：“没问题，你教的学生有不少就在营里当干部，你难道连自己的部下也不相信吗？”日向胜终于明白自己的担心是不必要的。
日向胜就任营长后接受的第一个任务，是侦察渡江地点和进行渡江准备。他的部队计划从江苏泰兴、靖江、江阴一线渡江。为了使大部队顺利渡江，日向胜每天忙于调查情况和开会，并亲自驱车到渡口巡视。4月21日，渡江战役正式打响，百万解放军齐头并进，日向胜所部乘坐群众支援来的帆船，向长江南岸的江阴进发。众所周知，国民党军在江阴修筑有坚固炮台，而且炮台居高临下，易守难攻。日向胜有些不解，领导明知对面有要塞，为什么还要让部队在如此危险的地方强行登陆呢？夜幕中，解放军的帆船在江心位置遭到敌人的炮击，对面打来的炮弹令帆船晃来晃去，但日向胜发现情况不对，从炮台射出的炮弹方向和声音可以判断，敌人是在盲目射击。结果，日向胜部队安全地抵达对岸。
