十四岁那年，王莘只身来到上海一家百货公司当练习生，业余时间去量才学校学习。这是上海进步报人、《申报》的创始人史量才开办的文化补习学校。在这里，王莘遇到了民盟早期领导人李公朴。他从李先生身上学到了中国人的骨气，树立了自己的道德风范和刚直不阿的人生价值观。

二十世纪三十年代，上海兴起了抗日歌咏活动，王莘也投身其中，成为合唱团的指挥。一次，南京路上出现了三万多人组成的“抵制日货”大游行，合唱团也参加了，且走在游行队伍的最前面。大家手挽着手，肩并着肩，对面就是阻止游行的军警。路上全是路障，游行队伍和军警僵持，王莘爬上梯子，指挥大家高唱起冼星海的《救国军歌》：“枪口对外，齐步前进……”随着合唱团的歌声，整个游行队伍都跟着唱了起来。三万多人声音似雷声轰鸣，动人心魄！那些军警躲开了，路障也被拉开，游行队伍似潮水般向前涌去！王莘站在梯子上被这情景惊呆了，音乐的力量竟如此强大，一支歌竟能退敌！那一刻，他下定决心，也要做一个像冼星海那样的音乐人！因为教唱抗日救亡歌曲，他被反动当局抓了起来并投入监狱，在组织的营救下出狱。出狱后，他决定奔向延安，走向革命道路。

在延安，他报考了鲁艺音乐系，成了冼星海的学生。师生朝夕相处，建立了深厚的情谊。他除了认真听课学习音乐知识外，还抽空帮老师搜集民歌、抄写曲谱，在老师的《黃河大合唱中》，就有一段用他搜集来的民歌素材写成的《河边对口唱》，他还参加了领唱，那段流传至今的“张老三，我问你，你的家乡在哪里”便是他的首唱。