罗振玉在1896年31岁去上海办《农学报》以前，一直生活在故乡淮安。16岁时父亲外出避债，罗振玉始协助母亲管家，这段艰难的日子对他的才干是一个很好的锻炼。17岁读《皇清经解》，奠定了他治学的基础。19岁开始著述，25岁始为童子师。家庭经济略有好转，授徒之余专心研究学问，经史以外，渐及文字及目录、校勘、姓氏之学，每年必成书数种，虽都是补订、辑佚，不出清人考据之学的路数，却为后来种种开风气之先的学术贡献，奠下了深厚的根基。
2.1 启蒙读书
罗振玉在同母兄弟五人中，排行第三，上还有长姊。他生而体弱，三岁始免乳，四岁始从长姊学字，次年入家塾前已识字千余。塾师山阳李泯江（导源）是一位老拔贡，也是他父亲的业师。
罗振玉自幼多病，从七岁起，更常发项间腺肿，甚至水浆不得下咽，所以虽然五岁开始读《诗经》，六岁开始读四子书，但到十三岁才读毕《诗经》、《易经》和《尚书》，十五岁始读《礼记》、《春秋》。其间还读了唐宋诗词，并学作诗文短论。十五岁，在读书的同时开始自学篆刻，没有老师，用百枚制钱从旧货商手中买下一方汉铜私印，反复摹刻，已显露出对古文物的兴趣。
虽然由于罗振玉多病，塾师授读进度较慢，但当时祖母家教很严，非病卧床褥，就得入塾随诸兄读书，所以他对诸兄的功课倒往往能默记、理解，而且能勤于思考、提出疑问。如塾师讲《诗经·小雅·四月》“四月维夏，六月徂暑。先祖匪人，胡宁忍予？”的第二句，说诗句反映古人的质朴，如果现在直斥先祖不是人，是不可以的。他提出质疑，以为和《鄘风·柏舟》的“母也天只，不谅人只”相近，是说先祖也是人，人莫慈于祖父，怎么会忍见子孙苦厄呢？老师大惊，认为这个七岁孩子的理解，确实比自己照字面的解释更为贴切。还有一次塾师解释“具曰予圣，谁知乌之雌雄？”说人都认为自己圣明，而实际究竟如何，就像乌之雌雄一样难辨。他问为什么单举乌鸦作比喻。老师反问他的看法，他说：鸟兽雌雄往往可以从毛色得知，如鸡凫，雄性较为鲜艳；乌鸦雌雄毛色无异，遽然不能下断语，就像人之圣明与否不能一见而判定一样。老师很赏识他的回答。八岁，端午节随塾师与叔父入市，由于祖母轻易不让出门，第一次看见工人锻铁，不知做什么用，老师告诉了他。叔父接着出“铁打铁”三个字命他应对，他答道“柯伐柯”；叔父怀疑不是他自己想出的，命再对，他答“人治人”。由于聪颖过人，他的见解每每使长辈惊异。祖母分外看重他，父亲更对他抱以很大的期望，希望他能通过科举走上仕途。老师说他的前途必然远大，只是体质太弱，督课不能太严，所以把课程进度放慢，让他多自学。这种自学习惯的养成，对他一生治学也是不无益处的。
2.2 应童子试
光绪七年（1881年），罗振玉十六岁，开始学作八股文。三月，长兄、次兄返上虞县应童子试，这时他的八股文仅能成半篇，也随着去观场。到了杭州喉病大发，近两旬水浆不进，恰值孝贞皇后丧，试期延至五月，才得以参加。榜发，入县学第七名，长兄为第二十四名。
这次县考本意是观场，并未想到科名，不意学使太和张霁亭（沄卿）很赏识他的经诂卷，欲置第一，又怀疑不似童子手笔，拆弥封见年仅十六，愈加怀疑，正场提堂面试，取经诂卷命当面讲解，才解除怀疑。学使勉励说：“予历试诸郡，未见才秀如子者，然子年尚幼，归家多读书，以期远到，不必亟科名。”次年与兄同赴乡试不中。光绪十四年（1888年），遵父命从山阳杜宾谷（秉寅）学作八股文，由于一篇得意之作，文字之佳深得老师赞许，却不合八股文规范，从而对科举丧失信心。这一年勉强应试，又不中。此后，再不曾下场了。十年后，光绪二十四年（1898年）戊戌变法，湖南巡抚义宁陈右铭（宝箴）积极招揽人才推行新政，曾举荐罗振玉应经济特科，但不久变法失败，经济特科事中止。光绪二十八年（1902年）经济特科复开，鄂督张之洞、邮传部尚书长沙张文达、法部侍郎归安沈子敦（家本）、漕运总督贵阳陈筱石（夔龙）均保送他为经济特科人员，沈子培写信告诉他“沈侍郎保特科七人，以大名冠首”，“侍郎慕向之意，在今时亦难得也”。但是第二年年初，由于为母亲守丧，终未去应试。
十六岁，童子试的顺利通过，并没有打开他通向仕途之门，但那年杭州之行却大大开阔了他的眼界，远比考中第七名秀才更为重大的收获是为日后的学术活动奠定了第一块基石。
在杭州，他与仁和王同伯（同）参观了郡庠，看到宋高宗写的《孝经》刻石，堂壁上还刻着清代经学和金石学家阮元摹勒的《石鼓文》。这些都深深吸引了他，他还手拓了一份《石鼓文》。游西湖，看到山上更多的唐宋题刻，摩挲流连不忍离去，访求墨本却不可得。第二年，他开始赁碑校读，也许这一想法正萌发于西湖诸山间。杭州之行还使他得识前辈学者，在郡醉经堂书肆，得遇乌程汪谢城（曰桢），这是一位饱学知名的老者，能诗而且精通历算，当时为会稽教谕。两人在书肆谈了几句就很投契，老者对少年罗振玉大加勉励推重，还把自己辑刻的《荔墙丛刻》送给了他。在旅舍，又遇当时以收藏古砖而著名的桐城吴康甫（延康），求其著作，被告知还没整理成书，但获赠了四幅古琴拓本。
在杭州北归的路上，父亲的挚友萧山单棣华（恩溥）与他们同行。一日，谈到读杜甫、陆游诗，被问到最喜欢的是哪些诗句。罗振玉答杜甫的“致君尧舜上，再使风俗淳”，陆游的“外物不移方是学”和“百家屏尽独穷经”。单棣华赞扬说：“此子异日未可以儒生限之。”他乘机请将陆诗写作楹帖。这诗句几乎成了罗氏的座右铭，很多年以后，曾写成篆书联，送给他的弟子柯昌泗，遗墨今发表于台湾版《罗雪堂先生全集》第一编，题给“燕聆仁弟”。
2.3 承乏家事
1917年，罗振玉在《处理淮安家务谕福成》中谈到，自己自十六岁承乏佐母理家，备尝艰苦的往事。纵观其一生，后来学术成就的取得，与这一段生活经历是有密切关系的。罗氏在《集蓼编》和《上虞罗氏枝分谱》中都记述童年时代是生活在春风化雨中，祖母主家政，“御下及训子孙以礼，未尝有急言遽色，而上下莫不严惮”，祖母不允许家中有争诟非礼事，也不让家人随意外出，尽力创造一个与外界隔离的、和煦宁静的环境。但随着子孙的长大，人口日多，薄产日难维持生活。他的父亲于光绪初年与同乡集资在清河县经营典当之业，由于委托的经办人不善经营，两年亏损两万金。这时叔父适选浙江遂昌教谕，于是析产赴任。典当闭歇，债务日重。光绪七年（1881年），即在县试结束返淮安后，他的父亲接到署江宁县丞通知，前往就职避债，命罗振玉协助母亲主家政。从此岁，他承担起接待债家、奔走衣食的责任，生活在春风化雨中的童年成了遥远的记忆。
父亲就职前将债单交给他，还让他与司田租者接洽。这时的田产，只能偿还债务的一半，而母亲则因为田产是祖母辛苦手置，无论如何不肯出售。但每年的田租收入还不够欠债利息的一半，以至债主日日来催，有的携家坐索，累月不去。这一切不能不使这平日足不逾书塾的少年常常“汗出如浆”。
不仅如此，当父亲避债外出时，子女们已渐次长大成人，到了婚嫁年龄。先是长兄、次兄均幼聘清河王氏女。光绪八年（1882年），即罗振玉协助母亲主家政的第二年，媒人来催娶，不能不答应。冬天，典当筹款办定喜事，生活费都用尽了。除夕之晨，母亲来告诉他，岁暮祭祖还无从筹办，罗振玉急出奔走借贷，傍晚，借得四千钱（制钱四吊），才算过了年。次年，长姊出嫁。以后，嫁娶之事，一两年就有一次，使家庭经济愈呈拮据。而且每当有婚嫁，债家索债更急，在他迎亲的那天，债主中有一芮姓老妪，竟当门诅咒。母亲以礼请入，待为宾客，诅咒方止。
除了婚嫁还有丧葬。光绪十二年（1886年），二十四岁的长兄病殁，由于经济窘迫，难以入殓，罗振玉的妻子范氏拿出陪嫁的金饰，易六万钱，才算办了丧事。家人赞叹范氏明大义，却引起富家出身的长嫂王氏不满，认为是“市恩沽誉”，大家庭中的矛盾日益暴露。光绪十六年（1890年），祖母方氏卒；光绪十八年（1892年），妻子范氏也因为产后蓐劳而卒。一连串的不幸不仅使经济生活雪上加霜，而且大家庭的裂痕、亲属的去世，尤其是贤俪由于疑谤横生、多愁屡病而亡，给他心灵带来深深的伤痛。他在《悼亡》（六首）诗中写道：
填膺幽懑向谁伸，往事寻思总怆神。从此蘧风庐雨夜，牛衣对泣更何人。
卿从黄壤归真去，我亦长征拟远游。最是双珠难位置，彷徨终夜与谁谋。
表达了“腹悲何日已，凄绝只心知”（《内子亡后百日赋》）的心情。
正由于这一切，罗氏在《集蓼编》回忆说：自佐母主家政“毕生忧患自此始矣”。然而，在一定意义上可以说，忧患、艰辛也是一种历练，它能锤炼坚韧的品质，培养才干，开启智能。例如在淮安时，罗氏为补助家用曾为人刻印，订有“陆庵仿秦汉篆刻润例”[1]其后人继之，渐成一派。罗氏在《答人问刻印书》[2]中主张“刻印以摹古印为第一，犹唐人学书从油素双勾及响拓殆正相同，但汉人印多铸成，凿者惟私印及官印之急就者耳，故学朱文印以秦玺为佳”。他对诸家印谱加以评论，首推吴氏《双虞壶斋印谱》代表了古文字学者兼篆刻家的一派。又如罗氏于1896年“出门谋食，一肩行李，他无长物”。[3]开始是与蒋伯斧创建农报馆和东文学社，后来举私债“一身兼报、社两事，财力之穷，一如予之理家，同辈赞予果毅，且为予危，其实此境予所惯经也”。以后，经济情况好转，却有搜集古物的癖好，每每节衣缩食购置古器物和书画、碑帖，遇到印书、抢救大库史料等大宗急用，往往要举债或出卖藏品。罗氏一生不仅著作等身，而且辑印了大量古籍，正如王国维所说：“国家与群力所不能为者，竟以一人之力成之。”有人猜测这是因为他有莫大的财力，而当时朝夕共处的知情人王国维却写道：在“流寓海外，鬻长物以自给”之时，“旅食八年，印书之费以钜万计。家无旬月之蓄，而先生安之。自编次、校写、选工、监役，下至装潢之款式、纸墨之料量，诸零杂烦辱之事，为古学人所不屑为者，而先生亲为之。”这道出了罗氏学术成就取得的重要原因，而其形成则植根于艰辛的少年时代。