以后，继父对高尔基更加仇视了。不堪忍受侮辱的小高尔基倔犟地夹起行李卷，告别了母亲，又来到破了产的外祖父家里。
外祖父由于贫穷变得更加冷酷和吝啬，他不给外祖母一分钱。早熟的高尔基觉得自己应当给外祖母多少有点帮助。于是，每天上学前，他便跑到各处去拾破布、废纸、碎铁、骨头等，卖出的钱都交给外祖母。他常常看到可怜的外祖母用手抚弄着他挣来的铜板暗自垂泪。尽管拾破烂遭到学校一些师生的冷嘲热讽，但是小高尔基发愤读书，学习成绩优异，受到了学校的奖励。但最后终因贫困而辍学了。
此时，继父因赌钱、酗酒欠债累累而逃跑，高尔基将病危的母亲接到外祖父家。到了秋天，母亲便去世了。
在高尔基不幸的童年生活中，也有幸得到了良好的智力开发和艺术熏陶。慈祥、幽默、智慧的外祖母的爱，犹如黑暗中一颗灿烂的星体，辉映着高尔基的童年。她常常绘声绘色地给求知欲极强的小外孙讲述有趣的民间故事，高尔基总是听得入迷。这使他和民间创作那美妙的诗意和深刻的思想结下了不解之缘，并极大地丰富了他的精神世界。正像高尔基后来回忆时所说：“为迎接以后艰难困苦的生活积蓄了坚定的力量。”
母亲死后，外祖父把高尔基送进一家鞋店当“学徒”。这个不足10岁的孩子，实际上成了老板家的奴仆。熬过了一个冬天，慈祥的外祖母又把他接了回去。整个夏天，他常常陪外祖母去山林里采集草药和蘑菇。他在大自然的怀抱里，感到无比自由和欢乐。