俞敏洪认为，大事业往往要从小事情一步步做起来。没有做小事打下牢固的基础，大事业是难以一步登天的。
会做事的人，必须具备以下三个特点：一是愿意从小事做起，知道做小事是成大事的必经之路；二是胸中要有目标，知道把所做的小事积累起来最终的结果是什么；三是要有一种精神，能够为了将来的目标自始至终把小事做好。
俞敏洪的朋友万通房地产董事长冯仑曾经说过：“我拿着一杯水，马上就喝了，这叫喝水；如果我举10个小时，叫行为艺术，性质就变了；如果有人举上100个小时，死在这儿，这个动作还保持着，实际上就可以做成一个雕塑；然后如果再放50年，拉根绳就可以卖票，就成文物了。”冯仑这一观点得到了俞敏洪的认同。
西方神话中有一个西西弗斯的故事：西西弗斯被宙斯惩罚，他要把一块大石头推到山顶，而每当石头被推到山顶的时候，石头又会滚到山脚去，这样他又不得不重新把石头推到山顶去……推石头其实也有很多不同的推法，当他把一块石头推到永恒的时候，大家就都知道了他，他成为永恒的故事。如果西西弗斯把推石头当成一种惩罚，那么他会很难受，每天带着怨气，就像很多人工作时带着怨气一样，这样做工作是做不好的。而如果他一边推石头，一边欣赏路边的风景，感受春夏秋冬不同的景象，那么当他在山顶上看到蓝天更高更美的时候，生命就得到了升华。
当你发现一件事情，你能把它从小事做大，并且能够逐渐地做成你自己的事业的时候，你坚持做下去，你就会由只是一个动作，变成了一尊雕塑，最后人们就会欣赏你，就会赞扬你，就会肯定你，就会承认你。
俞敏洪谈及他做新东方的心得时，这样说道：任何一个伟大的东西，你分到日常的每一天去做，都是很小的事情，甚至是很无聊的事情，对吧？但是你得认识到，日复一日地，你跟政府领导吃饭；日复一日地，你背着书包去上课；日复一日地，你处理新东方内部员工琐碎的事情……这些东西是需要你有强大的现实主义精神才能做成的。
随着新东方的发展，俞敏洪每年仍坚持在全国各地做二三百场演讲，几乎平均每天一场，一如新东方创办之初那样。艺术家千百次地重复着一个个唱段，俞敏洪则重复着单词、句子和一次次地授课演讲。
人这一辈子其实做不了太多的事情，什么事情都想做等于什么事情都做不成。如果我们能把一件小事做到让自己满意，就已经很了不起了，能做到尽善尽美，就更了不起。
中国有句话说：三百六十行，行行出状元。俞敏洪说，他在扬州认识一个修脚匠，你也许会认为，修脚能做成什么事情？但是，行行出状元，他修脚修成了人大代表，香港最著名的企业家用飞机把他接去香港修脚。