与其说大野耐一是管理权威，还不如说他是第二次世界大战后日本制造业重新复苏的象征。他出生在中国东北部城市大连，在第一次世界大战和第二次世界大战之间加入日本丰田自动织布机厂。这是丰田家族的第一个企业，后来卖给英国普莱特兄弟公司。丰田家族决定将出售织布机厂的钱投资生产汽车。
第二次世界大战即将结束时，大野耐一开始转向做丰田汽车公司的生产工程师，当时丰田的生产率远远低于美国强大的底特律汽车工业的生产率。丰田的老板命令：“一定要在三年内赶上美国。”
大野耐一认为，丰田的生产率低于底特律生产率的原因无外乎是低效和浪费所致。因此，他开始在自己负责的生产工序部分消灭低效和浪费现象。这种做法成为他与其他人在20世纪40年代中叶至70年代中叶期间研发出的所谓大野耐一(英文缩略为TPS)的核心部分。该系统的几个要素已被西方人所熟悉，例如，muda(消灭浪费)，jidoka(引入质量管理)，kanban(所使用的标签，作为适时库存控制系统的一部分)。
但是，改革的道路并非一帆风顺。起初，当大野耐一开始说服公司大刀阔斧地改变生产工序时，经常遇到反对意见。他的故事大部分是有关日本人坚持不懈的毅力，以及他如何不停地再三询问公司有什么必要(花很多钱)大量库存生产线组件，最后适时库存方法终于诞生了。
大野耐一经常说，丰田生产系统非常像一个超市，他去美国参观汽车生产系统时第一次见到超市(并且印象深刻)。在丰田生产系统中，每个生产工序就像超市一样把货物摆出来供下一道工序选择，因此，生产是靠生产线下端的需求“拉动”，而不像以前的生产线系统，生产是靠生产线上端的生产率“推动”。
丰田生产系统的成功在某种程度上是因为丰田公司在日本的主厂区设在名古屋附近的丰田城，此地“聚集”着汽车工业的供应商和制造商，为它提供了得天独厚的条件，其主要供应商都在几英里之内，便于丰田选择所需零件，也能保证零部件随叫随到。如果零部件制造网络遥远，显然难以应用适时生产方法。
大野耐一的名声远扬，部分原因是译成英文的书籍和文章中经常讲他的故事。例如，在《战略家的思维》中，大野耐一作为日本人坚忍不拔精神的典型实例加以引用，该书由大前研一所著，影响颇深，是表达日本战略思想的早期作品。作者写道：“如果不接受第一个答案，像大野耐一那样坚持不懈地连续提问四五遍‘为什么’，人们一定会搞清楚问题的实质，即根本的瓶颈和问题所在。”