扁平化的组织结构不同于传统的组织结构。
当企业或组织的数量确定后，由于有效管理范围的限制，需要增加管理层次，而管理层次与管理范围成反比。在传统的管理模式下，当组织规模扩大，管理范围有其极限时，管理水平就会逐渐提高。那些大型跨国公司的员工数量可以达到几十万，管理层次就更多了。
传统的管理理论大多是围绕层级结构的组织特征提出的，例如被誉为“管理理论之父”的法约尔提出的“管理十四原则”。按照法约尔的理论，上级不能越级指挥，下级不能越级请示汇报。这在传统理论中被视为经典。然而，层级结构的组织形式和相应的经典管理理论遇到了前所未有的挑战。按照法约尔的理论，IBM高层决策者的指令，最终会通过18管理层传递给最基层的执行者，这样不仅会浪费时间，还会使信息失真和扭曲更加不可避免。
在相对稳定的市场环境中，层级组织形式是一种高效的组织形式。但这种组织形式越来越不能适应市场的发展变化，表现为:一是企业组织规模越来越大，产生了大量被称为“恐龙”的超级跨国公司，已经有太多的管理层级使其无法有效运作；第二，外部环境瞬息万变。美国英特尔公司董事长格罗夫用一句经典的话总结了这种变化:“在现代社会，唯一不变的就是变化。”格罗夫为此提出了“十倍变速”理论。外部环境的快速变化要求企业反应迅速，适应能力强，但很多管理层级的层级结构所缺乏的恰恰是一种快速反应能力和对变化的适应能力。
那么如何才能解决现代环境下层级组织的难题呢？发现展平是最有效的方法。当企业规模扩大时，原来的有效途径是增加管理层次，而有效途径是增加管理范围。当管理层级降低、管理范围增大时，金字塔形的组织形态被“压缩”成扁平化的组织形态。
分权管理的趋势和外部环境的影响使得扁平化的组织结构风靡全球。但有些企业在组织架构扁平化的过程中，忽略了本质的东西，那就是人和企业文化的重构。
自从韦尔奇成功重建通用电气以来，扁平化的组织结构逐渐成为一种管理时尚，并被中国许多企业所接受和实践。但是和很多时髦的管理理念(如精益生产、六适马)一样，组织架构扁平化的结果是几家欢喜几家愁。部分企业业绩没有增长，反而出现了明显的下滑趋势。是扁平化本身的问题还是别的地方的问题？
与传统的组织结构相比，扁平化的组织结构具有灵活性和民主性的优点，可以减少官僚主义，加强内部沟通，调动员工的创造力，更快地应对包括消费者需求在内的环境变化。1981韦尔奇出任通用电气公司首席执行官后，通用电气公司的管理结构进行了大刀阔斧的改革。从1981到1992，公司裁员350多个部门，管理层级从12锐减到5层，副总裁从130减少到13。通过这次改革，通用电气的官僚机构大大减少，灵活性显著提高。
但是，为什么扁平化在通用电气公司成为灵丹妙药，而在其他企业效果却很低？原因有很多。但最重要的一点是，模仿者忽略了本质的东西，那就是人和企业文化的重构。
韦尔奇写道，杰出的人才造就伟大的公司。在韦尔奇时代，人才培养在通用电气公司受到了前所未有的重视。在担任首席执行官期间，韦尔奇花了大量时间与人力资源部门一起“创造人”。由此，通用电气公司成为西点军校的管理者，涌现出一大批优秀的管理人才。试想，如果通用电气公司缺乏坚实的人才基础，无论是六适马还是扁平化，都不会做出什么成绩。
组织扁平化后，企业的管理层级降低，随之而来的是管理范围增大，管理难度增加。在这种情况下，成功主要取决于以下三个因素。
首先是决策权的下放。企业必须重新分配决策权，也就是重新划分权力边界。企业管理者要回答一个问题:应该保留哪个决策权，下放哪个权力，下放哪一级。如果这个问题得不到解决，可能会造成某些层的管理者甚至高层管理者的权限过于集中，甚至导致混乱。
二是中下层管理者的管理能力。权力向下转移后，中下层管理者不仅会遇到更多的决策问题，需要他们指导和监督的员工数量也可能会增加。这时，如果这些中层管理者的管理能力没有得到相应的提高，就可能出现强控或失控的倾向，最终导致企业失序。
第三是从业人员素质。实行扁平化组织结构后，企业会更加依赖员工的自觉性和主动性，部分企业会赋予普通员工具体的决策权。一方面可以减轻中下层管理者的压力，另一方面也有利于发挥员工的积极性和创造性。
企业希望通过组织的扁平化来解决信息传递缓慢甚至失真的问题，从而提高企业对外部环境变化的敏感度。然而，令人失望的是，信息传递渠道的通畅与组织结构的扁平化没有直接关系。扁平化不一定意味着提高信息传递效率。换句话说，最高管理者将无法对他所控制的企业有更透彻的了解，因为企业实行了扁平化的组织结构。
事实上，信息传递的效率不仅取决于渠道节点的数量，还取决于内部沟通的有效性，因为很多人在传递所掌握的信息时是有选择性和目的性的，除了某些信息可以通过某些渠道传递之外。换句话说，他可以在规章制度允许的条件下决定是否以及如何传递他所掌握的信息。
一家三口可以说是最典型的扁平化组织，但夫妻之间、父母子女之间的信息传递并不总是顺畅的。对于能够有效沟通的家庭，信息的传递会相对更快，更真实。
不仅家庭如此，企业也是如此。一般来说，企业里每个人都要考虑自己的利益。如果他们觉得自己提供的信息会给自己带来麻烦，毫无疑问大部分人都会选择守口如瓶——只要他们觉得这种沉默不违反企业的相关规定。比如比尔·盖茨在他的《未来速度》一书中写道:“有时候我觉得作为一个CEO，我最重要的职责就是听坏消息。如果你不采取适当的行动，你的下属最终会停止给你坏消息。这将是结束的开始。”不仅员工会有意无意地报喜，一些咨询公司的咨询师也会报忧。《关于欺骗的建议》一书的作者埃里克·德·哈恩(Eric de Hahn)教授指出，咨询师通常更有可能提供一些令人愉悦的建议，而不是具有挑战性的建议。
“三个臭皮匠，顶个诸葛亮”的前提是这三个臭皮匠能有效沟通协作，而扁平化的组织并不能保证各个臭皮匠之间的沟通协作完全顺畅。在一些实行横向组织的企业中，层级的减少导致晋升机会的减少，加剧了员工与各级管理者之间的竞争，从而增加了协调与合作的难度。这个时候，沟通就更重要了。
由此可知，企业内部沟通的顺畅与否，直接关系到扁平化改造的结果。不仅如此，一些管理学者还提出，沟通效率的高低也决定了企业能否取得持续的成功。咨询公司的研究表明，企业持续的卓越绩效与内部沟通的好坏有关。该公司认为，一个企业要想取得持续的成功，就必须在企业内部形成一种公开讨论的氛围，哪怕是对当今的领导者来说最困难甚至是最尴尬的问题。
此外，强大和健康的企业文化也是必不可少的。这并不是说扁平化的企业排斥文化建设，而是我们不要幻想扁平化可以代替企业对文化的培育。《经济学人》杂志曾指出，在21世纪，曾经的“公司人”已经演变为“网络人”。“网络人”的一个特点就是高流动性。我们以戴尔为例。今天，戴尔大约50%的员工在公司工作不到5年，40%的员工是“移动的”，即他们不再需要每天在戴尔办公室签到。“网络人”的另一个特点是人与人之间的联系模糊复杂。这不仅带来沟通问题，也意味着企业削弱了员工的向心力。
早在几千年前，孟子就提出了“天时不如地利，地利不如人和”的观点，至今仍大放异彩。孙子也指出:“道使民合于上，故能与之死，与之生，不畏艰险。”企业不能指望员工与他们同生共死，而是缺乏强大的、有活力的文化。即使是扁平化的组织也可能是僵化的，不可持续的。