Meta旗下第三代大模型Llama 3亮相，参数规模超4000亿，训练token超15万亿，被誉为“地表最强开源模型”。大模型的能力在创造力、战略思维和处理复杂任务方面将显著提升，进入一个由硬件和软件共同推动的新时代。
然而，摩根士丹利指出，未来大模型的训练将需要前所未有的算力，这将导致开发成本显著增加，成为小公司难以逾越的障碍。除了高昂的资本支出，芯片电力供应和人工智能技术的壁垒也在增加，使得小公司难以与科技巨头竞争。
科技巨头如谷歌、Meta、亚马逊和微软凭借技术、资本和市场优势，有望在大模型领域占据领先地位。小公司虽然可能被边缘化，但小模型的发展将为它们带来新的机会。小模型的开发成本较低，未来可能在特定领域中实现显著好处，并推动通用人工智能技术的快速普及。
未来算力将实现指数级增长，英伟达被视为关键驱动力。软件架构的创新也将在大模型能力提升中发挥关键作用，特别是Tree of Thoughts架构，使大模型更类似于人类思考过程，突出AI的创造力和战略思维。
计算成本将快速降低，算力可能成为世界上最宝贵的商品。报告预测，将建造少数几台非常大的超级计算机，最有可能建在核电站附近，以支持超级计算机的能源需求。
在大模型新时代，小公司并非只能靠边站，通过发展小模型、寻找特定领域的机会，小公司也能在人工智能领域中找到自己的位置，实现生存与发展。