卡达诺(Cardano)创始人查尔斯·霍斯金森近期将关注点延伸至人工智能硬件领域。他提出,苹果在降低大型AI模型本地部署成本方面具备显著潜力,可能对英伟达主导的云端算力生态构成挑战。
霍斯金森在社交媒体平台X上发文表示,他对苹果在本地大语言模型(LLM)领域的推进速度感到意外。其核心关注点集中在新一代Mac Studio所搭载的M5 Ultra芯片,以及通过Thunderbolt 5技术连接多台设备后实现的统一内存扩展能力。
“我对苹果在本地大语言模型方面的领先程度感到震惊,”霍斯金森写道,强调其架构设计为高性能、低延迟的本地推理提供了全新路径。
据霍斯金森估算,一台配备M5 Ultra芯片与512GB内存的Mac Studio,价格约为1.5万至2万美元。若通过Thunderbolt 5连接六台此类设备,总内存可突破3TB,同时整合强大的中央处理器与图形处理资源。
在此配置下,他预估仅需约10万美元即可在本地运行参数量超过两万亿的前沿AI模型。而实现相同性能的英伟达系统,成本可能高达50万美元。若该估算成立,两者之间的成本差距可达80%。
需要说明的是,上述数据为霍斯金森基于假设场景的个人推演,并未经过独立验证或标准基准测试。实际运行万亿级模型不仅依赖内存总量,还受模型精度、数据传输带宽、节点间互连效率、推理框架优化及任务调度策略等多重因素制约。
尽管如此,其观点揭示了关键趋势:若高端本地AI计算成本持续下降,将推动开发者和企业摆脱对集中式云服务的过度依赖。对于长期关注去中心化计算生态的霍斯金森而言,苹果的硬件路径或许正悄然改变本地智能计算的经济模型,为未来分布式AI应用提供新可能。