纽约大学和Aimpoint Digital Labs的研究团队首次揭示了Transformer模型训练中"大规模激活"的完整发展轨迹。这些影响力比普通激活大千倍的"超级激活"遵循可预测的数学规律,研究者开发出五参数公式能以98.4%准确率预测其变化。更重要的是,通过调整模型架构参数如注意力密度、宽深比等,可以在训练前就预测和控制这些关键激活的行为,为设计更高效、量化友好的AI模型提供了全新工具。
HP 宣布以 1.16 亿美元收购 Humane 公司的部分资产,包括其 AI 平台 Cosmos、技术人才和知识产权。这项收购将帮助 HP 加速向体验导向型公司转型,开发新一代 AI 设备。虽然不包括 Ai Pin 产品本身,但这笔交易标志着 Humane 公司核心技术的转手,也意味着 Ai Pin 设备即将停止服务。