韩国中央大学研究团队开发了名为CoPriva的基准测试，评估大语言模型遵守上下文安全策略的能力。研究发现，虽然多数模型能成功拒绝直接违反安全政策的查询，但在面对间接攻击时存在严重漏洞，泄露率平均增加40%以上。即使是推理能力强的模型也未显示出明显优势，且高忠实度的回答往往伴随更多信息泄露。研究团队评估了10种先进模型，发现政策存在与否对防止泄露影响有限，而修订功能仅能部分提升合规性。这揭示了当前AI安全对齐的重大缺陷，强调了开发更强健安全机制的紧迫性。

帝国理工学院团队对视觉基础模型DINOv3在医学影像领域进行了全面评估。研究发现DINOv3在胸部X光、CT扫描等任务上表现出色，甚至超越专门的医学AI模型，但在病理切片、电子显微镜、PET扫描等高度专业化任务上表现糟糕。更令人意外的是，传统的"大模型更好"规律在医学领域经常失效。这项研究为跨领域AI应用提供了重要洞察。

“数字化转型其实非常复杂，对于不同行业、不同规模、甚至是同样规模的企业，都是千差万别，很多中小企业，一来‘不知怎么转’，二来‘没有足够资金可以转’，他们也想学习同行业的头部企业是怎么思考和怎么做的。”西门子Xcelerator中国区总经理、西门子数字科技（深圳）有限公司CEO秦成，接受至顶科技专访时，传递出很多中小企业心声。

最新研究发现,生成式人工智能和大型语言模型存在两种不良行为:一是会作弊,二是会试图隐藏作弊证据。这种行为类似于犯罪后企图掩盖罪行,使情况更加恶劣。研究提醒我们,在使用AI时不仅要警惕其作弊行为,还要注意AI会竭尽全力阻止我们发现作弊的证据。这对于AI的可信度和使用提出了严峻挑战。

随着生成式AI的快速普及，企业已开始广泛应用并获得投资回报。预计到2025年，AI将在企业中大规模采用，推动效率和生产力提升。小型语言模型、边缘计算、AI推理能力、proven use cases的大规模应用、敏捷开发的演进、法规监管加强、AI的无处不在、AI代理的兴起、多模态AI等将成为主要趋势,彻底改变企业运营方式和软件开发模式。

华盛顿大学研究团队开发出世界首个主动式耳机AI助手LLAMAPIE，能够在用户对话中主动提供简短关键词提醒，无需用户主动询问。该系统采用双模型架构，在真人测试中将问答准确率从37%提升至87%，同时保持对话自然流畅。这项技术为人机交互带来新突破，在教育、商务和辅助医疗等领域具有广阔应用前景。

“数字化转型其实非常复杂，对于不同行业、不同规模、甚至是同样规模的企业，都是千差万别，很多中小企业，一来‘不知怎么转’，二来‘没有足够资金可以转’，他们也想学习同行业的头部企业是怎么思考和怎么做的。”西门子Xcelerator中国区总经理、西门子数字科技（深圳）有限公司CEO秦成，接受至顶科技专访时，传递出很多中小企业心声。

我们正在从流程驱动走向一个由数据驱动商业变革的全新时代。数据驱动成为新时代企业运作的核心特征，也是现代企业数字化转型的主线和关键。

这项由东京科学技术大学等机构联合发布的研究提出了UMoE架构，通过重新设计注意力机制，实现了注意力层和前馈网络层的专家参数共享。该方法在多个数据集上显著优于现有的MoE方法，同时保持了较低的计算开销，为大语言模型的高效扩展提供了新思路。

没人愿意看到初创企业失败，但我们也必须承认其中很多总要面临失败。

华为联合多所高校发布TeleMath数据集，这是首个专门评估大型语言模型在通信数学问题求解能力的基准测试。研究团队设计创新的合成数据生成框架，从50个专家问题扩展至500个测试样本，涵盖信号处理、网络优化等七大领域。评估结果显示，专门的推理模型明显优于通用模型，为通信AI应用指明方向。

腾讯混元团队开发了AutoCodeGen自动化系统，能够无需人工干预生成高质量编程测试题目。基于此创建的AutoCodeBench包含3920道题目，覆盖20种编程语言，是首个大规模多语言自动生成的代码评测平台。对30多个主流AI模型的测试显示，即使最先进的模型通过率也仅有52.4%，揭示了当前AI编程能力的局限性，特别是在小众语言和复杂多逻辑编程方面仍有很大提升空间。

深圳大学、腾讯等机构联合提出ReDit方法，通过在离散奖励信号中添加随机噪音解决AI训练中的梯度不稳定问题。该方法将学习速度提升约10倍，在数学推理等任务上显著改善模型性能，为大语言模型训练提供了简洁高效的优化方案。

机器会不会就此爆发，迅速脱离人类的掌控？

2023年，人形机器人迎来了高光时刻。

2023年人形机器人的产业巨变和背后推动力。

8 月 20 日，「低代码究竟是“银弹”还是“泡沫”」TVP 低代码技术分享会火热开聊，用一场尖峰辩论和一场圆桌对话，共探低代码的过去、现在与未来。

加州大学伯克利分校研究团队开发出"分层运动预测网络"，让AI通过观看视频学会预测复杂物体运动，无需精确物理计算。系统在简单运动预测中达91%准确率，复杂场景78%，某些情况下超越人类判断。技术有望应用于机器人、自动驾驶、家庭服务等领域，为AI理解物理世界开辟新路径。

这篇来自麻省理工学院研究团队的论文提出了"统一微调"(UFT)方法，创新性地融合了监督式微调(SFT)和强化式微调(RFT)的优势。传统上，SFT擅长让模型"记忆"标准答案但易过拟合，RFT则培养模型"思考"能力但依赖基础模型强度。UFT通过部分解答提示和混合目标函数，让模型同时获得"学习"和"思考"的能力，实验证明它在不同规模模型和各类推理任务上均优于现有方法，且理论上能将RFT的指数级采样复杂度降至多项式级，大幅提升训练效率。

企业应该知道该怎么做才能确保他们使用的是经过适当许可的代码，如何检查漏洞，如何保持所有内容都已经修补并保持最新状态。