红队测试（Red Teaming）是一种源自网络安全领域的技术，近年来逐渐被应用于人工智能（AI）系统的评估与测试。其主要目的是通过模拟恶意攻击者的行为，来发现AI系统中的潜在漏洞和弱点，从而增强系统的安全性和稳健性。 一、什么是红队测试？ 红队测试是指在某种防御机制或系统下，模 Read more
近期，Google DeepMind的联合创始人兼CEO Demis Hassabis与主持人Hannah Fry之间进行了一次播客对话访谈。讨论涵盖了AI（人工智能）领域的多个关键话题，尤其是Google DeepMind的进展和愿景。 鉴于模型中出现的如概念理解和抽象思维等意 Read more
论文《Medical Graph RAG: Towards Safe Medical Large Language Model via Graph Retrieval-Augmented Generation》详细描述了一种旨在提高医疗领域大型语言模型（LLM）安全性和可靠性的创 Read more
论文《Text2SQL is Not Enough: Unifying AI and Databases with TAG》详细探讨了自然语言查询处理与数据库之间的交互问题，提出了一种新的范式——表格增强生成（Table-Augmented Generation，TAG），旨在整 Read more
论文HybridRAG: Integrating Knowledge Graphs and Vector Retrieval Augmented Generation for Efficient Information Extraction（《HybridRAG：集成知识图谱和向 Read more
近日，OpenAI CEO Sam Altman在X上宣布了与美国人工智能安全研究所 (US AI Safety Institute, AISI) 的合作： we are happy to have reached an agreement with the US AI Safe Read more
论文Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters探讨如何通过在推理阶段增加计算资源来提升大规模语言模型（LLM）的性能。其核心观点是，与简单地 Read more
美国人工智能安全研究所 (US AI Safety Institute, AISI) 隶属于美国国家标准与技术研究院 (NIST)，致力于推动人工智能安全科学的研究、实践和应用。AISI 关注范围广泛的AI风险，包括国家安全、公共安全和个人权益。它的主要任务包括推动AI安全的研究 Read more
"布朗带速度"增强（‘Brownian Tape Speed' Augmentation）是一种受布朗运动启发的数据增强方法。在机器学习的背景下，数据增强技术用于人工增加训练数据集的规模和多样性，从而帮助提高模型的泛化能力，特别是在数据有限的情况下。 一、布朗运动 布朗运动是指悬 Read more
论文Optimizing Audio Augmentations for Contrastive Learning of Health-Related Acoustic Signals（《对比学习健康相关声学信号的音频增强优化》），研究的主要目标是改进健康相关声学信号（例如咳嗽和 Read more
新闻“工业大模型应用 热闹起来了 沪上制造业正在AI技术助力下实现生产过程智能化改造”中提到： ...近期，在由上海市工业互联网协会主办的“大模型在工业企业的实施路径”研讨会上，沪东中华设计中心标准室主任毛鑫明介绍了如何在LNG（液化天然气）船总装建造中发挥大模型特长。“我们将海 Read more
论文Diffusion Models Are Real-Time Game Engines（《扩散模型是实时游戏引擎》）介绍了GameNGen，这是第一个完全由神经网络模型驱动的游戏引擎，能够以超过20帧每秒（FPS）的速度在单个TPU上进行复杂环境的实时交互模拟。通过应用生成扩 Read more