Anthropic发布的视频AI prompt engineering: A deep dive中，来自Anthropic的四位提示工程（Prompt Engineering）专家，Amanda Askell (Alignment Finetuning), Alex Albert Read more
近期，Sam Altman参加崔娃（Trevor Noah）的访谈节目（Sam Altman Speaks Out About What Happened at OpenAI | What Now? with Trevor Noah Podcast），访谈内容丰富，涵盖了他从被解 Read more
AlphaProteo系统由Google DeepMind开发，是一种利用人工智能设计新型蛋白质结合物的系统。AlphaProteo通过人工智能设计新型蛋白质结合物，这一技术有望彻底改变我们对蛋白质相互作用的理解，极大地促进生物学和健康领域的研究进展，包括药物发现、疾病诊断以及农 Read more
红队测试（Red Teaming）是一种源自网络安全领域的技术，近年来逐渐被应用于人工智能（AI）系统的评估与测试。其主要目的是通过模拟恶意攻击者的行为，来发现AI系统中的潜在漏洞和弱点，从而增强系统的安全性和稳健性。 一、什么是红队测试？ 红队测试是指在某种防御机制或系统下，模 Read more
近期，Google DeepMind的联合创始人兼CEO Demis Hassabis与主持人Hannah Fry之间进行了一次播客对话访谈。讨论涵盖了AI（人工智能）领域的多个关键话题，尤其是Google DeepMind的进展和愿景。 鉴于模型中出现的如概念理解和抽象思维等意 Read more
论文《Medical Graph RAG: Towards Safe Medical Large Language Model via Graph Retrieval-Augmented Generation》详细描述了一种旨在提高医疗领域大型语言模型（LLM）安全性和可靠性的创 Read more
论文《Text2SQL is Not Enough: Unifying AI and Databases with TAG》详细探讨了自然语言查询处理与数据库之间的交互问题，提出了一种新的范式——表格增强生成（Table-Augmented Generation，TAG），旨在整 Read more
论文HybridRAG: Integrating Knowledge Graphs and Vector Retrieval Augmented Generation for Efficient Information Extraction（《HybridRAG：集成知识图谱和向 Read more
近日，OpenAI CEO Sam Altman在X上宣布了与美国人工智能安全研究所 (US AI Safety Institute, AISI) 的合作： we are happy to have reached an agreement with the US AI Safe Read more
论文Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters探讨如何通过在推理阶段增加计算资源来提升大规模语言模型（LLM）的性能。其核心观点是，与简单地 Read more
美国人工智能安全研究所 (US AI Safety Institute, AISI) 隶属于美国国家标准与技术研究院 (NIST)，致力于推动人工智能安全科学的研究、实践和应用。AISI 关注范围广泛的AI风险，包括国家安全、公共安全和个人权益。它的主要任务包括推动AI安全的研究 Read more