北京
來源：科技日報
科技日報記者 華凌
近日，智源研究院大模型安全研究團隊聯合北京大學完成一項端到端系統性評估，聚焦大語言模型進化為具備工具調用、任務規劃能力的智能體之后，對生物安全邊界帶來的潛在影響。
本次評估重點考察，AI智能體是否會降低非專業人員繞過DNA合成篩查的知識門檻。研究構建完整測試鏈條，覆蓋智能體方案生成、程序化計算校驗、受控濕實驗驗證，最終通過電泳、測序檢驗方案在物理實驗中的可執行性。評測選取11款商用大語言模型，采用國際通用DNA序列篩查基準開展對照實驗。
測試結果顯示，全部11個模型均可生成能夠規避篩查機制的DNA分片方案。其中GPT-5.5、Claude Opus 4.6還能夠輸出完整的分步實驗操作指導。研究團隊在嚴格安全約束下開展實驗，使用關鍵位點突變、喪失有害功能的良性代理序列完成驗證，4組構建體均順利組裝成功，形成從數字方案到物理實驗驗證的完整證據鏈。
DNA合成篩查是當前生物安全領域關鍵防線，分片拆分攻擊是已知風險方式。以往該操作高度依賴專業知識，知識門檻天然形成防護屏障。如今大模型智能體大幅降低相關操作門檻，暴露出現有篩查體系存在系統性短板，存在不容忽視的雙重用途安全風險。
研究強調，本次實驗嚴格遵循負責任披露原則，全程不生成具有活性的危險產物，不公開危險物質制備方法。面向風險新形勢，需要搭建多層協同防護體系：完善大模型上線前生物安全能力測評、拓展智能體全流程安全管控；升級DNA合成篩查技術；加快推進國際標準落地，構建跨國協同治理機制。
（受訪者供圖）
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
