YSK Blog

標籤 #Anthropic

共 50 篇文章

Telegram RSS
Anthropic 推出 Model Hardware Standard(MHS)研究預覽,目標好簡單:等 Claude 呢類 AI agent,可以安全操控機械臂、顯微鏡、液體處理器同工廠設備。

Anthropic 推出 Model Hardware Standard(MHS)研究預覽,目標好簡單:等 Claude 呢類 AI agent,可以安全操控機械臂、顯微鏡、液體處理器同工廠設備。

而家實驗室同產線最大痛點,係每件儀器都要寫一輪專用整合,動輒幾個星期。MHS 用統一驅動同標籤,描述硬件重量、活動範圍、可調參數同安全上限,等模型唔使靠紙本說明書「估」。官方示範中,Claude 可以自行編寫 API 腳本,協調多部儀器,甚至喺未專門訓練過嘅情況下,推理點樣用機械臂夾起鋁罐。 合作測試包括 Genent...

Anthropic 公布研究:Claude 可以自己做「對齊研究員」,自動幫其他模型修安全問題。

Anthropic 公布研究:Claude 可以自己做「對齊研究員」,自動幫其他模型修安全問題。

團隊讓 Claude 針對欺騙、拍馬、越獄、提示注入、獎勵駭客、私隱外洩等 10 類對齊失敗,自行搜文獻、設計訓練方法、訓練目標模型再評分。結果 10 類指標全部改善,而且冇明顯損害一般能力。最佳方法仲可以推廣到預留測試集,以及模擬多輪對抗嘅開源工具 Petri。 更關鍵一場實驗:較弱嘅 Claude Sonnet 5...

美國法官裁定五角大樓將 Anthropic 列為供應鏈風險屬違法!

美國法官裁定五角大樓將 Anthropic 列為供應鏈風險屬違法!

加州地方法官 Rita Lin 發表 59 頁判決,指國防部長 Pete Hegseth 將 Claude 開發商標為國家安全供應鏈風險,構成違反第一修正案嘅報復,亦剝奪第五修正案正當程序。法官寫:「空喊國家安全,唔係懲罰政府批評者嘅空白支票。」 事件源於 Anthropic 拒絕開放部分軍事用途紅線。裁決撤銷相關禁令...

共 50 篇 · 第 5 / 7 頁