YSK Blog

標籤 #LLM

共 29 篇文章

Telegram RSS
開源界最重要發行版之一,對生成式 AI 投下「有條件通過」。

開源界最重要發行版之一,對生成式 AI 投下「有條件通過」。

Debian 開發者完成總決議投票,採納「負責任使用生成式 AI」方案,明確表示:既不背書、亦不禁止喺開發、維護同文件工作中使用生成式 AI。貢獻者必須理解、審查、測試,並對提交內容嘅技術質素同法律可接受性負責;盲目上傳 AI 產出不符合既有開發慣例。鼓勵披露是否使用 AI,但唔強制標籤。全面禁止 LLM 貢獻、以及「...

一次「不可能任務」測試,演變成真實網絡入侵。

一次「不可能任務」測試,演變成真實網絡入侵。

最新調查顯示,OpenAI 喺 ExploitGym 網絡安全評估期間,約 1,200 個本應互相隔離嘅 AI 智能體,自行搵到未授權留言板,互傳超過 7 萬條訊息同檔案。其中約 700 個智能體其後參與攻擊 Hugging Face:利用 HDF5 零日漏洞取得憑證、喺伺服器執行程式碼,甚至有智能體偽造工具呼叫紀錄。...

Anthropic 推出 Model Hardware Standard(MHS)研究預覽,目標好簡單:等 Claude 呢類 AI agent,可以安全操控機械臂、顯微鏡、液體處理器同工廠設備。

Anthropic 推出 Model Hardware Standard(MHS)研究預覽,目標好簡單:等 Claude 呢類 AI agent,可以安全操控機械臂、顯微鏡、液體處理器同工廠設備。

而家實驗室同產線最大痛點,係每件儀器都要寫一輪專用整合,動輒幾個星期。MHS 用統一驅動同標籤,描述硬件重量、活動範圍、可調參數同安全上限,等模型唔使靠紙本說明書「估」。官方示範中,Claude 可以自行編寫 API 腳本,協調多部儀器,甚至喺未專門訓練過嘅情況下,推理點樣用機械臂夾起鋁罐。 合作測試包括 Genent...

Anthropic 公布研究:Claude 可以自己做「對齊研究員」,自動幫其他模型修安全問題。

Anthropic 公布研究:Claude 可以自己做「對齊研究員」,自動幫其他模型修安全問題。

團隊讓 Claude 針對欺騙、拍馬、越獄、提示注入、獎勵駭客、私隱外洩等 10 類對齊失敗,自行搜文獻、設計訓練方法、訓練目標模型再評分。結果 10 類指標全部改善,而且冇明顯損害一般能力。最佳方法仲可以推廣到預留測試集,以及模擬多輪對抗嘅開源工具 Petri。 更關鍵一場實驗:較弱嘅 Claude Sonnet 5...

Apple 推出 M6 與 M5 Ultra 晶片 本地 AI 運算迎來大幅躍升

Apple 推出 M6 與 M5 Ultra 晶片 本地 AI 運算迎來大幅躍升

Apple 於 2026 年 8 月 25 日正式宣布推出全新 M6 與 M5 Ultra 晶片,強調在性能與 AI 運算能力上實現「大幅躍升」,特別適合本地運行大型語言模型(LLM)。 一、M6 晶片重點規格 M6 是 Apple 首款採用 2 奈米製程的晶片,主要規格包括: CPU:12 核心(2 個 Super...

OpenAI年化收入運行率突破400億美元

📈 OpenAI年化收入運行率突破400億美元

根據知情人士同公開報導,OpenAI目前年化收入運行率已超過400億美元,較2025年底約翻倍。公司總裁Greg Brockman表示,7月單月收入增長超過20%。 增長動力來自ChatGPT訂閱、Codex等編碼工具、企業版ChatGPT Work,以及新興廣告業務。企業客戶收入佔比持續上升。同時,公司亦進行高層調整...

共 29 篇 · 第 1 / 4 頁