AI安全不能只靠「相信我」:一封公開信背後，是科學社群對黑箱監管的反撲

2026年9月，一群研究者發起「A Call for Open Science in AI Safety」連署，主張AI安全研究必須走向開放科學。這不是學術圈的小事——它直接挑戰了大型AI實驗室「安全靠內部把關」的現行模式，也與加州最新行政命令、OpenAI的事故披露形成三方拉扯。對台灣而言，這場辯論決定了未來AI治理話語權落在誰手上。

9月中旬，一份名為「A Call for Open Science in AI Safety」的倡議文件在工程師社群Hacker News上流傳（https://make-safety-open.github.io/）。核心訴求很單純:AI安全研究若持續閉門進行，就永遠無法被獨立驗證——而無法驗證的安全，和行銷話術只有一線之隔。

時間點耐人尋味。倡議出現前後不過幾天，美國加州州長紐森簽署了一項針對AI安全的行政命令，官方姿態是「趁來不及之前先管」（https://ktla.com/news/california/newsom-executive-order-ai-safety/）；同時，OpenAI依據揭露機制公布了六起新的AI安全事故（https://www.axios.com/2026/09/16/openai-testing-safety-incidents-disclosure）。

三件事排在一起看，一個結構性矛盾浮上檯面:政府要管、業者自己報事故、但真正能檢驗「這些事故有多嚴重」的獨立科學社群，卻被排除在資料之外。

開放科學派的論點:沒有重現，就沒有科學

倡議者的邏輯並不激進，反而相當古典。科學的共同標準是可重現、可同儕審查。AI安全若只在OpenAI、Anthropic等實驗室內部評估，外部研究者只能選擇「相信」或「質疑」，無法「驗證」。當監管者（如加州政府）依賴業者自陳的風險報告來制定政策，整個治理體系的地基其實是信任，而非證據。

OpenAI這次披露六起事故，表面上是被動透明化的進步。但揭露的內容由誰認定嚴重性？外部學者拿得到原始資料嗎？這正是開放科學倡議瞄準的縫隙。

反對聲音同樣真實:開放有代價

Hacker News上也有尖銳的反嘲，甚至出現「AI安全圈更像次文化團體而非科學社群」的譏諷（https://skywriter.blue/@segyges.bsky.social/3mvom4b4dn22q）。這類聲音提醒我們:倡議「開放」的一方，也未必沒有自己的意識形態議程。更實際的顧慮是——把安全評測方法全部公開，等於把攻擊面的地圖一併交出。

Reddit上的討論則指向另一個微妙之處:有網友認為，近期Hugging Face相關事件本來可能嚇住AI高層、促成自主放緩，卻因輿論焦點轉移而錯失契機（https://www.reddit.com/r/Destiny/comments/1wh9d29/the_hugging_face_incident_couldve_actually_scared/，此為該討論串發文者觀點）。這暗示安全議題的推進，很大程度取決於偶發事件與政治氛圍，而非制度設計。

三條路徑，台灣該看哪一條？

情境一（開放派勝出）:安全研究走向類似密碼學社群的開放審查文化，標準化評測成形，中小型團隊取得參與資格。情境二（基準）:維持現狀——業者選擇性披露、政府選擇性監管、獨立驗證持續缺席。情境三（封閉加深）:安全細節被認定為敏感資訊，揭露反而縮水。

對台灣的意義在於:台灣的AI產業策略長期偏向硬體與算力供應鏈，安全治理的話語權若由少數美國實驗室與加州政府壟斷，台灣連上桌談判的籌碼都沒有。開放科學路線若成真，反而是台灣學界與資安產業能切入的少數入口——因為開放的規則，理論上人人可參與。