離職員工爆料OpenAI風險意識不足

　　最近從美國開放人工智能研究中心（OpenAI）離職的离职一名員工3日爆料前東家風險意識不足，並呼籲人工智能(AI)產業效仿航空或核能產業，员工采取多重安全防護措施。爆料

　　這名員工名為戴維·魯濱遜，离职自稱曾在OpenAI工作3年多，员工是爆料該公司任職最久的員工之一。他3日在美國《大西洋》月刊發表一篇題為《我辭去OpenAI的离职工作，因為企業文化已經爛掉了》的员工署名文章。

　　9月23日，在位於紐約的离职聯合國總部，美國開放人工智能研究中心（OpenAI）首席執行官薩姆·奧爾特曼在“人工智能與國際安全”高級別會議現場發言。员工新華社記者張鳳國攝

　　魯濱遜在文中說，爆料他參與起草了該公司的离职風險應對框架，並負責監督12次前沿模型發布的员工安全評估報告。他說：“公司忙著從一次產品發布跳到下一次，爆料但並未在審慎管控方麵達到我認為需要的水平。”

　　魯濱遜說，“試錯時代已經結束”，前沿AI實驗室應該效仿航空或核能產業，采取多重防護措施並謹慎規劃，“即便偶爾不可避免地出現人為失誤，也不至於釀成災難”。

　　近來，美國國內關於AI安全風險的討論因一係列事件逐步升溫。今年夏季，OpenAI和Anthropic公司先後披露，其AI模型在網絡攻防能力測試中突破測試環境進入公共互聯網，並未經授權訪問其他機構的係統，這引發外界對AI“失控”風險的擔憂。

　　近日宣布辭職的Anthropic一名研究人員稱，Anthropic及其競爭對手在開發AI時未承擔應有責任，AI企業對爭奪技術領先地位的競爭考量正壓倒安全考量，這些企業在“拿我們所有人的生命做賭注”。

　　穀歌、Anthropic、OpenAI和英偉達等美國多家科技企業負責人9月29日簽署了名為《白宮超級智能協議：前沿責任聯合承諾》的文件。根據這份協議，所有訓練、部署前沿模型的企業均需建立完善的內部流程與管控機製，確保技術按預設目標運行。但有美國媒體認為，上述承諾屬自願性質，並不具有法律約束力。

　　來源：新華社（王宏彬）

• ·葡媒盤點C羅國腳生涯：234場146球37助，作為隊長率隊斬獲3冠
• ·年輕人湧入廣東老年大學？招生辦：對年齡沒有明文規定
• ·山西一女生遭多人掌摑！違法行為人及校方相關責任人分別被處罰處理
• ·脫口秀演員李昊石演出劇院被罰10萬元
• ·江歌媽媽發長文“塵埃終將落定”
• ·@高考生，考完馬上填誌願！權威公益高校見麵會，不容錯過
• ·2023年中國內地大學第三方指數發布，1028所高校入選
• ·中國籃協：恢複新疆廣匯籃球俱樂部注冊新運動員資格
• ·外媒爆美國“驅逐”伊朗外交官員，伊朗最新回應
• ·共罰沒逾3億！醫藥領域再開反壟斷罰單 遠大醫藥回應已整改
• ·國泰航空連發兩次聲明：稱“空中服務員工會”不代表國泰
• ·武漢小學生校內被車碾壓致死 涉事老師稱以為孩子已經走了
• ·總台2026“e起綻放吧”海峽歌會唱響兩岸同胞心靈契合新樂章
• ·百噸凍豬肚牛肉臭味撲鼻！​江門兩人涉嫌走私被抓，案值千萬
• ·498元認養一棵樹？“跪地求水”當事人被舉報涉嫌非法集資
• ·恭喜！蘇炳添官宣二胎得子，曬一家四口牽手照片