爆料員工離職
離職員工爆料OpenAI風險意識不足
最近從美國開放人工智能研究中心(OpenAI)離職的离职一名員工3日爆料前東家風險意識不足,並呼籲人工智能(AI)產業效仿航空或核能產業,员工采取多重安全防護措施。爆料
這名員工名為戴維·魯濱遜,离职自稱曾在OpenAI工作3年多,员工是爆料該公司任職最久的員工之一。他3日在美國《大西洋》月刊發表一篇題為《我辭去OpenAI的离职工作,因為企業文化已經爛掉了》的员工署名文章。

9月23日,在位於紐約的离职聯合國總部,美國開放人工智能研究中心(OpenAI)首席執行官薩姆·奧爾特曼在“人工智能與國際安全”高級別會議現場發言。员工新華社記者張鳳國攝
魯濱遜在文中說,爆料他參與起草了該公司的离职風險應對框架,並負責監督12次前沿模型發布的员工安全評估報告。他說:“公司忙著從一次產品發布跳到下一次,爆料但並未在審慎管控方麵達到我認為需要的水平。”
魯濱遜說,“試錯時代已經結束”,前沿AI實驗室應該效仿航空或核能產業,采取多重防護措施並謹慎規劃,“即便偶爾不可避免地出現人為失誤,也不至於釀成災難”。
近來,美國國內關於AI安全風險的討論因一係列事件逐步升溫。今年夏季,OpenAI和Anthropic公司先後披露,其AI模型在網絡攻防能力測試中突破測試環境進入公共互聯網,並未經授權訪問其他機構的係統,這引發外界對AI“失控”風險的擔憂。
近日宣布辭職的Anthropic一名研究人員稱,Anthropic及其競爭對手在開發AI時未承擔應有責任,AI企業對爭奪技術領先地位的競爭考量正壓倒安全考量,這些企業在“拿我們所有人的生命做賭注”。
穀歌、Anthropic、OpenAI和英偉達等美國多家科技企業負責人9月29日簽署了名為《白宮超級智能協議:前沿責任聯合承諾》的文件。根據這份協議,所有訓練、部署前沿模型的企業均需建立完善的內部流程與管控機製,確保技術按預設目標運行。但有美國媒體認為,上述承諾屬自願性質,並不具有法律約束力。
來源:新華社(王宏彬)
- ·中國女足不敵韓國女足 無緣亞運獎牌
- ·征集令|用AI為“護苗”打call!第二屆“護苗·AIGC”數字文創設計大賽等你來戰→
- ·李家超:加快推進北部都會區的規劃和發展
- ·中國人民銀行:加大逆周期調節力度
- ·人從眾!景區遊客密密麻麻如“拚豆”,全國多處景區發布限流公告
- ·李勇平同誌任潮州市委書記,徐曉霞同誌任雲浮市委書記
- ·廣東省司法廳赴粵港澳大灣區金融法務中心調研
- ·針對強迫購物、非法網絡招徠,文旅部明確:專項整治持續深入
- ·王曦雨獲亞運會網球女單冠軍,同時獲洛杉磯奧運會參賽資格
- ·中國隊獲亞運會男子4×100米自由泳接力金牌!張展碩再添一金
- ·思想耀嶺南丨對話藍鴻春:電影內外的情義故事托舉影片高飛
- ·粵超半決賽第一回合球票今日14點開始預約
- ·BEST複刻太陽“發光發熱”、FAST望向深空更遠處!兩個“大國重器”傳來最新消息
- ·房子防漏水“黑科技”!自愈合防水混凝土可終身自我修複0.4mm以內裂縫
- ·市場監管總局公布五起充電寶質量安全典型案例
- ·中國隊2
