拜登政府周四 (8 日) 表示，200 多家實體將加入新的聯盟，以支援生成式人工智慧 (AI) 的安全開發和部署，其中包括幾家 AI 龍頭企業。
美國商務部長雷蒙多 (Gina Raimondo) 宣布成立美國人工智慧安全研究所聯盟 (AISIC)，成員包括 OpenAI、Alphabet (GOOGL-US) 旗下的谷歌、Anthropic 和微軟 (MSFT-US)，以及 Facebook 母公司 Meta Platforms (META-US)、蘋果 (AAPL-US)、亞馬遜 (AMZN-US)、輝達 (NVDA-US)、Palantir (PLTR-US)、英特爾 (INTC-US)、摩根大通 (JPM-US) 和美國銀行 (BAC-US)。
雷蒙多在聲明中表示：「美國政府在制訂標準和開發所需的工具以減輕風險和利用 AI 巨大潛力方面，可以發揮重要作用。」
該聯盟還包括 BP (BP-US)、思科系統 (CSCO-US)、IBM (IBM-US)、惠普 (HPQ-US)、諾斯普格魯曼 (NOC-US)、萬事達卡 (MA-US)、高通 (QCOM-US)、Visa (V-US) 以及主要學術機構和政府機構，將隸屬於美國人工智慧安全研究所 (USAISI)。
該小組的任務是開展拜登總統 10 月 AI 行政命令中提到的優先行動，「包括制訂紅隊指導方針、能力評估、風險管理、安全保障以及對合成內容加浮水印。」
主要 AI 企業去年承諾將 AI 生成的內容添加浮水印，以使技術更安全。紅隊多年來一直在網路安全領域用於識別新風險；該術語源自美國冷戰模擬，其中敵人被稱為「紅隊」。
拜登的命令指示各機構制訂測試標準，並解決相關的化學、生物、放射性、核子和網路安全風險。
去年 12 月，美國商務部表示正在邁出第一步，為 AI 的安全部署和測試編寫關鍵標準和指南。
商務部表示，該聯盟代表最大的測試和評估團隊集合，將專注於為「人工智慧安全的新測量科學」奠定基礎。
生成式 AI 既讓人興奮，也讓人擔心它可能會讓一些工作變得過時、顛覆選舉，並可能取代人類並產生災難性影響。
雖然拜登政府積極尋求保障措施，但國會針對 AI 的立法努力卻陷入停滯。
