紐約市議會近日公布一系列人工智慧（AI）監管提案，從模型上市前的第三方驗證、人工緊急關停機制，到違規舉報、損害追責與AI安全事件通報，試圖將AI安全要求轉化為具體的監管規範。
其中一項提案要求，在紐約市推廣、銷售或部署的AI模型，必須具備「kill switch」（緊急關停開關），讓人類操作人員能夠暫時或永久停止模型運作，同時接受第三方驗證。未符合要求的相關行為，擬按次處以2.5萬美元罰款。
紐約市議會9月25日公布提案後，下一個重要節點為10月5日。市議會已安排全體委員會舉行聽證，並要求包括Meta(META-US) 執行長祖克柏（Mark Zuckerberg）、OpenAI執行長奧特曼（Sam Altman）等科技業高層出席。
10月5日舉行AI監管聽證
這波立法行動早在9月25日公布提案前便已展開。
紐約市議會議長梅寧（Julie Menin）9月16日宣布，將於10月5日召開全體委員會聽證，並致函OpenAI執行長奧特曼及Anthropic執行長阿莫迪（Dario Amodei），要求兩人出席。
該委員會由紐約市51名議員組成，通常負責涉及全市重大議題的事項，較少用於立法及監督聽證。
紐約市議會表示，推動此次聽證的背景之一，是AI模型能力快速提升所引發的安全疑慮。
議會並提及Anthropic研究人員Jacob Coxon近期離職後公開警告先進AI可能帶來嚴重後果，認為有必要檢視現有防護措施是否足夠。
截至9月25日，梅寧發出的邀請對象還包括Meta執行長祖克柏、Google(GOOGL-US) 執行長皮查伊（Sundar Pichai）及馬斯克等科技業人士。
梅寧表示，市議會期待相關企業負責人出席，必要時也保留動用傳票權的可能性。
AI須具備人工關停能力 違規每次罰2.5萬美元
在具體監管條文中，人工關停能力與第三方驗證是重要要求。提案擬禁止在紐約市推廣、要約出售、銷售或部署未符合相關要求的AI模型。
所謂「關停」不只代表永久停止模型，也包括由人類操作人員讓模型暫時停止運作；第三方驗證機構則須確認這項能力確實存在且能正常運作。
驗證範圍還包括模型表現、資料來源、偏見及安全風險等。例如，模型面對與訓練資料不同的實際使用資料時如何運作、是否對受保護群體造成不利影響，以及資料處理是否安全、合法等，都納入檢查項目。
此外，驗證機構也必須揭露自身與AI模型及其開發商之間的利益關係。
對於未完成驗證或未具備人工關停能力，卻仍進行推廣、銷售或部署的行為，提案擬按次處以2.5萬美元罰款；偽造驗證資料也擬按次處以2.5萬美元罰款。其他違反該子章規定的行為，則可能面臨最高2.5萬美元罰款。
除了處罰，提案也規劃透過舉報機制取得違規線索。符合條件的個人可向紐約市消費者及勞工保護局（DCWP）提出投訴，並提供掌握的重要證據及資訊。
若政府依據舉報展開執法並追回款項，舉報人可取得追回金額的25%；若舉報人或其律師獲得授權，依規定參與訴訟或送達違法通知，比例最高可提高至50%。
另一項提案則涉及舉報人保護，擬保障揭露特定AI公共衛生或安全風險的市政府人員，以及符合條件的市政府承包商和分包商人員。
提案也將責任延伸至AI造成的損害。若第三方濫用AI造成可預見的損害，而AI提供者未採取合理防護措施，受害者可依提案規定對提供者提起民事訴訟。
至於涉及紐約市政府合約的AI安全事件，相關承包商或機構在知悉符合定義的事件後，須於24小時內通報；紐約市網路指揮機構知悉後，也須在24小時內公開規定資訊，同時保護商業機密及網路安全等敏感內容。
紐約州同步擴大AI及資料中心監管
紐約市此次提案，也是紐約州近期一連串AI監管行動的一部分。
紐約州議會2025年6月通過RAISE Act，州長霍楚爾（Kathy Hochul）同年12月19日簽署成法。根據紐約州總檢察長辦公室今年9月說明，該法將於2027年1月1日生效，要求大型AI開發商公開安全措施，並及時通報安全事件。
監管範圍也延伸至AI資料中心。霍楚爾7月14日簽署第62號行政命令，在進行資料中心環境影響評估及制定相關標準期間，暫停處理符合條件的州環境保護部門許可申請。
行政命令涉及的問題包括資料中心電力需求、用水、水質、空氣品質、噪音，以及設施對周邊社區的影響。
此外，紐約州總檢察長詹姆斯（Letitia James）9月17日也呼籲AI業界人士提供企業潛在違法行為線索，並表示可透過其辦公室的安全舉報管道匿名、保密提供資訊。
在聯邦層級，美國政府近期也開始介入AI模型的跨境測試安排。《路透》9月24日引述Politico報導，白宮曾要求OpenAI及Anthropic在接受美方審查前，暫緩向英國測試機構提供新模型。
監管能否落地 執法能力成關鍵
紐約市過去的AI監管經驗，也顯示制定規範與實際執法之間仍存在落差。
紐約市2021年第144號地方法要求雇主及職業介紹機構，在使用適用的自動化就業決策工具時符合偏見審計、結果公開及告知等要求，DCWP自2023年7月5日起開始執法。
紐約州審計長辦公室近期公布的執行審計涵蓋2023年7月至2025年6月。報告指出，DCWP期間僅收到2宗相關投訴，且未檢查投訴受理流程是否正常運作。
在企業檢查方面，DCWP檢查32家公司後僅發現1項不合規問題；州審計人員重新檢視同一批公司，則發現至少17處潛在不合規情形。
報告指出，DCWP並未使用技術部門制定的正式檢查程序，也沒有涵蓋法律要求的全部內容。部分工作人員缺乏評估相關工具所需的技術專業，卻沒有充分尋求技術部門支援；投訴處理流程也存在缺陷，無法確保所有投訴都被轉交至負責執法的部門。
這些「潛在不合規情形」並不等同於17項已確認的違法行為，但反映出檢查程序及專業支援會影響監管機構發現問題的能力。
此次提案引入舉報獎勵及第三方驗證，可能增加違規線索及專業檢查來源，但取得線索後如何調查、如何判斷驗證結果是否可信，以及最終由誰認定違規責任，仍須由執法機構處理。
即使是AI模型的「關停開關」，實際執行也涉及操作權限、停止模型後既有任務如何處理，以及連接外部工具的權限是否同步撤銷等問題。
因此，10月5日的聽證除了關注科技業者是否出席，也將涉及AI模型提供者的責任界線，以及紐約市規範如何與州級制度銜接。
分析指出，對紐約市而言，罰款只是監管機制的一環，如何發現違規、確認責任並實際完成執法，才是新制度能否落實的另一項關鍵。
