提高法案：紐約針對人工智能風險的措施

紐約州在人工智能辯論中發出了重要信號，批準了旨在防止人工智能系統可能引發的災難性事件的《提升法案》.

該規章旨在避免嚴重情況，例如超過一百人的死亡或經濟損失超過十億歐元，爲對技術創新的更嚴格控制奠定基礎。

人工智能中安全性與創新之間的緊張關係

《提高法案》的通過代表了那些倡導對人工智能進行監管以保護公共安全和公民權利的人們的重要成就。然而，這一勝利只是象徵性的和暫時的，因爲該法案仍需獲得紐約州州長凱西·霍赫爾的批準，她可能會決定對其進行修改甚至否決。

這項法律引發的辯論反映了在實施有效保障以應對AI潛在風險的願望與科技公司，特別是硅谷公司，推動在這些技術的發展中追求最大速度和自由之間的深刻對比。

盡管存在爭議，目前執政的特朗普政府強烈支持人工智能領域的創新，並旨在在聯邦層面標準化法規，防止各州當局採取像紐約那樣的限制性法律。因此，保守派和專注於無限制發展的派別之間出現了多方面的衝突。

參議員Gounardes的話

來自紐約的參議員安德魯·古納德斯（Andrew Gounardes），《提升法案》（Raise Act）的共同發起人，澄清了該法律的目標不是減緩創新，而是促進其安全和負責任的發展。他強調，考慮到快速的技術進步，實施預防措施的時間越來越短。

根據Gounardes的說法，人工智能專家認爲與這項技術相關的風險是高度可能和令人擔憂的，因此迫切需要採取法規來減少潛在的負面後果。這個立場試圖平衡創新的需求與保護社區的基本需求。

硅谷的反應

從對立的角度來看，科技行業的一些主要人物對這一措施反應強烈。風險投資公司安德森·霍洛維茨的合夥人安傑尼·米達稱《提升法案》是“又一項愚蠢的國家人工智能法案”，只會在一個關鍵時刻懲罰美國，因爲全球競爭正變得日益激烈。

這種批評突顯了主要擔憂之一：過於嚴格的監管可能會削弱美國公司相對於國際競爭對手的競爭力。事實上，人們擔心過度監管可能會迫使大型人工智能實驗室將其模型的可用性限制在特定地區，比如紐約州。

Raise Act 的關鍵創新

如果《提升法案》生效，這將標志着美國人工智能監管領域的一個裏程碑，首次引入一個復雜的透明度標準和法律義務體系，旨在針對主要的人工智能實驗室。

透明度和安全義務

該法律將要求人工智能實驗室公布詳細報告，記錄爲保護最先進模型而採取的安全措施。這將是一項具體承諾，旨在確保系統的設計和維護方式能夠防止有害事件的發生。

此外，實驗室需要立即報告任何與安全相關的事件、模型的異常或風險行爲，以及任何盜竊或第三方的未經授權訪問。這種透明度旨在創建一個有效的控制系統，並減少濫用或故障的餘地。

制裁與影響

《提高法案》規定了最高可達3000萬美元的民事罰款，以應對未遵守義務的情況，這對確保公司合規性是一個重要的威懾。然而，這種嚴厲性引發了一些關於經濟影響的擔憂，特別是在紐約市場上AI模型的可用性。

然而，民主黨代表亞歷克斯·博雷斯對此表示放心，堅決斷言沒有有效的經濟理由阻止公司在紐約繼續提供服務。因此，人工智能被排除在這個重要市場之外的風險被認爲是最小的。

對人工智能控制的未來

《提升法案》的提案將人工智能監管問題置於美國政治和社會辯論的中心。它對比了兩種願景：一方面，旨在通過明確和具有約束力的規則來保護公民和消費者的安全與權利；另一方面，支持在沒有過度限制的情況下自由創新的願景。

因此，通往這兩個方面之間平衡的道路是復雜且不斷發展的。如果《提升法案》成爲法律，它可能爲對最先進技術發展的控制設定一個重要的先例，有可能提高整個行業的安全標準。

基於所有這些原因，緊密關注監管的發展並促進立法者、企業和公民社會之間的建設性對話至關重要。只有這樣，我們才能確保人工智能的進步成爲每個人的積極和安全的資源。