今年10月美國總統拜登簽署首個人工智慧監管行政命令後，美國東部時間週二，拜登政府表示，該政府正在邁出第一步，為安全部署生成式人工智慧以及如何測試和保護系統編寫關鍵標準和指導。

拜登政府踏出製定AI標準第一步

今年10月末，美國總統拜登簽署了一項「具有里程碑意義的」行政命令，推出白宮首個有關生成式人工智慧的監管規定。根據行政命令，美國多個政府機構需訂定標準，防止人工智慧造成化學、生物、輻射、核能和網路安全風險。

美東時間週二，美國商務部國家標準與技術研究院（NIST）表示，將在2月2日之前向人工智慧企業和公眾徵求意見，以進行關鍵的AI測試，該測試對確保人工智慧系統安全至關重要。

NIST聲稱，他們正在製定評估、測試人工智慧的指導方針，推進制定人工智慧產業標準，並為評估人工智慧系統提供測試環境。

美國商務部長吉娜·雷蒙多（Gina Raimondo）表示，NIST的最新舉措正是由拜登10月的行政命令所推動的，旨在製定「圍繞人工智慧安全、保障和信任的行業標準，使美國能夠繼續在負責任地開發和使用這一迅速發展的技術方面引領世界。”

NIST正制定AI「紅隊」測試指南

NIST正在製定的測試指南中，包括所謂的「紅隊」測試——NIST將考慮，「紅隊」測試在哪些方面對人工智慧風險評估和管理最有利，並為此制定最佳實踐。

「紅隊」測試是網路安全測試中的重要測試環節。它指的是由專家團隊模擬真實世界的對手，以測試和增強系統的安全性。

今年8月，美國首次在重大網路安全會議期間公開進行人工智慧「紅隊」測試活動。活動主要由AI產業組織AI Village、SeedAI、Humane Intelligence等參與。

白宮表示，在8月的活動中，數千名參與者測試了他們是否「可以讓這些系統產生不良輸出，或讓這些系統以其他方式失敗，目的是更好地了解這些系統所帶來的風險」。該活動「展示了外部紅隊如何成為識別新型人工智慧風險的有效工具」。