智通財經APP獲悉，據媒體援引知情人士透露的消息報道，美國政府表示，包括微軟、OpenAI以及谷歌等人工智能領域領導者們在內的200多家實體公司加入了一個新的美國聯營研究團體，以幫助安全開發和部署生成式人工智能。
當地時間週三，美國商務部長吉娜·雷蒙多宣佈了領導美國人工智能安全研究所(AISI)執行領導團隊的主要成員，該研究所將在美國國家標準與技術研究院(NIST)正式聯合成立。伊麗莎白·凱利(Elizabeth Kelly)將擔任該研究所的首任主任，埃爾哈姆·塔巴西(Elham Tabassi)將擔任首席技術官。
根據這份媒體報道，美國人工智能安全研究所(AISIC)的主要成員企業包括微軟(MSFT.US)、ChatGPT開發商OpenAI、亞馬遜(AMZN.US)、Alphabet旗下的谷歌(GOOGL.US)、OpenAI最大競爭對手之一Anthropic、Meta Platforms(META.US)、蘋果(AAPL.US)、英偉達(NVDA.US)、Palantir (PLTR.US)、英特爾(INTC.US)、摩根大通(JPM.US)以及美國銀行(BAC.US)。
除了上述這些人工智能領域領導者，該小組的其他成員還包括英國石油公司(BP.US)、思科(CSCO.US)、IBM( IBM (NYSE:IBM).US)、惠普(HPE.US)、諾斯羅普·格魯曼公司(NOC.US)、萬事達(MA.US)、高通(QCOM.US)以及Visa(V.US)，還包括一些學術機構和政府機構，這些也機構將成爲美國人工智能安全研究所(AISI)的重要組成部分。
主要覆蓋電商以及雲服務領域的亞馬遜表示，該公司將與NIST合作建立一種新的測量科學，這種新的科學將能夠識別經過驗證的、可擴展的、可互操作性的測量方法，以促進可信賴的人工智能的發展及其負責任的使用。
此外，亞馬遜將向該研究所提供基於500萬美元的計算積分，以幫助開發各種工具和方法，各組織可以使用這些工具和方法來評估其基礎模型的安全性。
該公司補充表示，NIST不評估該聯營聯盟旗下成員各自的商業產品，也不認可任何使用的相關產品或服務。
美國總統經濟政策特別助理凱利當天表示:“雖然我們的首要任務是執行拜登總統的行政命令賦予NIST的任務，但我期待將NIST建設成爲國家和世界的長期資產。”
2023年10月，美國總統喬·拜登領導的政府發佈了一項行政命令，對人工智能的利益和風險進行管理。拜登政府表示，該命令爲人工智能的安全和保障設定了新的標準，並且能夠保護隱私、促進公平和公民權利，維護消費者和工人的利益，促進創新和競爭。
該媒體報道補充表示，該聯營聯盟將制定關鍵的red-teaming指導方針、能力評估、風險管理、安全和安保以及合成內容水印的指導方針。
2023年7月，包括亞馬遜、Alphabet旗下谷歌、Facebook所有者Meta以及微軟在內的科技巨頭們自願向白宮承諾實施某些實質性的措施，例如使用數字水印來幫助區分真實內容和人工智能生成的內容。
美國商務部負責標準與技術的副部長兼NIST主任勞裏·洛卡西奧(Laurie Locascio)週三表示:“我相信，在伊麗莎白·凱利(Elizabeth Kelly)和埃爾哈姆·塔巴西(Elham Tabassi)的領導下，美國人工智能安全研究所將能夠很好地發展促進人類社會人工智能技術安全可靠發展所需的測量科學。”
自2022年美國科技巨頭微軟支持的OpenAI 成功推出ChatGPT以來，新一代具備革新意義的生成式人工智能服務席捲全球。基於不同類型的大型語言模型(LLM)的類似ChatGPT的AI聊天機器人，可以生成使用者所需的內容，圖像和聲音，甚至能夠生成龐大的編程工作所需的代買，這類AI聊天機器人正在全球範圍內廣泛使用。