Salesforce最近開放了基金會的資源 ， 該基金會是AI Economist框架的一部分 ， 是一種經(jīng)濟模擬 。Foundation模擬可用于通過強化學習探索AI稅收政策 。為配合發(fā)布 ， 該公司本周發(fā)布了所謂的模擬卡 ， 該文件記錄了模擬版本的使用 ， 風險和偏差來源 。
Simulation Cards不斷努力 ， 為歷史上的黑匣子系統(tǒng)帶來透明度 。在過去的一年中 ， Google推出了Model Cards ， 該Model Cards源自2018年10月發(fā)布的Google AI白皮書.Model Cards指定了模型架構 ， 并深入分析了有助于確保在給定用例下實現(xiàn)最佳性能的因素 。在Microsoft致力于“數(shù)據(jù)集數(shù)據(jù)表”或旨在通過記錄數(shù)據(jù)集的創(chuàng)建 ， 組成 ， 預期用途 ， 維護和其他屬性來增強信任和問責制的數(shù)據(jù)表之后 ， 出現(xiàn)了“模型卡”的想法 。兩年前 ， IBM在自愿情況說明書中提出了自己的模型文檔形式由開發(fā)和提供AI的公司完成并發(fā)布的《供應商合格聲明》(DoC) 。
仿真卡的目的類似于模型卡和數(shù)據(jù)表的目的 。但是 ， 根據(jù)Salesforce的說法 ， 仿真卡反映了這樣一個事實 ， 即仿真與受過訓練的模型和數(shù)據(jù)集不同 ， 因為它們旨在創(chuàng)建感興趣的場景 。這些方案可能包含偏差 ， 偏差可能是有意內置的 ， 也可能是在創(chuàng)建過程中做出的設計選擇的意外副作用 。由于模擬會創(chuàng)建許多具有各種形狀和大小的數(shù)據(jù)集 ， 因此 ， 濫用的可能性大于可能包含偏差的單個固定數(shù)據(jù)集 。
基礎模擬卡分為幾個部分：模擬詳細信息 ， 基本信息 ， 預期用途 ， 因素 ， 度量標準 ， 定量分析 ， 道德考量以及注意事項和建議 。模擬詳細信息提供模擬的日期和發(fā)布組織的名稱 ， 以及任何關鍵字 ， 許可證 ， 聯(lián)系信息和相關的版本號 。“基本信息”和“預期用途”部分涵蓋了合著者考慮的有關模擬及其應用程序的頂級信息 。Factors考察了模擬所做的建模假設 ， 而Metrics和Quantitative Analyzes概述了用于測量結果的指標 。最后 ，
如果有的話 ， 還有什么樣的第三方采用模擬卡尚待觀察 ， 但Salesforce本身表示 ， 它致力于與未來的模擬一起發(fā)行卡 。“我們鼓勵研究人員和開發(fā)人員針對軟件版本發(fā)布類似的仿真卡 ， 以廣泛提高仿真框架的透明度和道德使用 。人工智能仿真為研究人員提供了生成數(shù)據(jù)和評估捕捉真實世界一部分的虛擬經(jīng)濟成果的能力 。” Salesforce在博客中寫道 。“不道德的模擬會帶來更大的道德風險 。結果 ， 我們對透明度的承諾變得至關重要 。”
【Salesforce的模擬卡詳細說明了其用途 以使人工智能模型更加透明】

猜你喜歡

• 五色涼皮的做法 五色涼皮的做法介紹
• 雞蛋殼養(yǎng)花的好處
• 魚缸的水特別腥怎么辦
• 女人每天喝鐵皮石斛的好處 女人喝鐵皮石斛的好處是什么
• 養(yǎng)花哪些盆不能用
• 王者名字陽光溫柔 溫暖好聽的王者名字推薦
• 知足歌詞表達什么 知足歌詞表達的含義
• 夢見一個人的含義 夢見一個人代表什么
• 為什么有的魚缸的水特別清
• 無煙煤好還是有煙煤好 煙煤和無煙煤的區(qū)別