O.XYZ 的 Ahmad Shadid 警告稱，國家安全優先事項可能會破壞人工智慧的公平性和透明度

在現任美國總統唐納德·川普就職之前， 國家標準與技術研究所 美國國家標準與技術研究院（NIST）完成了一份關於先進人工智慧模型安全性的報告。 

去年139月，維吉尼亞州阿靈頓舉行的電腦安全會議匯集了一群人工智慧研究人員，他們參與了一項開創性的「紅隊」演習，旨在嚴格測試最先進的語言模型和其他人工智慧系統。在為期兩天的演習中，這些團隊發現了XNUMX種導致系統故障的新方法，例如產生虛假資訊或外洩敏感資料。至關重要的是，他們的發現也揭示了美國政府近期發布的一項旨在指導企業評估人工智慧系統安全性的標準中的漏洞。

為了幫助組織評估其人工智慧系統， report 是 NIST 撰寫的幾份 AI 文件之一，由於可能與新政府的政策方向發生衝突而被禁止發表。

在接受記者採訪時 Mpost, 艾哈邁德·沙迪德 首席執行官 XYZ 一個由人工智慧主導的去中心化生態系統，討論了政治壓力和保密性在人工智慧安全研究中的危險。

誰有權利發布 NIST 紅隊調查結果？

艾哈邁德·沙迪德認為，政治壓力會影響媒體，NIST的報告就是一個明顯的例子。他強調，獨立研究人員、大學和私人實驗室需要擺脫這種壓力的桎梏。

「挑戰在於，他們並不總是擁有相同的資源或資料存取權限。這就是為什麼我們需要——或者更確切地說，每個人都需要——一個全球性的、開放的人工智慧漏洞資料庫，任何人都可以貢獻力量並從中學習，」艾哈邁德·沙迪德告訴 Mpost。 「政府或企業不應該對此類研究進行過濾，」他補充道。

艾哈邁德·沙迪德警告稱，隱瞞人工智慧漏洞會阻礙安全進步，並助長惡意行為者的勢力

他進一步解釋了向公眾隱瞞漏洞所帶來的風險，以及此類行為如何阻礙人工智慧安全的進步。

艾哈邁德·沙迪德表示：“隱藏關鍵的教育研究會讓壞人搶佔先機，而好人則被蒙在鼓裡。”

企業、研究人員和新創公司無法解決他們不知道的問題，這可能會給人工智慧公司帶來隱藏的障礙，並導致人工智慧模型中出現缺陷和錯誤。 

艾哈邁德·沙迪德認為，開源文化一直是軟體革命的基石，它既支持持續發展，又透過集體識別漏洞來強化程式。然而，在人工智慧領域，這種做法已大大減弱——例如，據報道，Meta 正在考慮將其開發流程閉源。

Ahmad Shadid 表示：“迫於政治壓力，NIST 向公眾隱瞞的信息可能正是行業應對法學碩士或幻覺相關風險所需的知識。” Mpost“誰知道呢，也許不法分子正忙著利用報告中提到的‘139 種破壞人工智慧系統的新方法’，”他補充道。

政府傾向於將國家安全置於人工智慧的公平性和透明度之上，損害了公眾信任 

對安全研究的壓制反映了一個更廣泛的問題，即政府將國家安全置於公平、錯誤訊息和偏見問題之上。 

艾哈邁德·沙迪德強調，任何公眾使用的技術都必須透明、公平。他強調，透明度比保密性更重要，並指出人工智慧的保密性凸顯了其地緣政治意義。

美國和中國等主要經濟體正在大力投資（包括數十億美元的補貼和積極的人才招募），以在人工智慧競賽中取得優勢。

「當政府將『國家安全』置於公平、虛假資訊和偏見之上時——對於像人工智慧這樣一項擁有378億用戶的技術——他們實際上是在說這些問題可以等一等。這只會導致建立一個保護權力而非人民的人工智慧生態系統，」他總結道。