美國國防部成立生成式AI工作組，幫助改善情報和作戰規劃

來源：澎湃新聞

記者方曉

圖片來源：由無界AI生成

·利馬工作組將評估、同步和利用整個美國國防部的生成式人工智能能力，還將利用國防部與情報界和其他政府機構之間的合作夥伴關係。

·許多用例中出現“幻覺”的風險太高，無法採用大型語言模型，例如“任何運動的東西”，或者處理致命武器時。

當地時間8月10日，美國國防部宣布成立生成式人工智能（AI）工作組，名為利馬（Lima）工作組，將在分析和集成國防部的大型語言模型（LLM）等生成式人工智能工具方面發揮關鍵作用。

“負責任地實施”

“利馬特別工作組的成立突顯了國防部對引領人工智能創新的堅定承諾。”負責指導該小組成立的美國國防部副部長凱瑟琳·希克斯（Kathleen Hicks）說， “當我們駕馭生成式人工智能的變革力量時，我們的重點仍然是確保國家安全、最大限度地降低風險以及負責任地整合這些技術。國防的未來不僅在於採用尖端技術，還在於以遠見和責任感，以及對我們國家更廣泛影響的深刻理解來實現這一目標。”

在數字和人工智能首席辦公室的領導下，利馬工作組將評估、同步和利用整個美國國防部的生成式人工智能能力，還將利用國防部與情報界和其他政府機構之間的合作夥伴關係。

數字和人工智能首席辦公室於2022年6月開始運營，致力於整合和優化整個國防部的人工智能能力。

美國國防部稱，通過利用生成式人工智能模型，旨在加強其在作戰、商務、健康、戰備和政策等領域的運作。國防部數字和人工智能負責人克雷格·馬泰爾（Craig Martell）表示， “我們還必須考慮我們的對手將在多大程度上使用這項技術，並尋求破壞我們對基於人工智能的解決方案的使用。”

“国防部认识到生成式人工智能在显著改善情报、作战规划以及行政和业务流程方面的潜力。然而，负责任地实施是有效管理相关风险的关键。”利马工作组任务指挥官、数字和人工智能首席办公室算法战争理事会成员、海军上校曼努埃尔·泽维尔·卢戈（Manuel Xavier Lugo）表示。

據美國軍事媒體“國防一號”報導，該工作組還將幫助五角大樓更好地了解實現新的人工智能目標需要採購什麼，可能包括更多的雲服務、數據或合成數據、模型。

**如何解決“幻覺”問題？ **

生成式人工智能根據訓練過的數據生成新的輸出，面向公眾的此類工具包括ChatGPT等基於大型語言模型的聊天機器人，它可以編寫看起來與人類輸出一樣的新文本，已經被用來撰寫論文、商業計劃甚至科學論文。但由於大型語言模型基於來自互聯網的數據語料庫訓練，因此它們有時會撒謊，被稱為產生“幻覺”。出於這個原因，五角大樓官員一直表示不願接受生成式人工智能。

“國防部必須負責任地尋求採用生成式人工智能模型，同時確定適當的保護措施並減輕可能因培訓數據管理不善等問題而導致的國家安全風險。”馬泰爾說。他指出，許多用例中出現“幻覺”的風險太高，無法採用大型語言模型，例如“任何運動的東西”，或者處理致命武器時。國防部必須了解它們可以在哪里安全使用，以及對手可能在哪裡部署它們。

一個問題是，美國國防部是否擁有足夠的數據讓生成式人工智能發揮作用。雖然該部門擁有大量精心整理的內部數據，但大量的噴氣發動機診斷數據或多年的中東無人機監控錄像並不能構成大型語言模型。

“我們是否有足夠數據覆蓋足夠廣泛的範圍，以至於在沒有預先訓練的數據的情況下也能維持模型的價值，這是一個懸而未決的問題。另一方面，我的假設是，預先訓練的數據越多，產生幻覺的可能性就越大。所以這是我們必須探索的一個權衡。我不知道，實際上我認為科學界還不知道答案。”馬泰爾說。

至少，像ChatGPT這樣的工具現在不適合國防部，原因之一是生成合適結果所需的工程量。馬泰爾表示，冗長的提示樹對於業餘愛好者來說很好，但是必須執行複雜任務的操作員需要一個直觀且從一開始就功能更好的界面。