а的天堂网最新版在线_午夜av在线播放不卡_最新无码中文字幕一区_A|无码人妻亚洲无码 一本久久精品一区二区_久久久亚洲欧洲日产无码AV_免费看又黄又无码的网站_乱人伦中文视频在线

摘要：4月2日，蘭德公司發(fā)布報告《新興技術(shù)和風險分析：人工智能和關(guān)鍵基礎(chǔ)設(shè)施》，重點關(guān)注了未來十年關(guān)鍵基礎(chǔ)設(shè)施中人工智能應用的技術(shù)可用性、科學技術(shù)成熟程度、市場需求、政策法律、道德和監(jiān)管障礙、風險等。報告將人工智能劃分為三個類別：狹義人工智能（ANI）、通用人工智能和超人工智能。報告預測，未來十年人工智能很可能仍然只實現(xiàn)了狹義人工智能；人工智能科學技術(shù)的成熟度將取決于幾個關(guān)鍵技術(shù)領(lǐng)域，包括高性能計算、先進半導體開發(fā)制造、機器人、機器學習、自然語言處理等。

該報告重點關(guān)注人工智能，尤其是與關(guān)鍵基礎(chǔ)設(shè)施相關(guān)的人工智能。作者借鑒了有關(guān)智慧城市的文獻，在評估技術(shù)時考慮了四個屬性：技術(shù)可用性、風險和情景。本分析中考慮的風險和情景與影響關(guān)鍵基礎(chǔ)設(shè)施的人工智能使用有關(guān)。作者比較了短期（最多三年）、中期（三至五年）和長期（五至十年）三個時期的這四個屬性，以評估人工智能關(guān)鍵基礎(chǔ)設(shè)施的可用性和相關(guān)風險。

技術(shù)可用性

人工智能領(lǐng)域包含眾多技術(shù)，這些技術(shù)一旦問世，就會被納入人工智能系統(tǒng)。因此，人工智能的進步基于幾個基本技術(shù)領(lǐng)域的關(guān)鍵依賴關(guān)系，包括高性能計算、先進半導體開發(fā)和制造、機器人技術(shù)機器學習、NLP和數(shù)據(jù)科學（包括關(guān)鍵數(shù)據(jù)的積累和保護）。具體的應用也會根據(jù)各自的時間表走向成熟。ContextualAI的一項分析表明，手寫分析、語音識別、圖像識別、閱讀理解和語言理解都已經(jīng)超越了人類的表現(xiàn)，而其他任務(wù)，如常識完成、小學數(shù)學和代碼生成則達到了大約85%到90%。

人工智能系統(tǒng)的開發(fā)、部署、發(fā)現(xiàn)不足和其他潛在用途，以及快速更新，這樣的循環(huán)可能是人工智能的一個特點。不足為奇的是，這種方法在互聯(lián)網(wǎng)、社交媒體和現(xiàn)在的人工智能等許多技術(shù)中都很常見。

對于關(guān)鍵基礎(chǔ)設(shè)施而言，這意味著依賴于大數(shù)據(jù)、網(wǎng)絡(luò)、高性能計算和物聯(lián)網(wǎng)的子系統(tǒng)將在人們完全了解其局限性之前就被納入其中：這也意味著如果人工智能系統(tǒng)出現(xiàn)災難性故障，尤其是在關(guān)鍵基礎(chǔ)設(shè)施領(lǐng)域，其風險可能會非常高。

要應對這些挑戰(zhàn)，就必須對技術(shù)和適當?shù)木徑獯胧┻M行編碼開發(fā)。必須清楚地了解人工智能平臺的價值和目標，并制定限制條件，防止偏離人類的期望和規(guī)范。報告還認為，必須更好地理解無監(jiān)督學習的使用；隨著人工智能系統(tǒng)中允許出現(xiàn)無監(jiān)督學習，系統(tǒng)的追蹤能力將變得更具挑戰(zhàn)性。

開發(fā)人工智能，尤其是在早期階段，需要獲得關(guān)鍵技術(shù)，而這些技術(shù)目前受到資源可用性的限制。正如《華盛頓郵報》2023年10月的一篇報道所指出的：“要以任何有意義的規(guī)模構(gòu)建人工智能，任何開發(fā)人員都必須具備以下核心技術(shù)，對資源的依賴主要集中在少數(shù)幾家公司”。

開發(fā)人工智能技術(shù)所需的成本和資源主要體現(xiàn)在四個方面：專用設(shè)備（如半導體和高性能計算機）、數(shù)據(jù)、基礎(chǔ)設(shè)施和人力資本。半導體是一個關(guān)鍵組成部分。高性能計算也供不應求，但對于處理超大數(shù)據(jù)量仍是必不可少的，而這些數(shù)據(jù)量是獲得對正在開發(fā)的人工智能系統(tǒng)的信心所必需的。

數(shù)據(jù)是人工智能的重要組成部分，隨著用于開發(fā)和訓練模型的數(shù)據(jù)量的增加，人們對人工智能模型的信心也會增加。

開發(fā)人工智能系統(tǒng)的成本和復雜性相對較高，而與人工智能系統(tǒng)互動的成本和易用性相對較低，兩者之間存在資源對立。OpenAI的首席執(zhí)行官表示，“GPT-4的訓練成本超過1億美元”，但該產(chǎn)品可在線使用，根據(jù)所要執(zhí)行的任務(wù)，只需支付很少費用或無需支付任何費用。

報告評估認為，這些趨勢可能會繼續(xù)下去。開發(fā)復雜的人工智能系統(tǒng)將超出可能尋求開發(fā)新人工智能系統(tǒng)的大多數(shù)用戶的能力，但將人工智能系統(tǒng)用于各種合法和非法目的可能會變得更加普遍。政策、法律、道德和監(jiān)管方面的障礙可能會對人工智能技術(shù)的應用構(gòu)成重大障礙。

風險評估

人工智能對關(guān)鍵基礎(chǔ)設(shè)施的威脅可能來自幾個方面。人工智能可用于開發(fā)和監(jiān)控關(guān)鍵基礎(chǔ)設(shè)施，這可在優(yōu)化設(shè)計、提高效率和確保安全方面帶來好處。然而，如果在設(shè)計基礎(chǔ)設(shè)施時使用的輸入信息被不當使用或篡改，以這種方式使用人工智能也有可能造成威脅。

人工智能為攻擊者和防御者都帶來了進步。微軟公司的一份報告指出：“人工智能技術(shù)可以自動解讀攻擊過程中產(chǎn)生的信號，有效確定威脅事件的優(yōu)先級，并做出適應性反應，以應對敵對行動的速度和規(guī)模。”

物聯(lián)網(wǎng)功能的不斷融入增加了網(wǎng)絡(luò)攻擊的脆弱性。正如一個消息來源所指出的，“人工智能通過其吸收使用模式數(shù)據(jù)和提供預期需求精確計算的能力對電網(wǎng)系統(tǒng)產(chǎn)生影響，使其成為電網(wǎng)管理的一項主要技術(shù)”。攻擊面的擴大也會產(chǎn)生其他潛在的漏洞。人工智能系統(tǒng)可用于進行網(wǎng)絡(luò)偵察、制定網(wǎng)絡(luò)滲透計劃，甚至進行攻擊，所有這些都無需人工干預。

內(nèi)部威脅是另一類活動，可用于在人工智能從開發(fā)到使用技術(shù)的多個階段攻擊關(guān)鍵基礎(chǔ)設(shè)施。在開發(fā)人工智能系統(tǒng)的過程中，內(nèi)部人員可能會制造不安全因素和后門，從而成為被利用的目標。有監(jiān)督的數(shù)據(jù)或無監(jiān)督學習可能在開發(fā)階段被摻雜，導致基礎(chǔ)或變壓器模型的訓練不正確。這可能會導致產(chǎn)生錯誤的傳感器信息信號，甚至導致操作員采取不必要或危險的行動。

人工智能系統(tǒng)的自主程度也可能構(gòu)成威脅。例如，在智能電網(wǎng)中，工業(yè)控制系統(tǒng)可能會提醒操作員系統(tǒng)出現(xiàn)故障，并要求采取行動。人類操作員甚至人工智能—人類操作員團隊可能會進一步詢問系統(tǒng)，以驗證故障信號，而人工智能操作員則可以根據(jù)不正確的訓練決定立即采取行動。這兩種情況都可能產(chǎn)生問題。

隨著人工智能的范圍和規(guī)模越來越大，用途越來越普遍，可能會出現(xiàn)更多的問題。例如，能夠規(guī)劃和控制智能城市甚至關(guān)鍵基礎(chǔ)設(shè)施的人工智能平臺可能被用來制定針對這些關(guān)鍵基礎(chǔ)設(shè)施的攻擊計劃。人工智能還被考慮用于在開發(fā)可用于攻擊重要基礎(chǔ)設(shè)施或人口的先進生物和化學武器方面。

復雜性也令人擔憂。報告評估認為，隨著人工智能系統(tǒng)變得越來越復雜并接近AGI，人類將越來越難以理解和評估人工智能進程的結(jié)果。

因此，在減少人工智能脆弱性的過程中，必須遵守關(guān)于人工智能技術(shù)的五項原則，即負責任、公平、可追溯、可靠和可治理。此外，使用廣義人工智能網(wǎng)絡(luò)（GAN）、人工智能模型的驗證和核實協(xié)議，以及減少與促進人工智能開發(fā)和使用的技術(shù)相關(guān)的漏洞也至關(guān)重要。

主要發(fā)現(xiàn)

（1）人工智能是一種變革性技術(shù)，很可能會廣泛應用于整個社會，包括關(guān)鍵基礎(chǔ)設(shè)施。

（2）人工智能可能會受到許多與其他信息時代技術(shù)相同的因素的影響，例如網(wǎng)絡(luò)安全、保護知識產(chǎn)權(quán)、確保關(guān)鍵數(shù)據(jù)保護以及保護專有方法和流程。

（3）人工智能領(lǐng)域包含許多技術(shù)，一旦可用，這些技術(shù)將被納入人工智能系統(tǒng)中。因此，人工智能科學技術(shù)的成熟度將取決于幾個關(guān)鍵技術(shù)領(lǐng)域，包括高性能計算、先進半導體開發(fā)和制造、機器人、機器學習、自然語言處理以及積累和保護關(guān)鍵技術(shù)的能力。

（4）為了將人工智能置于當前的成熟狀態(tài)，劃分三個人工智能類別是有用的：狹義人工智能（ANI）、通用人工智能和超人工智能。到本次分析的十年結(jié)束時，該技術(shù)很可能仍然只實現(xiàn)了ANI。

（5）人工智能將為關(guān)鍵基礎(chǔ)設(shè)施和專用智能城市的最終發(fā)展帶來機遇和挑戰(zhàn)。