但毫不奇怪的是，影子AI（像大多數(shù)形式的影子技術(shù)并帶來自己的設(shè)備活動(dòng)一樣）被視為負(fù)面，侵權(quán)和風(fēng)險(xiǎn)。

AI影子繁殖地

當(dāng)今的問題是，AI基本上仍然處于起步階段，仍然胚胎，并且才剛剛開始體驗(yàn)其第一波的實(shí)施浪潮。許多用戶對AI的接觸僅限于ChatGpt和其他工具產(chǎn)生的有趣的圖像創(chuàng)作（考慮上周的人類塑料玩具水泡包裝，本周潛水板上的貓，肯定會(huì)更奇怪），這意味著對AI工具的廣泛采用尚未成為標(biāo)準(zhǔn)實(shí)踐。盡管這段時(shí)間似乎迫在眉睫，但AI開發(fā)的當(dāng)前狀態(tài)意味著某些用法在雷達(dá)下滑落。

隨著應(yīng)用程序開發(fā)繼續(xù)迅速加速，開發(fā)人員未經(jīng)授權(quán)使用的AI工具正在成為一個(gè)嚴(yán)重的問題。 Scott McKinnon ，CSO，在Palo Alto Networks的英國和I，這意味著構(gòu)建現(xiàn)代的，云本地的應(yīng)用程序不再只是編寫代碼 - 它已經(jīng)意識(shí)到我們現(xiàn)在處于“連續(xù)Beta”模式下運(yùn)行，這是因?yàn)橐焖俨渴鹦碌钠髽I(yè)軟件服務(wù)的壓力。

麥金農(nóng)說：“由此產(chǎn)生的效果是，開發(fā)人員面臨著巨大的壓力，要求其快速交付并減少上市時(shí)間。鑒于這一點(diǎn)，可以理解的是，為什么許多開發(fā)人員正在轉(zhuǎn)向AI工具來提高效率并滿足這些苛刻的期望?！?“我們的研究表明，企業(yè)生成的AI流量在2024年飆升了890％以上，并且組織越來越多地使用這些應(yīng)用程序 - 可以認(rèn)為是高風(fēng)險(xiǎn)。與此同時(shí)，與生成AI相關(guān)的數(shù)據(jù)丟失預(yù)防事件的增長一倍以上，顯然表明了治理損失。

環(huán)繞護(hù)欄

當(dāng)將所有這些現(xiàn)實(shí)結(jié)合在一起時(shí)，很容易理解為什么軟件開發(fā)人員可能會(huì)被繞過組織的AI護(hù)欄策略和控件。實(shí)際上，他們可能會(huì)插入批準(zhǔn)平臺(tái)之外的開源大語模型，使用無監(jiān)督的AI生成代碼，或跳過數(shù)據(jù)治理策略以加快部署的速度。結(jié)果可能會(huì)通過違反系統(tǒng)安全性的合規(guī)性破壞來暴露知識(shí)產(chǎn)權(quán)。

麥金農(nóng)解釋說：“這一切都?xì)w結(jié)為一件事：如果開發(fā)人員要平衡速度與安全性，他們必須采用新的操作模型。該模型應(yīng)將清晰，可執(zhí)行的AI治理和監(jiān)督直接嵌入連續(xù)的交付管道中，而不是之后對其進(jìn)行處理?！?“當(dāng)開發(fā)人員使用經(jīng)過批準(zhǔn)的渠道外的AI工具時(shí)，一個(gè)主要問題是供應(yīng)鏈完整性。進(jìn)行未經(jīng)測試或未經(jīng)審查的AI組件引入不透明的依賴性通常會(huì)隱藏脆弱性。”

什么是不透明的軟件依賴性？

這個(gè)術(shù)語聽起來已經(jīng)足夠不祥了，而不透明的軟件依賴性確實(shí)是有問題的。軟件依賴性是較小的重要部分

數(shù)據(jù)服務(wù) - 軟件庫處理數(shù)據(jù)庫連接，管理用戶界面的框架或構(gòu)成外部第三方應(yīng)用程序一部分的模塊。有用的軟件依賴性是透明且易于檢查的；不透明的功能雖然功能性，但在揭示其起源和內(nèi)部組件方面卻很模糊。從技術(shù)上講，不透明的軟件應(yīng)用程序依賴關(guān)系意味著開發(fā)人員無法通過公共應(yīng)用程序編程界面“分配”它們（并建立與他們建立連接）。

麥金農(nóng)認(rèn)為，另一個(gè)重大威脅是迅速注射攻擊，惡意演員操縱AI的投入以迫使意外和危險(xiǎn)的行為。這些類型的漏洞很難檢測到，并且可以在AI驅(qū)動(dòng)的應(yīng)用中侵蝕信任和安全性。當(dāng)不受限制地檢查時(shí)，這種做法會(huì)創(chuàng)造出新的攻擊表面并增加網(wǎng)絡(luò)事件的總體風(fēng)險(xiǎn)。組織需要通過確保AI開發(fā)環(huán)境，嚴(yán)格審查工具并確保開發(fā)人員有效工作所需的支持來領(lǐng)先于此。

平臺(tái)化的道路

為了有效地應(yīng)對未經(jīng)批準(zhǔn)的AI使用的風(fēng)險(xiǎn)，組織需要超越零散的工具和流程向統(tǒng)一的平臺(tái)方法進(jìn)行。這意味著整合AI治理，系統(tǒng)控制和開發(fā)人員的工作流程成一個(gè)單一的集成系統(tǒng)，提供實(shí)時(shí)可見性。不用此，組織努力與現(xiàn)代開發(fā)環(huán)境保持速度和規(guī)模。

他對平臺(tái)化（和更廣泛的平臺(tái)工程）的愿景使組織能夠在所有AI使用中應(yīng)用一致的政策，盡早確定危險(xiǎn)行為，并為開發(fā)人員提供現(xiàn)有工作流中的安全，批準(zhǔn)的AI功能。

“這減少了軟件開發(fā)人員的摩擦，可以在不損害安全性或合規(guī)性的情況下更快地工作。與其兼顧多個(gè)脫節(jié)的工具，不如對AI活動(dòng)進(jìn)行集中的視野，使監(jiān)視，審計(jì)和對威脅的響應(yīng)更加容易。最終，平臺(tái)方法是一種平臺(tái)的方法，即在較小的情況下確定較小的風(fēng)險(xiǎn)，并確定敏捷性，并確定敏捷性，并確定刻板的范圍，并將其定為刻板，并將其定為刻板，從而實(shí)現(xiàn)了刻板的范圍。網(wǎng)絡(luò)的麥金農(nóng)。

在最壞的情況下，影子AI可以導(dǎo)致所謂的模型中毒（也稱為數(shù)據(jù)中毒），當(dāng)攻擊者通過更改其訓(xùn)練數(shù)據(jù)來操縱AI或機(jī)器學(xué)習(xí)模型的輸出時(shí)，應(yīng)用程序和API可靠性公司Cloudflare描述了這種場景。 AI模型中毒者的目的是使AI一旦開始處理推理計(jì)算，最終為我們提供了AI驅(qū)動(dòng)的見解，就可以使AI產(chǎn)生偏見或有害結(jié)果。

軟件供應(yīng)鏈管理專家Sonatype首席產(chǎn)品官Mitchell Johnson表示：“ Shadow AI包括組織外部使用的任何AI應(yīng)用程序或工具。助手，在個(gè)人帳戶上建立機(jī)器學(xué)習(xí)模型，或使用非正式腳本自動(dòng)化重復(fù)的任務(wù)。”

約翰遜指出，由于遠(yuǎn)程工作的增加，現(xiàn)在似乎越來越多，在這種情況下，團(tuán)隊(duì)在傳統(tǒng)監(jiān)督之外運(yùn)作，而公司缺乏全面的AI治理，從而造成了政策差距，從而允許即興創(chuàng)作。

從陰影中

顯然，網(wǎng)絡(luò)系統(tǒng)的健康問題與Shadow AI有關(guān)。畢竟，這是科技行業(yè)評(píng)論員提出的第一個(gè)問題，警告任何形式的影子IT。也有更廣泛的影響，包括某些IT團(tuán)隊(duì)獲得似乎不公平的優(yōu)勢，或者一些開發(fā)人員團(tuán)隊(duì)介紹導(dǎo)致偏見和幻覺的Rogue AI。

要借用氣象真實(shí)性，陰影通常只有在熱浪期間才是好消息……這通常意味著存在很多濕度，風(fēng)暴可能正在途中。

以上是在陰影AI上閃耀光的詳細(xì)內(nèi)容。更多信息請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！