眼下，人工智慧（AI）和機器學習（ML）等賽道被熱議，已經成為了習慣。事實上，在DevOps領域，與之相關的話題更是備受矚目。隨著科技不斷演進，這三個領域的融合對於企業的數位化轉型和多層次的創新發揮著越來越重要的作用。基於這一龐大的市場規模的增長源於基於雲的技術和自動化工具的廣泛套用，JFrog便立誌要推進DevOps在具體業務中的實踐。本文將探討，在未來短期之內，由於AI和ML等技術的采用，企業會更加靈活地構建、部署和管理套用，從而提高整體業務敏捷性的趨勢。
AI和ML的崛起為DevOps註入了全新的活力。透過AI和ML的引入，企業能夠更加智慧地進行運維和決策，從而最佳化工作流程、降低錯誤率，並實作更高效的自動化。這一趨勢在全球初創企業和大型企業中都得到了廣泛的套用，推動了整個DevOps生態系的蓬勃發展。在全球範圍內，初創企業積極采用這些先進技術和工具，以提高其競爭力並快速適應市場變化。大型企業則逐漸意識到，特別在數位時代，采用雲原生、AI和ML等技術不僅是一種趨勢，更是提升企業創新力和業務效率的關鍵所在。因此，它們紛紛投身於這些技術，透過數位化轉型賦能業務。
1. AI和ML對於DevOps的影響
首先，隨著運維機器，包括版本釋出頻率的不斷增加，未來如果有成熟的產品，透過AI工具實作自動化將成為可能。特別是在測試領域，AI測試的自動化實作將會得到強化，其學習能力的提升將顯著幫助開發者。因此，AI對於Ops團隊和開發者的支持將實作顯著提升。
其次，模型的安全性也將成為一個重要關註點。Hugging Face是一個在互聯網上管理大型模型的平台，國內的模型企業通常在這個平台上搜尋最熱門的大型模型，例如來自Facebook的模型，並將其下載到本地。然而，其中存在一個潛在的問題就是惡意上傳模型的風險。惡意上傳者可能在模型中嵌入一些惡意程式碼，在本地執行模型時就會觸發這些惡意程式碼。這種攻擊方式包括但不限於在機器上植入礦機、竊取密碼等多種攻擊方式。目前，尚無工具能夠完全阻止利用模型進行此類投毒攻擊。
對此，JFrog可提供一些支持，但模型攻擊的方式繁多，對策仍需進一步的研究和發展。另外，還有一種潛在的威脅是利用大型模型如ChatGPT，透過訓練使其生成惡意程式碼。黑客可以透過故意訓練GPT以產生惡意回答，當其他人查詢時，就會得到這些惡意的回復。這種潛在的威脅也需要引起足夠的重視。
2. 良好的基礎設施是AI/ML計劃實作長期成功的關鍵
高度可延伸、有彈性、分布式、安全和高效能的基礎設施可以決定一個組織的AI/ML 戰略的成敗。JFrog有客戶從事超級計算，並提供機器學習服務，但與此同時，JFrog並未自己使用這些服務，而是將其提供給客戶使用。客戶的套用場景通常涉及在JFrog的超級計算平台上進行訂單操作。若構建一個模型集群，以進行大規模的模型計算。為此，需要在平台上投入資金，首先購買所需的電腦資源，其次購買模型，還需要相關的監控服務。使用者在完成支付後確認訂單，此後所有操作都依賴於JFrog系統平台的分布式、可用性、安全性和高效能的基礎設施即可實作。
由於模型檔非常龐大，甚至單個檔就可能達到100GB，而使用者可能分布在全球各地。假設模型檔儲存在使用者位於北京的總部，但使用者需要在西安的分公司進行訓練，這就要求將整套與模型相關的檔立即傳輸到西安。因此，解決如何快速而又確保成功地將100GB的檔傳送到西安，成為了當務之急。眾所周知，這些檔傳輸可能經過公共網路，因此可能引發許多效能問題。這些模型的學習運算操作都依賴於底層基礎設施，為實作本地建設和部署則需要大量的資源，而JFrog會將這些因素都納入考慮。
3. AIOps和MLOps的套用情況及優勢
互聯網企業因需要管理大量的機器，對於AIOps的需求非常高。AI能夠智慧地預測流量的變化，辨識高峰和低谷，並智慧地分配資源，這是互聯網領域非常基本和重要的需求。比如在金融領域，對於AI運維平台的使用並不是那麽頻繁，盡管對於一些錯誤日誌分析有需求，需要在出現故障時利用AI工具快速定位並解決問題，但金融行業對於超前采用AI管控運維的意識並不是很強烈。
MLOps通常是由大型互聯網企業所推動，在這個環節中，JFrog也能夠提供支持。因此，一些大型企業在這方面的落地較為順暢，他們將模型開發的能力賦予了DevOps工具平台上，使得這個過程更為奏效。
4. AI/ML套用過程中需關註的安全問題
JFrog關註到，北美使用者對安全問題的投入已經達到了一個非常高的水平，軟體工程師及企業的資訊長普遍具備安全意識，他們會主動采用安全措施。早前，就有名為軟體供應鏈安全SBOM被制定和釋出，目的是定義軟體供應商提供的軟體包含哪些成分，每個成分的開源元件使用什麽樣的授權證，存在什麽樣的漏洞，這些都是必需的資訊。在國內，企業並沒有這樣的要求，相關的標準也沒有完全形成，中國資訊通訊研究院正在致力於這項工作。未來，伴隨相關標準和法規的出台，這將引導企業采用開源治理來保障其軟體的安全。在這種情況下，每個企業都將不得不在DevOps流程中加入軟體包的安全考慮，這就是一個明顯的趨勢。
JFrog Xray專註於漏洞掃描，只需將軟體包上傳到制品庫，就能自動生成SBOM軟體物料清單。相信在2024年，它將變得非常流行，並成為每個企業都必備的工具。
對於AI工具如何賦能研發團隊，部份企業已經開始利用一些高端芯片進行機器學習，為開發者提供程式碼補全的能力。當然，這是為了幫助開發者更快、更好地編寫程式碼。與眾不同的是，JFrog更加註重支持模型供應鏈。企業要訓練模型，首先需要從互聯網獲取模型，然後管理和訓練這個模型。在模型中，需要編寫自己的程式碼，重新訓練模型，最終釋出自己的模型。因此，JFrog在模型開發方面提供了對整個端到端生命周期的支持，包括模型內的漏洞掃描和license儲備器，以確保為企業提供全方位的保障。
2024年，AI和ML將繼續深刻地塑造DevOps領域，透過自動化執行和智慧決策提高整個開發和運維過程的效率，從而減輕開發團隊的負擔，為團隊提供更高效、智慧和創新的開發和運維解決方案。隨著技術的不斷進步，這些趨勢有望進一步推動DevOps實踐的發展，使其更適應快速變化的業務需求。
