第一線DYXnet張先國:以AI原生超互聯架構破局,為企業數智轉型保駕護航
在數智化時代的今天,AI與大模型應用已成為推動企業創新與持續發展的關鍵技術。隨著科技的不斷發展,大模型私有化部署呈現出愈發明顯的趨勢。一方面,針對特定業務場景的模型客製化能夠更貼合企業實際需求,推動業務發展;另一方面,部署私有化大模型能夠確保資料的安全性與隱私保護,資料無需外流,降低了資料外洩風險。
然而,企業在兼顧傳統業務和部署私有化大模型業務時,面臨著來自算力、網路、資料安全等多個方面的挑戰,迫使企業必須尋求新的技術與解決方案來應對這些難題。身為「AI+雲端網安服務」供應商,第一線敏銳地察覺到了這個趨勢,並致力於建構AI原生超互聯架構,以滿足企業在數智化轉型過程中的需求。
第一線DYXnet智算網路技術部總監張先國在近期接受51CTO採訪時表示,以前資料只是存放在業務資料庫中,企業僅是對其進行簡單檢索,許多非結構化資料難以發揮價值。但現在,借助AI的能力可以更好地釋放資料價值。對企業來說,關鍵在於如何發揮私有資料價值的同時保護自身數據,避免讓自己的資料僅僅成為大型平台的一部分,而這才是企業未來轉型的真正價值所在。
隨著大模型時代的全面開啟,第一線緊跟企業對安全、AI、算力等方面的更高要求,透過技術創新、生態合作,建構了AI原生超互聯架構基礎設施,實現了算力與網路的深度融合,為企業提供了一個集AI算力、私域資料、模式、隱私運算於一體的企業運算空間,能夠支援企業在AI原生領域的創新。
應勢而變,從網路賦能向AI+雲端網安服務商演進
在複雜且激烈的市場環境下,創新已成為企業贏得競爭優勢,獲得持續發展的根本。熟悉第一線的朋友都知道,這家成立於1999年的企業,始終以高速成長的軌跡,適配每個趨勢變革。從最初的電信中立網路服務供應商,到如今全球領先的「AI+雲端網安」服務商,第一線持續走在創新的前沿,不斷突破自我,引領產業發展。
張先國告訴51CTO,在25年的發展歷程中,第一線始終秉持「以服務創新賦能企業成長」的理念,從提供MPLS VPN服務起步,到在業內首推SD-WAN網絡,持續升級服務品質,支撐企業的全球化數位應用場景緊密協同,構築了覆蓋全球700+城市的核心網路服務。
進入AI和大模型時代,越來越多的企業開始探索大模型在企業業務場景中的應用,部署私有化大模型應用已成為推動企業高速發展的核心技術。
張先國表示,隨著大模型深化發展,越來越多的企業開啟數智化升級。大模型私有化呈現愈發明顯的趨勢。企業只有將私有資料、專業知識和產業經驗融入大模型之中,進而打造出AI原生化的業務形態,讓模型產生更符合企業實際和專業需求的內容,才能夠為企業提供更有針對性的決策支援和解決方案,進而更好地幫助企業獲得競爭優勢。
在訪談過程中,張先國以金融業為例,詳細介紹了大模型在推動企業創新過程中所扮演的重要角色。他表示,金融機構可以針對風險評估、投資決策等業務場景訓練專屬金融大模型,使其更精準地處理複雜業務問題。不過,在企業訓練專屬大模型的過程中,對資料安全、網路與算力等方面提出了更高的要求。這需要融合算力、大模型和私有資料等多種要素,並確保新架構形態能夠給予隱私安全的支撐。
在接下來的時間裡,張先國詳細分享了企業在部署私有化大模型應用過程中所面臨的許多挑戰。
首先,算力需求井噴帶來的挑戰。在大模型訓練階段,由於參數量和訓練資料集龐大,對算力有著極高的要求。以金融業為例,在訓練專屬金融大模型時需要處理的資料量動輒幾十T甚至達到PB等級。然而,目前市場上GPU資源緊張,算力成本高昂,如何有效運用算力資源成為企業面臨的一大難題。
其次,網路頻寬與網路安全的雙重壓力。AI原生化業務智慧體是基於企業私有資料和應用程式建構的,資料傳輸量龐大。企業內部網路需要支撐從資料端到算力端的高速互聯互通,網路頻寬需求激增。同時,隨著網路攻擊手段的不斷升級,企業面臨前所未有的網路安全壓力。如何在保障資料傳輸效率的同時,確保資料安全不洩露,成為企業亟需解決的問題。
最後,資料隱私保護難題。作為企業的核心資產,近年來資料外洩和隱私侵犯事件頻繁,讓企業對資料隱私保護的擔憂日益加劇。如何保障大模型訓練過程中的資料隱私安全,成為企業必須面對的重要課題。
張先國強調,在新的趨勢驅動下,第一線正致力於匯聚創新技術與AI算力資源,建構AI原生超互聯架構,承載企業AI原生化的全面升級。
順勢而生,以AI原生超互聯架構賦能企業轉型
基於對企業需求的深刻洞察,憑藉著深厚的技術累積和豐富的產業經驗,第一線打造了AI原生超互聯架構,推出了一系列創新的產品和解決方案,幫助企業應對算力、網路、安全等方面的挑戰。
根據張先國介紹,第一線AI原生超互聯架構實現了園區與樓宇之間算力直達的高速安全通道,解決了算力資源緊張和數據傳輸需求激增的問題,助力企業實現基於私有數據進行大模型訓練的同時,實現更高級別的數據安全性。
在AI算力層面,第一線透過整合多方AI算力資源,形成具備多元算力加持的服務底盤。
在網路層面,第一線基於遠端RDMA等技術,打造了創新的AI原生超互聯架構,採用動態切片技術進行網路的動態切換。當客戶需要大算力時,能夠快速分配出大頻寬且安全隱私的直連網絡,並為其開通百G以上頻寬,保障巨量資料與算力端之間實現快速、高效的互聯互通,並在任務完成後自動釋放資源。
在資料安全層面,第一線建構了隱私運算平台,打造了端對端加密+算後即釋放能力。首先,第一線在網路中增強了即時大頻寬加密能力,從而確保客戶端與算力服務端之間的資料傳輸全程加密。當企業與算力端建立連線後,將獲得性能與安全兼具的算網支撐,同時確保資料不會向外部傳輸。
其次,所有運算伺服器將只有記憶體而無硬碟,實現無盤隱私計算,私有資料算後即清。這意味著計算完成後將結果傳回去,隨後便清空相關資料。當下一次有其他客戶使用時,又會建立一個動態的私有連接,在記憶體空間中進行新運算服務,計算完成後同樣不會留下任何痕跡與保存。如此一來,就能確保做到資料只存在於目前運算時空內的私有運算空間中,使用者可放心使用相關運算服務。
在本次訪談過程中,張先國也透過一個案例,詳細介紹了第一線在助力企業部署私有化大模型應用中的實踐。
據介紹,以某教育企業為例,第一線透過為其建構一個新的私域來存放數據,並提供算力專網服務。透過將資料打造為私有向量資料庫形式的知識庫,並與第一線提供的隱私運算算力連結,利用隱私運算算力進行微調訓練。在訓練過程中,所有資料都在私域空間內完成處理,確保不會向外部傳輸。最終,訓練出一個新的AI模型,並將其部署到公網上供教育企業用戶使用。
目前,第一線的ICT服務已從網路賦能演進為AI+雲端網安的全端式服務體系,為超過2,000家企業客戶賦能。
乘勢而上,持續探索AINet融合升級
談到第一線的整體發展規劃,張先國表示,面對AI這一發展趨勢,第一線正致力於向AI應用與大模型服務+AI原生基礎設施服務升級。對於AI原生基礎設施服務方面,第一線的策略方向之一就是建構AINet。在這項策略中,第一線採取了以下兩條路線:
第一條路線,是在傳統業務層面進行創新。這包括SD-WAN/MPLS VPN、核心網路架構以及SASE安全。目前,第一線正致力於將這些技術與AI結合,以實現以下目標:透過SD-WAN/MPLS VPN+AI實現流量的智慧預測;核心網路+AI建構出InsightNet智慧網路;將SASE的AI能力整合到位於核心網路邊緣的SASE POP,打造智慧安全防護體系。
第二條路線,是打造AI原生超互聯架構,以適應未來企業AI原生化升級需求。
雙向路線匯聚而成的AINet將提供網隨需動、雙網連動的服務賦能,為企業AI業務應用的訓練、推理等多面向場景,提供智慧基礎底座支撐。
訪談最後,張先國表示,第一線將持續探索與推廣AI能力與雲端網安服務整合,以打造智慧基礎設施服務、智慧應用服務等新興服務能力,協同企業共同成就資料價值。
主編觀點:
大模型私有化部署帶來的許多挑戰催生了新技術與解決方案的誕生。正是憑藉著敏銳的產業洞察力和強大的技術實力,第一線在不斷轉型升級過程中,打造出了AI原生超互聯架構,幫助企業解決了大模型私有化部署中遇到的各種難題,即滿足了傳統業務的需求,又讓企業部署私有化大模型應用變得更加簡單,為業務持續創新和發展夯實了基石。
相信未來,隨著AI技術的不斷發展和應用場景的不斷拓展,第一線將繼續深耕ICT服務領域,持續向AI應用與大模型服務+AI原生基礎設施服務升級,為企業提供更多、更好的解決方案和服務。