智東西(公眾號:zhidxcom)
作者 | ?ZeR0
編輯 | ?漠影

智東西7月19日報道,巴黎奧運會將于下周正式開幕。今日,英特爾分享了與國際奧林匹克委員會(IOC)的一些合作細節,并披露了其以行業需求為導向所打造的生成式AI檢索增強生成(RAG)解決方案?;谄髽IAI開放平臺(OPEA),該方案以行業需求為導向、開箱即用,能夠幫助企業便捷地部署數據中心RAG。

此外,為了幫助全球約11,000名擁有不同語言和文化背景的運動員在奧運比賽場地出入,并遵守相關規定,國際奧委會與英特爾合作開發了基于Athlete365平臺的聊天機器人AthleteGPT。

這是一款基于英特爾至強處理器和Gaudi加速器的RAG解決方案。AthleteGPT支持普通話、英語、法語、西班牙語、俄語、阿拉伯語等六種語言,不僅能夠應答運動員的日常詢問并進行互動,同時將在運動員入住巴黎奧運村期間,為其按需提供信息,使其能快速查詢并獲得準確信息,從而能夠專注于訓練和比賽。

這些成果深度展示了英特爾如何通過基于英特爾至強處理器和Gaudi AI加速器的開放式AI系統及平臺,幫助開發者和企業應對AI高速發展所帶來的需求。

一、基于企業AI開放平臺,打造生成式AI RAG解決方案

部署生成式AI解決方案會帶來成本、規模、準確性、開發需求、隱私和可靠性等方面的挑戰。RAG可以讓企業安全地利用專有數據,增強AI產出結果的及時性與可靠性。

基于AI平臺、開放標準以及軟件和系統生態,英特爾以協作的方式幫助開發者構建定制化的生成式AI RAG解決方案,從而滿足企業的多樣化需求,幫助企業更高效快速地發揮并利用生成式AI的潛力。

此外,英特爾亦將持續提供開放、強大且可組合的多供應商生成式AI解決方案。

英特爾與行業合作伙伴共同創建了開源、可互操作的解決方案,用于輕松部署RAG?;谄髽IAI開放平臺(OPEA),該方案是一種以行業需求為導向、開箱即用、可立即投產的RAG解決方案。

OPEA為企業提供開源、標準化、模塊化,以及異構的RAG流水線,并致力于為開放式模型及多種編譯器和工具鏈的開發提供支持。其加速了針對垂直領域用例的容器化AI集成與交付。

生成式AI一站式解決方案將基于OPEA的微服務組件集成至用于部署英特爾至強處理器和Gaudi AI系統的、可擴展的RAG解決方案中,可通過Kubernetes、Red Hat OpenShift等經驗證的編排框架進行無縫擴展,并提供兼具可靠性和系統遙測功能的標準化API。

給萬名奧運健兒提供AI聊天機器人,英特爾給巴黎奧運會送來“神助攻”

在助力企業便捷地部署數據中心RAG的同時,該方案具備高度的靈活性和可定制性,并集成了多個OEM系統及行業合作伙伴的產品組件。

英特爾至強和Gaudi及相關技術支持基于PyTorch框架來開發大語言模型(LLM)。同時,英特爾攜手OPEA開發了用于RAG和LLM部署的開放式軟件堆棧。該軟件堆棧通過生成式AI一站式解決方案進行優化,并基于PyTorch、Hugging Face服務庫(TGI和TEI)、LangChain以及Redis向量數據庫所構建。

二、支持多種邊緣AI應用,全面優化奧運觀賽體驗

英特爾還支持了巴黎奧運會的一系列邊緣AI應用。這些應用展示了由英特爾技術支持的AI解決方案在實現沉浸式互動體驗、提高賽事觀賞體驗、引入實時3D播報體驗等方面的實用價值。

1、發掘新生代奧運選手:在巴黎奧運會和殘奧會的籌備與比賽期間,英特爾聯手三星打造基于AI技術的沉浸式互動體驗,能夠帶領觀眾體驗成為一名奧運選手的奇妙旅程。得益于英特爾Gaudi AI加速器、內置AI加速功能的至強處理器,以及OpenVINO工具套件的優化,該AI技術能夠帶領觀眾體驗一系列專業的訓練與分析,并為其匹配出最為合適的比賽項目。

2、提高賽事觀賞體驗:面向視障人士,基于內置AI加速功能的至強處理器,英特爾將為美國奧委會和國際殘奧委會在巴黎的訓練場所以及殘奧委會位于德國波恩的總部重建3D模型,幫助視障人士通過具備攝像功能的智能手機實現室內語音導航。

3、引入全新3D播報:英特爾通過至強處理器捕捉并渲染奧運健兒的實時影像,并將生成的體積視頻(volumetric video,含三維空間信息并可在任意視角觀看的視頻格式)傳輸給奧林匹克廣播服務公司,從而傳播至全球范圍內擁有播報版權的各大媒體。同時,通過英特爾OpenVINO工具套件的優化,全球各地的粉絲均可收看到自己喜愛運動員的3D沉浸式實時訪談,并收獲與奧林匹克前所未有的近距離接觸。

結語:用技術創新改善體育賽事體驗

英特爾與國際奧委會之間的合作是在重大體育賽事中運用技術創新的新案例。英特爾執行副總裁兼數據中心與人工智能事業部總經理Justin Hotard談道:“通過擁抱開放、協作的生態系統,英特爾正以創新的方式為運動員提供支持,并助力企業客戶創造更多可能?!?/p>

現階段,如何將最新的AI計算技術應用到企業中并推動關鍵業務成果落地,是企業亟待解決的問題。英特爾正在打造一個開放的環境以鼓勵創新,幫助開發者和企業構建定制化的AI解決方案并取得切實成果。憑借生成式AI一站式解決方案與全面的企業AI堆棧,英特爾提供了完整的解決方案,以應對企業和數據中心在部署和擴展RAG與LLM應用時所面臨的挑戰。