0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

光電子技術(shù)如何優(yōu)化性能、提高效率、助力設(shè)備微型化

新思科技 ? 來(lái)源:新思科技 ? 2023-10-18 10:12 ? 次閱讀

ChatGPT是今年的大熱點(diǎn),尤其是GPT-4幾乎讓全球用戶(hù)都為之驚嘆。ChatGPT生成的文字不僅十分接近人類(lèi)的表達(dá)方式,它還能撰寫(xiě)文章、編寫(xiě)代碼、解釋復(fù)雜的概念等等。AI正在以一種零基礎(chǔ)入門(mén)的使用方式逐漸融入我們的日常生活。

AI和ML等計(jì)算密集型應(yīng)用會(huì)產(chǎn)生龐大的計(jì)算工作負(fù)載,導(dǎo)致功耗巨大,因此對(duì)處理算法、運(yùn)行模型和負(fù)責(zé)數(shù)據(jù)傳輸?shù)?a href="http://www.ttokpm.com/v/tag/1751/" target="_blank">硬件提出了更高的要求。對(duì)開(kāi)發(fā)者來(lái)說(shuō),驚嘆于ChatGPT的強(qiáng)大之余,我們也更關(guān)注此類(lèi)應(yīng)用是如何實(shí)現(xiàn)如此快速實(shí)時(shí)的對(duì)話并給出高分答案的。

超大規(guī)模數(shù)據(jù)中心是目前處理AI、高性能計(jì)算、大數(shù)據(jù)分析等高強(qiáng)度工作負(fù)載的普遍選擇,但此類(lèi)數(shù)據(jù)中心內(nèi)多采用傳統(tǒng)的銅互連方式來(lái)連接不同組件,面對(duì)高帶寬需求時(shí)略顯局促。

光子集成電路PIC)能夠利用光的優(yōu)勢(shì)在這一領(lǐng)域發(fā)揮重要作用。本文我們將共同探討光電子技術(shù)如何優(yōu)化性能、提高效率、助力設(shè)備微型化。

01運(yùn)行AI模型的能耗巨大

ChatGPT使用了OpenAI的生成式預(yù)訓(xùn)練Transformer 3(GPT-3)技術(shù),這一自回歸語(yǔ)言模型利用深度學(xué)習(xí)生成文本,該模型具有1,750億個(gè)參數(shù),人腦相當(dāng)于具有1,000億個(gè)參數(shù)的模型,所以Transformer 3架構(gòu)的處理水平超越了人腦。

這樣的AI模型對(duì)內(nèi)存、GPUCPU、加速器等硬件組件提出了極高的要求。運(yùn)行AI模型需要大規(guī)模GPU陣列、高帶寬光連接等硬件基礎(chǔ)。

超大規(guī)模數(shù)據(jù)中心通常占地面積達(dá)數(shù)十萬(wàn)平方英尺,擁有5,000余臺(tái)服務(wù)器,管理著petabytes級(jí)的數(shù)據(jù),能夠高效、快速處理海量數(shù)據(jù)。然而,這種規(guī)模的容量和功能也帶來(lái)了巨大的能耗壓力:國(guó)際能源署的數(shù)據(jù)顯示,2021年,數(shù)據(jù)中心的能源用量在220至330太瓦時(shí)(TWh)之間,約占全球最終電力需求的0.9%至1.3%,甚至超過(guò)了一些國(guó)家或地區(qū)全年的能耗。

許多數(shù)據(jù)中心的硬件組件通常以銅互連方式連接,而中心內(nèi)各機(jī)架之間則往往使用光纖連接。如今,短距離光連接技術(shù)已經(jīng)發(fā)展至爆發(fā)點(diǎn),使用光電子技術(shù)的光學(xué)I/O完成交換機(jī)、CPU、GPU等核心芯片的互連以及Die-to-Die互連,正在迅速崛起成為下一代數(shù)據(jù)中心不可或缺的解決方案。利用光的特性,光子集成電路可以實(shí)現(xiàn)和擴(kuò)展數(shù)據(jù)傳輸并提高傳輸效率。從物理學(xué)角度看,光電子技術(shù)在提高帶寬和速度、降低延遲和功耗方面遙遙領(lǐng)先,完全可以滿足數(shù)據(jù)中心以及AI聊天機(jī)器人的需求。

“我們致力于為醫(yī)療保健、金融、工業(yè)等行業(yè)打造優(yōu)化的AI和量子系統(tǒng),在這一過(guò)程中,光電子技術(shù)可大幅提升帶寬和速度,我們體驗(yàn)到了其優(yōu)勢(shì)所在。新思科技的光電子技術(shù)解決方案使我們以光速注入我們的技術(shù),幫助客戶(hù)提升業(yè)務(wù)成果。”

Nagendra Nagaraja博士

QpiAI創(chuàng)始人兼首席執(zhí)行官

02光電子技術(shù):分散式數(shù)據(jù)中心的光學(xué)高速線路

目前,數(shù)據(jù)中心架構(gòu)正轉(zhuǎn)向分散式設(shè)計(jì),將存儲(chǔ)、計(jì)算和網(wǎng)絡(luò)等同質(zhì)資源分別置于不同模塊,并以光學(xué)方式進(jìn)行連接。這種架構(gòu)不會(huì)造成資源浪費(fèi),中央智能單元負(fù)責(zé)確定并從每個(gè)模塊獲取所需的數(shù)據(jù),然后通過(guò)光互連傳輸數(shù)據(jù),而其余資源可用于處理其他工作負(fù)載。

除機(jī)架、房間和建筑間的配置外,光互連還有望成為CPU和GPU級(jí)別的主要連接方式,并通過(guò)光信號(hào)處理數(shù)據(jù)I/O。人們希望能夠以高帶寬光連接取代許多并行和高速串行電氣I/O通道,這推升了對(duì)近封裝光學(xué)器件和共封裝光學(xué)器件的需求。其中,近封裝光學(xué)器件在主控板上使用高性能PCB基板(中介層),而共封裝光學(xué)器件則將電芯片和光芯片集成在單個(gè)封裝中。雖然光電子技術(shù)在短期內(nèi)不太可能完全取代傳統(tǒng)的電子半導(dǎo)體組件,但其顯然能夠有效滿足帶寬和延遲要求。同時(shí),人們正在研究模擬和數(shù)字計(jì)算在光學(xué)領(lǐng)域中的價(jià)值。

03光電子技術(shù):利用光速突破帶寬壁壘

Future Market Insights的數(shù)據(jù)顯示,2022年至2032年,PIC市場(chǎng)的年復(fù)合增長(zhǎng)率將達(dá)到21.5%。顯然,憑借高速數(shù)據(jù)傳輸和低能耗特性,PIC開(kāi)辟了一條新途徑,能夠幫助開(kāi)發(fā)者突破帶寬障礙并盡可能降低能耗。

一些公司積極開(kāi)發(fā)新技術(shù)以滿足帶寬需求并降低環(huán)境影響,走在行業(yè)發(fā)展前沿,比如推出了光電子AI計(jì)算平臺(tái)的LightMatter和開(kāi)發(fā)了光互連小芯片的Ayar Labs。此外,還有一些公司正在設(shè)計(jì)使用光子而非電子作為算法核心的模擬和數(shù)字計(jì)算解決方案。光電子技術(shù)領(lǐng)域正在迎來(lái)持續(xù)的創(chuàng)新發(fā)展。

然而,PIC設(shè)計(jì)并不像傳統(tǒng)IC設(shè)計(jì)那樣簡(jiǎn)單直接,其電路的性能同材料和光學(xué)特性密切相關(guān),而光學(xué)特性又與幾何形狀有關(guān)。要想取得成功,需要了解最新的研究成果、工具和技術(shù),并熟練掌握量子光學(xué)和物理光學(xué)的相關(guān)知識(shí)。

新思科技是業(yè)界唯一提供光電子器件、系統(tǒng)和IC無(wú)縫設(shè)計(jì)流程的公司,助力開(kāi)發(fā)者成功完成光電子設(shè)計(jì)。新思科技還與各大代工廠密切合作,攜手推出簡(jiǎn)化PIC開(kāi)發(fā)的工藝設(shè)計(jì)套件(PDK),同時(shí)與政府組織合作開(kāi)展光電子技術(shù)教育項(xiàng)目。新思科技大力投資技術(shù),與瞻博網(wǎng)絡(luò)合資成立OpenLight,推出全球首個(gè)集成激光器的開(kāi)放式硅光子平臺(tái)。

從ChatGPT到物聯(lián)網(wǎng),高帶寬應(yīng)用催生了對(duì)更高數(shù)據(jù)傳輸速度的需求。基于光電子技術(shù)的芯片應(yīng)運(yùn)而生,利用光的速度提供更高的帶寬、更低的延遲和更低的功耗。隨著光子IC的持續(xù)發(fā)展,電子行業(yè)必將迎接光明的未來(lái)。

審核編輯:湯梓紅

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 光電子
    +關(guān)注

    關(guān)注

    1

    文章

    112

    瀏覽量

    17212
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    28877

    瀏覽量

    266237
  • 新思科技
    +關(guān)注

    關(guān)注

    5

    文章

    775

    瀏覽量

    50191
  • ChatGPT
    +關(guān)注

    關(guān)注

    28

    文章

    1517

    瀏覽量

    6935

原文標(biāo)題:光電子技術(shù)為下一代AI打開(kāi)超強(qiáng)算力格局

文章出處:【微信號(hào):Synopsys_CN,微信公眾號(hào):新思科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    D類(lèi)放大器中用于提高效率的 Y 橋應(yīng)用說(shuō)明

    電子發(fā)燒友網(wǎng)站提供《D類(lèi)放大器中用于提高效率的 Y 橋應(yīng)用說(shuō)明.pdf》資料免費(fèi)下載
    發(fā)表于 09-13 11:03 ?0次下載
    D類(lèi)放大器中用于<b class='flag-5'>提高效率</b>的 Y 橋應(yīng)用說(shuō)明

    取得平衡:可提高效率并控制EMI的汽車(chē)設(shè)計(jì)

    電子發(fā)燒友網(wǎng)站提供《取得平衡:可提高效率并控制EMI的汽車(chē)設(shè)計(jì).pdf》資料免費(fèi)下載
    發(fā)表于 08-28 11:58 ?0次下載
    取得平衡:可<b class='flag-5'>提高效率</b>并控制EMI的汽車(chē)設(shè)計(jì)

    基于壓電效應(yīng)的光電子集成技術(shù)研究進(jìn)展綜述

    壓電效應(yīng)是一種實(shí)現(xiàn)電能與機(jī)械能之間相互轉(zhuǎn)換的重要物理現(xiàn)象。隨著集成光電子技術(shù)和壓電薄膜材料制備技術(shù)的日益成熟,壓電效應(yīng)在光電子集成芯片領(lǐng)域引起廣泛的研究。
    的頭像 發(fā)表于 04-17 09:10 ?724次閱讀
    基于壓電效應(yīng)的<b class='flag-5'>光電子</b>集成<b class='flag-5'>技術(shù)</b>研究進(jìn)展綜述

    卓越性能微型化技術(shù)的完美融合—高密度DDR4芯片

    在現(xiàn)代電子系統(tǒng)的核心組件中,內(nèi)存的性能與穩(wěn)定性至關(guān)重要。高密度DDR4芯片作為當(dāng)前內(nèi)存技術(shù)的杰出代表,不僅憑借其卓越的性能表現(xiàn)和微型化
    的頭像 發(fā)表于 03-22 14:47 ?414次閱讀
    卓越<b class='flag-5'>性能</b>與<b class='flag-5'>微型化</b><b class='flag-5'>技術(shù)</b>的完美融合—高密度DDR4芯片

    光電子集成芯片是什么

    光電子集成芯片是一種由光電子器件、微電子器件以及微機(jī)械器件等多種元器件所組合而成的芯片。它主要依靠半導(dǎo)體制造技術(shù),將電子、光子、熱子等不同形
    的頭像 發(fā)表于 03-19 18:23 ?1231次閱讀

    低成本高效率易部署,藍(lán)蜂物聯(lián)網(wǎng)關(guān)+EMCP云平臺(tái)賦能工廠數(shù)字轉(zhuǎn)型

    、提高效率和易于部署的挑戰(zhàn)。藍(lán)蜂物聯(lián)網(wǎng)關(guān)與EMCP云平臺(tái)的結(jié)合,為工廠提供了一種低成本、高效率、易于部署的解決方案,助力其數(shù)字轉(zhuǎn)型。 一、藍(lán)蜂物聯(lián)網(wǎng)關(guān) 藍(lán)蜂物聯(lián)網(wǎng)關(guān)是一款專(zhuān)門(mén)為工業(yè)互
    的頭像 發(fā)表于 02-27 14:25 ?559次閱讀
    低成本<b class='flag-5'>高效率</b>易部署,藍(lán)蜂物聯(lián)網(wǎng)關(guān)+EMCP云平臺(tái)賦能工廠數(shù)字<b class='flag-5'>化</b>轉(zhuǎn)型

    提高效率的DC電源模塊設(shè)計(jì)技巧

    的開(kāi)關(guān)電源作為電源模塊的核心。開(kāi)關(guān)電源通常比線性電源具有更高的轉(zhuǎn)換效率,可以將輸入電壓轉(zhuǎn)換為所需的輸出電壓而減少能量損耗。 提高效率的DC電源模塊設(shè)計(jì)技巧 2. 優(yōu)化輸入濾波電路:在電源模塊的輸入端添加適當(dāng)?shù)臑V波電路,可以阻擋高
    的頭像 發(fā)表于 02-26 14:27 ?378次閱讀
    <b class='flag-5'>提高效率</b>的DC電源模塊設(shè)計(jì)技巧

    什么是電源模塊效率 如何計(jì)算 提高效率的方法

    什么是電源模塊效率 如何計(jì)算 提高效率的方法 BOSHIDA博士達(dá) 電源模塊效率是指輸入電能轉(zhuǎn)換為輸出電能的比例,通常以百分比表示。高效率的電源模塊能夠最大限度地將輸入電能轉(zhuǎn)化為有用的
    的頭像 發(fā)表于 02-02 09:44 ?804次閱讀

    搬運(yùn)機(jī)器人已經(jīng)成為提高效率、降低成本的關(guān)鍵技術(shù)

    富唯智能移動(dòng)機(jī)器人助力3c電子行業(yè)實(shí)現(xiàn)產(chǎn)業(yè)優(yōu)化 在3C電子行業(yè),生產(chǎn)線的自動(dòng)和智能水平直接影
    的頭像 發(fā)表于 01-23 16:44 ?303次閱讀
    搬運(yùn)機(jī)器人已經(jīng)成為<b class='flag-5'>提高效率</b>、降低成本的關(guān)鍵<b class='flag-5'>技術(shù)</b>

    搬運(yùn)機(jī)器人已經(jīng)成為提高效率、降低成本的關(guān)鍵技術(shù)

    物流、制造業(yè)和倉(cāng)儲(chǔ)等領(lǐng)域,搬運(yùn)機(jī)器人已經(jīng)成為提高效率、降低成本的關(guān)鍵技術(shù)。近年來(lái),隨著技術(shù)的不斷突破,搬運(yùn)機(jī)器人正朝著更加智能、高效和可靠的方向發(fā)展。
    的頭像 發(fā)表于 01-22 12:00 ?402次閱讀
    搬運(yùn)機(jī)器人已經(jīng)成為<b class='flag-5'>提高效率</b>、降低成本的關(guān)鍵<b class='flag-5'>技術(shù)</b>

    帶有快速體二極管的MOSFET器件通過(guò)LLC拓?fù)浜虵REDFET來(lái)提高效率

    帶有快速體二極管的MOSFET器件通過(guò)LLC拓?fù)浜虵REDFET來(lái)提高效率
    的頭像 發(fā)表于 12-08 17:35 ?572次閱讀
    帶有快速體二極管的MOSFET器件通過(guò)LLC拓?fù)浜虵REDFET來(lái)<b class='flag-5'>提高效率</b>

    高效率、低功率轉(zhuǎn)換IC提高可穿戴設(shè)備性能

    電子發(fā)燒友網(wǎng)站提供《高效率、低功率轉(zhuǎn)換IC提高可穿戴設(shè)備性能.pdf》資料免費(fèi)下載
    發(fā)表于 11-23 11:01 ?0次下載
    <b class='flag-5'>高效率</b>、低功率轉(zhuǎn)換IC<b class='flag-5'>提高</b>可穿戴<b class='flag-5'>設(shè)備</b><b class='flag-5'>性能</b>

    如何使用自增自減運(yùn)算提高效率

    使用自增自減運(yùn)算提高效率 在使用到加一和減一操作時(shí)盡量使用增量和減量操作符,因?yàn)樵隽糠Z(yǔ)句比賦值語(yǔ)句更快,原因在于對(duì)大多數(shù)CPU來(lái)說(shuō),對(duì)內(nèi)存字的增、減量操作不必明顯地使用取內(nèi)存和寫(xiě)內(nèi)存的指令,比如
    的頭像 發(fā)表于 11-21 11:29 ?412次閱讀

    鍵盤(pán)測(cè)試設(shè)備性能檢測(cè)和高效率解決方案

    鍵盤(pán)測(cè)試設(shè)備性能檢測(cè)和高效率解決方案
    的頭像 發(fā)表于 11-08 09:19 ?802次閱讀
    鍵盤(pán)測(cè)試<b class='flag-5'>設(shè)備</b>的<b class='flag-5'>性能</b>檢測(cè)和<b class='flag-5'>高效率</b>解決方案

    單片機(jī)驅(qū)動(dòng)LCD如果提高效率?

    單片機(jī)驅(qū)動(dòng)LCD如果提高效率
    發(fā)表于 10-23 07:44