
从一句话生成一张图,到几秒钟生成一段视频,生成式东说念主工智能正在走向更复杂的确凿宇宙欺诈。但是,模子越大、折柳率越高、生成本体越丰富,对算力与能耗的需求就越惊东说念主。在后摩尔定律期间,面向当年的科研焦点转向光电缱绻等“下一代算力芯片”。
19日,自如日报·上不雅新闻记者从上海交通大学获悉,交大集成电路学院陈一彤课题组在新一代算力芯片方针获取要紧龙套,初次完了了支执大限制语义视觉生成模子的全光缱绻芯片LightGen。
筹商研讨以《大限制智能语义视觉生周详光芯片》(All-optical synthesis chip for large-scale intelligent semantic vision generation)发表于海外顶级学术期刊《科学》(Science)上。
同步被Science官方选为高光论文重心报说念。
刻下,光电芯片仍主要擅长加快判别类的任务,距离救援前沿大限制生成模子还有不小距离。因此,“奈何让下一代算力光芯片八成初始复杂生成模子”,成为各人智能缱绻边界公认的难题。
所谓“光缱绻”,不错泛泛交融为:不是让电子在晶体管中初始,而是让光在芯片中传播,用光场的变化完成缱绻。由于光自然具备高速和并行的上风,始终被视为龙套算力与能耗瓶颈的进攻方针。
不外,要把光缱绻信得过用到生成式AI上,并非这样浮浅:生成模子时常限制更大,还需要在不同维度之间不停变换;而要是芯片限制较小,则不得常常时在光与电之间级联或复用,速率上风就会被延伸与能耗赶紧对消。因此,全光缱绻,就显得更为进攻,同期也更为疼痛。
大限制全光生成缱绻芯片LightGen
LightGen芯片之是以八成完了惊东说念主的性能飞跃,在于它在单枚芯片上同期龙套了三项边界公认的要津瓶颈:单片上百万级光学神经元集成、全光维度休养,不依赖真值的光学生成模子锤真金不怕火算法。这三项中的猖狂一项单独龙套齐足以组成进攻发达,而LightGen同期作念到,使得面向大限制生成任务的全光端到端完了成为可能。
更进攻的是,LightGen芯片展现的并不是“电赞成光”的生成,而是让全光芯片完竣完了“输入—交融—语义操控—生成”的闭环:输入图像插足芯片后,系统八成索取与表征语义信息,并在语义操控下生周详新的媒体数据,完了让光“交融”和“深远”语义。
经新论文的实验考据,LightGen可完成高折柳率(≥512×512)图像语义生成、3D生成(NeRF)、高清视频生成及语义调控,同期支执去噪、局部与全局特征迁徙等多项大限制生成式任务。
LightGen生成的采样图像示例
在性能评估上,LightGen芯片接管了极严格的算力评价尺度:在与电芯片上初始的多个前沿电子神经聚积相仿生成质料的前提下,径直对端到端耗时与耗能进行测量。实测标明,即便接管较滞后性能的输入建筑,LightGen芯片仍可获取比拟顶尖数字芯片2个数目级的算力和能效提高。
而要是接管前沿建筑使得信号输入频率不当作瓶颈的情况下,LightGen芯片表面可完了算力提高7个数目级、能效提高8个数目级的性能跃升。这不仅体现了在不就义生收效果的情况下,用全光决议替换现存决议可能带来的广泛增益,也从侧面印证了大限制集成、全光维度变换与无真值锤真金不怕火等难点被系统性处治后,在全光片上承载大限制生成聚积的实际兴致兴致。
这项进攻适度同步被Science官方选为高光论文重心报说念。文中提到,生成式AI正加快融入分娩生计,要让“下一代算力芯片”在当代东说念主工智能社会中信得过实用,大势所趋的是研发八成径直实行确凿宇宙所需前沿任务的芯片——尤其是大限制生成模子这类端到端时延与能耗极高的任务。面向这一方针,LightGen为新一代算力芯片信得过助力前沿东说念主工智能斥地了新旅途,也为探索更高速、更高能效的生成式智能缱绻提供了新的研讨方针。
