西宁隔热条设备 WAIC对话星环科技CEO:把数据库“户口”迁到GPU上,AI Agent不再干等

54 2026-07-25 18:53

塑料挤出机

智东西西宁隔热条设备

作家 | 李水青

剪辑 | 漠影

2026 WAIC展览上,大模子、智能体、机器东谈主占据着东谈主们的视觉C位,但款藏在大模子背后的基础软件,通常眩惑了不少产业用户安身。

围绕这款堪称“各人个齐全GPU原生数据库”的新物种,来自银行、券商、制造企业、国外机构和校科研团队的时刻厚爱东谈主,异曲同工地关爱同个问题:AI Agent期间,数据底座是不是该换了?

7月18日,星环科技出头向AI Agents的新代能AI数据库——GPU原生领会数据库。

在大宗派据库域,将数据库的“户口”从CPU迁到GPU,况兼刷新全栈能测评得益,这是次斗胆且的架构实际。

“好多企业作念了几百个、上千个Agent,但真的能用的其实没几个。”星环科技独创东谈主、CEO孙元浩告诉智东西:“要让Agent真的用起来西宁隔热条设备,先要处理数据质地和数据组织的问题。”

AI Agent期间,企业究竟需要什么样的数据库?智东西在WAIC期间与孙元浩张开了场近小时的对话,试图从企业Agent落地的真实瓶颈中寻找谜底。、AI Agent落地元年,CPU数据库被逼到限

AI Agent的责任式,正在更变企业对数据的破钞款式。

当年两年,大模子应用以单轮问答为主,用户建议问题,模子给出次回复。如今,Agent的责任式开动转向多轨范轮回,次复杂任务可能触发数百次数据打听,多个Agent并发运行时,数据处理需求会出现数目增长。

“Agent会反复试,先理、分罢黜务,再调数据库和器具,检查服从是否正确,发现不合就修改。”孙元浩告诉智东西,“这种测度式的变化,对底层架构产生了很的影响。”

问题先出在CPU的并行度和内存带宽上。单颗CPU频繁唯有百通用中枢,内存带宽约为400GB/s;GPU领有万并行测度单元,显存带宽可达数TB/s。濒临大范围扫描、复杂聚、向量检索和图测度,双的硬件智力照旧拉开清亮差距。

难办的是,数据搬运跨越拉长了整条链路。模子理频繁运行在GPU侧,数据库查询和常识检索仍在CPU侧。数据需要在CPU内存与GPU显存之间反复搬运,存储墙的存在使得数据传输慢,蔓延,调用次数越多,恭候时刻就越容易被放大。

“用户把任务交给AI西宁隔热条设备,它要像去藏书楼样查贵寓,贵寓太多、处理太慢,后出的服从就慢。”孙元浩告诉智东西,“它即是在干等,等着数据处理完。”

这种恭候径直侵蚀精湛算力的诓骗率。“数据处理慢,GPU就闲置了,GPU诓骗率可能降到百分之三四十。”孙元浩说。模子自身仍有未证据的智力,整层次链路却被数据查询、解析、检索和传输卡住。

何解?

络续堆CPU节点很难从根柢上处理问题。

CPU数目加多后,企业还要同步扩容内存、交换机、电力和散热系统,系统间通讯也会带来新的支拨。“功耗会加多,耗电和散热皆会加多,还要买多交换机把机器连起来,总资本增长得快。”孙元浩告诉智东西。

因此,Agent期间的数据瓶颈也很难被简化为存储容量问题。模子权重、KV Cache和高下文需要快的显存、内存与存储介质,数据准备、关联分析和常识检索又需要强的测度中枢。它是测度、带宽、存储和数据组织式共同变成的系统瓶颈。

“数据处理是个综问题,需要速存储、大容量的内存和显存,也需要强劲的测度中枢。”孙元浩说,“CPU照旧跟不上,就要用GPU来算。”

二、把数据库“户口”迁到GPU上,AI Agent理不再干等

恰是这种领会西宁隔热条设备,驱动星环科技作念出了个在外界看来颇为激进的方案:将数据库的测度链路迁徙到GPU体系内。

比较于市面上已有的“GPU加快数据库”,星环科技强调的“GPU原生数据库”的本体各别在哪?

孙元浩作念了个形象的譬如:“若是只是部分数据库放到GPU上头的话,那就会致部分我是坐飞机然后再走路走段,再坐飞机再走路走段。是以说就总计数据分析的时刻就会被清亮拖慢。”

星环要作念的是把存储层、测度层、编译层和实行引擎一谈围绕GPU重写,让SQL分析、向量检索、图测度等操作尽可能留在同套GPU测度和显存体系内完成。

时刻层面,星环科技竣事了GIDS(GPU-Initiated Direct Storage),由GPU径直发起存储打听,绕过CPU和主机内存,竣事真的意旨上的GPU直连存储。 这种架构带来了三个价值:打消CPU瓶颈、缩短数据传输蔓延和大化GPU诓骗率。

唯有全历程加快,GPU较的硬件参加才可能飘浮为经济。

若是GPU仅将查询速率提两倍,塑料挤出机其较的硬件价钱很难被摊薄;当能熏陶达到数十倍以致上百倍,企业完成疏通任务所需的机器数目和运行时刻皆会清亮着落,单元任务资本才可能出现拐点。

字据星环科技提供的测试服从,在TPC-DS SF1000基准测试中,该数据库完成齐全99项查询测试,相较主流开源数据库DuckDB获取了70倍加快。在与各人头部云数据仓库的对比中,其能是展现出了代际势。孙元浩告诉智东西,当能熏陶达到几十倍以致上百倍时西宁隔热条设备,即使GPU资本于CPU,经济拐点也照旧到来。

“Agent期间,数据库有两个大的变化。”孙元浩告诉智东西,“个是数据处理速率要跟上GPU,另个即是是措施略语义。”

在星环科技的GPU原生架构中,数据库不再只是是存储和查询数据的容器。它进化成了个粗略明白语义、照顾弥远挂牵、并主动为Agent供给高下文的领会基础设施。孙元浩以为,AI Agent需要的不是堆数据的浅薄堆砌,而是齐全、简直且可执续调用的业务高下文。

他告诉智东西,在AI期间,数据库须变成AI的“真相场合”:“数据是真相场合。模子给的是概率谜底,数据库给的是谜底。”为了相沿这点,数据库需要统承载关系型、向量、图、全文和文档等多模子数据,并将数据分析、常识检索、高下文供给和挂牵照顾融在同底座中,以减少多个数据库拼接产生的数据复制和系统割裂。三、各人个齐全GPU原生数据库,为什么是星环先作念到?

模范测试以外,GPU原生领会数据库照旧进入真实数据和业务场景考据。

在复杂企业常识问答场景中,系统需要处理8.9万页文档、2600多万个数值以及无数分析和理任务。星环科技的测试服从流露,包含OCR的文档解析与常识入库能熏陶约10倍,数据检索能熏陶约20倍,单题端到端理能熏陶约6倍,终任务准确率达到79.3。

这类场景的难点经常藏在理之前。企业需要先解析文档、抽取表格和数值、完成常识入库,再让Agent执续查询和校验。孙元浩提到,有客户将数据入向量库需要恭候个月,数据旦新,又要类似漫长历程。“若是次入库要等个月,企业根柢法吸收。”

智能投研对速率的价值加径直。因子测度、历史回测、参数搜索和战略考据皆需要反复扫描多源数据。星环科技在不同测试任务中竣事30倍至5881倍能熏陶。盘问东谈主员不错在同天考据多因子和战略,扩大搜索空间,也有契机在商场窗口关闭前完成考据。

“投资机构天能尝试的战略比底本多几百倍,就有契机找到的战略。”孙元浩说,“谁先把有战略参加商场,谁就能早获取收益。”

齐全重写套GPU数据库,为何由星环科技领先完成?

“把齐全数据库搬到GPU上,就像从地球外侨到火星。”孙元浩告诉智东西,“底本训练的软件包和器具大多不成径直用,好多东西皆得我方重新作念。”

背后是其长达十二年的散播式时刻积贮。自2013年修复后,星环科技弥远参加散播式数据库和多模子数据照顾,并于2020年建议多模子数据库向。对它而言,GPU带来的并行测度架构与既无意刻道路存在延续。散播式期间积贮的任务拆解、休养、数据分区和多模子统智力,组成了这次架构迁徙的基础。

孙元浩以为,星环之前作念散播式系统的教学,在这刻证据了要害作用。当年二十年,数据库通过Scale-out(水平膨大)处理单机能不及;如今,GPU纷乱的算力与速互联时刻动测度重新走向密度Scale-up(垂直膨大)。

不错看到,这种对并行测度的刻明白,以及对多模子数据库体化架构的弥远探索,终汇成了领先跨越架构鸿沟的基石。结语:AI Agent重写数据底座,数据库迎来“GPU时刻”

AI Agent进入业务处后,模子、器具与数据之间的调用频率执续上涨。企业能否让Agent快速获取简直数据、高下文和持续挂牵,开动决定AI应用的反馈速率、准确率和单元资本。

GPU原生领会数据库仍处于产业化早期,测试得益还需要多坐褥系统弥远考据,国产算力适配、大范围数据照顾和生态兼容也将执续进。但向照旧明晰,Agent正在重写数据底座,数据库的测度架构与智力规模皆要随之变化。

当GPU从模子理的属算力,跨越进入数据分析、常识检索和挂牵照顾,数据库也迎来了我方的“GPU时刻”。文安县建仓机械厂相关词条:管道保温施工     塑料挤出设备     预应力钢绞线    玻璃棉厂家    保温护角专用胶

1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定西宁隔热条设备,并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方,并积极配合修改。
3.凡用户访问本网页,均表示默认详情页的描述,不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》,以此来变相勒索商家索要赔偿的违法恶意行为。

下一篇:那曲塑料管材设备 福建晋江公安全力看护众人出游安全
上一篇:自贡塑料管材设备 寻访百大哥建筑 传承师生红文脉——海洋大学鱼山校区多楼红故事
推荐资讯