没半点卡壳。
伊恩咽了口唾沫,伸手摸了摸那台笔记本电脑的键盘表面,凉飕飕的,连点热乎气都没有。
“我真是见了鬼了。这台笔记本和手机里跑着的,真就只是十亿参数的蒸馏小模型?这物理空间常识和代码逻辑理解力,直接把咱们机房里百亿参数的Delphi按在地上摩擦啊!”
“这根本不是工程优化能解释得通的事儿。用蒸馏技术把模型体积砍掉上百倍,还不掉核心逻辑推理能力,底下的教师模型底座和剪枝算法得强到什么地步?”
“之前皮特副总裁总念叨,说中国的天问三号全靠云端超算集群硬堆算力。”
“现在人家把模型砍到八百兆塞进手机里,照样把咱们的服务器集群按在地上打!连天问三号蒸馏出来的端侧蒸馏版都这么邪门,他们云端正在训的下一代模型,现在到底是个什么怪物?”
托马斯瘫在转椅里,双手抱住脑袋。
几个人正对着桌上的设备发愣,实验室的厚玻璃门从外头推开了。
Delphi项目组的技术主管马库斯夹着文件夹走进来,脸黑得像锅底。
几名研究员听见动静,赶紧从椅子上站起来。
马库斯没搭理众人的问候,径直走到测试台前,扫了眼桌上的华为手机和笔记本,最后盯住了右侧还没关掉的对比测试屏幕。
左边窗口里那段把弹珠塞进微波炉的荒唐回答、连同刺眼的红色代码报错,和右边窗口里工整精准的物理推演与绿色通过标识,并排挂在屏上。
“主管,我们刚拿内部盲测真题,对这批机器里的端侧模型做了个初步对比……”
马库斯抬起右手,截断了伊恩的话。
“把你们手头所有的日常训练任务全停了,从现在起,这间实验室封门,进最高保密测试状态。”
林宇和托马斯对视了一眼,谁也没敢喘大气。
马库斯伸出手指,挨个点过桌上的手机、笔记本,以及旁边的公网专线接口。
“给你们小组四十八小时。把咱们评测库里所有的极限压力测试集全调出来,从物理常识推理、代码生成、多语种理解到硬件功耗、响应延迟,给我一寸一寸地过筛子。”
“把这批机器里的太子端侧模型、海思这颗独立NPU的能效比,跟咱们现有的百亿级Delphi测试版、还有天问三号云端接口,放在一个桌面上做逆向摸底和量化对比。每一项得分差多少、代差卡在哪个节点,全拿数据图表说
本章未完,请点击下一页继续阅读!