接满了密密麻麻的跳线和示波器探头。
余大嘴穿着深蓝色便服,大步迈过来,嗓门响亮得很。
“顾总你可算来了!”
“这块定制的端侧芯片,我们团队连轴转了二十天,把底层指令集全给翻新了一遍!”
站在旁边的何庭波留着短发,脸上带着疲惫,眼神却格外明亮。
“老余你先别吹牛皮。”
“具体行不行,得让顾总带来的模型在板子上跑一轮压力测试。”
顾屿朝身后的林远打了个手势。
林远拎着特制的三防手提箱走上前。
箱子里面装着天问蒸馏精简版模型的加密固态硬盘。
“余总,何总,按照咱们上个月确定的权重剪枝方案,模型体积压缩到了八百兆以内。”
林远把线缆连接到主控机上,手脚十分利索。
“专门针对海思这颗NPU的向量计算单元做了算子融合。”
“现在把参数写入片上内存,直接上电测试。”
实验室里的说笑声顿时平息下来。
十几名两家公司的核心工程师围在主显示屏前。
大家都屏住呼吸,盯着屏幕上滚动的黑色控制台。
电源开关合上,母板上的微型风扇发出轻微的转动声。
示波器屏幕上的波形开始剧烈跳动。
屏幕上刷出一行行绿色的驱动加载日志。
“片上内存对齐成功。”
“矩阵乘法加速单元识别正常,指令集握手通过!”
负责监控底层的海思工程师高声报数,声音里带着明显的抖动。
顾屿往前走了一步,看着监视器。
“把离线测试包打进去,测一下单次推理延迟和功耗曲线。”
键盘敲击声在安静的房间里格外清脆。
回响这边的测试员直接输入了一段没有联网的本地语音指令。
“明天上午十点,在公司三号会议室建一个五人日程,提醒参会人员带好项目终审报告。”
指令刚敲下回车键。
显示屏中央的交互界面在极短时间内给出了反应。
日历表格填充完毕,地点、主题、参会人员和备注要求全被精准拆分。
右下角的性能监控仪表盘同时定格。
推理耗时,一百一十二毫秒。
平均运行功耗,仅有一点三瓦。
这代
本章未完,请点击下一页继续阅读!