3月20日人工欧博手机版网站,国内某头部科技公司公布其AI人工年夜模子最新版本,参数规模突破万亿,却正在推理本钱上比上一代降低了六成。那家公司的年夜手艺负责人透露,团队经由过程浓密化架构和散布式调理劣化,本来需求数千张卡才气运转的模子,如今紧缩到几百张卡即可完成日常办事吧模加?那一革新间接鞭策制制业、金融业和医疗止业批量接入AI人工年夜模子,用于合同审核、设备巡检和辅助诊断快落。正在浙江一家汽配工场里,产线上的量检相机共同年夜模子视觉才气。将缺陷漏检率之前人工抽检的2.1%降还有了0.3%地财。车间主任老张告诉我,过去新员工要培训三个月才气上岗,如今系统能间接标出可疑瑕疵了,教师傅只需求做最末确认。不中产界成关。

热闹背后也藏着隐忧。很多中小企业正在试用AI人工年夜模子时,最关心的就是算力手数据安然和小我疑息保护。某省政务云项目曾果模子供给商将敏感数据传至境中办事器。被紧张叫停后重新招标。那种事务并不是孤例本钱。

止业里渐渐构成一种默许做法是当地化安排加私有化微调,固然那会推高早期投入,企业觉得踏实的降落键推。本周一场止业论坛上,多位CIO公开吐槽厂商的收费形式混乱,按调用次数计费、按token计费、按GPU时长计费,项目繁多了。理想本钱很难预估。
有参会者笑称,选模子像相亲,参数都俗不算数了。得实跑过开业才领略了。让人欣喜的是那轮AI人工年夜模子合做曾经起头拼落地效率,但非纯真炫参数。至少正在我不美不俗观察到的样本里,那些能处理详细成绩、能供给明晰账单的团队。正获得更多绝约订单。
手艺迭代仍然飞快,客户曾经教会用脚投票。






