好些年来,我结识到老张,他就职于成都天府软件园里的一家中小型创业公司,担任资深软件工程师一职,负责带领一个开发团队。

那个夜晚,是五一小长假来临前的一晚,具体来说是2026年4月30日的晚上,当时时间已到八点多,就在这个时段,老张忽然给我发送了几条长长的语音信息,他的语气之中,有着一种根本压抑不住的兴奋之情,他在语音里说道,“兄弟们,我所制作的那个AI助手小程序已经完成了,令人意想不到的是,它比预先所期望的整整提前了三个月时间。”。

我晓得他始终在暗暗地承接私活去搞小程序开发,然而却从来都未曾听闻他这般激动过,就是这样。

事情还得从今年年初说起。

一月底之际,老张于朋友圈刷见一条由朋友所发的消息,微信小程序推出了“AI应用及线上工具小程序成长计划”,其提供免费云开发资源,还有1亿混元Token补贴以及全年流量激励,该计划覆盖整个2026年。

老张那时当下就心动起来了,然而却犹豫了好长一段时间,他讲自己手上已然积压了三个项目,完全没办法分身去做别的事了。

在语音中,他讲,那段日子,我每日都熬夜,客户那方催促得极为急迫,代码编写了一回又一回,跑不起来的情形实在是太多了。

转折发生在三月中旬。

老张忽然接到了一项需求,这项需求是要帮当地的一家连锁健身机构去定制一个小程序,该小程序的核心功能是AI体态评估以及智能训练计划推荐。

客户提出要求,需在三个月内实现上线,体验方面要达成流畅的标准,AI响应速度不得超过三秒。关键在于,预算方面存在非常严格苛刻的限制。

老张表示,他进行了估算,按照传统方式去做,单单是算力成本这方面,就不一定能够挺得住。他还提到,更不用说后端的部署以及接口对接,随便在哪个环节出现了问题,都能够拖延半个月。

聊到这里,他叹了口气。

但老张有个习惯——遇到瓶颈就刷技术社区。

四月初的某个夜晚,他于浏览时,发现了一个宝藏,那便是所开源的多模态大模型,该模型首次开创了一种名为“视觉原语”的新型推理框架,此框架专门用以解决图像理解以及空间参照类任务。

老张当时眼睛一亮——这不就是健身体态评估需要的底层能力吗?

人拍摄一张处于站立姿态的照片,系统需要能够判断出肩膀所在位置,以及脊柱偏移的角度,以往针对这种需求必定得通过自身去训练模型,其周期长得令人发指。然而已经有了开源的多模态模型,之前90%的图像理解方面的工作直接就被解决掉了。

老张回忆:“我当场就看完了那份技术报告。”凌晨两点时,老张还在仓库里拉代码,之后将其部署到测试环境试跑一遍,结果效果出乎意料地好。

第二天一早,他重新评估了整个项目的开发路径。

老张察觉到,传统的那种小程序开发方式呈现为“全栈自研”样式网站开发,于前端负责撰写界面,于后端承担构造业务逻辑的任务,并且还得亲自去对接AI模型接口,着手配置服务器,搭建数据库。

然而此次他转变了一种思考方式,选取现成的开源模型当作AI能力的基础支撑,其余的大部分工作是围绕“源码搭建”来进行的,这意味着是依据开源框架以及社区现有的技术组件,迅速搭建起自身的应用程序。

这般去做所具备的益处十分显著,省去了自起始点开始制造轮子的时段,将精力汇聚于自身的核心业务逻辑之上。

但老张很快察觉到了第二个疑难之处,开源模型尽管十分厉害可是将其部署至云端,并且与自己的小程序后台进行对接,依旧存在着一系列工作需要去完成。

他在语音里讲,弄了两天至三天时间,每天都会遭遇困境,模型固然是可以运行的,然而其做出反应的速度并不足以达到快速的标准,一旦并发情况出现就会直接产生错误提示。

四月中旬里的某一天,老张接到了电话,这电话是我们共同好友阿涛打来的,阿涛是在阿里云工作的,闲聊期间他提到了一则消息,消息是阿里云计算巢才推出的一键部署方案,部署此方案不用手动去配置依赖以及不用手动配置环境,并且二十分钟就能够完成整套部署。

老张赶紧去试了一下,发现确实省去了大量“脏活累活”。

以前折腾两三天的环节,在一套标准化部署完成后,二十多分钟就处理好了。他讲,做过开发的人都明白,那种从四处找钥匙到一扭就开启的畅快体会。

即便有了开源模型的那种“给予助力”,这也还是不够的,老张跟我讲,在五一前的那一周情形下,他几乎每一天都处于进行调整的状态。

他为小程序前端界面所选的,是框架依此将一套代码编译成能适配微信、iOS以及安卓的全平台版本源码暴富,而后端涉及的核心AI服务,他运用的是借助开源多模态模型的API接口,搭配腾讯混元具备的文生文能力来做对话补充。

其真正分量所在之处,乃是关键的业务逻辑,也就是用户体态评估算法,以及训练计划的生成规则,这部分属于源码开发

老张耗费了整整四天时间,将所有开源组件放进自身的代码框架之中,并编写了一个中间层用于调度模型,还来处理并发问题,同时缓存模型结果。

他谈道,他基本上没对模型自身的代码进行改动,仅仅只是把它当成一项黑盒服务去予以调用。他还表示,这种做法并非耻辱之事,源头代码开发自始至终都从未要求你凡事都要从最开始亲自书写,而是要让恰当贴切的技术应用于恰当适宜的位置。

四月底,老张把第一版程序推给了客户的三个门店做灰度测试。

之前的两天状况极为不佳,用户频繁出现掉线情况,AI的响应时而正常时而又不正常。那一天是4月28日的夜晚,老张给我发送了几条消息,宣称他正在连夜对日志展开排查,去观察到底是哪一个环节泛起了问题。

却是他自行编写的并发调度逻辑出现了Bug,被发现了。缓存命中率过低,大量请求径直打到模型服务上,致使响应超时。

他边改边骂自己写代码不仔细,那晚一直干到凌晨两点多才睡。

在第二天清晨时分,他再次起身,对新版展开了再度的部署工作,将缓存策略由LRU转变为LFU ,并且把并发处理从同步方式变更为异步队列。而这一系列的操作,均属于源码开发范畴内极为基础关键的问题 ,不存在任何便捷的途径 ,必定得依靠自身逐行代码地去完成调理最优化处理。

神奇的事情发生在上周三。

老张讲,他在凌晨的时候,收到了客户老板发送过来的微信语音,提到灰度运行了三天,数据处于稳定状态,用户反馈相当不错源码,“尤其是那个拍照就能生成体态报告的功能,我们教练都表示你这个比之前找的外包做得明显好多了。”。

老张当时正在厨房煮面,听到这条语音,半天没回话。

截止到前天,确切来说是5月1日的中午时分,老张将最终版本正式部署到了客户所使用的服务器上面。系统开始上线运行之后,顺利地持续运行了整整一日,此时,他才真正地把内心安放回到安心的状态之中。

写这篇文章之前,我又跟老张聊了一个多小时。

他讲,当下于开发范畴,存在一种趋势愈发显著,即开源模型的性能持续趋近甚至部分超越闭源模型,且云计算正将基础设施的使用门槛降至极低的程度。

“你瞧微信这个具有一亿Token补贴的谋划,”老张掏出手机向我展示,“只要你打算去搞一个带有AI能力的小程序,对于算力成本这方面基本无需忧虑。”。

他还提及了一种饶有趣味的现象,如今,越来越多的企业开始接纳“源码搭建”模式,并非动不动就去找外包公司,花费几十万去购置一套标准系统。

要说源码搭建之本质,那便是将代码的修改掌控之权,牢牢握于自身手中。老张这般讲道 ,你若购置一套闭源系统 ,一旦出现Bug ,那就只能静等官方前来修复。但现如今源码处于你自己手上 ,一旦有问题 ,你能够自行去修改 ,甚至还能够依据业务所需 ,持续不断地进行迭代升级。

老张跟我分享了个最新行业动态,4月27日,一场名为“以开源之道,行致远之志”的中国数据库开源发展峰会在济南举行,来自全球的专家围绕数据库内核优化展开了深入讨论,4月28日,这些专家又围绕AI与数据库融合等前沿议题展开了深入讨论。

他讲,这般峰会释放出明确无疑的信号。此信号为,开源业已变为整个软件相关业界的底层而达成的共识。并且,将来的商业用途的软件通通都会构建于开源技术的底座之上。

聊到这个地方了,老张开腔突然间问我:“你可晓得对于此次我所负责进行开展做成的这么一回该项目,最为重要关键突出的所收获得到的是什么事情呀?”。

我摇了摇头。

“别老是一门心思地琢磨着啥都由自己去打造。”他讲道,“源码进行开发的关键重心在于寻觅到最为适配的‘部件’迅速加以拼凑组合,困难之处向来都并非可不可以去调用他人的库,而是你是不是具备那种辨别力去挑选、去搭配,于开源的条件之上构筑起自身无可取代的价值。”。

老张还说了一段让我印象深刻的话,我原封不动写下来:

之前,我们一直觉得,去做一款产品的时候,一定要从数据库开始,再到前端,然后到业务逻辑,全部都自己研究开发,这样才可谓是有技术含量。然而,现在回过头去看,这样的一种思维方式,实在是太具有工业时代的特征了。对于AI应用开发而言,最具价值的东西,是你针对行业所拥有的理解,是你对用户痛点的精准把握,以及你将技术拆解成为解决方案的那种能力。把这些内容转化为代码逻辑,并嵌入到产品当中,这才是开发者真正的能够起到保护作用的屏障。

听完这段话,我沉默了很久。

的确,这些年小程序开发的界限越发宽广。特别是自微信开启AI小程序成长计划之后,众多以往动不动就需要几十万乃至上百万的工程,如今几百人的小型团队乃至个人开发者皆能够完成。

并非是技术变得更先进了,而是由于源码生态的成熟,使得每个人都站在了巨人的肩膀之上。

四月底里的最后那一周,属于项目冲刺阶段,老张讲,他撰写了将近八千行核心业务逻辑方面的代码,调用了三个开源模型,衔接了六七个 API 接口,处理了数不清的边界条件。

他跟我讲,对他而言,最具成就感之处并非代码数量,而是在他完成所有零件组建后,系统运行起来的那一瞬间,那种“一切尽在掌握”的感受,是购买现成系统绝对无法体会到的。

就在今天早上,老张再次传过来消息,告知新版本的小程序,于安卓端跑出了挺好的响应数据,老板正与其他几个城市的加盟商洽谈合作事宜。

写完这篇文章,我想说几句心里话。

要是你也正从事软件开发工作,或者正思量着踏入小程序开发这一行列,别因网上那些动辄就提及几十万行代码的帖子而打退堂鼓。实际上的源码开发,向来不是比拼谁编写的代码数量多,而是比拼你于开源生态当中寻觅到了何种优质之物,以及怎样把它们组合成你所期望的模样。

给你几个靠谱的建议:

先前往上去浏览浏览,瞧瞧今日有啥新的开源模型发布出来。近来包含、上海AI Lab等机构都频繁发布了开源的多模态模型,其性能相当强劲。

于微信的AI小程序成长计划予以查看。你仅需具备一个优质的产品创意,免费的云开发以及AI算力资源便在彼处等候着你。

莫要怕踏入那坑洼之地,老张讲,他切实学到知识的时段,恰恰是在踩坑之后进行调整的那几日,源码开发这一行为本身,便是一个尝试犯错以及不断迭代更新的进程。

好了,今天就聊到这里。

假设你同样正在着手开展这样的项目,那么诚挚欢迎于评论区域分享你的经历。一旦认为文章具备价值,麻烦点击点赞予以支持。

有什么问题直接在下面留言,我看到就会回复。

收藏起来以后随时翻看,转发给同样在搞开发的朋友。

评论 (0)
嘿,我来帮您