在过去，英国金融科技公司Revolut面临着AI编程成本高企的问题，部分工程师每月耗费高达1万美元，但实际提升的工作效率并不理想。初期，Revolut使用了Gemini和Claude Code等商业AI工具，然而随着时间推移，费用问题逐渐显现。为了控制成本，该公司决定转向智谱的开源模型GLM进行自我部署。
经过一年努力，Revolut不仅成功将AI编程的推理成本降低了约90%，而且其接近2000名工程师的编码时间比之前减少了60%，交付周期则缩短了70%。这个显著的变化，背后的原因不仅仅是模型的效率提升，工程师们将更多日常琐碎的任务交给AI处理，比如Bug排查和文档更新，进而让编写代码的时间得以充分利用。
为了支撑这项大规模的AI运用，Revolut部署了56张英伟达B200 GPU，确保了资源能够满足日常约2000名工程师的使用需求。最终，通过对推理系统的优化，Revolut有效提升了AI工具的运行效率。
发表评论