引 言
前两天我在AdSense实战交流QQ群中提到准备邀约对AI应用感兴趣的朋友新建一个微信群，结果立刻有人回复说“AI太贵了”、“算力成本受不了”等。这种“谈AI色变”的心理可以说非常普遍：一提到AI应用，很多人第一反应就是担心成本。
我今天想结合自己的实际经验，谈谈在开发AI应用时，为什么千万不要将节省Token作为首要关注的问题。
初期尝试：AI应用真的很贵吗？
ChatGPT自2022年底横空出世后，我在2023年初第一时间注册了多个ChatGPT账号给同事使用。2023年上半年，我们也尝试调用OpenAI的API开发应用。但当时无论GPT-3.5还是GPT-4，都价格不菲。
例如，我们最早考虑开发一个客服机器人，但由于需要调用大量高质量模型来保证回复的准确性，初期测试阶段成本高得令人望而却步。这让我们觉得AI应用似乎只能停留在高大上的尝试阶段，而无法真正普及。
到2023年底的时候，OpenAI的模型价格有了明显下降，我们调用API来进行一些批量处理的工作，GPT-3.5的价格还勉强能接受，GPT-4依然太贵。
转折点出现在2024年5月前后——国内大模型厂商率先挑起价格战。百度、科大讯飞等推出部分免费模型API，其他厂商也纷纷降低价格。同时，Meta推出的开源模型LLaMA-3系列，不仅性能提升显著，还达到了甚至超过GPT-3.5的水平。
这种价格和性能的变化使得AI应用成本骤降，我们也因此逐步从“舍不得用”转变为“大量投入”。
实际应用：很多LLM模型API根本不要钱
我们首先去一些网站（例如：国内的火山引擎、国外的hugging face等等）注册用户获取了免费额度，就用这些免费的大模型API来改造了网站上一些旧功能。例如，以前网站上的Emoji翻译器由于AI能力较低，翻译质量一言难尽。而重新用大模型构建后，质量显著提升，用户体验也更好了。
有了初步成果后，我们继续推出了一系列AI功能：
1. Emoji推荐师：基于用户需求精准推荐合适的Emoji，极大提高交互体验。
2. Emoji图像融合：利用大模型生成创意Emoji图片，为用户提供更多玩法。
3. Emoji对话机器人：引入AI对话功能，让聊天机器人只用Emoji回复用户。
4. Emoji角色聊天：让Emoji扮演不同的角色，或者娱乐类或者工具类，与用户聊天、提供帮助。
这些功能不仅效果不错，成本也控制在合理范围内。具体是哪些免费或低价API渠道是经常变化的，也不用我告诉你，自己在网上搜索一大把。
从蹭免费到付费：寻找低成本高性能解决方案
我们把Hugging Face上的无服务器推理API尝试了很多，成为付费用户后每天都可以调用很高的额度。但问题是速度较慢，更适合测试环境，而不适合生产环境。于是我们又在网上搜索比价，很快找到每百万输入token只需0.几美元的推理API提供商。过了一阵子，他们还主动降价，于是我们也不太考虑免费而有一些速度限制的模型提供商，转而找花费低但速度快的模型提供商。
有句话说“免费其实是最贵的”也不无道理，合理付费才是更长远的方式。
目前我们每天使用数千万token，费用也才几美元。这让我们能够专注于提升产品质量和功能，而不是焦虑于成本问题。
对话实录：大量Token是未来趋势，别再担心成本
昨天有Dify应用交流微信群的群友问我：“祁老师，你的网站流量很大，目前是通过什么方式控制token消耗的成本呢？或者是用哪个便宜的大模型来处理？”
我的回答是：“不要控制token，希望用户用得越多越好。我们目前每天大约5000万token，才几美元成本！我们希望再翻很多倍token消耗，所以还在开发新功能、完善用户体验。百万输入token，才0.几美元。2025年还会再下降一个数量级，所以千万不要限制用户的token消耗。”
网友说：“打开思路了，感谢祁老师经验分享。”
这是我昨天晚上和群友的真实对话，希望这些话能启发更多刚刚入门的AI应用开发者。
结语：AI应用现在就是起步的好时机
其实，网上早有报道预测LLM质量会越来越高，成本会越来越低。而我们也在实际使用中深刻感受到这一趋势。
不能等到质量更高、成本更低的时候再开始做AI应用，那个时候就晚了。现在才是布局AI应用的好时机。我们需要尽早摸索技术、积累经验、树立口碑。
模型质量和成本不是我们需要考虑的核心问题。真正的挑战在于如何理解和满足用户需求。无论是ToB还是ToC市场，把大模型匹配到用户需求都不是一件容易的事情，需要不断尝试和优化。
当用户需求得到满足，收入自然会随之而来。所以，尽早投入AI应用开发，把Token成本的担忧抛到一边，专注于用户体验和产品功能，才是关键的成功之道！
建新微信群：
好久没有写AdSense公众号文章了，赶着写出这篇与AI相关的文章，也作为一点小小的经验提供给AI应用入门者。后面我也准备把我们各方面的AI应用经验都写成系列文章供大家参考，同时开一个新的“AI实战交流”微信群来让感兴趣的朋友加入，大家一起来探讨交流，共同迎接AI时代新的挑战和机遇。🤝
入群二维码（1月13日前有效）：
 |