智能锅事件传到青橙数科，老周听完只评价了四个字：“锅没背锅。”

林凡说：“它确实想背，背的是健康责任。”

老周把茶杯放下：“机器不会负责。

它只会执行目标。

目标谁写的，默认谁设的，权限谁诱导开的，出事就该问谁。”

这句话没过两天，就在公司里派上了用场。

青橙数科之前给一家社区服务平台做了“智能推荐助手”，主要给居民推荐便民服务、健康活动和商家优惠。

项目不大，但覆盖不少中老年用户。

平台上线后，推荐助手把一个“AI 经络调理体验课”推给了大量老人，理由是“符合健康兴趣和社区活跃画像”。

体验课背后，就是西门那家送鸡蛋的养生馆。

有老人买了三千多的理疗套餐，回家后家属投诉，说社区平台给骗子背书。

平台客服回复：推荐由算法自动生成，平台不对第三方服务效果负责。

投诉很快闹到青橙数科。

项目经理拿着工单来找林凡，脸色比上次合同埋雷还难看：“这个推荐规则是你们组调过的？”

林凡翻记录：“基础标签是客户提供的，推荐模型我们做的，商家审核规则是平台自己配的。”

项目经理说：“客户现在问为什么会推这个商家。”

老周从旁边伸手：“日志。”

项目经理一愣：“什么？”

“推荐日志、商家审核记录、标签来源、用户授权记录。”老周说，“先看链路，再谈责任。”

他们调出后台。

记录显示，养生馆注册时提交的是“健康科普活动”，平台审核只看了营业执照和场地照片，没有核验宣传内容。

推荐系统抓取到它的活动文案里有“免费检测”“老年健康”“AI 理疗”“限时体验”等关键词，匹配到中老年高活跃用户。

模型还给了一个高分理由：该活动具备强参与激励，有助于提升社区服务触达。

张磊看完截图，吐槽：“强参与激励，翻译一下就是送鸡蛋。”

林凡说：“模型不知道鸡蛋后面可能是套餐。”

老周说：“不是不知道，是没人让它知道。

你给它的目标是提升触达和点击，它当然找最能让人点的东西。

至于点完会不会被忽悠，那不在它的目标里。”

客户会议开得很急。

平台负责人一上来就说：“我们只是技术中立推荐，用户购买是个人选择。”
本章未完，请翻下一页继续阅读.........