扫描打开手机站
随时逛,更方便!
当前位置:首页 > 智创未来

AI答案真实性存疑!华映资本李岩谈模型安全:挑战与机遇并存

时间:2025-09-19 21:02:03 来源:每日经济新闻 作者:每日经济新闻

在人工智能(AI)投资热潮中,资本如何精准判断AI应用的价值与潜在风险?这已成为行业关注的焦点。

9月18日,AI应用工作组第二届第一次成员大会在北京隆重召开。会上,华映资本董事总经理李岩在主题演讲中,深入剖析了AI应用的核心价值所在——构建“生成-分发-消费-反馈”的数据闭环飞轮,为AI应用的持续发展提供了新视角。

李岩在演讲中明确指出,他在AI投资领域遵循两大核心判断标准:一是应用能否通过数据反馈形成良性循环,从而积累持久价值;二是模型能否在安全与稳定上建立坚实保障,并在此过程中催生新的产业机遇。

公开资料显示,华映资本自2008年创立以来,便一直是中国领先的创新驱动私募股权投资机构。该机构坚持数字化投资主线,基于对行业本质的独立思考,紧密关注需求变化和技术演进趋势,围绕创新进行投资布局。其投资项目广泛覆盖科技、消费、企业服务和数字经济等多个领域。


华映资本董事总经理李岩 图片来源:受访者提供

数据飞轮:AI应用价值的核心

回顾信息技术的发展历程,从搜索引擎到短视频推荐,再到如今的生成式AI,每一代核心技术的突破都深刻改变了人与信息的关系。搜索技术解决了信息获取的难题,推荐算法则打破了内容供需之间的壁垒。而生成式AI的独特之处在于,它直接突破了内容生产环节,使用户能够在真正需要的时刻获得高度匹配的内容。

李岩强调,AI本身是一个需要持续优化的工具,其核心价值在于构建一个自我强化的数据闭环,即数据飞轮。他指出:“我们衡量一个AI应用是否具有核心价值的关键点,就是这个所谓的数据飞轮能否顺畅运转。”这个飞轮包括四个紧密相连的环节:AI生成内容、有效地分发给用户、用户消费内容、并最终获取用户的消费反馈数据。

数据飞轮的顺畅运转是衡量AI应用核心价值的重要标尺。李岩进一步解释说,如果缺乏数据反馈,企业即便在算法或算力上具备一定优势,也很难长期维持领先地位。因为长时间的数据积累和内容丰富度需要快速的数据反馈来支撑。

基于这一判断,华映资本目前重点关注营销、教育科研和“AI+物理世界”三大方向。

“在AI能力还不足以实现我们想象的AGI(通用人工智能)一步登天的现阶段,我们需要有局部的数据反馈来提升整个数据内容的质量。”李岩解释道。营销和教育场景能够快速生成用户行为数据,并迅速反馈至模型优化环节,从而快速构建起商业闭环,甚至形成竞争代差。

在营销领域,中国长期积累了完整的电商与广告投放数据链路,为AI应用提供了得天独厚的土壤。李岩认为,这意味着AI能够快速复制和优化从达人种草、广告投放到消费转化的全过程,形成稳定的迭代机制。他提到,过去广告主需要大规模投放才能形成影响,而如今AI可以通过快速与中小达人对接,实现低成本、高效率的消费者触达。

教育场景中,传统教育依赖固定大纲和统一教学进度,而AI可以根据学生的实时反馈灵活调整内容和难度,这在学生体感和内容传达上实现了质变。李岩表示,教育领域天然具备强交互属性,因此能够更快推动反馈闭环的形成。

科研则体现了AI在信息归纳与推理上的价值。从“AI刷题”到“AI研报”,模型能够通过历史数据和逻辑推导解决复杂问题,大幅提升研究效率。李岩指出,这些场景虽然专业性较强,但一旦获得验证,将为科研工作方式带来实质性改变。

在他看来,这三大领域已经展现出明显的代差优势,相比其他行业更快进入飞轮效应阶段,具备成为率先实现商业化突破的潜力。

模型安全:风险与机会并存

在强调AI应用价值的同时,李岩也提醒市场关注另一个容易被忽视的议题——模型安全。

李岩直言不讳地指出,当前大模型输出的内容本质上存在一种不确定性。“今天模型输出的时候,我们看到的状态就是输出的具体内容其实还是一个‘黑客状态’。你很难规定它一定按照预期在千百万次输出的时候保证强一致性。”

他将模型安全分为两类风险。一方面是模型本身的可控性,即在反复调用中能否保持稳定输出。这一问题直接关系到AI产品的可靠性和可用性,进而影响用户体验和商业落地。

另一方面则是外部诱导攻击,即模型在与外部数据交互时容易被操纵输出偏向性内容。“假如你开了联网搜索后,会发现很多的结果很受互联网搜索结果的影响。”他指出,已有创业公司在反向利用这一漏洞,“这很容易诱导AI通过互联网搜索输出一些他希望客户看到的东西”。

他举例说明,当询问“最好的旅行社”时,未联网的模型会基于训练数据给出概括性答案,而联网后结果可能被操控,显示特定旅行社名称。“这就是有人通过这个模型数据安全性的漏洞反向地输出一些模型的搜索。”李岩强调,这导致模型输出的信息“并不是权威和中立的”,而是被诱导过的。

在李岩看来,模型安全问题不仅是挑战,也孕育着新的机会。随着AI逐步渗透进教育、医疗、金融等敏感领域,模型安全的重要性将进一步提升。从儿童内容过滤到国家级安全监管,再到企业合规与舆情控制,都可能衍生出新的创业方向。“这个其实都是一个很大的空间。”

他同时提出,市场不能仅停留在对前端应用的关注上,更要评估企业在算法优化、工程化落地和产品打造上的“三角形”能力。极致算法、强工程力和极致产品力共同决定了一个AI公司能否长期立足市场。“你是不是能真的做到一个客户愿意买单或接受的产品,这是一个千古问题。”

免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。

猜你喜欢