• 最近访问:
发表于 2025-09-20 01:41:00 股吧网页版
AI给出的答案不一定真实!华映资本董事总经理李岩谈模型安全:既是挑战,也是投资机会
来源:每日经济新闻

  在人工智能(AI)投资热潮中,资本如何判断应用价值与风险?

  9月18日,AI应用工作组第二届第一次成员大会在北京召开。华映资本董事总经理李岩在大会的主题演讲环节提到,衡量AI应用的核心,在于能否构建“生成-分发-消费-反馈”的数据闭环飞轮。

  李岩在演讲中表示,他在AI投资方面的两大核心判断标准是,应用能否通过数据反馈形成良性循环,从而积累持久价值;模型能否在安全与稳定上建立保障,并在此过程中催生新的产业机会。

  公开资料显示,华映资本创立于2008年,是中国领先的创新驱动私募股权投资机构。自成立以来,华映资本一直坚持数字化投资主线,基于行业本质的独立思考,着眼需求变化和技术演进趋势,围绕创新做投资。投资项目覆盖科技、消费、企业服务和数字经济等多个领域。

华映资本董事总经理李岩图片来源:受访者提供

  数据飞轮是AI应用价值的关键

  回顾信息技术的发展脉络可以看到,从搜索引擎到短视频推荐,再到今天的生成式AI,每一代核心突破都对应着人与信息关系的改变。搜索解决了信息获取的难题,推荐算法则打破了内容供需之间的壁垒。而生成式AI的独特之处,在于直接突破了内容生产环节,让用户可以在真正需要的时刻,获得高度匹配的内容。

  李岩指出,AI本身是一个需要持续优化的工具,其核心价值在于构建一个自我强化的数据闭环,即数据飞轮。

  “我们衡量一个AI应用是不是有核心价值的一个关键点,就是这个所谓的数据飞轮能不能转起来。”李岩表示,这个飞轮包括四个环节,即“生成-分发-消费-反馈”的闭环,通过AI生成内容、有效地分发给用户、用户消费内容、并最终获取用户的消费反馈数据。

  数据飞轮能不能转起来,是衡量AI应用是否有核心价值的关键点。李岩指出,如果缺乏数据反馈,企业即便在算法或算力上具备一定优势,也很难长期维持领先。“因为在长时间积累上,如果没有很快的数据反馈,很难做到长时间的数据生成、内容的丰富度以及它的领先度。”

  基于这一判断,华映资本目前重点关注营销、教育科研和“AI+物理世界”三大方向。

  “在今天AI能力还不足以到我们想象的AGI一步登天,然后给我所有答案的这个过程中,我们需要有局部的数据反馈,去提升整个数据内容的质量。”李岩解释道,营销和教育场景能够快速生成用户行为数据,并迅速反馈至模型优化环节,从而快速构建起商业闭环,甚至形成竞争代差。

  在营销领域,中国长期积累了完整的电商与广告投放数据链路,为AI应用提供了肥沃的土壤。李岩认为,这意味着,AI能够快速复制和优化从达人种草、广告投放到消费转化的全过程,形成稳定的迭代机制。他提到,过去广告主需要大规模投放才能形成影响,而如今AI可以通过快速与中小达人对接,低成本、高效率地触达消费者。

  教育场景中,传统教育依赖固定大纲和统一教学进度,而AI可以根据学生的实时反馈,灵活调整内容和难度,这在学生体感和内容传达上实现了质变。李岩表示,教育领域天然具备强交互属性,因此能够更快推动反馈闭环的形成。

  科研则体现了AI在信息归纳与推理上的价值。从“AI刷题”到“AI研报”,模型能够通过历史数据和逻辑推导解决复杂问题,大幅提升研究效率。李岩指出,这些场景虽然专业性较强,但一旦获得验证,将为科研工作方式带来实质性改变。

  在他看来,这三大领域已经跑出代差,相比其他行业更快进入飞轮效应,具备成为率先实现商业化突破的潜力。

  模型安全风险与机会并存

  在强调应用价值的同时,李岩也提醒市场关注另一个容易被忽视的议题——模型安全。

  李岩直言,当前大模型输出的内容本质上存在一种不确定性,“今天模型输出的时候,我们看到的状态就是,输出的具体内容其实还是一个黑客状态。你很难规定它一定按照预期,在千百万次输出的时候保证强一致性”。

  李岩将模型安全分为两类风险。一方面是模型本身的可控性,即在反复调用中能否保持稳定输出。这一问题关系到AI产品的可靠性和可用性,直接影响用户体验和商业落地。

  另一方面则是外部诱导攻击,即模型在与外部数据交互时,容易被操纵输出偏向性内容。“假如你开了联网搜索后,会发现很多的结果很受互联网搜索结果的(影响)。”他指出,已有创业公司在反向利用这一漏洞,“这很容易诱导(AI)通过互联网搜索输出一些他希望客户看到的东西”。

  他举例,当询问“最好的旅行社”时,未联网的模型会基于训练数据给出概括性答案,而联网后结果可能被操控,显示特定旅行社名称。“这就是有人通过这个模型数据安全性的漏洞,反向地输出一些模型的搜索。”李岩强调,这导致模型输出的信息“并不是权威和中立的”,而是被诱导过的。

  在李岩看来,这一问题不仅是挑战,也孕育着新的机会。随着AI逐步渗透进教育、医疗、金融等敏感领域,模型安全的重要性将进一步提升。从儿童内容过滤到国家级安全监管,再到企业合规与舆情控制,都可能衍生出新的创业方向。“这个其实都是一个很大的空间。”

  他同时提出,市场不能仅停留在对前端应用的关注,更要评估企业在算法优化、工程化落地和产品打造上的“三角形”能力。极致算法、强工程力和极致产品力共同决定了一个AI公司能否长期立足,“你是不是能真的做到一个客户愿意买单或接受的产品,这是一个千古问题”。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-34289898 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:021-54509966/952500