要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

集采品种降价不降质 如何确保？国家医保局多措并举

国家医保局近日表示，为了确保集采品种“降价不降质”，他们采取了多项措施，包括：

一、设定质量入围门槛

国家组织药品集采对企业和产品资质作了严格规定，将通过质量和疗效一致性评价作为仿制药参加集采的门槛，避免在竞争中出现劣币驱逐良币的现象。具体来说，要求仿制药必须与原研药在质量和疗效上等效，并经过严格的审评才能获得集采资格。

二、建立质量监管的协同机制

国家医保局建立了多部门协同的质量监管机制，由药品监管部门、医保部门和医疗机构等单位共同负责集采品种的质量监管。对集采品种的生产、流通和使用环节进行全链条监管，确保产品质量安全。

三、开展临床疗效和真实世界研究

国家医保局委托全国30多家大型三甲医院开展了两期集采中选仿制药的临床疗效和安全性真实世界研究，目前覆盖前3批集采37种临床使用广泛的药品。研究结果显示，中选仿制药与原研药在临床疗效和安全性上是等效的，说明国产仿制药的质量整体上经受了考验。

四、强化事后监督和惩处

国家医保局建立了集采品种事后监督和惩处机制，对发现违规行为的企业进行严肃查处。对存在质量问题或弄虚作假的企业，将依法追究责任，并取消其集采资格。

五、加大信息公开力度

国家医保局定期向社会公开集采品种的信息，包括价格、质量、疗效等，方便患者和社会监督。

通过以上措施，国家医保局有效地保证了集采品种“降价不降质”，为广大患者提供了安全、有效、平价的药品。

以下是一些可以补充的信息：

• 集采品种降价对患者带来了实实在在的利益。以第一批集采为例，28种药品平均价格下降59%，其中最高降幅达92%。患者年均可节省药费1300亿元。
• 集采还促进了医药产业的高质量发展。企业通过提高研发能力、降低生产成本来赢得集采，倒逼企业走创新驱动之路。
• 今后，国家医保局将继续完善集采制度，不断提高集采质量和效率，为广大患者提供更加安全、有效、平价的药品。