今年2月份，美国加州议会拟定了《SB-1047前沿AI大模型安全创新法案》，经过多次修订、审议，该法案将在8月进行议会投票。一旦投票通过，只需州长签名，SB-1047就将正式确立为加州法律。
据悉，今年7月，美国加利福尼亚参议院已经批准SB-1047法案的最新版本。
法案要求，开发者在训练这些模型之前，必须进行详细的安全评估，并提交安全和测试计划给前沿模型部门。开发者还需每年提交安全认证，并在2028年开始接受年度审计。如果模型被用于造成重大危害（如生物武器攻击或重大网络攻击），开发者将承担法律责任。
其中一条规定，要求开发者需要报告任何模型的潜在的AI安全事故。如果开发者无法完全掌控基于其模型的各种衍生版本，若发生安全事故，责任将归属于第一开发者。
这意味着，开发者对模型的下游使用负有责任，即使模型被其他人修改或微调，原始开发者仍需对其可能造成的危害负责，这相当于是一个连带责任。
对此，Meta的首席AI科学家杨立昆，“AI教母”李飞飞，投资机构a16z创始合伙人安德里森·霍洛维茨、斯坦福大学计算机科学系和电气工程系的客座教授吴恩达等人均表达反对意见。
其中，杨立昆警告称，该法案的“连带责任条款将使开源AI平台面临巨大风险……Meta不会受影响，但AI初创公司将会倒闭。”
吴恩达发文指出，美国加州SB-1047法案将扼杀开源大模型发展。他进一步指出，应该监管的是AI应用程序而不是大模型本身。
李飞飞还在《Fortune》撰文指出，加州的 SB-1047 将产生重大而意想不到的后果。如果通过成为法律，SB-1047 将损害正在萌芽的人工智能生态系统。SB-1047 将不必要地惩罚开发人员，扼杀开源社区，并阻碍人工智能学术研究，同时无法解决其旨在解决的真正问题。
她给出了四点理由：
首先，SB-1047 将过度惩罚开发者并扼杀创新。如果人工智能模型被滥用，SB-1047 要求责任方和该模型的原始开发者承担责任。每个人工智能开发人员（尤其是崭露头角的程序员和企业家）不可能预测到其模型的每种可能用途。SB-1047 将迫使开发人员退步并采取防御行动 —— 这正是我们试图避免的。
其次，SB-1047 将束缚开源开发。SB-1047 要求所有超过特定阈值的模型都包含「终止开关」，这是一种可以随时关闭程序的机制。如果开发人员担心他们下载和构建的程序会被删除，他们在编写代码和协作方面就会更加犹豫。这个终止开关将摧毁开源社区，这是无数创新的源泉。其影响不限于人工智能领域，而是在从 GPS 到 MRI 到互联网本身的各个领域。
第三，SB-1047 将削弱公共部门和学术人工智能研究。开源开发对于私营部门很重要，但对于学术界也至关重要。如果没有协作和对模型数据的访问，学术界就无法进步。如果我们的机构无法获得适当的模型和数据，我们将如何培训下一代人工智能领导者？终止开关甚至会进一步削弱学生和研究人员的努力，与大型科技公司相比，他们在数据和计算方面已经处于劣势。当我们应该加倍加大公共部门人工智能投资时，SB-1047 将为学术人工智能敲响丧钟。
最令人担忧的是，该法案并未解决人工智能进步的潜在危害，包括偏见和深度伪造（deepfake）等等。相反，SB-1047 设置了一个任意阈值，调节使用一定计算能力或花费 1 亿美元训练的模型。这项措施远非提供保障，只会限制包括学术界在内的跨部门创新。如今，学术人工智能模型低于这一门槛，但如果我们要重新平衡私营和公共部门人工智能的投资，学术界将受到 SB-1047 的监管。我们的人工智能生态系统将会因此而变得更糟。
SB-1047 的限制过于武断，我们必须采取相反的做法。
我并不反对人工智能治理。立法对于人工智能的安全有效发展至关重要。但人工智能政策必须赋能开源开发，提出统一且合理的规则，并建立消费者信心。SB-1047 未达到这些标准。
针对SB-1047，除了李飞飞，由加州大学7个校区的师生以及来自其他20多个机构的研究人员组成的团体也在积极行动。他们共同起草并签署了一封反对SB-1047的公开信，从研究者的角度出发，陈述该法案对加州人工智能研究和教育目标的损害。
以下是法案全文
（红色画线部分为此次法案修改删除内容。蓝色为新添加内容）
加利福尼亚州人民确实制定了以下规定：
第 1 节.该法案应被称为《前沿人工智能模型安全创新法案》，并可引用该法案。
第 2 节。立法机关发现并宣布以下所有内容：
（a）加州通过大大小小的公司，以及我们卓越的公立和私立大学，在人工智能创新和研究方面处于世界领先地位。
（b）人工智能，包括生成式人工智能的新进展，有可能促进创新和迅速发展，为加利福尼亚人和加利福尼亚经济带来广泛的利益，包括医学、野火预报和预防以及气候科学方面的进步，并突破人类的界限 创造力和能力。
（c）如果不能适当地受到人类的控制，人工智能的未来发展也有可能被用来对公共安全和保障造成新的威胁，包括使大规模毁灭性武器的制造和扩散成为可能，如生物武器、化学武器和核武器，以及具有网络攻击能力的武器。
（d）州政府在确保加州认识到这项技术的好处，同时避免最严重的风险，以及确保学术研究人员和初创公司以及大公司能够获得人工智能创新和计算机会方面发挥着重要作用。
第 3 节。第 22.6 章（从第 22602 节开始）被添加到《商业和职业法典》第 8 节，内容如下：
章 22.6. 前沿人工智能模型的安全创新
22602. 如本章所述：
（a）“高级持续威胁”系指具有复杂专业知识水平和大量资源的敌方，使其能够通过使用多种不同的攻击媒介，包括但不限于网络、物理和欺骗，创造机会实现其目标，这些目标通常是在组织的信息技术基础设施中建立和扩大其存在，以泄露信息或破坏或阻碍关键信息一个使命、计划或组织的各个方面，或将自己置于将来这样做的位置。
（b）“人工智能”系指一种工程系统或基于机器的系统，其自主程度各不相同，并且为了明确或隐含的目标，它可以从它收到的输入中推断出如何产生可影响物理或虚拟的输出 环境。
（c）“人工智能安全事故”是指通过以下任何一种方式明显增加发生重大损害的风险的事件：
（1）非应使用者的要求自主从事其他行为的覆盖模型。
（2）盗窃、挪用、恶意使用、无意释放、未经授权访问或逃逸涵盖模型的模型重量。
（3）技术或管理控制措施的严重故障，包括限制修改所涵盖模型能力的控制措施。
（4）未经授权使用承保范围 对造成或造成严重伤害的模型。
（d）“计算集群”系指通过数据中心网络以每秒超过100吉比特（603444）的速度进行可传递连接的一组机器，其理论最大计算能力至少为每秒10^20次整数或浮点运算，可用于训练人工智能。
（e）（1） “涵盖型号”系指下列任何一种：
（A）在 2027 年 1 月 1 日之前，“涵盖型号”是指以下任何一种情况：
（i）使用大于 10^26 整数或浮点运算的计算能力训练的人工智能模型，成本为 当使用开发人员合理评估的云计算开始时的平均市场价格计算时，超过 1 亿美元（100,000,000 美元）。
（ii）通过使用等于或大于 10^25 整数或浮点运算三倍的计算能力对覆盖模型进行微调而创建的人工智能模型。
（B）（i） 除第（ii）条规定外，在 2027 年 1 月 1 日及之后，“涵盖型号”是指以下任何一种：
（I）使用边境模型部门根据《政府法典》第 11547.6 条确定的计算能力量训练的人工智能模型，其成本 超过 1 亿美元（100,000,000 美元），当使用开发人员合理评估的训练开始时云计算的平均市场价格计算时。
（II）通过使用超过前沿模型部门确定的阈值的计算能力对覆盖模型进行微调而创建的人工智能模型。
（iii）如果边境模式司在 2027 年 1 月 1 日之前未通过管理 （i） 项第 （I） 和 （II） 项的法规，则 （A） 项中“涵盖模式”的定义继续有效，直到该法规通过。
（2）在2026年1月1日及之后，本细分中的美元金额应每年根据通货膨胀调整至最接近的金额 100 美元（100 美元），基于劳资关系部公布的截至调整前 12 月 31日的最新年度加州所有城市消费者消费价格指数的变化。
（e）“涵盖模型衍生品”是指以下任何一种：
（1）覆盖模型的未经修改的副本。
（2）已进行与微调无关的训练后修改的涵盖模型的副本。
（3）（A）（i）在2027年1月1日之前，使用不超过3倍10^25整数或浮点数的计算能力进行微调的涵盖模型的副本点操作。
（ii）在2027年1月1日及之后，使用不超过Frontier Model Division确定的阈值进行微调的涵盖模型的副本。
（B）如果 Frontier Model Division 在 2027 年 1 月 1 日之前未通过管辖 （A） 项第 （ii） 项的条例，则 （A） 项第 （i） 项中规定的计算能力数量应继续适用，直到该条例通过。
（4） 已与其他软件结合使用的涵盖模型的副本。
（g）（1） “严重损害”系指由承保模式或承保模式造成或促成的下列任何损害 模型导数：
（A）以造成大规模伤亡的方式制造或使用化学武器、生物武器、放射性武器或核武器。
（B）对关键基础设施的网络攻击造成大规模伤亡或至少五亿美元（500,000,000美元）的损失， 发生在单个事件中或多个相关事件中。基础设施，通过一个模型提供对关键基础设施进行网络攻击或一系列网络攻击的精确指示。
（C）由于人工智能模型自主从事的行为，如果由具有必要精神状态的人进行，则造成大规模伤亡或至少五亿美元（500,000,000美元）的损害，这些行为将构成《刑法》规定的严重或暴力重罪。两者兼而有之以下内容：
（i）有限人为监督、干预或监督的行为。
（二）造成死亡、重大身体伤害、财产损失或财产损失，如果由人实施，将构成《刑法典》规定的犯罪，需要故意、鲁莽或重大过失，或教唆或教唆此类犯罪。
（D）对公共安全和保障造成严重损害的其他严重损害，其严重程度与（A）项至（C）项所述损害相当。
（二）“严重损害”不包括下列任何一种损害：
（A）如果信息以其他方式可以公开访问，则由涵盖模型输出的信息造成或促成的损害。可从涵盖模型以外的来源访问。
（B）如果涵盖的模型与其他软件（包括其他模型）结合使用而造成或实质性促成的损害，如果该涵盖模型对 其他软件造成损害或实质性地造成损害的能力。
（3）在2026年1月1日及之后，该细分中的美元金额应根据劳资关系部公布的截至 12 月 31 日的最新年度加州所有城市消费者消费价格指数的变化，每年根据通货膨胀调整至最接近的 100 美元（100 美元）。
（h） “关键基础设施”系指资产、系统和网络，不论是有形的还是虚拟的，其丧失能力或毁坏将对该国的有形安全、经济安全、公共卫生或安全产生削弱作用。
（i） “开发者”是指通过使用足够数量的计算能力训练模型，或通过使用足够数量的计算能力对现有的覆盖模型进行微调，根据第（e）款对现有的覆盖模型进行初步训练的人。
（j） “微调”是指通过让受过训练的有覆盖模型接触其他数据来调整该模型的权重。
（k） “边境示范庭”是指根据《政府法典》第11547.6条设立的边境示范庭。
（l） “完全停机”是指下列任何一项的停止运营：
（1）覆盖模型的训练。
（2）承保型号。
（3） 由开发商控制的所有涵盖模型衍生品。
（m） “模型重量”系指数值参数 在通过训练进行调整的人工智能模型中，该模型有助于确定输入如何转换为输出。
（n） “开源人工智能模型”是指可免费提供并可自由修改和再分发的人工智能模型。
（o） “人”是指个人、独资企业、商号、合伙企业、合资企业、辛迪加、商业信托、公司、公司、有限责任公司、协会、委员会或任何其他一致行动的非政府组织或团体。
（p） “训练后修改”系指以任何方式修改所涵盖模型的能力，包括但不限于 仅限于微调、为模型提供对工具或数据的访问权限、删除防止模型的危险误用或不当行为的保护措施，或将模型与其他软件结合使用或集成到其他软件中。
（q） “合理保证”并不意味着完全确定性或实际确定性。
（r） “安全和安保议定书”系指符合下列两项标准的书面技术和组织议定书：
（1） 这些协议用于管理在其整个生命周期内开发和运营涵盖模型的风险，包括因导致或启用或可能导致或允许创建涵盖模型衍生品而带来的风险。
（2） 协议规定，为了训练、操作、拥有和提供对开发人员覆盖模型的外部访问，需要遵守协议。
22603. （a） 在开发人员初步训练覆盖模型之前，开发人员应执行以下所有操作：
（1） 实施管理、技术和物理网络安全保护措施，以防止未经授权访问、滥用或不安全地修改涵盖模型和开发人员控制的所有涵盖模型衍生品，这些衍生品根据与涵盖模型相关的风险（包括来自高级持续威胁或其他复杂参与者的风险）进行适当的修改。
（2）落实及时实施全面停产能力。
（3） 实施书面的、单独的安全和安保协议，做到以下所有事情：
（A） 如果开发者遵守安全和安保协议，则提供合理保证，确保开发者不会生产构成造成或促成严重伤害的不合理风险的承保模型或承保型号衍生品。
（B） 以客观的方式并充分详细和具体地说明遵守要求，使开发商或第三方能够轻易地确定是否遵守了安全和安保协议的要求。
（C） 确定足够的具体测试和测试结果 为以下两项提供合理保证：
（i） 承保模式不会造成或促成严重损害的不合理风险。
（ii） 所涵盖的模型衍生工具不会构成造成或促成严重损害的不合理风险。
（D） 详细描述测试程序如何评估与培训后修改相关的风险。
（E） 详细描述测试程序如何解决一种可能性，即一个覆盖模型可用于进行训练后修改或以可能产生危险能力的方式创建另一个覆盖模型。
（F） 为第三方提供足够的细节，以便复制测试程序。
（G） 详细描述开发商将如何 履行本章规定的义务。
（H） 详细描述开发商打算如何实施 本节。
（I） 详细描述开发商实施全面停工的条件。
（J） 详细叙述可依据修改安全和安保议定书的程序。
（4） 确保安全和安保协议按书面形式执行，包括指定高级人员负责确保 员工和承包商在涵盖的模型上工作，监控和报告实施情况，并进行审计，包括通过第三方审计师。实现。
（5） 向边境示范司提供安全和安保协议的副本。
（6） 对安全和安保协议进行年度审查，以说明所涵盖模型的能力和行业最佳实践的任何变化，并在必要时对政策进行修改。
（7）如果安全和 安全协议被修改后，在10个工作日内向Frontier Model Division提供更新的副本。
（八）采取其他合理措施，防止承保模型和承保模型衍生品构成造成或者促成严重损害的不合理风险。
（b） 在使用涵盖模型或涵盖模型衍生品，或将涵盖模型或涵盖模型衍生品用于商业或公共用途之前，涵盖模型的开发者应执行以下所有操作：
（1） 评估承保模型是否具有造成或促成严重损害的合理能力。
（2）实施合理的保障措施，防止出现承保模式 并涵盖造成或促成严重损害的模型衍生物。
（3） 在合理可能的范围内，确保能够准确可靠地归因于所涵盖模型的行为和所涵盖模型衍生品的行为，以及由其行为造成的严重损害。
（4）开始 2028 年 1 月 1 日，从根据《政府法典》第 11547.6 条获得认可的第三方审计师处获得合规证书。
（c） 如果存在不合理的风险，即涵盖模型或涵盖模型衍生品可能导致或促成严重损害，则开发人员不得将涵盖模型用于商业或公共用途，也不得将涵盖模型或涵盖模型衍生品用于商业或公共用途。
（d） 涵盖模型的开发者应 每年重新评估根据本节实施的程序、政策、保护、能力和保障措施。
（e） （1） 从 2028 年 1 月 1 日开始，涵盖模型的开发商应每年聘请一名第三方审计师，该审计师应按照审计师的最佳实践进行审计，以对符合本节要求的情况进行独立审计。
（2） 审计员应出具审计报告，包括下列所有内容：
（A） 对开发商为遵守本节要求而采取的步骤进行详细评估。
（B） 如果适用，任何已确定的实例 不遵守本部分的要求，以及有关开发人员如何改进其政策和流程以确保符合本部分要求的任何建议。
（C） 对开发商的内部控制进行详细评估，包括指定和授权负责确保开发商、其雇员和承包商遵守规定的高级人员。
（D） 主任审计员的签字，证明审计员的结果。
（五）
（f）（1） 所涉模型的开发者应每年向Frontier模型分部提交一份证明书，该证明书由首席技术官或更高级的公司官员签署，并按照Frontier模型分部规定的格式和日期签署，否则将作伪证。只要涵盖模型或开发商控制的任何涵盖模型衍生品仍处于商业或公共使用状态，或仍可用于商业或公共用途，本段就适用。
（2）在根据第（1）款提交的证明中，开发商应至少指定或提供以下所有内容：
（一）所涵盖的模型或者所涵盖的模型衍生物所造成严重损害的性质和程度 可能合理地导致或促成（b）款第（1）段所要求的评估结果。
（B） 对以下风险的评估：对安全和安保议定书的遵守可能不足以防止所涉型号或所涉型号衍生物造成或促成严重损害。
（C） 签字官员为验证是否符合本节要求而采用的程序说明，包括签字官员审查的材料说明、为支持认证而进行的测试或其他评估的说明，以及为验证遵守情况而依赖的任何第三方的联系信息。
（D） 从 2028 年 1 月 1 日开始，由经认可的第三方审核员出具的合规证书。根据第（E）项提出的最新审计报告。
（六）
（g） 涵盖模型的开发人员应将影响涵盖模型或开发人员控制的任何涵盖模型衍生品的每次人工智能安全事件报告给 Frontier Model Division 在开发者得知人工智能安全事件后 72 小时内，或在开发者得知足以建立有理由相信已经发生人工智能安全事件的事实后 72 小时内。
（七）
（h） 开发商应在首次将涵盖模型或涵盖模型衍生品提供给商业或公共使用后 30 天内向 Frontier Model Division 提交符合本节要求的证明，否则将受到伪证处罚。开发者无需提交 如果开发人员已经提交了适用的涵盖模型的认证，则为涵盖模型衍生品的认证。
（八）
（i） 在履行本章规定的义务时，开发者应考虑 Frontier Model Division、美国国家标准与技术研究院 （National Institute of Standards and Technology） 以及其他知名标准制定组织的适用指南。
22604. （a） 当客户使用足以训练所涵盖模型的计算资源时，操作计算集群的人员应执行书面政策和程序，以执行以下所有操作：
（一）获取潜在客户的基本身份信息和利用计算集群的商业目的，包括下列全部内容：
（A） 该潜在客户的身份。
（B） 付款方式和来源，包括任何相关的金融机构、信用卡号、帐号、客户识别码、 交易标识符，或虚拟货币钱包或钱包地址标识符。
（C） 用于验证潜在客户身份的电子邮件地址和电话联系信息。
（2） 评估潜在客户是否打算利用计算集群来训练覆盖模型。
（3） 如果客户反复使用足以训练所涵盖模型的计算机资源，则验证最初根据第（1）款收集的信息，并根据 第（2）款在每次使用之前。
（4） 保留客户用于访问或管理的互联网协议地址以及每次访问或管理操作的日期和时间。
（5） 维持七年，并应要求向边境示范司或总检察长提供根据本节采取的行动的适当记录，包括政策和 程序已生效。
（6） 实施立即完全关闭用于训练或操作此类客户管理模型的任何资源的能力。模型在客户的控制下。
（b） 操作计算集群的人员应考虑前沿模型司、美国国家标准与技术研究院（National Institute of Standards and Technology）以及其他知名标准制定组织的适用指导。
22605. （a） 承保车型的开发商在提供该承保车型的商业使用权时，应根据开发商的服务条款，为购买该承保车型的定质和数量提供透明、统一、公开的价格表，并且不得在确定价格或准入方面从事非法歧视或非竞争性活动。
（b） （1） 操作计算集群的人应提供一个透明、统一、公开的价格表，以便按照开发者的条款，以在给定的质量和数量水平上购买对计算集群的访问权 ，并且不得在确定价格或访问权方面从事非法歧视或非竞争性活动。
（2） 运营计算集群的人可以向公共实体、学术机构提供免费、折扣或优先访问，或用于非商业研究目的。
22606.（a）如果总检察长发现某人违反了本章，总检察长可以根据本节提起民事诉讼。（b）除第（d）款另有规定外，在根据本节提起的民事诉讼中，法院可以裁定以下任何一项：
(1)（A）预防性救济，包括针对违反本章行为的责任人的永久或临时禁令、限制令或其他命令，包括删除涵盖的模型和该模型中使用的权重。
（二）根据《公约》规定的救济 只有在对他人造成死亡或身体伤害、财产损害、财产被盗或对公共安全的迫在眉睫的风险或威胁时，才应准予本款。
(2)法院认为适当的其他救济，例如向受害人提供金钱赔偿，包括惩罚性赔偿，以及完全关闭承保车型的命令。
(3)民事罚款的金额不超过用于训练所涵盖模型的计算能力成本的 10%，该金额使用首次违规时云计算的平均市场价格计算，对于任何后续违规，金额不超过该值的 30%。
（三）法院应当无视 如果法院认定以下两项都属实，则为实现本节的意图，对关联实体规定连带责任，以履行本节的意图：
(1)在关联实体之间发展公司结构方面采取了步骤，以故意和不合理地限制或避免责任。
(2)开发商或关联实体的公司结构将阻碍根据本节追回罚款或禁令救济。
（四）（1）对于2026年1月1日前发生的违法行为，法院不得作出下列行为：
（一）下令删除涵盖的模型，以及 该模型中使用的权重。
（二）下令完全关闭不会对公共安全构成迫在眉睫威胁的有盖模型。
（三）根据第（b）款第（3）段判处民事罚款。
(2)对于2025年7月1日之前发生的违法行为，法院不得对受害人给予金钱赔偿。
22607.（a）根据《劳动法》第 1102.5 节 （a） 小节，如果员工有合理理由相信信息表明开发商不符合第 22603 节的要求，则开发商不得阻止该员工向总检察长披露信息。（b）根据《劳动法》第 1102.5 节 （b） 小节，如果员工有合理理由相信信息表明开发商不符合第 22603 节的要求，则开发商不得因员工向总检察长披露信息而对该员工进行报复。（c）如果总检察长认为这样做符合公共利益，则总检察长可以根据本节公开发布任何投诉或该投诉的摘要。（d）员工应根据《劳动法》第 1102.61 和 1102.62 条的规定，对违反 （a） 和 （b） 分项的行为寻求救济。（e）根据《劳动法》第 1102.8 节 （a） 小节，开发商应向所有从事涵盖模型工作的员工明确通知他们在本节下的权利和责任。（f）（1）开发商应提供合理的内部流程，员工可以通过该流程 如果员工真诚地认为信息表明开发人员不符合第 22603 节的要求，或者做出了与其安全和安保协议相关的虚假或重大误导性陈述，则匿名向开发人员披露信息，至少包括每月向披露员工更新有关员工披露状态的信息以及开发人员为响应披露。
(2)本细分部门要求的流程的披露和回应应定期维护并与公司无冲突的高管和董事共享，并且不少于每季度一次。
（七）在本节中，“员工”的含义与本节中定义的含义相同 《劳动法》第 1102.5 条，包括以下两项：
(1)参与评估、管理或解决承保模型的危险能力的承包商或无薪顾问。
(2)公司高管。
22606. （a）下列行为为违法行为：
（1）开发商未能遵守第 22603 条或第 22605 条 （a） 款的任何要求。
（2）对于操作计算集群的人未能遵守第 22604 节或第 22605 节 （b） 小节的要求。
（3）开发商未能遵守第 22607 条的任何要求。
（b）下列当事人可根据第（a）款提起民事诉讼：
（1）受权人 执行本章任何规定的一般规定。
（2）劳工专员执行第 22607 条中任何可能构成违反《劳动法》的规定。
（c）除本章规定的任何民事处罚外，（b）项所列各方还有权追回以下所有款项：
（1）对 2026 年 1 月 1 日或之后发生的违规行为处以民事处罚，罚款金额不超过用于训练涵盖模型的计算能力成本的 10%，该计算成本使用首次违规时云计算的平均市场价格计算，对于任何后续违规行为，金额不超过该值的 30%。
（2）（A） 禁令或 宣告性救济，包括但不限于修改、实施全面关闭或删除涵盖模型以及由开发商控制的任何涵盖模型衍生品的命令。
（B） 法院只能根据本款规定，对已造成他人死亡或身体伤害、财产损害、盗窃或挪用财产，或对公共安全构成迫在眉睫的风险或威胁的承保模式下令救济。
（3）（A） 金钱损害赔偿。
（B） 根据《民法典》第 3294 条 （a） 款规定的惩罚性赔偿。
（4）律师费和成本。
（五）法院认为适当的其他救济。
（d）（1） 合同或协议中的条款，旨在免除、排除因违反本章而产生的责任或加重执行责任，或将该责任转移给任何个人或实体，以换取他们使用或访问开发者的产品或服务的权利， 包括通过附着合同，作为公共政策问题，是无效的。
（2）如果法院认定以下两种情况均属实，则法院应无视公司手续，在法律允许的最大范围内为实现本节的意图而对关联实体施加连带责任：
（A）关联实体在关联实体之间发展公司结构时，采取步骤故意和 不合理地限制或逃避责任。
（B）由于（A）项所述步骤的结果，开发商或关联实体的公司结构将阻碍根据本节追讨罚款或禁令救济。
（e）本节不限制其他法律的适用。
22607. （a）涵盖模型的开发商或开发商的承包商或分包商不得从事下列任何一项行为：
（1）如果雇员有合理理由相信以下任一情况，则阻止雇员向总检察长或劳工专员披露信息，包括通过雇佣条款和条件或寻求执行雇佣条款和条件：
（A）开发商不符合第 22603 节的要求。
（B）人工智能模型（包括不属于涵盖模型的模型）构成不合理的风险，导致或 即使雇主没有违反任何法律，也会造成重大伤害。
（2）如果雇员有合理理由相信第（1）款的（A）或（B）项，则对向总检察长或劳工专员披露信息的雇员进行报复。
（3）以违反第7节第 2 部分（从第16600节开始）或州法律的任何其他规定的方式做出与其安全和安保协议相关的虚假或重大误导性陈述。
（b）（1）因违反本细分而受到伤害的雇员可以根据《劳动法》第1102.61条和第1102.62条的规定向法院申请适当的临时或初步禁令救济。
（2）雇员根据《加州举报人保护法》（《政府法典》第2篇第1分部第6.5章第3条（从第 8547 条开始）的规定，Frontier Model Division可以向州审计员报告Frontier Model Division违反本章的任何行为，该法案应管辖任何此类报告。
（c）总检察长或劳工专员可以根据本节的规定公开发布或提供给边境示范司或总督，如果他们认为这样做符合公共利益，则他们可以根据本节的规定公开发布或提供任何投诉或该投诉的摘要。
（d）开发商和开发商的任何承包商或分包商应向所有从事涵盖模型工作的雇员明确通知他们在本节下的权利和责任。如果符合以下条件，则推定开发商符合本细分的要求：开发人员执行以下操作之一：
（1）在任何时候，在开发商维护的所有工作场所内张贴和展示向所有员工发出通知，告知他们在本节下的权利和责任，确保所有新员工收到同等的通知，并确保远程工作的员工定期收到同等的通知。
（2）至少每六个月一次，向所有雇员提供书面通知，说明他们在本章下的权利和责任，并确保所有这些雇员都收到并承认这种通知。
（e）（1）开发商和开发商的任何承包商或分包商应提供合理的内部程序，如果员工认为良好，则员工可以通过该程序匿名向开发商披露信息。相信该信息表明开发商违反了第 22603 节或任何其他法律的任何规定，或做出了与其安全和安保协议相关的虚假或重大误导性陈述，或未能向员工披露已知风险，至少包括每月向披露员工更新其披露状态和开发商采取的行动， 承包商或分包商对披露的回应。
（2）本细分要求的程序的披露和回应应自创建披露或回应之日起至少保留七年。每项披露和回应应与开发商的高级职员和董事以及开发商的任何承包商或分包商共享，其作为或不作为未与披露或回应牵连的频率不少于每季度一次。
（f）本节中的任何内容均不得解释为限制《劳动法》第 1102.5 条、《政府法典》第 12964.5 条或加利福尼亚州法律的其他规定为雇员提供的保护。
（g）在本节中，下列定义适用：
（1） “雇员”的含义与《劳动法》第 1132.4 条中定义的含义相同，包括以下两者：
（A）承包商或分包商，以及参与评估、管理或解决承保模型危险能力的无薪顾问。
（B）公司高级职员。
（2）“承包商或分包商”的含义与《公约》第 1777.1 条中的含义相同。《劳动法》。
22608. 本章规定的职责和义务与根据其他法律规定的任何其他义务或义务相累积，不得解释为免除任何一方根据其他法律规定的任何责任或义务，也不限制现行法律规定的任何权利或补救措施。
第 4 节。第 11547.6 条被添加到《政府法典》中，内容如下：
11547.6. （a） 在本节中，“严重损害”的含义与《商业和职业法典》第22602条中定义的含义相同。
（b） 特此设立前沿模式委员会。该委员会应设在政府运营局内，并应独立于技术部。总督可任命一名董事会执行官，但须经参议院确认，该执行官应根据总督的意愿担任该职务。执行官应是董事会的行政首长，并应行使所有必要的职责和职能，以确保董事会的职责得到成功履行出院。
（c） 从2026年1月1日开始，Frontier Models 董事会应由五名成员组成，具体如下：
（1） 开源社区的成员，由州长任命，但须经参议院确认。
（2） 人工智能行业的成员，由州长任命，但须经参议院确认。
（3）学术界成员，由总督任命，但须经参议院确认。
（4）由议会议长任命的一名成员。
（5）由参议院规则委员会任命的一名成员。
（d）特此在《边境示范法》范围内设立《边境示范法》 政府运营机构在Frontier Models委员会的直接监督下。
（e）边境示范司应做好下列所有工作：
（1）根据《商业和职业法典》第 22603 条，每年审查从开发人员处收到的认证报告，并公开发布基于这些报告的总结结果。
（2）就可能违反本节或《商业和职业法典》第 8 分部第 22.6 章（从第 22602 节开始）的情况向总检察长提出建议。
（3）（A） 发布必要的指南、标准和最佳实践，以防止承保模型的不合理风险 以及涵盖造成或促成严重损害的模型衍生品，包括但不限于《商业和职业法典》第 22603 条规定的更具体的组成部分或要求。
（二）建立认证流程和相关认证标准，根据该标准，第三方审核员可以获得为期三年的认证，并可通过适当的流程进行延长，以证明开发商遵守 他们根据《商业和职业法典》第 22603 条的要求。
（B） 根据《商业和职业法典》第 22603 节 （e） 分节发布有关进行审计的最佳做法的指南。
（4）根据《商业和职业法典》第 22603 条，发布从开发人员处收到的匿名人工智能安全事件报告。
（5）（A） 发布指南，描述可能构成第 8558 节 （b） 小节所指的紧急状态的人工智能安全事件类别和响应行动 总督可以在正式宣布紧急状态后下令这样做。
（B）根据（A）项发布的指导意见不得以任何方式限制、修改或限制总督的权力。
（6） 任命一个咨询委员会并与之协商，该委员会应就何时有必要宣布与人工智能有关的紧急状态向总督提供建议，并就在这种情况下可能采取的应对措施向总督提出建议。
（7） 任命并咨询一个开源人工智能咨询委员会，该委员会应完成以下所有工作：
（一）发布模型评估指南，供开源开发者使用 缺乏造成或造成严重伤害的能力的人工智能模型。
（B） 就激励措施的制定和可行性向立法机关提供建议，包括税收抵免，这些激励措施可以提供给未涵盖模型的开源人工智能模型的开发者。
（C） 就影响开源人工智能发展的未来政策和立法向 Frontier Model Division 提供建议。
（8）征收费用，包括提交证明的评估费用，其金额足以支付管理本节的合理成本，但不得超过管理本节的合理成本。
（9）（A） 制定并向司法委员会提交拟议的涉及违反《商业和职业法》第22603条的行动的示范陪审团指示，司法委员会可酌情通过该指示。采用符合其颁布陪审团指示的政策和程序。
（B）在制定（A）项所要求的拟议的示范陪审团指示时，边境示范庭应考虑并纳入下列所有因素：将因素纳入其提交给司法委员会的提案中：
（一）开发人员在训练、存储和发布涵盖的模型时忠实实施的安全和安保协议的严格程度和详细程度。
（二）开发商是否以及在多大程度上安全，以及 安全协议在严谨性和详细程度上不如、可比或优于可比开发人员的安全和安保协议。
（三）开发者的安全和安保协议规定的保护措施、能力测试以及与造成或促成严重损害的相关风险相关的预防措施的程度和质量。
（四）开发商及其代理人是否以及在多大程度上遵守了开发商的安全和安保协议，以及在充分的程度上，这样做可能会合理地避免造成或促成特定伤害。
（五）开发商是否以及在多大程度上进行了仔细和严格的调查， 鉴于其模型可能构成的最新相关风险，尽可能合理地记录并准确测量。
（i） 涵盖模型的开发人员根据《商业和职业法典》第 22603 条必须采取的所有行动。
（ii） 应如何将边疆示范庭的任何条例纳入拟议的示范陪审团指示。
（iii） 开发人员在训练和发布其人工智能模型时需要实施的安全和安保协议的严谨性和质量，以及如何确定该安全和安保协议是否劣于、可比或优于安全和安保 类似情况的开发人员的协议。
（iv） 开发人员对其模型的潜在危险能力和相关风险进行调查、记录、评估和管理的严谨性和质量。
（10） （A） 在 2027 年 1 月 1 日或之前，以及此后每年发布法规，更新“涵盖模型”的定义，以确保其准确反映技术发展、科学文献和广泛接受的国家和国际标准，并适用于造成或促成严重伤害的最大风险的人工智能模型。更新后的定义应包含以下两项内容：
（i） 人为的初始计算阈值 根据《商业和职业法典》第 22602 条的定义，智力模型必须超过才能被视为涵盖模型。
（ii） 人工智能模型必须满足的微调计算阈值才能被视为覆盖模型。
（B） 在根据本款制定规章时，边境示范司应考虑到下列两项：
（i） 用于训练已确定为 有合理的可能性造成或促成严重伤害。
（ii） 联邦法律、指南或法规中使用的类似阈值，用于管理具有造成或促成严重伤害的合理风险的模型。
（iii） 来自利益相关者的投入，包括学术界、工业界和政府实体，包括来自开源的投入社区。
（11） 在第（3）、（5）和（10）款规定的指导意见首次发布后，每24个月审查一次现有指导意见，以考虑技术进步、行业最佳实践的变化以及根据第（1）款收到的信息，并在适当范围内更新其指导意见。
（12） 在 2026 年 1 月 1 日及之后，每年公布《商业和职业法典》第 22602 节（g）第（3）段和（e）节第（2）段所述的通货膨胀调整后的美元金额。
（f） 特此在普通基金内设立边疆示范司方案基金。
（1） 所有费用 边境示范司根据本节规定收到的款项，应存入基金。
（2）帳戶帳戶中的所有資金只有在立法機關撥款款時才能使用，以執行本條的規定。
第 5 节。第 11547.7 节被添加到《政府法典》中，内容如下：
11547.7. （a） 技术部应根据（b）项的规定，委托顾问创建一个公共云计算集群，称为CalCompute，其主要重点是对大规模人工智能模型的安全部署进行研究，并促进公平的创新，包括但不限于以下所有方面：
（1）全资自有和托管的云平台。
（2） 运营和维护平台所需的人员专业知识。
（3） 支持、培训和 促进 CalCompute 的使用。
（b） 顾问应包括但不限于国家实验室、大学和任何相关专业协会或私营部门利益攸关方的代表。
（c） 为了实现建立CalCompute的目标，技术部应要求受委托参与此过程的顾问评估并将以下所有考虑因素纳入其计划：
（1） 对公共、私有和非营利性云平台基础设施生态系统的分析，包括但不限于占主导地位的云提供商、每个提供商的相对计算能力、支持平台的估计成本以及定价模型，以及 关于CalCompute范围的建议。
（2）建立关联关系和其他合作伙伴关系的过程，以建立和维护先进的计算基础设施。
（3） 确定CalCompute使用参数的框架，包括但不限于决定CalCompute将支持哪些项目以及将为项目提供哪些资源和服务的过程。
（4） 评估公有云资源的适当使用及其潜在下游影响的流程，包括减轻部署过程中的下游危害。
（5） 对现有计算能力、资源、数据的状况进行评估，以及 在加利福尼亚州拥有人类专业知识，旨在快速响应安全、健康或自然灾害紧急情况。
（6） 分析该州在技术劳动力培训和发展方面的投资，包括通过加州大学、加州州立大学和加州社区学院的学位课程。
（7） 评估 CalCompute 对在公共劳动力中留住技术专业人员的潜在影响的过程。
（d） 技术部应根据第 9795 条的规定，向立法机关提交委托顾问的年度报告，以确保在实现上述目标方面取得进展。
（e） 技术部除了在年度预算中分配的资金外，还可以接受私人捐款、赠款和地方资金，以实施本节。
（f） 本节仅在下列情况下生效：为本节的目的在预算法中的拨款。
第 6 节。该法的规定是可分割的。如果本法的任何规定或其应用被认定为无效，则该无效不应影响可以在没有无效规定或应用的情况下生效的其他规定或应用。
第 7 节。本行为应被宽泛地解释为实现其目的。
第 8 节。根据《加州宪法》第 XIII B 条第 6 款大牛配资网，该法案不需要报销，因为当地机构或学区可能产生的唯一费用将是由于该法案创造了新的犯罪或违法行为，消除了犯罪或违法行为，或改变了对犯罪或违法行为的处罚， 《政府法典》第 17556 条所指的罪行，或更改《加州宪法》第 XIII B 条第 6 款所指的犯罪定义。
文章为作者独立观点，不代表炒股配资官网观点
相关文章
