加州AI安全法案引争议：科技巨头分歧，创新与安全博弈
加利福尼亚州议会近日批准了一项备受争议的人工智能安全法案，该法案要求企业确保其人工智能技术不会造成重大伤害，引发了科技界关于创新与安全之间平衡的激烈讨论。
这项名为SB 1047的法案，由加州参议员斯科特·维纳提出，旨在为人工智能发展设定安全标准。法案规定，开发强大的人工智能模型的公司必须采取“合理的谨慎措施”，确保其技术不会造成“严重伤害”，例如大规模伤亡或超过5亿美元的财产损失。
该法案要求企业采取一系列预防措施，包括引入可以随时关闭其技术的“终止开关”，将模型提交给第三方测试以确保将严重风险降至最低，以及为人工智能公司员工提供举报人保护。不遵守该法案的公司可能会被加州总检察长起诉。
维纳表示，该法案是“简单易行的常识性措施”，将许多大公司已经做出的安全承诺编纂成法律，并强调“创新和安全可以携手并进，而加州正在引领这一潮流”。
然而，该法案在科技界引发了巨大的争议。许多主要科技领袖、初创公司和风险投资家认为，该法案代表了政府对一项仍处于起步阶段的技术的过度干预，可能会扼杀加州的科技创新。
OpenAI公开表示反对该法案，认为此类政策应在联邦层面而非州层面实施。美国众议员罗·卡纳和旧金山市长伦敦·布里德等政界人士也表达了类似的担忧，认为该法案可能会阻碍加州在人工智能创新方面的领导地位。
尽管如此，该法案也获得了人工智能领域一些重要人物的支持。 埃隆·马斯克出人意料地表示支持，尽管他承认这是一个“艰难的决定，会让一些人不高兴”。OpenAI的竞争对手Anthropic也谨慎地支持了该法案，认为“收益可能大于成本”，而且可以切实地实施这些条款。
维纳为该法案进行了辩护，强调其条款仅适用于花费超过1亿美元训练大型模型或花费1000万美元微调模型的公司，这将使大多数规模较小的初创公司免受影响。 他还表示，虽然他会支持联邦立法，但国会在科技监管方面历来行动迟缓，在缺乏全国性行动的情况下，他认为加州有责任发挥带头作用。
目前，SB 1047法案已提交给州长加文·纽森，有关该法案的争论还将继续。 OpenAI、科技孵化器Y Combinator和风险投资公司Andreessen Horowitz等SB 1047的批评者都注册了游说人员为该法案工作。
这场关于人工智能安全法案的辩论反映了科技界对于人工智能发展方向的深刻分歧。 一方面，人们希望人工智能能够带来巨大的社会效益，另一方面，人们也担心人工智能可能带来的潜在风险。如何平衡创新与安全，将是未来人工智能发展的重要议题。
【source】https://www.ithome.com/0/792/094.htm
Views: 3