佛罗里达州对OpenAI动手了:AI监管风暴来袭?
这场由佛罗里达州总检察长James Uthmeier发起的调查,表面上看是针对OpenAI的技术安全问题,实则折射出美国政坛对AI技术失控的深层焦虑。调查的核心指控有两个层面:一是所谓的数据安全风险,声称OpenAI的技术可能流入中国共产党手中;二是在内容安全层面,OpenAI的ChatGPT被指与儿童性虐待材料以及自残行为存在关联。这两个指控一个涉及国家安全叙事,一个涉及道德底线,攻击角度可以说是相当刁钻。
不过我们要把政治操作和真实问题分开看。佛罗里达州此时出手,很难说没有2024年大选后政治博弈的影子,尤其是中国议题在美国政坛几乎是万能政治正确。但话说回来,AI模型确实存在数据泄露风险,内容安全也是行业痼疾,这些问题并非空穴来风。OpenAI此前就曾被曝光训练数据来源不明,ChatGPT也的确出现过生成有害内容的情况。
对行业的影响是深远的。以前AI公司可以打着"技术中立"的旗号野蛮生长,现在州政府直接下场监管,意味着合规成本将大幅上升。OpenAI不是第一个被调查的,肯定也不会是最后一个。可以预见,其他州很可能群起效仿,形成一股AI监管的地方浪潮。对于整个行业来说,这未必是坏事——有监管才有边界,有边界才能让行业健康发展,避免劣币驱逐良币。
从更长远的趋势看,AI治理正在从自律走向他律。欧盟已经推出AI法案,美国联邦层面虽然动作迟缓,但州级政府的积极介入正在补位。未来AI公司想要在美国市场混下去,数据安全、内容审核、模型可解释性这些硬功夫必须得跟上,那些靠讲故事融资的野路子公司会越来越难混。
对于我们普通读者来说,这件事带来的启示是:别把所有AI产品都当成香饽饽,技术是有边界的,使用需谨慎。尤其是涉及敏感内容生成时,多留个心眼总没错。同时也要看到监管收紧的趋势,这实际上是在保护普通用户不被技术滥用所伤害。AI很强大,但我们不需要恐惧它,只需要理性对待它。
来源 The Verge AI
阅读原文